WorkBuddy 本地模型一键下载怎么用？不折腾 ollama 的涉密文档方案

 

做交付这些年，有一类文件始终不敢往云上丢：法务还没公开的合同草稿、HR 手里的薪酬表、客户给过来还没脱敏的原始名单。丢给在线模型，流程这关过不去；自己一点点手工整理，一晚上就没了，第二天还得接着干。现在这个问题有了一个不折腾的答案——WorkBuddy 在设置里的模型页新增了「本地模型」入口，点一下就下载，不用再去折腾 ollama、llama.cpp，也不用自己找量化版本、配路径。对被涉密材料困住多年的团队，这扇门终于开在了正规军的工具链里。这篇把完整的启用过程、跑的什么模型、实测手感、适用边界一次讲透。

 

先想清楚：哪些活该留在本机

 

本地模型不是更便宜的云端，它是另一条通道，判断标准就一条——这份材料允不允许离开这台机器。高频场景基本是五类：未公开的合同与招投标文件、含个人信息的 HR 与财务数据、客户给的原始名单与埋点日志、内网才有的技术文档与代码库、法务医疗政企这类明确要求数据不出内网的行业材料。这类活放本地跑，换来三件事：数据不出本机、不走公网、不产生按调用量计的账单。速度和上下文长度要往后让一让，但换回来的恰恰是很多团队卡了很久的那部分——不是效率，是合规上的踏实。

 

三步开起来，全程不碰命令行

 

这套流程给客户远程带过好几次，没有一次需要开终端。头一步：打开 WorkBuddy，进设置里的模型页。第二步：在模型列表里找到本地模型，点下载。第三步：下载完成后，在模型选择里切到它，直接开始对话。体积大约 15GB，磁盘记得留够二十G 以上；下载过程中不影响继续用云端模型，下完切过去就行。真正的门槛不是操作，是硬件：实测运行时内存占用在 17G 左右，建议机器内存 32G 起步；16G 的笔记本能跑起来，但体验会打折打得比较明显，不建议硬上。

 

一个 35B 的模型为什么能在个人电脑上跑动

 

这次内置的是 Qwen3.6 35B-3AB。名字里的 35B 容易把人吓退，关键在于它是 MoE（混合专家）架构——总参数量 35B，但每次推理实际只激活 3B 左右的参数。可以理解为：仓库里备着一大堆专家，具体干这一个活只需要叫醒其中几位，其余的在旁边歇着，算力消耗就降下来了。另一层是官方做过裁剪与量化优化，模型体积压到 15GB 上下，比 ollama 上常见那份 24GB 的版本小了约三分之一。体积小带来的好处是连锁的：加载更快、内存占用更可控、在 WorkBuddy 里来回切换模型也不容易卡。

 

实测手感与一个最容易被误判的坑

 

工作站上的实测数字：生成速度稳定在每秒三十到三十五 token，做摘要、改写、要点提取、本地代码理解，节奏可以接受，不至于盯着屏幕等。内存占用约 17G，与硬件门槛对得上。最容易被误判的点是首字延迟偏高——真实原因不是机器不行，而是 WorkBuddy 的系统提示和工具列表本身就很长，一般能到几万 token，每次对话都要先把这一大段过一遍，头一个字自然出得慢。解决办法很直接：把平时用不到的工具和技能先关掉，系统提示短了，首字响应速度会有肉眼可见的改善。这条在很多装机场景里是必做项，也是很多人装完觉得怎么有点卡的真正原因——不是配置不够，是带的东西太多。跟云端比也要说实话：它没云端快，长上下文的稳定性也不如线上大模型，这个差距不会因为机器好就消失，心里得有数。

 

双模型分工：默认云端，涉密切本地

 

给团队的默认配法是双模型并行，按材料性质切，不是二选一。交给本地模型的：涉密或未公开文档的摘要与要点提取、本地代码库的理解与补全、内部材料的整理与格式统一、内网或出差无网时的离线使用。继续交给云端的：超长文档的通读、步骤很长的复杂推理、需要联网查最新信息的内容、对外发布且对生成质量要求高的材料。一句话概括：默认走云端，碰到这份不能出网的再切本地——把这条写进团队规范，比纠结选哪个模型有用得多。

 

上手前的四项确认

 

磁盘留 20G 以上，别下到一半空间不够；内存 32G 起步，16G 的机器建议先别装，装了也用得憋屈；觉得首字慢，先去关不常用的工具，而不是先怀疑机器；团队里要统一配置、统一开关项、统一规范，别让每个人各配一套——项目级配置一次性铺下去，管理成本远低于各自摸索。

 

本地模型这件事，说到底是为不敢上云的那部分工作开了一扇门。它不替代云端，但让那些原本只能人工熬的活，终于有了能用的工具。判断你的团队需不需要，就看一条：过去一年里有多少次，因为材料不能出网而退回了纯手工？次数超过十次的团队，这 15GB 值得今天就开始下载。

 

和 ollama 路线的对比账

 

已经会折腾 ollama 的技术用户可能会问：这条内置路线比手动路线强在哪。对比四笔账。上手账：ollama 路线要装运行时、拉模型、找 OpenAI 兼容端点、在 WorkBuddy 里配自定义模型地址，顺利的话半小时，不顺的话调一晚上；内置路线三步点击，十分钟内能用。体积账：ollama 上常见的 35B 量化版本约 24GB，内置裁剪版 15GB——省下的 9GB 对小硬盘的办公本是实打实的空间。性能账：两者同源同架构，生成速度在同一量级，差别主要在系统提示的适配——内置版对 WorkBuddy 的工具调用格式做过针对性优化，调用工具的失败率更低。维护账：ollama 路线的模型更新、量化版本选择、路径配置出问题都要自己排查；内置版跟着 WorkBuddy 客户端更新走，一键升级。结论很清晰：技术玩家两条路都通，普通商务用户和涉密岗位的团队部署，内置路线是省心且够用的那一条——把折腾命令行的时间省下来干正事，才是工具的本分。

 

一条部署建议

 

给打算团队铺开的用户一条建议：先用一台 32G 内存的工作站做试点机，把本地模型跑两周，记录真实使用频率和卡点——谁在用、处理什么材料、每天多少次调用、首字延迟的耐受度如何。两周后拿这份使用日志决定铺开范围：频率高的岗位配机器上本地，频率低的继续云端。按数据决策而不是按热情采购，这套方案的投资回报才立得住。

 

一键下载不折腾 ollama、MoE 架构 15GB 挑起 35B 参数、数据不出本机不走公网不按调用计费——这是 WorkBuddy 本地模型交付的合规确定性，涉密材料的处理从纯手工时代进入本地 AI 时代。云巴巴（yun88.com）作为腾讯云AI智能体示范伙伴、WorkBuddy核心伙伴及官方授权服务中心，已为多家数据敏感型企业完成本地模型部署与双模型分工规范落地，硬件评估、工具瘦身配置、团队统一开关项梳理均有成熟方案，官网留言或联系我们即可获取适配你数据密级的部署清单。