WorkBuddy 怎么接本地大模型？数据不出本机的完整配置指南

 

WorkBuddy 本地模型接入先要解决信任问题。法务把合同草稿传给云端 AI 做审查，转头上传记录出现在了另一台设备的同步盘里；财务总监让 AI 分析薪酬数据，被信息部门一句话拦下：数据不能出内网。这类场景在每个企业都会遇到——AI 能力想要，数据主权不能让。解法其实早就存在：WorkBuddy 开放自定义模型接口，只要本地模型提供 OpenAI 兼容端点就能接入，Ollama 默认就带。本机跑、本机算，文件不出电脑，API 账单也一并省掉。这篇指南把两种接入方式、每一步操作、五个最常见的报错原因、局域网共享玩法和模型选型全部讲清楚，照着做半小时内能跑通。

 

接入原理与准备工作

 

WorkBuddy 默认走云端大模型，但开放了自定义模型能力：任何提供 OpenAI 兼容接口的模型服务都能挂进来。Ollama 是目前最流行的本地模型运行时，默认地址在本机一万一千四百三十四端口，路径到聊天补全端点，恰好符合这个标准，所以两边一接就通。

 

准备阶段两件事。头一件装 Ollama，Windows 去官网下载安装包一路下一步，macOS 拖进应用程序或用包管理器安装，Linux 一行安装脚本搞定。装完在终端输入版本命令验证。第二件拉模型，这里有个高频坑必须提前避开：模型默认下载到 C 盘用户目录，一个九B 模型动辄五六个 GB，几个模型下来 C 盘就满了。装完先别急着拉，进 Ollama 的设置界面，在模型存储位置里把路径改到其他盘，再去官网模型页复制拉取命令执行。看到模型能在终端跟你对话，本地服务就算就绪了。

 

模型选型给个参考：日常办公文档处理，九B 级别的模型够用；要跑复杂代码生成，本地小模型会吃力，留到后面说混合用法。

 

图形界面六步接入，适合绝大多数人

 

WorkBuddy 这边提供了图形化入口，全程不改配置文件。头一步找到模型选择器：进任意任务对话框，输入框下方那一栏最右边显示当前模型名，点它。第二步在弹出的模型列表最底部点配置自定义模型。第三步进入模型设置页，点提供商下拉列表。第四步选 Ollama 本地，WorkBuddy 已做预设，接口地址自动填好。第五步填模型名称，必须和本地跑的一致，用列表命令查实际名字，密钥栏填占位词即可，点保存。第六步回到对话框重新打开模型选择器，列表里多了本地模型，选中发条消息，不联网也能回答，接入成功。

 

整套流程的关键点就一个：模型名称要一字不差地对应本地名字，冒号、版本号都不能差。如果 Ollama 跑在局域网另一台机器上，把接口地址换成那台机器的 IP 加端口即可，等于用一台高配主机给全组人供模型。

 

改配置文件，适合批量接多个模型

 

要一次挂多个本地模型，或者版本没有图形入口时，直接编辑配置文件。按系统找到路径：Windows 在用户目录的点 workbuddy 文件夹下，macOS 和 Linux 在主目录同名位置，文件不存在就新建。

 

写入模型条目时两个必改项：模型名和本地端点地址。三个坑踩过的人都懂：接口地址必须写到聊天补全的完整路径，只写到版本号那层会报找不到页面；文件必须存成不带签名的编码格式，否则读取失败；最后一个模型对象后面不能带逗号，否则整个文件解析报错。

 

改完保存后必须彻底退出 WorkBuddy 再重开，不是点关闭按钮最小化到托盘，而是完全退出进程，配置才会重新加载。重开后模型选择器里就能看到新增条目。

 

五个报错对着查，十分钟内定位

 

配置过程常见的五类故障，各有明确对应原因。列表里看不到模型：没彻底重启，完全退出再开。鉴权失败：密钥栏填错，本地模式填占位词就行。找不到页面：接口地址没写完整，补全到聊天补全端点整段。一直转圈无响应：Ollama 服务没启动，先在终端把模型跑起来。模型答非所问或能力明显不对：配置里的模型名和本地实际名字不一致，用列表命令核对。

 

这五条覆盖了九成以上的接入问题，遇到故障先对着查，比盲猜效率高得多。还有一条经验：如果模型响应极慢，检查是不是内存被其他程序占满，本地模型对内存敏感，关掉大型软件再试。

 

进阶玩法：一台主机给全组供模型

 

配置里那行接口地址还藏着进阶空间。把地址里的本机回环地址换成局域网内另一台机器的 IP，你的 WorkBuddy 就在调用同事电脑上跑的模型。这个玩法在小型团队里很实用：找一台内存大配置高的机器专门跑模型，组里其他人零配置直接用，模型占用的几个 GB 只占一台机器的磁盘。

 

不过要提醒两点。头一点是安全：Ollama 默认只监听本机，要让局域网访问需要改环境变量，改完等于这个模型服务对整个局域网敞开，家用网络问题不大，办公网络要确认没有未授权设备接入。第二点是负载：两个人同时调用一个九B 模型，响应速度会肉眼可见地变慢，并发需求高的团队要么上更大的模型专用机，要么接受排队。

 

模型怎么选：能力和内存的平衡

 

本地模型选型主要看两个数：参数量和内存。经验公式是模型参数乘以一点二，约等于需要的内存 GB 数，九B 模型要十来个 GB 内存才流畅，跑在八 GB 内存的旧电脑上会频繁交换卡顿。内存十六 GB 的机器建议从七 B 到九 B 级别起步，三十二 GB 以上可以尝试十四 B 级别，能力提升明显。

 

模型类型上，通用对话模型适合大多数办公场景；代码能力强的变体版本适合开发岗；多语言优化版本处理英文文档更稳。先拉一个通用型用起来，遇到能力不够的具体场景再补专用模型，比一开始囤一堆模型务实。

 

什么时候用本地，什么时候切云端

 

本地模型免费和隐私是真的，但能力边界也是真的。九B 级别的模型处理日常文档摘要、邮件润色、表格整理没问题，写复杂代码、做长链路推理就会明显吃力。务实的用法是混合策略：涉密文档、内部数据、客户隐私材料的处理走本地模型，重活难活一键切回云端大模型，WorkBuddy 的模型切换就在输入框旁边，一秒钟完成。

 

对企业用户这条策略可以再进一步：把本地模型设为团队默认，云端模型按需申请，既守住数据底线又保留能力上限。个人用户的判断标准更简单——你电脑里有没有不能上传云端的文件，有，这套配置就值得做；没有，先用云端模型也够了。

 

如果你正在评估企业级的本地 AI 部署方案，可以联系我们。目前相关产品与部署服务已经在云巴巴平台上线，在那里你还能横向对比更多同类方案，按数据合规要求找到匹配的落地路径。