跳到主要内容

3.12 本地大模型

AI 能力 → 本地大模型管理电脑上的 Ollama 运行环境和模型,并可将支持的模型设为 Agent 主模型。该能力需要桌面或当前部署允许的本机运行环境。

使用顺序​

  1. 检测本机运行环境;未安装时按页面提示安装。
  2. 启动 Ollama 服务。
  3. 输入模型 ID 下载模型,等待完成。
  4. 测试模型能否正常响应。
  5. 确认模型支持工具调用后,点击 设为主模型配置。
  6. 到 设置 → AI 模型与服务核对当前模型,再回工作台尝试任务。

模型能力​

Agent 主模型需要 tool calling(工具调用)。普通聊天测试通过不代表工具调用可用。仅用于嵌入、视觉或不支持工具调用的模型不能直接当成 Agent 主模型;以页面对当前模型的检测与提示为准。

本机资源、模型大小和任务复杂度都会影响响应速度。先用小任务验证,再让模型处理多步骤开发。

常见状态​

状态处理
未安装安装运行环境后重新检测
已安装但未启动启动服务
端口被占用或服务启动失败检查电脑上已有的 Ollama 服务与进程
模型不存在核对完整模型名称与 tag,下载后重试
不能设为主模型查看是否支持工具调用
磁盘不足在数据与存储中核对空间和目录,再下载

页面可管理运行环境、模型和缓存位置。变更目录不会自动迁移已有文件,按页面说明处理,部分设置需要重启。停止操作是否能控制当前服务,以页面显示的进程归属为准。

与其他配置的关系​

本地模型页管理运行环境和模型文件;AI 模型与服务管理模型条目。设置本机主模型不会改变 Moss/DSH 任务归属,也不保证 DSH 使用相同配置。

板端 OpenClaw 要单独设置模型服务。电脑上的 localhost 指向电脑本身,板端不能直接把它当成自己的可达地址。