3.12 本地大模型
AI 能力 → 本地大模型管理电脑上的 Ollama 运行环境和模型,并可将支持的模型设为 Agent 主模型。该能力需要桌面或当前部署允许的本机运行环境。
使用顺序
- 检测本机运行环境;未安装时按页面提示安装。
- 启动 Ollama 服务。
- 输入模型 ID 下载模型,等待完成。
- 测试模型能否正常响应。
- 确认模型支持工具调用后,点击 设为主模型配置。
- 到 设置 → AI 模型与服务核对当前模型,再回工作台尝试任务。
模型能力
Agent 主模型需要 tool calling(工具调用)。普通聊天测试通过不代表工具调用可用。仅用于嵌入、视觉或不支持工具调用的模型不能直接当成 Agent 主模型;以页面对当前模型的检测与提示为准。
本机资源、模型大小和任务复杂度都会影响响应速度。先用小任务验证,再让模型处理多步骤开发。
常见状态
| 状态 | 处理 |
|---|---|
| 未安装 | 安装运行环境后重新检测 |
| 已安装但未启动 | 启动服务 |
| 端口被占用或服务启动失败 | 检查电脑上已有的 Ollama 服务与进程 |
| 模型不存在 | 核对完整模型名称与 tag,下载后重试 |
| 不能设为主模型 | 查看是否支持工具调用 |
| 磁盘不足 | 在数据与存储中核对空间和目录,再下载 |
页面可管理运行环境、模型和缓存位置。变更目录不会自动迁移已有文件,按页面说明处理,部分设置需要重启。停止操作是否能控制当前服务,以页面显示的进程归属为准。
与其他配置的关系
本地模型页管理运行环境和模型文件;AI 模型与服务管理模型条目。设置本机主模型不会改变 Moss/DSH 任务归属,也不保证 DSH 使用相同配置。
板端 OpenClaw 要单独设置模型服务。电脑上的 localhost 指向电脑本身,板端不能直接把它当成自己的可达地址。