
1. 为什么要在本地跑 2B 小模型OpenClaw 安装与 Ollama 本地模型配置的起点很多人对本地模型的印象还停留在“跑得动但不好用”尤其是 2B 这个参数量级第一反应往往是“这么小能干嘛”。我一开始也这么想直到把 OpenClaw 和 Ollama 串起来之后才发现2B 小模型在轻量任务里的表现远比想象中能打。它做不了复杂推理但在意图识别、格式转换、简单工具调用、文本摘要、字段抽取这些场景里响应快、资源占用低、还不用花一分钱 token这才是它真正的价值区间。先说清楚这套组合到底是什么。Ollama 是本地模型运行时负责模型的下载、加载和推理默认监听http://127.0.0.1:11434。OpenClaw 是你的个人 AI 助手负责网关、工具调用、插件和渠道接入把“聊天”升级成“行动”。两者连起来之后你得到的是一个完全跑在自己机器上的 Agent不依赖外部 API数据不出本机token 消耗归零。适合谁三类人最值得试。第一类是想学 Agent 工具调用但不想烧钱的开发者本地模型可以随便折腾调坏了重来就是。第二类是手里有 Mac 或者普通显卡机器、想验证小模型能力边界的人2B 模型对硬件要求低Apple Silicon 的 Mac 跑起来毫无压力。第三类是对数据隐私敏感、希望推理过程完全本地化的场景比如处理内部文档、做本地知识库问答。这篇的目标很明确从零把 OpenClaw 装好把 Ollama 里的 2B 小模型拉下来配置接通最后跑一次真实推理验证。全程命令可复制配置片段可直接用。我试过在 macOS 上走完整流程Apple Silicon 和 Intel 都能跑下面按步骤来。2. 前置准备Ollama 安装与 2B 小模型拉取本地模型运行环境怎么搭在装 OpenClaw 之前得先把 Ollama 这个底座搭好。Ollama 的安装本身不复杂macOS 直接去官网下桌面版打开就是图形界面模型列表、聊天窗口都在里面。不同版本 UI 细节略有差异但逻辑一致找到模型、选中、开始下载、下载完就能聊。如果你更习惯命令行或者想更可控地管理模型终端方式更稳。先确认 Ollama 装好了ollama --version有版本号输出就说明运行时没问题。接着拉模型。这里示例用qwen3.5:2b但你要以自己 Ollama 里实际能搜到、能拉到的名字为准不同时间点模型命名可能有变化。拉取命令ollama pull qwen3.5:2b拉完之后确认一下本地有哪些模型ollama list输出会列出模型名、大小、修改时间。看到qwen3.5:2b在列表里说明模型已经“养”进本地了。这里插一句本地和云端怎么选。你显卡或内存够优先上本地隐私、稳定、token 自由三样都占。你显卡不行先用云端顶上去很多云端模型会标注:cloud或 “cloud” 标签在 Ollama 设置里的 Manage 管理入口能看到云端模型的免费额度和用量有些会周期性刷新以界面展示为准。我的建议是先用云端把链路跑通确认 OpenClaw 配置没问题再切回本地 2B 模型这样排障的时候变量少。还有一个容易忽略的点Ollama 默认监听127.0.0.1:11434这个端口别被别的程序占了。你可以用下面这条命令确认服务在跑curl http://127.0.0.1:11434/api/tags返回 JSON 里能看到模型列表就说明 Ollama 服务正常。这一步很关键因为后面 OpenClaw 连不上十有八九是这里没通。3. OpenClaw 安装与 Ollama 接入配置baseUrl 千万别带 /v1 的完整 settings 片段Ollama 准备好之后装 OpenClaw。最省事的方式是用 Ollama 的一条命令拉起ollama launch openclaw它会把一堆新手容易漏掉的步骤串起来安装、选择模型、生成配置、启动网关和 TUI。过程中会让你选模型这里直接选你刚才拉下来的qwen3.5:2b。如果你想先用云端模型试跑就选带:cloud的那个。也可以显式指定模型ollama launch openclaw --model kimi-k2.5:cloud装完确认版本openclaw --version有版本号输出就说明装好了。虽然ollama launch openclaw通常已经帮你做完了大部分配置但我建议还是走一遍 OpenClaw 官方推荐的 onboarding让流程更完整不依赖“自动化黑盒”openclaw onboard向导里选 Ollama 作为 provider然后按目标选模式。Local only是只用本地 Ollama隐私优先Cloud Local是本地加云模型混用如果你还想用云端模型或 Web Search 就选这个。接下来是最关键的配置检查项也是踩坑高发点baseUrl字段千万别带/v1。正确写法{ provider: ollama, baseUrl: http://127.0.0.1:11434, model: qwen3.5:2b, stream: true }错误写法{ baseUrl: http://127.0.0.1:11434/v1 }为什么因为 OpenClaw 优先走 Ollama 原生接口/api/chat这个接口更稳地支持流式输出和工具调用一起工作。你把 OpenAI 兼容地址http://127.0.0.1:11434/v1当成 baseUrl 填进去流式和工具调用就可能出问题表现为请求能通但行为不对或者干脆报错。这个坑我见过太多次记住一句话给 OpenClaw 的 Ollama 地址到端口就停不要加/v1。如果你用配置文件方式可以看当前配置路径openclaw config file打开后对照上面的 JSON 片段检查 provider、baseUrl、model 三个字段。model 这里填qwen3.5:2b和ollama list里的名字保持一致大小写和冒号都别错。向导里如果选了“云 本地”会让你确认接下来用哪些能力或模型本地已装的加云端可用的都会出现在列表里。最后可能问你用哪个 App 或客户端来控制这一步今天先跳过先用终端加后台管理页把链路跑通等确定稳定后再接飞书、网页等渠道。常用命令一页速查# 确认 Ollama 和模型 ollama --version ollama pull qwen3.5:2b ollama list # 一键启动 OpenClaw ollama launch openclaw # OpenClaw 常用命令 openclaw onboard openclaw config file openclaw gateway start openclaw gateway stop openclaw gateway restart openclaw logs --follow配置改完记得重启网关让改动生效openclaw gateway restart4. 验证请求与成功结果2B 小模型实际推理跑通流式输出加工具调用一起工作配置接通之后最重要的一步是验证。别急着接渠道先在终端把链路跑通。启动网关openclaw gateway start然后跟日志看请求有没有打到 Ollamaopenclaw logs --follow另开一个终端直接对 Ollama 原生接口发一次请求确认 2B 模型能正常推理curl http://127.0.0.1:11434/api/chat -d { model: qwen3.5:2b, messages: [ {role: user, content: 用一句话说明你是什么模型} ], stream: false }返回 JSON 里message.content有正常回复说明模型推理没问题。这一步是基线基线通了再去看 OpenClaw 层。接着在 OpenClaw 里问一句确认它真在用你选的模型你是哪个模型如果回复里能对上qwen3.5:2b说明 OpenClaw 到 Ollama 的链路是通的。然后试一个能体现 Agent 特性的动作比如帮我列出当前目录下的文件如果你的 OpenClaw 开了对应的工具它会把这句自然语言变成一次真实的工具调用而不是只回你一段文字。这就是 OpenClaw 和普通聊天机器人的区别它能动手。2B 小模型在这里的表现值得说一下。意图识别和工具选择这类任务2B 模型够用响应还快。复杂多步推理它会吃力但“打开某个应用”“列出文件”“把这段文本转成 JSON”这种轻量任务它完全能扛。实测下来本地 2B 模型在 Apple Silicon 上的首 token 延迟很低流式输出体验顺滑日常轻量任务完全可用。如果你想验证流式和工具调用一起工作可以在 OpenClaw 里发一个需要调用工具的多步请求观察日志里/api/chat的流式返回和工具调用事件是否同时出现。两者都正常说明配置到位了。5. 本篇常见错排查401、local proxy failed、reading choices、OAuth 报错怎么解链路跑不通的时候报错信息是最好的线索。下面按真实遇到的报错对照排查。401 Unauthorized这个通常出现在你误配了云端 provider 或者 baseUrl 指向了需要鉴权的地址。如果你用的是本地 Ollama正常不该出现 401。检查openclaw config file里的 provider 是不是ollamabaseUrl 是不是http://127.0.0.1:11434。如果你确实在用云端模型确认 API Key 填对了Key 没填或者填错都会 401。local proxy failed这个多半是 Ollama 服务没起来或者端口被占。先curl http://127.0.0.1:11434/api/tags确认服务在跑。没跑就重启 Ollama。端口被占的话换端口或者关掉占用程序。还有一种情况是 baseUrl 写成了localhost但系统解析有问题换成127.0.0.1试试。reading choices相关报错这个通常出现在你把 OpenAI 兼容接口的返回格式当成 Ollama 原生接口来解析的时候。根因还是 baseUrl 带了/v1。OpenClaw 走/api/chat返回结构里没有choices字段你让它按 OpenAI 格式解析自然读不到。把 baseUrl 的/v1去掉重启网关。OAuth报错如果你在 onboarding 里选了需要 OAuth 的云端 provider但没完成授权流程就会卡在这里。要么走完授权要么切回Local only模式只用本地 Ollama绕开 OAuth。本地模式不需要任何账号授权。还有一个不报错但行为不对的情况模型回复正常但工具调用不触发。检查两点一是 baseUrl 有没有带/v1二是你选的模型是否支持工具调用。部分小模型对工具调用的支持有限换一个明确支持 function calling 的模型试试。排查顺序建议固定下来先确认 Ollama 服务通再确认模型在列表里再确认 OpenClaw 配置的 baseUrl 不带/v1最后看日志里请求有没有打到/api/chat。按这个顺序走大部分问题都能定位。6. 从本地 2B 模型到稳定 AgentToken 自由之后还能怎么用链路打通之后你会发现“能聊天”只是起点“能干活”才是爽点。本地 2B 模型跑通意味着你有了一个零 token 成本的推理底座可以随便折腾工具调用、插件、渠道接入不用担心账单。但有两件事得提醒。第一OpenClaw 是能动手的 Agent只要你开了执行命令、读写文件、联网搜索等能力它就可能把误解变成真实操作。建议先在低风险目录试跑别一上来就给它你的工作仓库或者电脑根目录。插件和工具按需启用少开权限、逐步放开。第二2B 小模型的能力边界要心里有数轻量任务它很稳复杂推理别硬压该切云端就切云端本地和云端混用才是务实做法。如果你后面想把本地模型和云端模型统一管理或者需要更稳定的 API 接入来做长期编码和 Agent 任务可以了解下 TaoToken 的 Coding Plan它适合需要长期跑编码和 Agent 场景的开发者。想先验证模型对话效果可以直接进模型对话页面试。接入过程中遇到配置问题API Keys 页面和接入文档里有完整的参数说明。地址统一走 https://taotoken.net/api 文档和 Key 管理都在这个域名下。到这一步你已经把 OpenClaw 加 Ollama 加 2B 小模型的链路彻底打通了。接下来就是让它帮你干点实际的事从低风险动作开始慢慢把权限放开。