1. Jetson Orin NX 上跑通本地模型到微信的完整链路Jetson Orin NX 是一块 16GB 内存的边缘计算板子很多人拿它做视觉推理其实它跑 Ollama 本地大模型也完全可行。这篇要解决的核心问题是在 Orin NX 上把 Ollama 跑起来用 OpenClaw 作为调用层再通过 TaoToken 统一 Key 和 API 通道最后把消息接到微信里实现发微信就能和本地模型聊天。适合谁看手上有 Orin NX、想体验边缘设备本地大模型、又不想折腾一堆 API Key 的开发者。整条链路的关键点有三个——Ollama 必须装带 GPU 驱动的 aarch64 版本、模型必须带 tools 标签、OpenClaw 的模型名要写成ollama/模型名格式。下面按顺序把每一步的可复制配置和验证动作都写清楚。2. 前置准备Ollama 在 Orin NX 上的安装与 GPU 权限Orin NX 的系统是 Ubuntu 22.04JetPack 6.2 及以上Ollama 官方支持 Linux aarch64但直接在线装经常超时所以走离线包更稳。需要下载两个文件主程序ollama-linux-arm64.tar.zst和 GPU 驱动ollama-linux-arm64-jetpack6.tar.zst。解压到/usr目录sudo tar -xvf ollama-linux-arm64-jetpack6.tar.zst -C /usr sudo tar -xvf ollama-linux-arm64.tar.zst -C /usr创建专用系统用户并把 ollama 用户加入video和render组——这一步是让 Ollama 能访问 Jetson GPU 的关键漏了就只能跑 CPUsudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama sudo usermod -a -G ollama $(whoami) sudo usermod -a -G video,render ollama写 systemd 服务文件注意OLLAMA_HOST0.0.0.0:11434让局域网可访问OLLAMA_ORIGINS*放开跨域sudo tee /etc/systemd/system/ollama.service EOF [Unit] DescriptionOllama Service Afternetwork-online.target [Service] ExecStart/usr/bin/ollama serve Userollama Groupollama Restartalways RestartSec3 EnvironmentPATH/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin EnvironmentOLLAMA_HOST0.0.0.0:11434 EnvironmentOLLAMA_ORIGINS* [Install] WantedBymulti-user.target EOF sudo systemctl daemon-reload sudo systemctl enable ollama sudo systemctl start ollama sudo systemctl status ollama看到active (running)就说明服务起来了。16GB 内存的板子建议先下小参数模型测试比如ollama run kavai/qwen3.5-GPT5:2b。这里有个硬性要求模型必须带 tools 标签否则 OpenClaw 调用时会报工具调用不支持。可以用ollama show 模型名查看能力标签。3. TaoToken 统一 Key 与 API 通道接入本地 Ollama 跑通后如果只在内网用其实不需要外部通道。但实际场景里经常要混用云端模型比如本地小模型处理不了的复杂任务这时候一个个去申请各家 Key 很麻烦。TaoToken 的作用就是提供一个统一的 Key 和 API 入口把不同模型的调用收敛到一个地址上。接入方式很简单拿到 Key 后在 OpenClaw 的配置里把 base_url 指向 TaoToken 的 API 地址模型名按各家规范填。这样本地 Ollama 和云端模型可以共存OpenClaw 里切换模型只需要改一个字段。具体操作登录后进入控制台创建 API Key然后参考接入文档把地址填进配置。API 地址是https://taotoken.net/api注意这个地址不带任何查询参数。Key 生成后妥善保存后面 OpenClaw 的settings.json里要用到。提示本地 Ollama 和 TaoToken 通道可以同时配置OpenClaw 会根据模型名前缀自动路由。ollama/开头走本地其他走 TaoToken。4. OpenClaw 的 config.toml 与 settings.json 骨架OpenClaw 部署完后会生成一个 Key把它填进配置文件。下面给出两个核心配置文件的骨架可以直接复制后按需改。config.toml骨架[server] host 0.0.0.0 port 8080 [model] # 本地 Ollama 模型格式必须是 ollama/模型名 name ollama/kavai/qwen3.5-GPT5:2b # 云端通道走 TaoToken base_url https://taotoken.net/api api_key 你的_TaoToken_Key [channel.weixin] enabled true plugin tencent-weixin/openclaw-weixin-clisettings.json骨架{ model: { provider: ollama, name: kavai/qwen3.5-GPT5:2b, baseUrl: http://127.0.0.1:11434, fallback: { baseUrl: https://taotoken.net/api, apiKey: 你的_TaoToken_Key } }, channels: { weixin: { enabled: true, autoReply: true } } }模型名怎么查在 Orin NX 上执行ollama list把输出的 NAME 列复制过来前面加上ollama/前缀。改完配置后在 OpenClaw 控制面板右上角点 save/update/reload 让配置生效。5. 微信通道接入与逐项验证微信接入的前提是把微信更新到最新版本。如果 OpenClaw 是 Docker 部署的需要先进容器再装插件npx -y tencent-weixin/openclaw-weixin-clilatest install安装完会显示等待连接状态这时另开一个窗口执行登录命令openclaw channels login --channel openclaw-weixin终端会输出二维码或者一条链接用浏览器打开链接后用微信扫码。扫码成功后微信里会出现一个叫微信Clawbot的新对话直接发消息就能触发模型回复。验证动作分三步走每步都要确认结果第一步确认 Ollama 服务正常curl http://127.0.0.1:11434/api/tags能返回模型列表 JSON。第二步确认 OpenClaw 能调用本地模型在控制面板里发一条测试消息看是否返回内容。首次运行可能较慢我实测发一条消息等了 9 分钟才回复这是模型加载到 GPU 的正常耗时后续会快很多。第三步确认微信通道连通在微信Clawbot对话里发你好观察是否收到回复。如果没反应回到 OpenClaw 日志看 channel 状态。6. 本篇常见报错排查报错一model does not support tools原因下载的模型没有 tools 标签。解决换带 tools 能力的模型用ollama show 模型名确认 Capabilities 里有 tools。报错二Ollama 服务启动后 GPU 不工作推理极慢原因ollama 用户没加入 video/render 组。解决执行sudo usermod -a -G video,render ollama后重启服务sudo systemctl restart ollama。报错三OpenClaw 里模型名填错导致 404原因格式不对。正确格式是ollama/模型名模型名必须和ollama list输出完全一致包括大小写和斜杠。报错四微信扫码后没有出现 Clawbot 对话原因插件没装成功或微信版本过低。解决重新执行 install 命令确认微信是最新版然后重新 login。报错五TaoToken 通道调用返回 401原因API Key 填错或过期。解决到控制台重新生成 Key注意 base_url 用https://taotoken.net/api不要带多余路径。排障相关的 Key 管理和接入细节可以对照 API Keys 页面和接入文档逐项核对。如果只是想先验证模型能不能正常对话直接用模型对话页面测一条最快。长期在 Orin NX 上跑编码或 Agent 任务的话Coding Plan 的额度模型更适合持续调用不用每次担心单次计费。整条链路跑通后Orin NX 就是一台离线的微信聊天机器人本地模型不消耗外部 token适合做隐私敏感场景的验证。踩过的坑基本都集中在 GPU 权限和模型 tools 标签这两处把这两点确认好剩下的就是配置文件的格式问题。