pi-mono 自定义模型实战一份 models.json 接上你的本地模型【免费下载链接】piAI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI项目地址: https://gitcode.com/GitHub_Trending/pi/pi本地 Ollama 模型已经跑起来了怎么把它接进 pi-mono答案就一个文件~/.pi/agent/models.json。它就像 pi-mono 的模型通讯录——每个提供商的地址、敲门方式API 类型、暗号apiKey都记在这里。改完文件重新打开/model就会重新加载不用重启。最小配置跑通本地模型把下面这段存到~/.pi/agent/models.jsonOllama 里的模型立刻就能被 pi 找到。{ providers: { ollama: { baseUrl: http://localhost:11434/v1, api: openai-completions, apiKey: ollama, models: [ { id: llama3.1:8b }, { id: qwen2.5-coder:7b } ] } } }字段说明baseUrl接口地址。告诉 pi 去哪敲门本地服务就是本地端口。api敲门方式决定请求的报文格式。四种可选值见下表。apiKey暗号。Ollama 不校验它但 pi 要求这个字段存在随便填个占位值即可。models要暴露的模型列表。每个模型最简只要一个id也就是发给服务端的模型标识。api取值说明openai-completionsChat Completions 格式兼容面最广openai-responsesOpenAI 的 Responses 格式anthropic-messagesAnthropic Messages 格式google-generative-aiGoogle Generative AI 格式api写在 provider 层对全部模型生效写在 model 层可以单独覆盖。一行 baseUrl 覆盖内置提供商想把内置提供商整体走自己的代理只写一行就够了。{ providers: { anthropic: { baseUrl: https://my-proxy.example.com/v1 } } }baseUrl的作用是把该提供商的所有请求改走你给的地址内置模型列表和原有鉴权方式继续生效不用重新定义任何模型。如果还想往这个提供商里塞几个自定义模型加一个models数组即可。pi 会按id合并新 id 是追加撞了内置 id 就替换。用 compat 适配半兼容 OpenAI 的服务接口号称 OpenAI 兼容、请求却被拒时问题通常出在个别字段的差异上用compat关掉即可。{ providers: { vllm: { baseUrl: http://localhost:8000/v1, api: openai-completions, apiKey: vllm, compat: { supportsUsageInStreaming: false, maxTokensField: max_tokens }, models: [ { id: qwen2.5-coder } ] } } }compat的作用是把 pi 的请求改写成你的服务端能接受的格式provider 层的设置对全部模型生效model 层可再单独覆盖。两个常用开关supportsUsageInStreaming告诉 pi 服务端不支持stream_options流式里就不再请求用量信息maxTokensField控制长度字段用max_completion_tokens还是max_tokens。推理模型报developer角色不认识时再把supportsDeveloperRole和supportsReasoningEffort设成falsepi 会改用system消息。Ollama、vLLM、SGLang 这类服务最常踩这几个坑。apiKey 的 3 种写法apiKey和headers都支持下面三种格式!security find-generic-password -ws anthropic以!开头会执行这条命令用输出当密钥。适合密钥锁在钥匙串、密码管理器里不落在配置文件中。$ANTHROPIC_API_KEY取同名环境变量的值。适合密钥已经通过 CI 或 shell 环境注入的场景。sk-...字面值原样使用。适合临时调试别提交到代码库。验证从模型列表到一次真实调用打开/model新配置会立刻生效你的模型出现在选择列表里。代码里同样可以按provider和id找到刚配的模型const model modelRuntime.find(ollama, llama3.1:8b); await session.setModel(model); await session.prompt(介绍一下你自己);找到并切换成功说明从配置到调用的整条链路已经通了。接下来可以做什么完整字段、合并规则、思考级别映射见模型文档packages/coding-agent/docs/models.md。想在 GPU 机器上自动拉起 vLLM可以看 部署脚本 目录里面有model_run.sh、pod_setup.sh等工具。模型接进来之后试试给它加reasoning: true或调整contextWindow行为会立刻不同。【免费下载链接】piAI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI项目地址: https://gitcode.com/GitHub_Trending/pi/pi创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 pi-mono 自定义模型实战：一份 models.json 接上你的本地模型
pi-mono 自定义模型实战一份 models.json 接上你的本地模型【免费下载链接】piAI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI项目地址: https://gitcode.com/GitHub_Trending/pi/pi本地 Ollama 模型已经跑起来了怎么把它接进 pi-mono答案就一个文件~/.pi/agent/models.json。它就像 pi-mono 的模型通讯录——每个提供商的地址、敲门方式API 类型、暗号apiKey都记在这里。改完文件重新打开/model就会重新加载不用重启。最小配置跑通本地模型把下面这段存到~/.pi/agent/models.jsonOllama 里的模型立刻就能被 pi 找到。{ providers: { ollama: { baseUrl: http://localhost:11434/v1, api: openai-completions, apiKey: ollama, models: [ { id: llama3.1:8b }, { id: qwen2.5-coder:7b } ] } } }字段说明baseUrl接口地址。告诉 pi 去哪敲门本地服务就是本地端口。api敲门方式决定请求的报文格式。四种可选值见下表。apiKey暗号。Ollama 不校验它但 pi 要求这个字段存在随便填个占位值即可。models要暴露的模型列表。每个模型最简只要一个id也就是发给服务端的模型标识。api取值说明openai-completionsChat Completions 格式兼容面最广openai-responsesOpenAI 的 Responses 格式anthropic-messagesAnthropic Messages 格式google-generative-aiGoogle Generative AI 格式api写在 provider 层对全部模型生效写在 model 层可以单独覆盖。一行 baseUrl 覆盖内置提供商想把内置提供商整体走自己的代理只写一行就够了。{ providers: { anthropic: { baseUrl: https://my-proxy.example.com/v1 } } }baseUrl的作用是把该提供商的所有请求改走你给的地址内置模型列表和原有鉴权方式继续生效不用重新定义任何模型。如果还想往这个提供商里塞几个自定义模型加一个models数组即可。pi 会按id合并新 id 是追加撞了内置 id 就替换。用 compat 适配半兼容 OpenAI 的服务接口号称 OpenAI 兼容、请求却被拒时问题通常出在个别字段的差异上用compat关掉即可。{ providers: { vllm: { baseUrl: http://localhost:8000/v1, api: openai-completions, apiKey: vllm, compat: { supportsUsageInStreaming: false, maxTokensField: max_tokens }, models: [ { id: qwen2.5-coder } ] } } }compat的作用是把 pi 的请求改写成你的服务端能接受的格式provider 层的设置对全部模型生效model 层可再单独覆盖。两个常用开关supportsUsageInStreaming告诉 pi 服务端不支持stream_options流式里就不再请求用量信息maxTokensField控制长度字段用max_completion_tokens还是max_tokens。推理模型报developer角色不认识时再把supportsDeveloperRole和supportsReasoningEffort设成falsepi 会改用system消息。Ollama、vLLM、SGLang 这类服务最常踩这几个坑。apiKey 的 3 种写法apiKey和headers都支持下面三种格式!security find-generic-password -ws anthropic以!开头会执行这条命令用输出当密钥。适合密钥锁在钥匙串、密码管理器里不落在配置文件中。$ANTHROPIC_API_KEY取同名环境变量的值。适合密钥已经通过 CI 或 shell 环境注入的场景。sk-...字面值原样使用。适合临时调试别提交到代码库。验证从模型列表到一次真实调用打开/model新配置会立刻生效你的模型出现在选择列表里。代码里同样可以按provider和id找到刚配的模型const model modelRuntime.find(ollama, llama3.1:8b); await session.setModel(model); await session.prompt(介绍一下你自己);找到并切换成功说明从配置到调用的整条链路已经通了。接下来可以做什么完整字段、合并规则、思考级别映射见模型文档packages/coding-agent/docs/models.md。想在 GPU 机器上自动拉起 vLLM可以看 部署脚本 目录里面有model_run.sh、pod_setup.sh等工具。模型接进来之后试试给它加reasoning: true或调整contextWindow行为会立刻不同。【免费下载链接】piAI agent toolkit: unified LLM API, agent loop, TUI, coding agent CLI项目地址: https://gitcode.com/GitHub_Trending/pi/pi创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考