ARTICLE DETAIL

资讯详情

深耕网站视觉设计与运营推广的一线实战洞察。

如何把 Ollama 接入 Zed 并配置本地模型上下文长度?

如何把 Ollama 接入 Zed 并配置本地模型上下文长度? 如何把 Ollama 接入 Zed 并配置本地模型上下文长度【免费下载链接】zedCode at the speed of thought – Zed is a high-performance, multiplayer code editor from the creators of Atom and Tree-sitter.项目地址: https://gitcode.com/GitHub_Trending/ze/zed这篇文章解决的问题是你想在自己控制的机器上用 Ollama 运行本地模型并让 Zed 的 Agent、Inline Assistant 等模型驱动功能直接调用它同时把 Zed 发给 Ollama 的上下文长度num_ctx从默认值调成你需要的值。整个过程只需要 Ollama 本身和 Zed 的settings.json不涉及云厂商或 Zed 托管模型。准备安装 Ollama 并拉取模型按 Use a Local Model 中的 Ollama 一节从 ollama.com/download 下载并安装 Ollama。拉取一个模型例如ollama pull mistral模型名替换为你要用的任意 Ollama 模型即可文档示例使用mistral。启动 Ollama 服务Zed 需要 Ollama 服务在运行。文档给出的方式macOS打开 Ollama.appLinux 或直接在 shell 中运行ollama serve在 Zed 中选择 Ollama 模型Ollama 服务运行后在 Zed 的模型下拉菜单中选择 Ollama 模型即可。Zed 会自动发现 Ollama 已拉取pulled的模型无需额外配置。如果你在 Zed 的模型列表中看不到 Ollama 相关选项按文档的说明问题出在“Ollama 服务未运行”或“还没有 pull 过模型”这两类前置条件上——先回到上面两步确认文档没有给出更细的排错顺序。如需配置更高级的 JSON 项如关闭自动发现可以直接编辑 Zed 的 settings 文件在 Agent Settings{#action agent::OpenSettings} 对应的设置页即 Settings → AI → LLM Providers配置 provider或用zed::OpenSettingsFile动作打开 settings 文件。settings 文件在 macOS 及未自定义XDG_CONFIG_HOME的 Linux 上为~/.config/zed/settings.json。Zed 检测到 settings 变化后无需重启。配置上下文长度这是本文的核心配置。Zed 发给 Ollama 的请求会把上下文长度作为num_ctx参数带上默认值是4096tokens。对所有 Ollama 模型统一设置在settings.json的language_models.ollama下加context_window{ language_models: { ollama: { context_window: 8192 } } }按模型单独设置在手动列举模型时用available_models里每个模型的max_tokens单独指定上下文长度{ language_models: { ollama: { api_url: http://localhost:11434, auto_discover: false, available_models: [ { name: qwen2.5-coder, display_name: qwen 2.5 coder, max_tokens: 32768, supports_tools: true, supports_thinking: true, supports_images: true } ] } } }以上片段与supports_*取值来自文档示例对应qwen2.5-coder换成你自己的模型时按实际能力调整这几个布尔值。补充说明api_url的默认值就是http://localhost:11434见 all-settings 中language_models的默认配置本地默认端口下可以省略如果设置了全局context_window它会把所有 Ollama 模型的max_tokens统一覆盖为该值crates/language_models/src/provider/ollama.rs 中的实现逻辑两者都配置时以按模型设置的值为准的细分控制留给available_models。可选连接需要密钥的远程 Ollama文档说明如果 Ollama 服务需要密钥在 provider UI 中输入密钥或设置环境变量OLLAMA_API_KEY。对接 Ollama Turbo 这类远程 Ollama 服务时把api_url指向远程端点并提供 API key。验证与边界文档给出的可核对结果是修改 settings 后在 Zed 的模型下拉菜单中能看到并选中 Ollama 模型Agent / Inline Assistant 等 Zed AI 功能即可使用该模型。上下文长度是否生效可通过 Zed 实际发出的请求携带的num_ctx值判断——它等于你配置的context_window或对应模型的max_tokens未配置时为4096。两个文档明确的边界本页只覆盖在 Zed 内配置的本地模型。External Agents 和终端 CLITerminal Threads有各自的本地模型配置需在对应的 agent 或 CLI 中设置不走这里的路径Edit Prediction 有独立的 provider 配置见 Edit Prediction与本文的language_models.ollama配置互不影响。【免费下载链接】zedCode at the speed of thought – Zed is a high-performance, multiplayer code editor from the creators of Atom and Tree-sitter.项目地址: https://gitcode.com/GitHub_Trending/ze/zed创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表