ARTICLE DETAIL

资讯详情

深耕网站视觉设计与运营推广的一线实战洞察。

Chatbox + Ollama本地部署实战指南:免费离线运行AI聊天,隐私数据完全自己掌控

Chatbox + Ollama本地部署实战指南:免费离线运行AI聊天,隐私数据完全自己掌控 Chatbox Ollama本地部署实战指南免费离线运行AI聊天隐私数据完全自己掌控【免费下载链接】chatboxPowerful AI Client项目地址: https://gitcode.com/GitHub_Trending/ch/chatbox想在断网环境下免费使用AI聊天同时让隐私数据完全留在自己的电脑上本指南带你用开源桌面应用 Chatbox 搭配 Ollama 完成本地部署零费用、可离线、数据不上云10 分钟就能跑起来。为什么选择 Chatbox Ollama 组合大多数在线 AI 服务需要付费订阅且对话内容会经过云端。而Chatbox是一个开源的 AI 模型桌面客户端支持 Windows / Mac / LinuxOllama则是在本机运行大模型的轻量工具。两者结合后你能获得完全免费本地模型按次对话不产生任何 API 费用隐私自控聊天记录与模型数据全部存储在本机见 StoreStorage.ts 的本地存储实现永不外泄可离线运行不依赖互联网内网、涉密环境也能用模型自由支持 llama2、Mistral、Mixtral、codellama、vicuna、yi、solar 等多种本地模型详见 doc/README-CN.md第一步安装 Ollama 并拉取本地模型在终端依次执行以下命令若未安装 Ollama先按官方说明安装ollama pull llama3 # 下载 llama3 本地模型 ollama run llama3 # 启动本地模型服务默认监听 11434 端口服务启动后本机http://127.0.0.1:11434就是 Chatbox 要连接的地址。第二步在 Chatbox 中配置 Ollama 本地模型打开 Chatbox进入左下角Settings设置→Model Settings模型设置选择 AI 提供商为Ollama界面会自动出现两个配置项API Host保持默认值http://localhost:11434即可默认值定义在 defaults.ts 中模型下拉框会自动列出 Ollama 中已下载的所有模型直接选择即可 提示如果你要连接局域网中另一台机器上的 Ollama把地址改成http://对方IP:11434并确保远端 Ollama 允许远程访问相关逻辑见 OllamaSetting.tsx 的远程连接提示。保存后新建一个会话就可以和本地模型对话了。本地 AI 能做什么代码、数学、团队协作别以为本地模型只能闲聊。Chatbox 自带 Markdown 渲染、LaTeX 公式和代码高亮本地模型完全可以胜任写代码、解方程等任务对于程序员来说配合代码类模型如 codellama在离线环境查代码、补全函数非常方便团队还可以用 team-sharing/ 目录下的 Caddy 反向代理方案把 Chatbox 服务共享给同事实现内网内的团队 AI 协作参考 team-sharing/README.md。常见问题快速排查问题解决办法设置页选不到模型确认 Ollama 服务正在运行ollama list能看到模型即可连不上 localhostChatbox 会自动将localhost:11434转换为127.0.0.1见 ollama.ts检查防火墙是否拦截 11434 端口响应速度偏慢换用更小的模型如 llama3:8b或调低上下文消息数设置页的上下文滑块想更换模型终端执行ollama pull 新模型名回到设置页下拉框刷新选择Chatbox 的对话数据默认全部保存在本地配合本地 Ollama 模型从输入到推理全程不离开你的设备——这就是隐私数据完全自己掌控的实际含义。现在就可以动手部署体验免费、离线、可控的本地 AI 聊天吧【免费下载链接】chatboxPowerful AI Client项目地址: https://gitcode.com/GitHub_Trending/ch/chatbox创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表