ARTICLE DETAIL

资讯详情

深耕网站视觉设计与运营推广的一线实战洞察。

如何10分钟搭建自己的AI聊天系统:ChatPilot本地部署完整教程

如何10分钟搭建自己的AI聊天系统:ChatPilot本地部署完整教程 如何10分钟搭建自己的AI聊天系统ChatPilot本地部署完整教程【免费下载链接】ChatPilotChatPilot: Chat Agent Web UI实现Chat对话前端支持Google搜索、文件网址对话RAG、代码解释器功能复现了Kimi Chat(文件拖进来网址发出来)。项目地址: https://gitcode.com/gh_mirrors/ch/ChatPilotChatPilot 是一款开源的 AI 聊天 Agent Web UI支持联网搜索、文件与网址对话RAG、代码解释器完整复现了 Kimi Chat 的核心体验文件拖进来、网址发出来并可接入 OpenAI、Ollama 等多种大模型。本文手把手教你在 10 分钟内完成本地部署拥有属于自己的私有 AI 聊天系统。 ChatPilot 是什么核心功能一览ChatPilot 采用前后端分离架构后端基于 FastAPI前端基于 Svelte开箱即用的功能包括功能模块说明 联网搜索接入 Google SearchSerper/DuckDuckGoAI 实时获取网络信息 文件对话RAG拖入 PDF、Word、Markdown 等文档基于知识库精准问答 网址解析直接把 URL 发给 AI自动爬取并总结网页内容复现 Kimi Chat 代码解释器支持 E2B 云环境或本地 Python 环境执行代码️ 语音与图像支持语音输入输出、图像生成 用户管理多用户权限控制、聊天记录导入导出部署前准备环境要求清单在开始之前请确认以下准备事项 ✅Python 3.9 及以上版本推荐 3.11Docker 方式可跳过一个可用的 LLM API KeyOpenAI、Azure、Ollama 或任意 litellm 支持的模型Docker如选择容器化部署Windows 用户建议使用WSL运行这是官方推荐的方式方法一Docker 一键部署最快上手如果你已经安装 Docker这是最快的路径。配置好环境变量后执行export OPENAI_API_KEYsk-xxx export OPENAI_BASE_URLhttps://xxx/v1 docker run -it \ -e OPENAI_API_KEY$OPENAI_API_KEY \ -e OPENAI_BASE_URL$OPENAI_BASE_URL \ -e RAG_EMBEDDING_MODELtext-embedding-ada-002 \ -p 8080:8080 --name chatpilot shibing624/chatpilot:0.0.1完成后访问http://localhost:8080ChatPilot 就已经跑起来了 方法二本地源码部署适合二次开发第一步克隆 ChatPilot 仓库git clone https://gitcode.com/gh_mirrors/ch/ChatPilot cd ChatPilot第二步安装依赖pip install -r requirements.txt依赖清单定义在requirements.txt中包含 FastAPI、ChromaDB、LangChain、LiteLLM 等核心组件pip会自动处理版本。第三步配置环境变量关键步骤项目提供了配置模板复制并填写你的 API Keycp .env.example .env打开.env文件重点修改以下几项MODEL_TYPE模型类型openai或azureOPENAI_API_KEY / OPENAI_BASE_URL你的模型服务地址兼容 OpenAI 格式的均可RAG_EMBEDDING_MODELRAG 使用的向量化模型默认text-embedding-ada-002ENABLE_SEARCH_TOOL / ENABLE_URL_CRAWLER_TOOL / ENABLE_RUN_PYTHON_CODE_TOOL开关三大工具功能第四步构建前端可选官方提供两种方案直接解压预编译好的前端包web/build.zip到web/目录最省事修改过前端代码时用 Node.js 20.10重新构建cd web npm install npm run build第五步启动服务Linux / macOS 执行bash start.shWindows 可执行start_windows.bat官方更推荐在 WSL 中使用start.sh。启动脚本通过 Gunicorn Uvicorn 拉起服务默认端口8080。打开浏览器访问http://localhost:8080看到 ChatPilot 的聊天界面恭喜你部署成功三种 LLM 接入方式总有一款适合你ChatPilot 支持灵活接入不同的大模型在.env中按需配置即可① OpenAI / Azure APIexport OPENAI_API_KEYxxx export OPENAI_BASE_URLhttps://api.openai.com/v1 export MODEL_TYPEopenai② Ollama 本地开源模型完全私有免费先执行ollama serve启动服务再配置export OLLAMA_API_URLhttp://localhost:11413③ LiteLLM 接入各云服务模型安装litellm后编辑配置文件~/.cache/chatpilot/data/litellm/config.yaml按模板填入 DeepSeek、Moonshot 等模型的model、api_base、api_key即可一次配置、多模型切换。核心功能体验像用 Kimi Chat 一样用 ChatPilot部署完成后建议按以下顺序体验三大招牌功能网址发出来把任意文章链接丢给 AI它会自动调用 UrlCrawler 工具读取网页输出结构化总结文件拖进来进入 Documents 页面上传文档AI 基于 RAG 知识库回答答案有据可查联网搜索直接问北京未来七天天气AI 自动调用搜索引擎把最新信息写进回答常见问题排查清单问题解决办法页面打不开确认 8080 端口未被占用可设置PORT环境变量更换端口对话无响应检查.env中 API Key 与 Base URL 是否正确RAG 问答不准确调整CHUNK_SIZE、RAG_TOP_K等分片与召回参数模型列表为空检查DEFAULT_MODELS与MODEL_FILTER_LIST配置Windows 启动异常改用 WSL 环境执行bash start.sh写在最后从克隆仓库到打开聊天界面整个过程不到 10 分钟。ChatPilot 基于 Apache 2.0 协议开源可免费用于商业用途。接下来不妨去tests/目录看看官方测试用例或修改前端web/目录的代码打造属于你的定制化 AI 聊天系统吧【免费下载链接】ChatPilotChatPilot: Chat Agent Web UI实现Chat对话前端支持Google搜索、文件网址对话RAG、代码解释器功能复现了Kimi Chat(文件拖进来网址发出来)。项目地址: https://gitcode.com/gh_mirrors/ch/ChatPilot创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表