30分钟极速上手！零基础玩转Langchain-Chatchat本地知识库问答系统搭建指南

30分钟极速上手零基础玩转Langchain-Chatchat本地知识库问答系统搭建指南【免费下载链接】Langchain-ChatchatLangchain-Chatchat原Langchain-ChatGLM基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain项目地址: https://gitcode.com/GitHub_Trending/la/Langchain-ChatchatLangchain-Chatchat是一款基于Langchain与开源大语言模型构建的本地知识库问答系统支持完全离线部署让你轻松搭建专属的智能问答助手。本文将带你通过简单几步在30分钟内完成从环境配置到成功运行的全过程即使是编程新手也能快速掌握 为什么选择Langchain-Chatchat作为一款开源的本地知识库问答应用Langchain-Chatchat具备以下核心优势全流程开源从模型到框架完全开源支持本地部署数据隐私更安全多模型兼容支持GLM-4、Qwen2、Llama3等主流开源大语言模型强大知识库轻松管理和查询本地文档支持多种文件格式与向量数据库直观Web界面简洁易用的可视化操作界面无需复杂命令行操作 准备工作软硬件要求基础环境要求操作系统Windows、macOS或LinuxPython版本3.8-3.11硬件建议最低配置CPU双核4G内存仅支持小型模型推荐配置NVIDIA GPU8G以上显存支持主流开源模型流畅运行 快速安装部署Pip方式1️⃣ 安装Langchain-Chatchat打开终端或命令提示符执行以下命令pip install langchain-chatchat -U如果你计划使用Xinference框架加载模型建议使用以下命令安装额外依赖pip install langchain-chatchat[xinference] -U2️⃣ 配置模型推理框架Langchain-Chatchat支持多种模型推理框架推荐使用Xinference跨平台支持好模型丰富安装Xinferencepip install xinference[all]启动Xinference服务xinference -H 0.0.0.0访问Xinference Web界面默认端口9997下载并启动所需模型推荐LLM模型Qwen1.5-7B-Chat或GLM-4-9B-Chat推荐Embedding模型bge-large-zh-v1.53️⃣ 初始化项目配置设置数据存储目录可选# Linux/Mac export CHATCHAT_ROOT/path/to/your/data/directory # Windows set CHATCHAT_ROOTC:\path\to\your\data\directory执行初始化命令chatchat init该命令会自动创建数据目录、复制示例知识库并生成默认配置文件。4️⃣ 修改配置文件编辑生成的配置文件位于CHATCHAT_ROOT或当前目录下的config文件夹model_settings.yaml配置模型信息DEFAULT_LLM_MODEL: qwen1.5-chat # 你的LLM模型名称 DEFAULT_EMBEDDING_MODEL: bge-large-zh-v1.5 # 你的Embedding模型名称basic_settings.yaml可选修改知识库路径KB_ROOT_PATH: /path/to/your/knowledge_base # 知识库存储路径5️⃣ 初始化知识库确保模型推理框架已启动并加载Embedding模型执行chatchat kb -r成功后会显示类似以下信息---------------------------------------------------------------------------------------------------- 知识库名称 samples 知识库类型 faiss 向量模型 bge-large-zh-v1.5 文件总数量 47 入库文件数 42 知识条目数 740 用时 0:02:29.701002 ----------------------------------------------------------------------------------------------------知识库管理界面支持文件上传与向量库重建6️⃣ 启动应用执行以下命令启动Web服务chatchat start -a启动成功后访问 http://127.0.0.1:8501 即可打开Web界面。 基础使用指南知识库管理登录Web界面后点击左侧知识库管理选择或创建知识库上传文档支持PDF、TXT、Markdown等多种格式点击添加至向量库完成文档处理开始智能问答返回对话页面选择知识问答模式选择要使用的知识库输入问题如什么是Prompt工程基于本地知识库的智能问答效果展示 Docker部署方案适合高级用户如果你熟悉Docker也可以使用Docker快速部署# 拉取镜像 docker pull chatimage/chatchat:0.3.1.3-93e2c87-20240829 # 国内用户可使用腾讯云镜像 docker pull ccr.ccs.tencentyun.com/langchain-chatchat/chatchat:0.3.1.3-93e2c87-20240829详细Docker部署指南请参考项目文档Docker部署说明❓ 常见问题解决知识库初始化卡住Windows环境下若出现此问题尝试pip uninstall python-magic-bin pip install python-magic-bin0.4.14无法通过IP访问修改basic_settings.yamlDEFAULT_BIND_HOST: 0.0.0.0模型加载失败确保模型推理框架已正确启动检查模型名称与配置文件中的设置一致检查模型文件是否完整下载 进阶学习资源官方文档项目根目录下的README.md开发指南开发文档模型配置模型部署框架说明通过以上步骤你已经成功搭建了属于自己的本地知识库问答系统现在可以开始探索更多高级功能如Agent工具调用、多模态对话等。祝你使用愉快【免费下载链接】Langchain-ChatchatLangchain-Chatchat原Langchain-ChatGLM基于 Langchain 与 ChatGLM, Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM, Qwen and Llama) RAG and Agent app with langchain项目地址: https://gitcode.com/GitHub_Trending/la/Langchain-Chatchat创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考