Open WebUI + Ollama 本地大模型部署与文档问答实战指南

1. 先搞清楚 Open WebUI + Ollama 到底能做什么如果你在本地跑过 Ollama，用过命令行和模型对话，那 Open WebUI 就是给你这套东西套上一个和 ChatGPT 网页版几乎一样的图形界面。它解决的核心问题就一个：让本地大模型用起来像用 ChatGPT 一样方便，同时保证所有数据、模型、对话都留在你自己的机器上，完全离线。这不仅仅是换个皮肤。一个成熟的 Web 界面意味着你可以轻松地管理多个模型、上传文档构建知识库、切换对话、保存历史，甚至设置多用户权限。对于想把本地 LLM 当作一个长期、稳定工具来用，而不是每次敲命令的“本地 LLM 党”来说，这是从“玩具”到“工具”的关键一步。最值得关注的点不是功能列表有多长，而是它能不能在你现有的 Ollama 环境里稳定跑起来，以及跑起来之后，那些高级功能（比如文档问答）的实际体验如何。很多人装完发现界面是有了，但上传文档没反应，或者回答质量飘忽不定，问题往往出在环境配置和资源理解上。2. 部署前，先确认你的“地基”够不够稳在拉取 Docker 镜像之前，先别急着动手。Open WebUI 是个前端界面，它的核心是背后的 Ollama 服务。如果 Ollama 本身没跑稳，界面再漂亮也是白搭。2.1 检查 Ollama 的安装与状态首先，确保 Ollama 已经正确安装并运行。打开终端，执行：ollama --version如果能看到版本号，说明安装没问题。接着，启动 Ollama 服务（如果还没启动的话）：ollama serve这个命令会启动一个本地服务，默认监听在http://localhost:11434。你可以用curl快速测试一下服务是否正常：curl http://localhost:11434/api/tags如果返回一个 JSON（可能是空列表{"models":[]}），说明 Ollama 服务运行正常。如果报错“连接拒绝”，那就要先解决 Ollama 服务启动的问题。常见坑点：有些系统（尤其是某些 Linux 发行版）可能需要手动配置服务自启动，或者因为权限问题导致ollama serve在后台被终止。我建议先在前台运行ollama serve，保持这个终端窗口打开，等 Open WebUI 全部配置好、测试通过后，再去研究如何配置后台服务。2.2 拉取一个测试用的模型Open WebUI 需要至少一个可用的模型才能工作。在另一个终端窗口，拉取一个小体积的模型来测试，比如phi3:mini，它只有 1.8GB 左右，下载快，对硬件要求低：ollama pull phi3:mini拉取完成后，用ollama list确认模型已存在。这一步非常关键，因为 Open WebUI 是通过 Ollama 的 API（localhost:11434）来发现和调用模型的。如果这里模型列表为空，Open WebUI 里就会显示“没有可用模型”。2.3 评估你的硬件资源虽然 Open WebUI 本身是个 Web 应用，