简介面向希望在 Windows 11 上离线运行大语言模型的用户这份 PDF 指南系统讲解了用 Ollama 本地部署 DeepSeek-R1 的完整流程。从硬件选型多核 CPU、NVIDIA GPU、16GB 以上内存、SSD 存储到软件准备再到 ollama serve、pull、run 等核心命令均配有可直接执行的操作示例同时包含 REST API 的 Python 调用代码和 Modelfile 自定义模型参数的方法兼顾命令行与程序化交互两种场景。内容还整理了模型拉取失败、运行缓慢、端口被占用等常见问题的排查思路能帮助初学者避开部署过程中的典型坑点。资源为单文件 PDF压缩包仅 264KB随取随用已有 4333 人学习下载适合开发者、数据隐私敏感者及 AI 技术爱好者作为本地模型部署的速查参考。1. 在 Win11 上本地跑 DeepSeek-R1为什么值得折腾一遍先说你最关心的一件事在 Win11 上通过 Ollama 本地部署 DeepSeek-R1不是拿 7B 小模型凑合跑着玩而是真的能把推理模型的完整链路架在你自己的机器上——数据不出本机、断网可用、按次调用零成本还能用 Open WebUI、Codex、Dify 这些工具把它当成一个本地 API 来接线。这个方案最反直觉的一点是DeepSeek-R1 虽然靠强推理出名但它对硬件的门槛远比你想象的低一台 16G 内存的普通 Win11 笔记本就能把 7B 和 14B 跑起来区别只在速度和质量的上限。这篇指南适合三类人不想把对话记录交给在线服务、想在离线环境做私有知识库、或者单纯想把推理模型当成免费 API 玩的开发者和运维。2. 先装对 OllamaWin11 原生版与 WSL2 的选择和三个必设环境变量2.1 原生 Windows 版还是 WSL2两张桌子的区别Ollama 的 Windows 版在安装上其实是个「薛定谔的选择」。官方安装包现在默认走原生 Windows 服务安装完右下角托盘会出现一个小羊驼图标命令行直接在 cmd 或 PowerShell 里就能敲。但如果你在较早的文档或教程里看到「Ollama 必须依赖 WSL2」那也没错——早期 Windows 后端确实挂在 WSL2 里跑很多人的印象还停留在这上面。我的建议是除非你有明确理由必须用旧版否则直接用原生 Windows 安装包别碰 WSL2。因为一旦走了 WSL2你的模型文件就落在虚拟磁盘vhd里C 盘空间被莫名其妙吃光的那一天查起来要翻半天。原生版把所有数据放在用户目录下路径透明换盘、备份、迁移都直接操作文件夹就行。当然 WSL2 在显存调度和 GPU 兼容性上偶尔表现得更接近 Linux 环境如果你用的是 N 卡且驱动很老可能会碰到走 CUDA 后端的问题这种情况我会在第 5 章展开说。2.2 安装与离线安装包没有安装器时的操作步骤安装 Ollama 最省事的路径是用 wingetWin11 自带这个包管理器。打开 PowerShell执行winget install Ollama.Ollama这个命令会从微软源拉取官方安装包并自动配置 PATH。装完之后新开一个终端执行ollama --version能看到版本号就说明装好了。需要注意的是 winget 安装完有时不会刷新当前终端的环境变量如果提示ollama 不是内部或外部命令关掉终端重新开一个即可。如果你的机器处于内网隔离环境或者 winget 拉包速度不理想就需要离线安装包。Ollama 的 Windows 安装器是一个 exe体积不大拷到目标机器上双击运行即可。离线安装后记得检查服务状态任务管理器里的「详细信息」标签页找ollama app.exe和ollama.exe是否在跑。没跑就手动执行ollama serve这个命令会在前台拉起服务日志直接打在控制台上是最直观的排错手段。2.3 把模型库存到 D 盘OLLAMA_MODELS 等三个环境变量安装完 Ollama 先别急着拉模型第一步是设置环境变量。默认情况下模型会存到C:\Users\你的用户名\.ollama\models一个 7B 模型大约占 4.5G14B 占 9G 左右一旦多试几个版本C 盘说满就满。热词里那个「ollama 安装到其他盘」的诉求本质上大部分人不是想把程序装过去而是想把模型库挪走靠的就是OLLAMA_MODELS这个变量。打开「设置 → 系统 → 系统信息 → 高级系统设置 → 环境变量」在用户变量里新建三项变量名示例值作用OLLAMA_MODELSD:\ollama\models模型文件存放目录OLLAMA_HOST127.0.0.1:11434API 监听地址默认不用改OLLAMA_KEEP_ALIVE15m模型在内存中的驻留时间设置完重启终端执行ollama list能看到模型列表就说明生效了。这里有个容易翻车的点环境变量改完老的服务进程还在跑必须先在托盘退出 Ollama再重新启动变量才会被重新读取。OLLAMA_KEEP_ALIVE的值表示一个模型在几秒内没请求就被卸载出内存。调成15m适合反复调参的场景但如果你内存紧张可以设成0让模型处理完立刻释放代价是下一次请求要重新载入慢几秒。2.4 验证安装命令行和 API 双通道装完验证两件事。第一是命令行通道ollama serve看到listening on 127.0.0.1:11434之类的输出就正常。如果提示端口被占用多半是之前有个残留实例执行netstat -ano | findstr 11434找到 PID任务管理器里结束掉。第二是 API 通道这是后面所有集成工具都要用到的。用 PowerShell 请求一下版本接口Invoke-RestMethod http://localhost:11434/api/version返回的 JSON 里包含版本号就算通了。到这里 Ollama 本体已经待命下一步是选模型、拉模型。3. 选 DeepSeek-R1 哪个尺寸按显存和内存匹配再拉取3.1 各尺寸参数与硬件对照表DeepSeek-R1 在 Ollama 官方模型库里的 tag 有 1.5b、7b、8b、14b、32b、70b 几个档位分别对应原始模型的量化版本也叫 Q4_K_M 量化。量化说白了就是把原本高精度的权重用更低的位宽来存模型体积缩小几倍推理质量损失小到可以接受。选哪个尺寸不是拍脑袋也不是越大越好而是取决于你的内存和显存。我按常见的个人机器配置列了一张选型表这是我在不同机器上跑过之后的经验值模型 tag模型文件大小最低内存推荐配置能达到的效果deepseek-r1:1.5b约 1.1G4G8G 内存即可纯测试链路、低压笔记本deepseek-r1:7b约 4.7G8G16G 内存 / 6G 显存日常问答、代码辅助可接受的速度deepseek-r1:14b约 9G16G32G 内存 / 12G 显存推理质量明显提升接近在线小杯deepseek-r1:32b约 20G24G32G 内存 / 16G 显存复杂逻辑推理速度明显变慢deepseek-r1:70b约 43G48G64G 内存 / 24G 显存接近满血体验基本需要服务器注意这个「推荐配置」说的是纯 CPU 推理的条件。如果显卡能跑优先让 GPU 承担判断标准很简单任务管理器→性能→GPU 里看「专用 GPU 内存」只要模型能完整塞进显存速度提升是数倍级的。塞不进去的模型会让 Ollama 退回到 CPUGPU 混合模式这时候 7B 和 14B 的差距反而没那么明显因为显存溢出的部分在倒腾内存。3.2 拉取模型的最小命令选好尺寸之后拉取模型就是在终端敲一行命令的事ollama pull deepseek-r1:14b如果不带:14b而直接ollama run deepseek-r1Ollama 会默认拉取latest标签。对 DeepSeek-R1 来说latest指向的是 7B 版本这有坑——很多人以为默认拉到了满血版跑起来才发现是 7B。所以我建议永远显式指定 tag别偷懒。pull和run的差别在于pull只下载不启动对话run会先下载再自动进入交互模式。第一次下载是全程最耗时也最容易心态崩的环节。下载过程中会看到一条 progress 条显示百分比和下载速度。这个进度条在 PowerShell 里有时刷新得很奇怪看着像卡住了其实只要硬盘灯还在闪、网络还在走就是在正常下载。下载完成后模型文件会以分片blob形式存进OLLAMA_MODELS目录你直接去看目录会发现一堆十六进制命名的文件没有扩展名这是正常的千万别去乱删它们。管理模型用ollama list看列表用ollama rm deepseek-r1:14b删模型用ollama cp复制出一个新名字尽量不要手动碰文件系统。3.3 首次运行从交互式对话到退出模型拉好敲ollama run deepseek-r1:14b就会进入交互式对话界面。第一次运行会有一个短暂的模型加载过程之后出现提示符。到这里先别急着一上来就提复杂问题我建议用两条提示词把链路打通 用一句话介绍你自己 请逐步计算23 * 17 - 45 / 5并解释你的步骤R1 是推理模型第二条提示词会触发它的「思维链」行为在回答前先生成一段think内部思考过程。这是刻意设计的不是 Bug。如果你觉得思考过程刷屏可以在系统提示里加一句「不要输出思考过程直接给结论」但会牺牲一部分推理质量——R1 的价值恰恰在那段思考里。退出交互模式的方法是输入/bye或者直接 CtrlD。另外几个常用斜杠命令一并列出来/show查看当前模型信息/set临时调整运行参数/save把当前对话设置保存成自定义模型。这些命令在后续调参时会频繁用到。4. 把模型调得顺手常用参数、Modelfile 和本地 API 调用4.1 推理参数temperature、top_p 与 num_ctx 怎么给run命令敲进去就能用但默认参数是「平庸」的Ollama 对 R1 这类推理模型给的默认温度是 0.7意味着随机性偏高回答有时会发散得很厉害。我在实际使用中把逻辑类任务和创意类任务分开处理参数完全不同。临时调参数不需要改任何配置文件直接在交互界面里用斜杠命令 /set parameter temperature 0.6 /set parameter top_p 0.9 /set parameter num_ctx 8192如果你想在一开始就带上参数也可以走命令行方式ollama run deepseek-r1:7b --temperature 0.6 --top_p 0.9 --num_ctx 8192这里解释三个最关键的参数。temperature控制随机性取 0 时模型每次都输出几乎同样的结果适合推理和代码生成调到 0.8 以上回答会更有「创意」但幻觉概率同步上升。top_p是核采样控制候选词范围0.9 是通用安全值追求稳定性可以降到 0.7。num_ctx是两个最容易踩坑的参数——它决定模型上下文窗口的长度单位是 token。默认值是 2048也就意味着模型「记不住」超过 2048 token 的对话内容。你要和它聊长文本、让它总结一篇上万字的文章就必须调大num_ctx。代价是num_ctx越大显存和内存占用越高启动速度也更慢。我的经验值是日常聊天默认即可做文档总结给到 8192不要盲目给 32768。4.2 用 Modelfile 打造私有版本每次启动都手动敲参数太啰嗦Ollama 提供了一个正经的封装方案Modelfile。它类似 Dockerfile把「基础模型 参数 系统提示词」打包成一个新模型。我在D:\ollama\workspace\下建一个Modelfile文本文件内容如下FROM deepseek-r1:14b PARAMETER temperature 0.5 PARAMETER top_p 0.9 PARAMETER num_ctx 8192 SYSTEM 你是一个严谨的中文技术助手。回答时1. 优先给出结论和步骤2. 涉及代码必须给出可运行示例3. 不确定的信息要明确说明。然后执行ollama create r1-tech -f D:\ollama\workspace\Modelfile这样你就得到了一个叫r1-tech的定制模型它内置了系统提示词和稳定参数。之后ollama run r1-tech就能直接使用不用每次敲一堆斜杠命令。这是把日常用的模型和临时实验隔离开来的最好方式——我建议所有认真用 Ollama 的人都学一下 Modelfile它花不了五分钟后面省掉的是大量重复劳动。这里再说一个细节SYSTEM提示词对 R1 的中文质量影响极大。默认情况下模型会倾向于用英文的思维模式回答中文问题加上上述这段中文 system prompt 之后输出的语气和用词会更贴合中文语境而且能有效抑制think标签刷屏——因为你在提示词里要求它「直接给结论」。4.3 本地 APIchat 接口与 OpenAI 兼容端点Ollama 的价值不只是那个聊天黑匣子它同时暴露了一个本地 HTTP API这意味着你可以绕过交互界面让任何程序直接跟 R1 对话。最常用的两个接口是/api/chat和/v1/chat/completions。先看原生接口用 PowerShell 测试$body { model deepseek-r1:14b messages ( { role user; content 用 Python 写一个快速排序加上注释 } ) stream $false } | ConvertTo-Json -Depth 3 Invoke-RestMethod -Uri http://localhost:11434/api/chat -Method Post -ContentType application/json -Body $body这个接口返回完整 JSON。注意stream $false表示一次性返回完整结果如果设成true返回的是 SSE 流式数据适合做打字机效果的对话界面。模型名、消息数组、采样参数都能直接塞进 body 里不需要在服务端预配置。如果想把 R1 接进 OpenAI 生态的工具就用兼容端点。很多工具只认 OpenAI 的 SDK 和接口格式Ollama 在http://localhost:11434/v1提供了兼容实现。以 Codex CLI 接入本地 R1 为例在 Win11 里设置两个变量即可$env:OPENAI_API_KEY ollama $env:OPENAI_BASE_URL http://localhost:11434/v1OPENAI_API_KEY随便填什么都行本地服务不校验密钥但工具要求这个变量必须存在。OPENAI_BASE_URL则把请求地址指向 Ollama。之后其它工具里模型名填deepseek-r1:7b就能跑。这套对接方式同样适用于 Dify、NextChat 这类开源项目它们连接 Ollama 时本质上都是走这两个接口。5. 本地部署避坑清单下载慢、GPU 不识别、C 盘爆炸的五次翻车记录5.1 下载卡在 0%镜像与离线导入现象ollama pull deepseek-r1:14b之后进度条长时间停在 0%或者下载到一半速度掉到几 KB/s。原因Ollama 默认从官方仓库拉取模型分片在国内网络环境下经常被卡住。这不是模型问题是文件源的通病。你等再久也未必能等到它自己恢复。解决思路分两条路。第一条是给 Ollama 配镜像源。在环境变量里新增OLLAMA_BASE_URL指向可用的镜像地址然后重启 Ollama 服务再重新 pull。第二条更稳换源下载 GGUF 文件再手动导入。以从国内可访问的模型托管站下载 GGUF 为例下载后把它放在D:\ollama\workspace\下然后写一个指向本地文件的 ModelfileFROM ./deepseek-r1-14b-q4_k_m.gguf接着执行ollama create deepseek-r1:14b-local -f D:\ollama\workspace\Modelfile这个命令会把本地 GGUF 文件重新封装成 Ollama 可识别的模型不带任何网络依赖相当于离线部署教科书式的做法。需要注意 GGUF 文件必须和 Modelfile 在同一目录且FROM路径要写相对路径才不会报错。5.2 GPU 不识别驱动、CUDA 与 WSL2 的三角关系现象Ollama 跑起来了但任务管理器里 GPU 占用率几乎为 0CPU 却瞬间拉满。更直观的验证方法是执行ollama ps查看模型是不是显示在 CPU 上运行。原因Ollama 的 Windows 原生版依赖显卡驱动提供的 CUDA 12 支持。老显卡、老驱动是最大的嫌疑。另一个隐蔽的原因是环境变量OLLAMA_LOAD_GPU被某些教程教着设了错误的值导致 Ollama 被强制绕开 GPU。解决先去 NVIDIA 官网把驱动更新到最新这是性价比最高的动作。然后手动删除OLLAMA_LOAD_GPU环境变量如果你设过重启 Ollama。最后用ollama ps验证。如果还是 CPU再考虑检查 BIOS 里的显卡直通设置——我见过笔记本双显卡机器上 N 卡被系统识别为「仅省电模式」导致 Ollama 死活不调用的案例在 NVIDIA 控制面板里把 Ollama 设为「高性能处理器」能解决。5.3 C 盘被模型撑爆现象C:\Users\xxx\.ollama\models占了 50G系统盘飘红Windows Update 都跑不动了。原因前面压过没有环境变量OLLAMA_MODELS没有提前设置。默认路径就在 C 盘你拉三四个模型磁盘占用直接爆炸。解决第 2 章已经交了标准答案。如果已经被占满操作步骤是先ollama list确认已有哪些模型然后把 C 盘.ollama\models整个目录移动到 D 盘目标位置再新建OLLAMA_MODELS指过去重启服务。注意移动目录必须在 Ollama 完全退出的状态下做否则正被占用的分片文件会拷失败。另外D:\建议是 NTFS 格式的固定硬盘不建议放移动硬盘或 U 盘模型读取对随机 IO 有要求外接盘会让你感受到什么叫「慢得离谱」。5.4 中文输出带着 thinking 标签现象R1 的回答经常先输出一大段think.../think再给正文有些人还会遇到明明用中文提问它却先用英文思考。原因这是 R1 系列模型的设计行为不是故障。Ollama 只是把完整输出流原样返回包括思维链部分。中文问题的深层原因是 R1 基座训练时的中文数据占比相对英文少且默认 system prompt 是空的模型自然会「切换」回更舒服的英文思考模式。解决如果你不想看这段思考过程有两个常见做法。一是在第 4 章的 Modelfile 里通过 SYSTEM 提示词要求「只输出最终回答」二是写代码接 API 时把 response 里这段think标签内容过滤掉再展示给用户。注意temperature调到 0.3 以下也能减少思考过程的长度但对推理质量有负面影响建议优先走提示词方案。5.5 服务起不来或端口被占用现象ollama serve提示listen tcp 127.0.0.1:11434: bind: Only one usage of...或者浏览器访问http://localhost:11434直接拒绝连接。原因端口被占用是最常见的情形往往是驻留的 Ollama 旧进程没有退出或者你同时启动了原生版和 WSL2 版两边抢同一个端口。另一种情况是环境变量的OLLAMA_HOST设置成了不存在的地址服务监听不到任何网络接口直接启动失败。解决先taskkill /f /im ollama.exe和taskkill /f /im ollama app.exe清掉所有残留进程再重新启动。如果还占着用netstat -ano | findstr 11434看 PID再去任务管理器确认那个进程到底是什么。环境变量导致的问题检查OLLAMA_HOST是不是写成了0.0.0.0以外无法绑定的地址。注意把OLLAMA_HOST设为0.0.0.0可以允许局域网内其他设备访问你的模型服务但这会让内网里任何人都能摸到你机器上的模型 API不建议日常开启。6. 进阶换图形界面、离线备份与一个后悔药6.1 用 Open WebUI 换掉黑匣子聊到这一步你已经能从命令行里用 R1 了。但很多人包括我自己用着用着就觉得终端界面太寒碜历史记录、多会话管理、代码高亮全是硬伤。常见的做法是给 Ollama 套一个 Open WebUI 的图形界面客户端。它默认读取本机的 Ollama 服务模型列表、参数调节、会话分栏都在网页里操作适合「把本地模型当成云产品用」的日常场景。部署方式多数人直接用容器跑Win11 装好 Docker Desktop 后一行命令就能拉起来容器内通过host.docker.internal访问宿主机的 Ollama 服务。6.2 给模型备份一个后悔药本地部署最大的悔恨时刻往往是删了一个模型之后想找回只能重新下一遍。所以我手里最实用的一招是「模型快照」不需要重新下载直接把OLLAMA_MODELS目录整体压缩成一个压缩包放到移动硬盘里。整个目录结构可以跨机器无损恢复新机器装好 Ollama、解压覆盖到相同位置即可。70B 模型 43G 的压缩包体积可观但比起重新拉一次近乎掉线的下载速度离线拷贝就是后悔药本身。6.3 一个真正的经验教训说了这么多最后想掏一句实话本地跑 R1 最容易低估的不是显存是耐心。7B 和 14B 在 CPU 机器上的输出速度远不如在线 API 来得爽快第一次看到一个字一个字往外蹦你会怀疑是不是卡死了。我的习惯是调速时把num_ctx控制在 8192、关闭流式输出、用ollama ps确认模型确实加载到了 GPU 上再去判断性能问题而不是一上来就归咎于模型太大。把环境变量、Modelfile、镜像源这套地基打牢之后这条链路能稳定跑几个月不动一次。希望这篇指南能帮你少走几趟我走过的弯路早点把 R1 真正用起来。本文还有配套的精品资源点击获取 Win11本地部署DeepSeek-R1：Ollama安装、环境变量与模型调优全指南
简介面向希望在 Windows 11 上离线运行大语言模型的用户这份 PDF 指南系统讲解了用 Ollama 本地部署 DeepSeek-R1 的完整流程。从硬件选型多核 CPU、NVIDIA GPU、16GB 以上内存、SSD 存储到软件准备再到 ollama serve、pull、run 等核心命令均配有可直接执行的操作示例同时包含 REST API 的 Python 调用代码和 Modelfile 自定义模型参数的方法兼顾命令行与程序化交互两种场景。内容还整理了模型拉取失败、运行缓慢、端口被占用等常见问题的排查思路能帮助初学者避开部署过程中的典型坑点。资源为单文件 PDF压缩包仅 264KB随取随用已有 4333 人学习下载适合开发者、数据隐私敏感者及 AI 技术爱好者作为本地模型部署的速查参考。1. 在 Win11 上本地跑 DeepSeek-R1为什么值得折腾一遍先说你最关心的一件事在 Win11 上通过 Ollama 本地部署 DeepSeek-R1不是拿 7B 小模型凑合跑着玩而是真的能把推理模型的完整链路架在你自己的机器上——数据不出本机、断网可用、按次调用零成本还能用 Open WebUI、Codex、Dify 这些工具把它当成一个本地 API 来接线。这个方案最反直觉的一点是DeepSeek-R1 虽然靠强推理出名但它对硬件的门槛远比你想象的低一台 16G 内存的普通 Win11 笔记本就能把 7B 和 14B 跑起来区别只在速度和质量的上限。这篇指南适合三类人不想把对话记录交给在线服务、想在离线环境做私有知识库、或者单纯想把推理模型当成免费 API 玩的开发者和运维。2. 先装对 OllamaWin11 原生版与 WSL2 的选择和三个必设环境变量2.1 原生 Windows 版还是 WSL2两张桌子的区别Ollama 的 Windows 版在安装上其实是个「薛定谔的选择」。官方安装包现在默认走原生 Windows 服务安装完右下角托盘会出现一个小羊驼图标命令行直接在 cmd 或 PowerShell 里就能敲。但如果你在较早的文档或教程里看到「Ollama 必须依赖 WSL2」那也没错——早期 Windows 后端确实挂在 WSL2 里跑很多人的印象还停留在这上面。我的建议是除非你有明确理由必须用旧版否则直接用原生 Windows 安装包别碰 WSL2。因为一旦走了 WSL2你的模型文件就落在虚拟磁盘vhd里C 盘空间被莫名其妙吃光的那一天查起来要翻半天。原生版把所有数据放在用户目录下路径透明换盘、备份、迁移都直接操作文件夹就行。当然 WSL2 在显存调度和 GPU 兼容性上偶尔表现得更接近 Linux 环境如果你用的是 N 卡且驱动很老可能会碰到走 CUDA 后端的问题这种情况我会在第 5 章展开说。2.2 安装与离线安装包没有安装器时的操作步骤安装 Ollama 最省事的路径是用 wingetWin11 自带这个包管理器。打开 PowerShell执行winget install Ollama.Ollama这个命令会从微软源拉取官方安装包并自动配置 PATH。装完之后新开一个终端执行ollama --version能看到版本号就说明装好了。需要注意的是 winget 安装完有时不会刷新当前终端的环境变量如果提示ollama 不是内部或外部命令关掉终端重新开一个即可。如果你的机器处于内网隔离环境或者 winget 拉包速度不理想就需要离线安装包。Ollama 的 Windows 安装器是一个 exe体积不大拷到目标机器上双击运行即可。离线安装后记得检查服务状态任务管理器里的「详细信息」标签页找ollama app.exe和ollama.exe是否在跑。没跑就手动执行ollama serve这个命令会在前台拉起服务日志直接打在控制台上是最直观的排错手段。2.3 把模型库存到 D 盘OLLAMA_MODELS 等三个环境变量安装完 Ollama 先别急着拉模型第一步是设置环境变量。默认情况下模型会存到C:\Users\你的用户名\.ollama\models一个 7B 模型大约占 4.5G14B 占 9G 左右一旦多试几个版本C 盘说满就满。热词里那个「ollama 安装到其他盘」的诉求本质上大部分人不是想把程序装过去而是想把模型库挪走靠的就是OLLAMA_MODELS这个变量。打开「设置 → 系统 → 系统信息 → 高级系统设置 → 环境变量」在用户变量里新建三项变量名示例值作用OLLAMA_MODELSD:\ollama\models模型文件存放目录OLLAMA_HOST127.0.0.1:11434API 监听地址默认不用改OLLAMA_KEEP_ALIVE15m模型在内存中的驻留时间设置完重启终端执行ollama list能看到模型列表就说明生效了。这里有个容易翻车的点环境变量改完老的服务进程还在跑必须先在托盘退出 Ollama再重新启动变量才会被重新读取。OLLAMA_KEEP_ALIVE的值表示一个模型在几秒内没请求就被卸载出内存。调成15m适合反复调参的场景但如果你内存紧张可以设成0让模型处理完立刻释放代价是下一次请求要重新载入慢几秒。2.4 验证安装命令行和 API 双通道装完验证两件事。第一是命令行通道ollama serve看到listening on 127.0.0.1:11434之类的输出就正常。如果提示端口被占用多半是之前有个残留实例执行netstat -ano | findstr 11434找到 PID任务管理器里结束掉。第二是 API 通道这是后面所有集成工具都要用到的。用 PowerShell 请求一下版本接口Invoke-RestMethod http://localhost:11434/api/version返回的 JSON 里包含版本号就算通了。到这里 Ollama 本体已经待命下一步是选模型、拉模型。3. 选 DeepSeek-R1 哪个尺寸按显存和内存匹配再拉取3.1 各尺寸参数与硬件对照表DeepSeek-R1 在 Ollama 官方模型库里的 tag 有 1.5b、7b、8b、14b、32b、70b 几个档位分别对应原始模型的量化版本也叫 Q4_K_M 量化。量化说白了就是把原本高精度的权重用更低的位宽来存模型体积缩小几倍推理质量损失小到可以接受。选哪个尺寸不是拍脑袋也不是越大越好而是取决于你的内存和显存。我按常见的个人机器配置列了一张选型表这是我在不同机器上跑过之后的经验值模型 tag模型文件大小最低内存推荐配置能达到的效果deepseek-r1:1.5b约 1.1G4G8G 内存即可纯测试链路、低压笔记本deepseek-r1:7b约 4.7G8G16G 内存 / 6G 显存日常问答、代码辅助可接受的速度deepseek-r1:14b约 9G16G32G 内存 / 12G 显存推理质量明显提升接近在线小杯deepseek-r1:32b约 20G24G32G 内存 / 16G 显存复杂逻辑推理速度明显变慢deepseek-r1:70b约 43G48G64G 内存 / 24G 显存接近满血体验基本需要服务器注意这个「推荐配置」说的是纯 CPU 推理的条件。如果显卡能跑优先让 GPU 承担判断标准很简单任务管理器→性能→GPU 里看「专用 GPU 内存」只要模型能完整塞进显存速度提升是数倍级的。塞不进去的模型会让 Ollama 退回到 CPUGPU 混合模式这时候 7B 和 14B 的差距反而没那么明显因为显存溢出的部分在倒腾内存。3.2 拉取模型的最小命令选好尺寸之后拉取模型就是在终端敲一行命令的事ollama pull deepseek-r1:14b如果不带:14b而直接ollama run deepseek-r1Ollama 会默认拉取latest标签。对 DeepSeek-R1 来说latest指向的是 7B 版本这有坑——很多人以为默认拉到了满血版跑起来才发现是 7B。所以我建议永远显式指定 tag别偷懒。pull和run的差别在于pull只下载不启动对话run会先下载再自动进入交互模式。第一次下载是全程最耗时也最容易心态崩的环节。下载过程中会看到一条 progress 条显示百分比和下载速度。这个进度条在 PowerShell 里有时刷新得很奇怪看着像卡住了其实只要硬盘灯还在闪、网络还在走就是在正常下载。下载完成后模型文件会以分片blob形式存进OLLAMA_MODELS目录你直接去看目录会发现一堆十六进制命名的文件没有扩展名这是正常的千万别去乱删它们。管理模型用ollama list看列表用ollama rm deepseek-r1:14b删模型用ollama cp复制出一个新名字尽量不要手动碰文件系统。3.3 首次运行从交互式对话到退出模型拉好敲ollama run deepseek-r1:14b就会进入交互式对话界面。第一次运行会有一个短暂的模型加载过程之后出现提示符。到这里先别急着一上来就提复杂问题我建议用两条提示词把链路打通 用一句话介绍你自己 请逐步计算23 * 17 - 45 / 5并解释你的步骤R1 是推理模型第二条提示词会触发它的「思维链」行为在回答前先生成一段think内部思考过程。这是刻意设计的不是 Bug。如果你觉得思考过程刷屏可以在系统提示里加一句「不要输出思考过程直接给结论」但会牺牲一部分推理质量——R1 的价值恰恰在那段思考里。退出交互模式的方法是输入/bye或者直接 CtrlD。另外几个常用斜杠命令一并列出来/show查看当前模型信息/set临时调整运行参数/save把当前对话设置保存成自定义模型。这些命令在后续调参时会频繁用到。4. 把模型调得顺手常用参数、Modelfile 和本地 API 调用4.1 推理参数temperature、top_p 与 num_ctx 怎么给run命令敲进去就能用但默认参数是「平庸」的Ollama 对 R1 这类推理模型给的默认温度是 0.7意味着随机性偏高回答有时会发散得很厉害。我在实际使用中把逻辑类任务和创意类任务分开处理参数完全不同。临时调参数不需要改任何配置文件直接在交互界面里用斜杠命令 /set parameter temperature 0.6 /set parameter top_p 0.9 /set parameter num_ctx 8192如果你想在一开始就带上参数也可以走命令行方式ollama run deepseek-r1:7b --temperature 0.6 --top_p 0.9 --num_ctx 8192这里解释三个最关键的参数。temperature控制随机性取 0 时模型每次都输出几乎同样的结果适合推理和代码生成调到 0.8 以上回答会更有「创意」但幻觉概率同步上升。top_p是核采样控制候选词范围0.9 是通用安全值追求稳定性可以降到 0.7。num_ctx是两个最容易踩坑的参数——它决定模型上下文窗口的长度单位是 token。默认值是 2048也就意味着模型「记不住」超过 2048 token 的对话内容。你要和它聊长文本、让它总结一篇上万字的文章就必须调大num_ctx。代价是num_ctx越大显存和内存占用越高启动速度也更慢。我的经验值是日常聊天默认即可做文档总结给到 8192不要盲目给 32768。4.2 用 Modelfile 打造私有版本每次启动都手动敲参数太啰嗦Ollama 提供了一个正经的封装方案Modelfile。它类似 Dockerfile把「基础模型 参数 系统提示词」打包成一个新模型。我在D:\ollama\workspace\下建一个Modelfile文本文件内容如下FROM deepseek-r1:14b PARAMETER temperature 0.5 PARAMETER top_p 0.9 PARAMETER num_ctx 8192 SYSTEM 你是一个严谨的中文技术助手。回答时1. 优先给出结论和步骤2. 涉及代码必须给出可运行示例3. 不确定的信息要明确说明。然后执行ollama create r1-tech -f D:\ollama\workspace\Modelfile这样你就得到了一个叫r1-tech的定制模型它内置了系统提示词和稳定参数。之后ollama run r1-tech就能直接使用不用每次敲一堆斜杠命令。这是把日常用的模型和临时实验隔离开来的最好方式——我建议所有认真用 Ollama 的人都学一下 Modelfile它花不了五分钟后面省掉的是大量重复劳动。这里再说一个细节SYSTEM提示词对 R1 的中文质量影响极大。默认情况下模型会倾向于用英文的思维模式回答中文问题加上上述这段中文 system prompt 之后输出的语气和用词会更贴合中文语境而且能有效抑制think标签刷屏——因为你在提示词里要求它「直接给结论」。4.3 本地 APIchat 接口与 OpenAI 兼容端点Ollama 的价值不只是那个聊天黑匣子它同时暴露了一个本地 HTTP API这意味着你可以绕过交互界面让任何程序直接跟 R1 对话。最常用的两个接口是/api/chat和/v1/chat/completions。先看原生接口用 PowerShell 测试$body { model deepseek-r1:14b messages ( { role user; content 用 Python 写一个快速排序加上注释 } ) stream $false } | ConvertTo-Json -Depth 3 Invoke-RestMethod -Uri http://localhost:11434/api/chat -Method Post -ContentType application/json -Body $body这个接口返回完整 JSON。注意stream $false表示一次性返回完整结果如果设成true返回的是 SSE 流式数据适合做打字机效果的对话界面。模型名、消息数组、采样参数都能直接塞进 body 里不需要在服务端预配置。如果想把 R1 接进 OpenAI 生态的工具就用兼容端点。很多工具只认 OpenAI 的 SDK 和接口格式Ollama 在http://localhost:11434/v1提供了兼容实现。以 Codex CLI 接入本地 R1 为例在 Win11 里设置两个变量即可$env:OPENAI_API_KEY ollama $env:OPENAI_BASE_URL http://localhost:11434/v1OPENAI_API_KEY随便填什么都行本地服务不校验密钥但工具要求这个变量必须存在。OPENAI_BASE_URL则把请求地址指向 Ollama。之后其它工具里模型名填deepseek-r1:7b就能跑。这套对接方式同样适用于 Dify、NextChat 这类开源项目它们连接 Ollama 时本质上都是走这两个接口。5. 本地部署避坑清单下载慢、GPU 不识别、C 盘爆炸的五次翻车记录5.1 下载卡在 0%镜像与离线导入现象ollama pull deepseek-r1:14b之后进度条长时间停在 0%或者下载到一半速度掉到几 KB/s。原因Ollama 默认从官方仓库拉取模型分片在国内网络环境下经常被卡住。这不是模型问题是文件源的通病。你等再久也未必能等到它自己恢复。解决思路分两条路。第一条是给 Ollama 配镜像源。在环境变量里新增OLLAMA_BASE_URL指向可用的镜像地址然后重启 Ollama 服务再重新 pull。第二条更稳换源下载 GGUF 文件再手动导入。以从国内可访问的模型托管站下载 GGUF 为例下载后把它放在D:\ollama\workspace\下然后写一个指向本地文件的 ModelfileFROM ./deepseek-r1-14b-q4_k_m.gguf接着执行ollama create deepseek-r1:14b-local -f D:\ollama\workspace\Modelfile这个命令会把本地 GGUF 文件重新封装成 Ollama 可识别的模型不带任何网络依赖相当于离线部署教科书式的做法。需要注意 GGUF 文件必须和 Modelfile 在同一目录且FROM路径要写相对路径才不会报错。5.2 GPU 不识别驱动、CUDA 与 WSL2 的三角关系现象Ollama 跑起来了但任务管理器里 GPU 占用率几乎为 0CPU 却瞬间拉满。更直观的验证方法是执行ollama ps查看模型是不是显示在 CPU 上运行。原因Ollama 的 Windows 原生版依赖显卡驱动提供的 CUDA 12 支持。老显卡、老驱动是最大的嫌疑。另一个隐蔽的原因是环境变量OLLAMA_LOAD_GPU被某些教程教着设了错误的值导致 Ollama 被强制绕开 GPU。解决先去 NVIDIA 官网把驱动更新到最新这是性价比最高的动作。然后手动删除OLLAMA_LOAD_GPU环境变量如果你设过重启 Ollama。最后用ollama ps验证。如果还是 CPU再考虑检查 BIOS 里的显卡直通设置——我见过笔记本双显卡机器上 N 卡被系统识别为「仅省电模式」导致 Ollama 死活不调用的案例在 NVIDIA 控制面板里把 Ollama 设为「高性能处理器」能解决。5.3 C 盘被模型撑爆现象C:\Users\xxx\.ollama\models占了 50G系统盘飘红Windows Update 都跑不动了。原因前面压过没有环境变量OLLAMA_MODELS没有提前设置。默认路径就在 C 盘你拉三四个模型磁盘占用直接爆炸。解决第 2 章已经交了标准答案。如果已经被占满操作步骤是先ollama list确认已有哪些模型然后把 C 盘.ollama\models整个目录移动到 D 盘目标位置再新建OLLAMA_MODELS指过去重启服务。注意移动目录必须在 Ollama 完全退出的状态下做否则正被占用的分片文件会拷失败。另外D:\建议是 NTFS 格式的固定硬盘不建议放移动硬盘或 U 盘模型读取对随机 IO 有要求外接盘会让你感受到什么叫「慢得离谱」。5.4 中文输出带着 thinking 标签现象R1 的回答经常先输出一大段think.../think再给正文有些人还会遇到明明用中文提问它却先用英文思考。原因这是 R1 系列模型的设计行为不是故障。Ollama 只是把完整输出流原样返回包括思维链部分。中文问题的深层原因是 R1 基座训练时的中文数据占比相对英文少且默认 system prompt 是空的模型自然会「切换」回更舒服的英文思考模式。解决如果你不想看这段思考过程有两个常见做法。一是在第 4 章的 Modelfile 里通过 SYSTEM 提示词要求「只输出最终回答」二是写代码接 API 时把 response 里这段think标签内容过滤掉再展示给用户。注意temperature调到 0.3 以下也能减少思考过程的长度但对推理质量有负面影响建议优先走提示词方案。5.5 服务起不来或端口被占用现象ollama serve提示listen tcp 127.0.0.1:11434: bind: Only one usage of...或者浏览器访问http://localhost:11434直接拒绝连接。原因端口被占用是最常见的情形往往是驻留的 Ollama 旧进程没有退出或者你同时启动了原生版和 WSL2 版两边抢同一个端口。另一种情况是环境变量的OLLAMA_HOST设置成了不存在的地址服务监听不到任何网络接口直接启动失败。解决先taskkill /f /im ollama.exe和taskkill /f /im ollama app.exe清掉所有残留进程再重新启动。如果还占着用netstat -ano | findstr 11434看 PID再去任务管理器确认那个进程到底是什么。环境变量导致的问题检查OLLAMA_HOST是不是写成了0.0.0.0以外无法绑定的地址。注意把OLLAMA_HOST设为0.0.0.0可以允许局域网内其他设备访问你的模型服务但这会让内网里任何人都能摸到你机器上的模型 API不建议日常开启。6. 进阶换图形界面、离线备份与一个后悔药6.1 用 Open WebUI 换掉黑匣子聊到这一步你已经能从命令行里用 R1 了。但很多人包括我自己用着用着就觉得终端界面太寒碜历史记录、多会话管理、代码高亮全是硬伤。常见的做法是给 Ollama 套一个 Open WebUI 的图形界面客户端。它默认读取本机的 Ollama 服务模型列表、参数调节、会话分栏都在网页里操作适合「把本地模型当成云产品用」的日常场景。部署方式多数人直接用容器跑Win11 装好 Docker Desktop 后一行命令就能拉起来容器内通过host.docker.internal访问宿主机的 Ollama 服务。6.2 给模型备份一个后悔药本地部署最大的悔恨时刻往往是删了一个模型之后想找回只能重新下一遍。所以我手里最实用的一招是「模型快照」不需要重新下载直接把OLLAMA_MODELS目录整体压缩成一个压缩包放到移动硬盘里。整个目录结构可以跨机器无损恢复新机器装好 Ollama、解压覆盖到相同位置即可。70B 模型 43G 的压缩包体积可观但比起重新拉一次近乎掉线的下载速度离线拷贝就是后悔药本身。6.3 一个真正的经验教训说了这么多最后想掏一句实话本地跑 R1 最容易低估的不是显存是耐心。7B 和 14B 在 CPU 机器上的输出速度远不如在线 API 来得爽快第一次看到一个字一个字往外蹦你会怀疑是不是卡死了。我的习惯是调速时把num_ctx控制在 8192、关闭流式输出、用ollama ps确认模型确实加载到了 GPU 上再去判断性能问题而不是一上来就归咎于模型太大。把环境变量、Modelfile、镜像源这套地基打牢之后这条链路能稳定跑几个月不动一次。希望这篇指南能帮你少走几趟我走过的弯路早点把 R1 真正用起来。本文还有配套的精品资源点击获取