MiniMind 本地部署三步走无显卡跑通轻量级大模型 WebUI【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind想在自己电脑上跑一个大模型却卡在没显卡、API 按量收费上MiniMind 的 26M 参数版本把轻量级大模型的门槛降到了普通笔记本的水平。这篇 MiniMind 本地部署教程不堆理论跟着做就能出对话。读完你会拿到纯 CPU 环境下跑通 MiniMind 的完整流程一个可交互的 Streamlit WebUI 聊天界面CPU 推理、生成长度、模型版本三个高频配置调法配置最低推荐CPU双核四核以上内存4GB8GBGPU不需要有 CUDA 显卡更佳磁盘1GB 空余5GBMiniMind 的主线结构对齐 Qwen3 生态下面这张图就是它长什么样三步跑通1装依赖拉代码先装好 Python 3.10然后克隆仓库。这条命令只取最新一次提交速度快拉下来就能用。git clone --depth 1 https://gitcode.com/GitHub_Trending/min/minimind再装依赖。依赖清单在仓库根目录的 requirements.txt国内网络加一个 PyPI 镜像参数装的速度会明显快很多。cd minimind pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple装完后在 Python 里import torch不报错这一步就算过。2下载模型文件代码本身不带权重需要单独把模型拉下来。主线模型 minimind-3 只有 64M 参数一条 modelscope 命令搞定文件落在当前目录的minimind-3文件夹里。modelscope download --model gongjy/minimind-3 --local_dir ./minimind-3下载完成后打开文件夹看一眼应该有config.json、tokenizer 文件和权重文件缺了就是没下全重跑一遍命令即可。3启动 MiniMind WebUIWebUI 脚本在 scripts/ 目录但它不会去根目录找模型你得先把模型文件夹复制进scripts/脚本会自动扫描带权重文件的子文件夹。cp -r minimind-3 scripts/minimind-3 cd scripts streamlit run web_demo.py浏览器打开http://localhost:8501看到能回复消息的聊天界面MiniMind 本地部署就完成了想先在命令行验证也行在项目根目录跑python eval_llm.py --load_from ./minimind-3选 1 进入手动输入模式即可。常用配置CPU 友好设置没有显卡时推理脚本会自动落到 CPU但你可以显式指定免得它先试 CUDA 卡一下。python eval_llm.py --load_from ./minimind-3 --device cpu调完效果模型直接在 CPU 上加载回答速度偏慢但稳定26M 版本在 CPU 上完全够用。生成长度限制CPU 上逐 token 生成默认 8192 的上限等起来会很痛苦。把上限调小只控制单次回复长度不影响模型本身能力。python eval_llm.py --load_from ./minimind-3 --max_new_tokens 256调完效果回答在 256 token 处收住CPU 上等待时间肉眼可见地变短。WebUI 侧不用改命令打开界面左下角的设置面板直接拖最大生成长度和温度滑块就行。模型版本选择同一系列有多个体积档主线 minimind-3 是 64M最小的 minimind2-small 只有 26M。纯 CPU 环境优先挑小的体验优先再上大的。modelscope download --model gongjy/minimind2-small --local_dir ./minimind2-small调完效果换--load_from指向新文件夹即可切换小版本加载更快、生成更省内存回答风格以官方发布说明为准。部署避坑8501 端口被占用症状streamlit run报端口冲突页面打不开。 原因本地已经有别的 Streamlit 应用在占着 8501。 解法先查是谁占的。lsof -i:8501找到进程号后停掉它再启动或者干脆换个端口在启动命令后追加--server.port 8601。依赖装得慢甚至超时症状pip install卡在某个包上半天不动最后报连接错误。 原因走了默认 PyPI 源网络链路长。 解法所有安装命令都带上镜像参数装 torch 这类大包尤其明显速度能差出几倍。WebUI 提示找不到模型症状页面报错说没扫描到权重文件。 原因模型文件夹还在根目录而脚本只认scripts/下的子文件夹。 解法回到第三步的那条cp -r命令把模型复制进scripts/再重启即可。MiniMind 本地部署到这里就全部完成了从 clone 到开口对话无显卡环境也就多花几分钟等待。下一步你可以用仓库里的 trainer/ 脚本做 LoRA 微调或基于serve_openai_api.py把它包成兼容 OpenAI 协议的接口接进其他工具里。#MiniMind #本地部署 #轻量级大模型【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 MiniMind 本地部署三步走：无显卡跑通轻量级大模型 WebUI
MiniMind 本地部署三步走无显卡跑通轻量级大模型 WebUI【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind想在自己电脑上跑一个大模型却卡在没显卡、API 按量收费上MiniMind 的 26M 参数版本把轻量级大模型的门槛降到了普通笔记本的水平。这篇 MiniMind 本地部署教程不堆理论跟着做就能出对话。读完你会拿到纯 CPU 环境下跑通 MiniMind 的完整流程一个可交互的 Streamlit WebUI 聊天界面CPU 推理、生成长度、模型版本三个高频配置调法配置最低推荐CPU双核四核以上内存4GB8GBGPU不需要有 CUDA 显卡更佳磁盘1GB 空余5GBMiniMind 的主线结构对齐 Qwen3 生态下面这张图就是它长什么样三步跑通1装依赖拉代码先装好 Python 3.10然后克隆仓库。这条命令只取最新一次提交速度快拉下来就能用。git clone --depth 1 https://gitcode.com/GitHub_Trending/min/minimind再装依赖。依赖清单在仓库根目录的 requirements.txt国内网络加一个 PyPI 镜像参数装的速度会明显快很多。cd minimind pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple装完后在 Python 里import torch不报错这一步就算过。2下载模型文件代码本身不带权重需要单独把模型拉下来。主线模型 minimind-3 只有 64M 参数一条 modelscope 命令搞定文件落在当前目录的minimind-3文件夹里。modelscope download --model gongjy/minimind-3 --local_dir ./minimind-3下载完成后打开文件夹看一眼应该有config.json、tokenizer 文件和权重文件缺了就是没下全重跑一遍命令即可。3启动 MiniMind WebUIWebUI 脚本在 scripts/ 目录但它不会去根目录找模型你得先把模型文件夹复制进scripts/脚本会自动扫描带权重文件的子文件夹。cp -r minimind-3 scripts/minimind-3 cd scripts streamlit run web_demo.py浏览器打开http://localhost:8501看到能回复消息的聊天界面MiniMind 本地部署就完成了想先在命令行验证也行在项目根目录跑python eval_llm.py --load_from ./minimind-3选 1 进入手动输入模式即可。常用配置CPU 友好设置没有显卡时推理脚本会自动落到 CPU但你可以显式指定免得它先试 CUDA 卡一下。python eval_llm.py --load_from ./minimind-3 --device cpu调完效果模型直接在 CPU 上加载回答速度偏慢但稳定26M 版本在 CPU 上完全够用。生成长度限制CPU 上逐 token 生成默认 8192 的上限等起来会很痛苦。把上限调小只控制单次回复长度不影响模型本身能力。python eval_llm.py --load_from ./minimind-3 --max_new_tokens 256调完效果回答在 256 token 处收住CPU 上等待时间肉眼可见地变短。WebUI 侧不用改命令打开界面左下角的设置面板直接拖最大生成长度和温度滑块就行。模型版本选择同一系列有多个体积档主线 minimind-3 是 64M最小的 minimind2-small 只有 26M。纯 CPU 环境优先挑小的体验优先再上大的。modelscope download --model gongjy/minimind2-small --local_dir ./minimind2-small调完效果换--load_from指向新文件夹即可切换小版本加载更快、生成更省内存回答风格以官方发布说明为准。部署避坑8501 端口被占用症状streamlit run报端口冲突页面打不开。 原因本地已经有别的 Streamlit 应用在占着 8501。 解法先查是谁占的。lsof -i:8501找到进程号后停掉它再启动或者干脆换个端口在启动命令后追加--server.port 8601。依赖装得慢甚至超时症状pip install卡在某个包上半天不动最后报连接错误。 原因走了默认 PyPI 源网络链路长。 解法所有安装命令都带上镜像参数装 torch 这类大包尤其明显速度能差出几倍。WebUI 提示找不到模型症状页面报错说没扫描到权重文件。 原因模型文件夹还在根目录而脚本只认scripts/下的子文件夹。 解法回到第三步的那条cp -r命令把模型复制进scripts/再重启即可。MiniMind 本地部署到这里就全部完成了从 clone 到开口对话无显卡环境也就多花几分钟等待。下一步你可以用仓库里的 trainer/ 脚本做 LoRA 微调或基于serve_openai_api.py把它包成兼容 OpenAI 协议的接口接进其他工具里。#MiniMind #本地部署 #轻量级大模型【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考