三步跑通 MiniMind 本地部署与 WebUI 搭建：零 GPU 门槛的 64M 大模型

三步跑通 MiniMind 本地部署与 WebUI 搭建零 GPU 门槛的 64M 大模型【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimindMiniMind 是一个可以在普通电脑上从零训练、也能直接本地推理的超轻量级 LLM。本文带你完成 MiniMind 本地部署与 WebUI 搭建全程零 GPU 门槛一条命令就能打开聊天界面。为什么值得试一把 先看几个数字系列最小版本minimind2-small只有26M 参数主线minimind-3是64M体积约为 GPT-3 的 1/2700官方实测单张 3090 上 2 小时跑完 SFTGPU 成本约 3 块钱核心算法全部用 PyTorch 原生实现不套第三方高层封装代码量小到可以逐行读所以它的定位很清楚既是一个能跑起来的轻量对话模型也是一套从 0 看懂 LLM的教学代码。没有显卡也能推理速度慢一点而已有显卡能直接体验完整训练链路。三步跑通 MiniMind 第一步装环境建议 Python 3.10。依赖就一个清单文件不用逐个手敲pip install -r requirements.txt国内网络可以加镜像源加速pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple第二步拿代码git clone --depth 1 https://gitcode.com/GitHub_Trending/min/minimind cd minimind第三步下模型用 modelscope 拉取训好的minimind-3放到项目根目录modelscope download --model gongjy/minimind-3 --local_dir ./minimind-3到此为止磁盘占用不到 300MB普通电脑毫无压力。两种玩法命令行 Web 界面 命令行一条命令开聊python eval_llm.py --load_from ./minimind-3启动后会让你选模式输0自动跑内置测试问题输1进入手动对话。想调参可以看 eval_llm.py 里的--help温度、历史轮数、生成长度都在里面。Web 界面打开浏览器就用注意一个坑Web 演示脚本 只扫描scripts/目录下的模型子文件夹所以先把模型拷进去cp -r minimind-3 ./scripts/minimind-3 cd scripts streamlit run web_demo.py然后浏览器访问 http://localhost:8501 。界面支持多轮对话、思考展示还能挂上工具做多轮 Tool Call踩坑速查 ️现象一句话解法pip install慢或报错加国内镜像源-i https://mirrors.aliyun.com/pypi/simpleWebUI 报找不到模型模型文件夹必须拷到scripts/下脚本不扫描根目录没有 NVIDIA 显卡推理会自动回落到 CPU能跑只是慢浏览器没自动打开手动访问终端里显示的 URL默认 8501 端口模型下载太慢用 modelscope 国内源别走境外下载第一次响应很慢首次推理有加载和缓存开销第二句起就正常了再往前走一步 跑通推理之后仓库里还有完整的训练脚本trainer/下的 pretrain / SFT / DPO / GRPO 等和兼容 OpenAI 协议的scripts/serve_openai_api.py想复现2 小时训出 64M 模型或者直接把它接进自己的 Chat 应用都有现成入口。【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考