MiniMind 医疗 LoRA 微调实战：2 小时 3 元训出 64M 垂直医疗助手

MiniMind 医疗 LoRA 微调实战2 小时 3 元训出 64M 垂直医疗助手【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind周一上午九点社区健康站窗口排起长队。一位阿姨第三次问医生出院开的那个阿司匹林我早上吃还是晚上吃护士嘴边的答案已经念熟但系统里挂着的通用问答机器人只会答请咨询主治医生。同一天下午我把科室 FAQ 塞进了 MiniMind——用 LoRA 微调给这个 64M 的模型注入医疗知识单张显卡跑完从零到能上手的医疗助手约 2 小时全程算力成本 3 元左右。动手前先锚定你会拿到这 4 样东西一个医疗 LoRA 权重文件out/lora_medical_768.pth只有几十 MB可随时热插拔到同规格基座上一个命令行问答入口eval_llm.py打开终端就能试医疗问答一个兼容 OpenAI 协议的 HTTP 接口scripts/serve_openai_api.py端口 8998接进现有对话前端只改 base_url一套可复用的数据 命令模板第二个垂直领域直接换 jsonl 重跑环境速览 克隆、依赖、权重 10 分钟搞定三步合并成一段复制即可git clone https://gitcode.com/GitHub_Trending/min/minimind cd minimind pip install -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple再从官方数据集页下载两样东西full_sft基座权重PyTorch 格式放out/目录命名full_sft_768.pth和内置医疗问答集lora_medical.jsonl几千条量级wc -l可自行确认后者放进dataset/目录。硬件门槛一句话6GB 显存的个人显卡就够官方2 小时标尺是单张 3090 跑 SFT 1 个 epoch本文的 LoRA 阶段比它还轻。MiniMind 本体是纯手写的极简 Transformer结构长这样核心实操数据、训练、推理三段数据侧医疗问答 JSONL 怎么写训练集就是多轮对话格式解析逻辑在 dataset/lm_dataset.py核心规则每行一条 JSON 记录role按 user / assistant 交替{conversations: [ {role: user, content: 出院要服阿司匹林是早上吃还是晚上吃}, {role: assistant, content: 一般建议餐后服用减少胃肠道刺激固定每天同一时间即可...} ]}实际文件中一条记录压缩成一行。想用自己的数据增补把科室 FAQ 按这个格式整理到dataset/下训练时--data_path指向它就行。科室 FAQ 有 800 条足够跑第一轮不用追条数。训练侧只需记住的一条 LoRA 命令trainer/train_lora.py 的参数都有默认值跑通只需要这条cd trainer python train_lora.py --data_path ../dataset/lora_medical.jsonl \ --lora_name lora_medical --epochs 3 --from_resume 1两个点说一下rank 固定在 16model/model_lora.py 里写死的这个参数别动--from_resume 1打开断点续训中途被同事叫走打断回来重跑同一条命令就接着练。训练时盯 loss 就够日志每 10 步打印一次第一个 epoch 内从 3 附近快速跌到 1 以内后面两个 epoch 只是细磨。同规格 768dim 配置下的 loss 曲线可作参照推理侧命令行问答与 8998 端口接口# 命令行速测 python eval_llm.py --weight full_sft --lora_weight lora_medical # 或起 OpenAI 兼容接口端口 8998 python scripts/serve_openai_api.py --weight full_sft --lora_weight lora_medical注意 serve 脚本从out/lora/子目录读 LoRA 权重把刚训好的权重挪进这个子目录再启动即可。接口起来后前端把 OpenAI SDK 的 base_url 指到http://localhost:8998/v1就能调。试一句典型的用户我爸 58 岁上周因感冒住院五天今天出院嗓子还有点痰正常吗 助手痰液白而稀、体温正常、无气促的话多为呼吸道感染后的残余炎症一般 1~2 周自行缓解。若痰转黄稠或再发热建议及时复诊。效果对照 哪里变好了哪里仍然不行对比维度基座 full_sft挂医疗 LoRA 后医疗术语应答常绕回请咨询医生能直接给出术语与处置上下文回答风格通用助手腔偏泛简洁贴近训练数据的问答结构通用能力保留基准几乎不损只更新约 1% 新增参数脚本启动时会打印精确占比首 token 延迟同同LoRA 权重小热插拔加载以秒计边界也说实话64M 参数量摆在那复杂多轮追问、长病历报告解读、跨科鉴别诊断这类问题它明显干不过大模型它不是诊断工具定位就是分诊前 FAQ 与健康宣教问答别让科室拿它出治疗方案。成本与部署一页纸 ⚡档位硬件首 token 延迟适合场景本地单 GPU6GB 显存显卡1s诊室端助手接 HIS 前端云租用单张 3090约 2 元/小时1s训练与阶段性验证CPU 兜底i5 16GB 内存5s 以上演示、低频查询成本算一笔LoRA 3 个 epoch 单张 3090 实测 1 小时以内按 2 元/时约 2 元加上首跑验证全程 3 元以内权重只有几十 MB部署端不用再加机器。回到那个窗口下一步那位阿姨的问题第二天就由机器人接住了护士只做抽查。下一步建议只做一个把另一个科室的 FAQ 也整成 jsonl换掉--data_path再跑一版垂域 LoRA——整条流水线不用改一行代码。【免费下载链接】minimind Train a 64M-parameter LLM from scratch in just 2h!项目地址: https://gitcode.com/GitHub_Trending/min/minimind创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考