蒸馏救了国产 AI，也可能困住国产 AI

有一种说法越来越常见国内 AI 看起来更新很快其实主要是在蒸馏国外模型。这句话很刺耳。但不能说完全没有现实依据。先简单说一下什么叫蒸馏。可以把它理解成老师带学生让能力更强的大模型生成答案、推理过程和训练数据再拿这些内容训练一个更小、更便宜的模型。学生不需要重新读完世界上所有资料也能快速学会老师已经掌握的东西。对国内 AI 来说蒸馏太实用了。训练一个前沿大模型需要高端芯片、庞大集群、海量数据和长期投入。国内算力受到限制很多公司根本承担不起完整预训练。直接使用开源模型再加上合成数据和蒸馏几个月就能得到一个看起来不错的模型。它便宜、快速而且真的有效。DeepSeek-R1 发布时就同时放出了6个蒸馏模型参数从15亿到700亿不等。其中一部分建立在 Qwen 和 Llama 底座上。普通公司不需要部署完整的 R1也能用较小的显卡获得接近大模型的推理能力。这类做法让很多原本用不起大模型的人用上了 AI。所以说蒸馏“救了”国产 AI并不过分。它降低了门槛让能力更快扩散也让国内模型可以用更低的价格参与竞争。问题在后面。如果学生一直只做老师出过的题他可能考得很好却很难超过老师。蒸馏能够学习一个模型已经表现出来的能力却很难创造老师自己也没有的新能力。国外模型提供什么样的答案学生就容易形成什么样的表达、思路和边界。数据看起来越来越多来源却可能越来越集中。更麻烦的是我们未必知道老师为什么这样回答。闭源模型只开放输入和输出不公开训练数据、模型权重和完整方法。国内团队可以收集答案却看不到答案背后的全部训练过程。最后可能学到了结果却没有真正掌握产生结果的能力。如果以后国外模型限制批量调用、提高价格或者禁止输出用于训练依赖合成数据的团队就会立刻受到影响。这才是“被困住”的风险。不过把国内所有模型都说成蒸馏产物也不准确。DeepSeek-R1 的小模型用了蒸馏但旗舰 R1 本身不是简单复制国外模型它建立在自己的基础模型之上并使用了大规模强化学习。GLM-5 使用了28.5万亿 token 的预训练数据也搭建了自己的强化学习系统GLM-5.2 又针对百万上下文做了架构和推理优化。Qwen 同样覆盖了预训练、后训练、强化学习和完整的开源模型体系。国内不是不会从头训练而是完整训练太贵蒸馏太划算。这两句话要放在一起看。现实情况可能是少数头部公司继续做基础模型和原创研究大量中小公司则基于这些模型做蒸馏、微调和行业应用。以后真正从头训练通用大模型的公司不会越来越多反而会越来越少。这并不一定是坏事。汽车公司不需要自己炼钢软件公司也不需要每家都训练一个基础模型。能把成熟模型变得更小、更便宜再放进手机、汽车、工厂和企业系统本身也是一种能力。但国内 AI 不能只剩这一种能力。如果所有团队都在模仿同一批老师模型会越来越像错误也会被一起继承。榜单可能继续提高但真正遇到新问题时大家仍然要等最前沿的国外模型先给出答案。国产 AI 想摆脱这个循环至少要补几件事。第一继续训练自己的基础模型。不是每家公司都做但必须有人做。第二建立自己的高质量数据。中文互联网、制造、医疗、能源和真实业务流程里有大量国外模型接触不到的数据。只有把这些数据变成训练和反馈国内模型才可能形成自己的优势。第三让模型进入真实环境学习。写代码是否通过测试机器人能否完成动作工厂良品率有没有提高这些结果比让另一个大模型打分更可靠。第四补国产算力和软件生态。没有稳定、规模化的训练基础设施再好的算法也很难持续迭代。所以我不反感蒸馏。对算力和时间都更有限的国内团队来说它可能就是当前最务实的选择之一。真正需要警惕的是把追赶的方法当成最终答案。蒸馏可以帮助国产 AI 迅速学会别人已经会的东西却不能保证我们找到别人还没找到的东西。桥的意义是让人更快走到对岸而不是一直停在桥上。国产 AI 可以借助蒸馏缩小差距但最终还是要靠自己的数据、训练体系和原创研究继续往前。蒸馏应该是国产 AI 追赶的桥梁不能成为国产 AI 的终点。