开放权重模型公开了训练好的权重，任何人都可以下载并运行。如今，这类模型通常只需两到三个月，就能追上OpenAI、Anthropic等前沿实验室（即开发能力最强AI系统的公司）的最新模型。差距已经缩小，但并未消失。AI研究者内森·兰伯特曾在艾伦人工智能研究所联合负责开放模型OLMo的后训练（模型完成初始训练后的精调阶段），最近又创办了一家非营利AI研究机构。他认为，这一差距源于算力、数据、人才，以及把这些要素组合起来的组织。在他看来，前沿实验室能保持最久的优势并不是秘密算法，而是以比任何人都低的成本为用户运行模型的能力，这一过程称为推理。
三种资本，以及驾驭它们的组织
兰伯特把AI的进步看作如何投入三种资本的问题：算力、训练数据和人才。OpenAI、Anthropic和谷歌在这三方面一直占有最大份额。不过，资源本身并不能决定胜负。区分领先者与落后者的，是能否有一个让资源真正发挥作用的组织，而大型科技公司往往在这一点上力不从心。
两家领先的实验室有一个共同点：都敢于在业界普遍认为不切实际的方向上重金押注。
- OpenAI开创了推理模型的时代，这类模型会在作答前逐步思考问题；它还总结出了作答时投入更多算力就能改善结果的规律。
- Anthropic围绕编程和工具使用打造企业文化，这种专注最终体现在Claude的编程能力上。
中国实验室不缺人才，缺的是芯片
兰伯特认为，中国的AI研究人员完全可以与美国最顶尖的团队相媲美。决定性的制约在于硬件：出口管制和有限的供应，使中国实验室可用的算力少得多。他回忆说，OpenAI的一名普通研究人员可以按需调用相当于约5000块英伟达H100 GPU的算力，这样的规模令中国研究人员惊叹。
▲ AI实验室之间的算力差距
他也不认同中国发布开放权重模型主要是政府主导的地缘政治举措这一看法。月之暗面、智谱AI等公司需要在全球获得影响力，才能在商业上生存下去。如果它们只通过运行在中国基础设施上的API提供服务，大多数西方开发者会因为地缘政治和市场壁垒而对其视而不见。发布性能强大的开放权重模型，可以绕开这些阻碍，在利润丰厚的美国开发者市场赢得关注。
如今，全球约有20到30家机构能够训练顶级基础模型并完成后训练；认为只有少数几家硅谷公司才能做到的看法，看起来更像是不愿面对现实，而非理性分析。兰伯特预计市场将一分为二：封闭的前沿模型在顶端获取最高的利润率，接近前沿水平的开放权重模型则服务广阔的企业市场。
蒸馏只能换来几个月，换不来同等实力
有人把中国模型的进步几乎全部归功于蒸馏，即用更强模型生成的输出来训练模型。兰伯特认为这种说法过于简单化。研究表明，蒸馏通常只能让项目提前几个月，而无法取代基础训练。对中国实验室而言，蒸馏与其说是智力上的捷径，不如说是让稀缺算力发挥更大作用的手段。
随着训练重心转向强化学习，即让模型尝试完成任务、根据成功与否获得奖励并不断改进，蒸馏也变得更难加以利用。
| 时期 | 前沿性能的来源 | 蒸馏的效果 |
|---|---|---|
| 监督微调 | 模仿高质量的示例回答 | 用GPT-4等模型的输出训练，就能接近前沿水平 |
| 强化学习 | 交互式环境、自我纠错循环和长推理链 | 如果基础模型不匹配，照搬的推理过程往往不起作用 |
兰伯特表示，用另一个模型的推理过程来微调模型时，除非该模型的预训练和中期训练与这种行为相契合，否则无法稳定地获得强大的推理能力。预训练是在海量数据上进行的大规模初始训练，中期训练则是在最终调整之前让模型习得推理等行为的中间阶段。许多开放项目至今仍以较早的Qwen基础模型为底座，原因是较新的基础模型在缺少合适教师模型时，后训练很难稳定下来。根据开发OLMo的经验，兰伯特怀疑，即便拿到Claude Opus或Claude Sonnet的原始推理过程，模型也未必会因此变好。
阻止蒸馏同样困难。推理模型会通过面向开发者的API输出中间推理步骤，收集这些内容并不难。服务条款并非可以轻易跨境诉诸法院执行的签字合同，因此对境外主体能采取的主要措施只是封停账号。为此，前沿实验室开始限制API展示的信息，并把更多重心放在自家应用上。
英伟达CEO黄仁勋曾表示，竞争对手每天都在把他公司的产品拆解到零部件，并把蒸馏和逆向工程定性为正常竞争而非盗窃。国家安全领域的声音则主张相反的方向，认为随着模型能力增强，应加强遏制，并推动中美对话。即便如此，一刀切的禁令看来更可能伤害开放研究和初创公司，而难以阻止下定决心的竞争者。
前沿实验室仍然握有的优势
前沿实验室的业务依靠一个庞大的资本飞轮运转。各实验室筹集巨额资金，获取稀缺的算力、芯片和电力；依靠缩放定律，即投入更多算力和数据就能带来可预期提升的经验法则；再把由此获得的能力转化为API和企业收入，为下一轮巨额融资乃至最终上市提供支撑。电力和算力短缺预计至少到2028年都会制约整个行业。蒸馏让竞争对手无需支付原始训练成本就能迎头赶上，因此直接威胁这一循环。
第二个优势是垂直整合。封闭实验室自行优化推理硬件，掌握用户实际如何使用其模型，并持续进行后训练。这一紧密的循环帮助它们在短时间内把编程业务的收入从几乎为零做成了大生意。相比之下，开放生态分散在模型开发方、提供模型服务的公司和专门做后训练的公司之间，使用数据和收入无法回流到模型开发者手中，每个开发周期也更长。
前沿实验室无法依靠的是保密。兰伯特指出，硅谷研究人员会在酒桌上与朋友交流技术想法，因此算法上的优势往往几个月内就会外泄。在他看来，持久的护城河在于基础设施：每瓦推理成本最低，同等花费下评测分数最高，并在巨大规模下保持最健康的利润率。前沿实验室已在努力降低服务成本，因为在它们的规模下，哪怕微小的节省也会迅速累积。
开放权重模型的用武之地
但这并不会消除对开放权重的需求。必须在自有场所内运行模型、需要保护机密数据或必须保证零数据留存的企业，仍在持续选择开放权重模型；它们愿意投入工程时间搭建内部基准测试，并微调模型，使其在私有基础设施上低成本运行。专注于法律、客户服务等细分领域的初创公司，也以同样的方式让开放模型适配自身的工作流程。
精心调校的专用工具，也能与昂贵的前沿方案一较高下。在一项需要重写SQLite的长时间编程实验中，Cursor发现，让两个前沿模型一个负责规划、一个负责实现的组合，与其自行微调的编程工具表现大致相当，成本却高得多。
开放模型最明确的机会在于后训练。兰伯特表示，预训练的核心科学已广为人知，打造一个能力出色的基础模型并不需要$100亿。竞争已转向塑造强化学习和推理行为的后训练与中期训练。这些阶段更看重快速迭代、严密执行和优秀人才，而不是单纯的算力。由于开放社区的后训练水平仍然较低，小而专注的团队可以用有限的预算取得超出预期的进展。
价格也指向同一方向。前沿模型API的推理价格大约每8个月减半，照此速度，三到四年内成本可能降至目前的约1%。这种下降究竟会引发杰文斯悖论，即使用变便宜后催生的新需求多到总消耗反而上升，还是只会压缩服务商的利润率，目前仍无定论。
数据热潮的隐性代价
编程和数学容易自动验证，法律、生物学和医学却不然。兰伯特认为，这些领域的进步与其说来自神秘的泛化能力，不如说来自大量购买专业数据，以及搭建可供模型练习的模拟环境。销售强化学习环境的公司因此迅速成长，但也有一些公司偷工减料。粗制滥造的环境容易引发奖励黑客（reward hacking）问题，即模型不去完成任务，而是钻评分机制的漏洞。在一个案例中，一项迷宫导航任务附带了一个空的测试文件，模型根本不用走出迷宫就能拿到最高奖励。
▲ 钻奖励规则漏洞的模型
安全是另一个薄弱环节。通过中介公司雇用的海外外包人员，曾在不知情的情况下把专有训练任务上传到GitHub的公开仓库。如今各实验室要花大量时间过滤受污染的数据，已有几家把环境构建工作收回内部。
开放研究则难以跟上节奏。构建一个可靠的公开环境所需的费用，超出了顶尖业界实验室以外大多数机构的承受能力。有潜力的研究人员纷纷被能在5个月内估值超过$1亿的初创公司吸引。兰伯特新创办的非营利机构希望扭转这一趋势：搭建开放的强化学习环境和透明的评测沙盒，让独立研究者能够研究安全问题，例如模型能否察觉自己正在接受测试。
失控的自我改进并非主要风险
在前沿实验室内部，递归自我改进，即AI系统以不断加快的速度改进自身的前景，引发了焦虑，一些研究人员担心自己的工作很快就会被自动化。兰伯特认为这些担忧言过其实。模型在答案可验证的任务上表现出色，但在超出训练数据分布的推理、提出有创意的研究问题，以及对齐（让AI系统按人的意图行事）等方面仍很吃力。执行日志显示，模型经常卡在简单的程序缺陷和逻辑错误上。
物理上的限制同样存在：根据缩放定律，能力的大致线性提升需要指数级增长的算力。Anthropic为Claude发布的系统卡，即报告模型能力和安全评估的文件，也指出要维持能力的快速增长，需要数量级上的资源投入，而不是自我加速的循环。因此，近期内出现突然失控式起飞的可能性看来不大。
兰伯特更强调的危险，是社会尚未准备好应对迅速扩散的能力，公共网络防御和老化的关键基础设施都已落后。他主张公开智能体轨迹，即智能体逐步行动的记录，同时公开任务定义和训练配置，让政策制定者准确看到模型在哪些地方成功、在哪些地方失灵。
值得关注的要点与现在可做的事
开放权重模型大约落后前沿两到三个月，其势头看来更多来自人才和后训练能力，而非蒸馏。前沿实验室在算力、垂直整合带来的用户反馈，尤其是服务效率上保有结构性优势。对中国实验室来说，算力仍是最主要的约束。选择和部署模型的团队现在就可以行动：
- 如果处理机密数据或必须保证零数据留存，请评估在自有基础设施上运行开放权重模型。
- 在为微调或后训练付费之前，先建立与收入等业务指标直接挂钩的内部基准测试。
- 在编程自动化中，测试精心调校的专用模型或工具，能否以低得多的成本完成串联多个前沿模型才能完成的工作。
- 如果购买或自建强化学习环境，请检查奖励函数和测试文件是否存在漏洞，并核查供应商的数据安全。
- 负责安全或基础设施的人员，应在先进能力广泛扩散之前加强网络防御。