Anthropic的研究人员认为，通用人工智能（AGI）有望在未来两年左右成为现实。在他们看来，最能说明技术进展之快的，是他们自己日常工作的变化。大约18个月前，他们几乎还在亲手敲下每一行代码；如今，他们可以把一到两天的工程工作交给AI模型，让它自行推进，就像把任务交给一位初级同事一样。研究人员还认为，AI正在越过人们早已会做的工作，走向新的知识，而数学走在最前面。
18个月，三种写代码的方式
Anthropic的一位研究人员把编程方式的变化称为技术加速最真切的信号。这一转变经历了三个阶段。
| 阶段 | 工程师做什么 | AI做什么 |
|---|---|---|
| 大约18个月前 | 几乎每一行都亲手输入 | 一次协助一行 |
| 几个月后 | 每隔几分钟介入一次，修正错误或要求写出下一个函数 | 在密切指导下编写代码 |
| 现在 | 分派一到两天的工程工作 | 像初级团队成员一样独立完成工作 |
关键在于人需要多频繁地介入。这个间隔已经从几分钟拉长到几天。实际上，模型如今扮演的是编程智能体的角色，也就是能从头到尾完成一项编程任务、而不是一次只建议一行代码的AI系统。这正是研究人员把它比作初级队友的原因。
▲ 工程师角色的三个阶段
从已知任务走向新知识
第一波AI开发专注于把人们早已理解且擅长的脑力工作自动化。这让开发者在本来就会做的工作上多了一份杠杆。新的目标则不同：用AI模型突破现有的智力前沿，例如找到新的数学证明。再做一个网页应用，是人类早已知道怎么做的任务；发现一个前人从未找到的证明，则拓展了人类的知识。
一个自然的疑问是：这些成果是否只是计算机硬算出了人类数学家无法完成的庞大计算？其中一位研究人员对进步如何发生给出了不同的解释。突破很少依赖完全陌生的想法，更多时候来自以前所未有的方式组合已有的想法。人类的成就一向建立在此前的里程碑之上，而AI模型如今正在跨领域地把这些点连接起来，带来真正的发现，而不只是更多同类的软件。
FrontierMath：约一年从零到近一半
基准测试，即用来衡量AI能力的标准化测试，显示出这一进展有多快。FrontierMath是一套由顶尖大学教授编写、覆盖众多数学领域的难题集。前沿模型起初在这套测试上的得分为0%，大约一年后，准确率已达到40%到60%。
回头看，2020年GPT-3的问世，可以视为人类水平的AI开始从理论猜想转向看似必然之事的转折点。如今，像FrontierMath这样的测试正用数字展示这一转变发生得有多快。
数学和代码为何率先突破
研究人员指出，推动现代AI进步的有两台引擎。
当有明确的方法判断答案对错时，强化学习的效果最好。数学证明和代码正具备这一特性，这在一定程度上解释了为什么这两个领域进步最快。
第二位研究人员补充了人的因素。机器学习研究的先驱们在数学和计算机科学方面背景深厚，因此他们在自己最熟悉的领域里构建评估方法和训练数据。无论是评估模型，还是对模型进行微调，也就是针对特定任务对现有模型做进一步训练，都需要人花大量时间去阅读和解读模型的输出。在熟悉的领域里，这项工作更容易。
| 领域类型 | 例子 | 构建评估 |
|---|---|---|
| 可验证 | 数学、编程 | 答案可以与客观的标准答案相比对 |
| 主观 | 社交、恋爱、艺术表达 | 难得多，因为没有明确的正确答案 |
▲ 可验证领域与主观领域
一家不断突破自身的公司
同样的加速也体现在Anthropic内部。这家公司扩张得极快，每隔60到90天就像变成了一家全新的公司。18个月前，团队必须全力聚焦于编程基准测试，以证明自己能打造世界一流的模型。随着收入和算力规模的增长，Anthropic已把目标扩大到覆盖众多领域的通用智力能力。
这里的AGI指什么，又关乎什么
按照这一框架，AGI是指在计算机上完成的智力任务中，能力与所有人类相当或超过所有人类的AI模型。待机器人技术成熟后，这一定义最终还将延伸到体力工作。据研究人员介绍，Anthropic认为这在未来两年左右是现实可期的。
一位研究人员认为，AGI具有两面性。
| 好处 | 风险 |
|---|---|
| 把几个世纪的科学与智力进步压缩到短得多的时间里 | 对社会和人类存续的极端风险 |
Anthropic把引导世界安全度过这些风险、让人们获得超级智能系统带来的巨大益处，视为自身的核心使命。两年这一时间点是研究人员的预测，他们同时明确提醒，这些风险需要审慎管控。
工具还是主体？
对于高级AI应被视为工具还是自主的主体，业内正展开热烈讨论。Anthropic的一位研究人员认为，对前沿模型而言，主体这一框架更准确，也更有用。
传统工具需要人全程操作。前沿模型只需接收一次指令，就能代表用户在数字世界中行动，并主动在较长时间里完成复杂的工作。进化使人倾向于把对话对象当作类人的存在，并映照对方的情绪，因此把AI称为主体，听起来可能像是一种投射。这位研究人员的观点着眼于实际：既然这些系统如今能够自行行动，主体这一框架描述的正是它们实际在做的事。
由此可以得到什么
在大约18个月里，软件开发已从密切监督转向任务委派。Anthropic的研究人员认为，AGI可能在两年左右随之到来，同时伴随严重风险。无论这一时间表是否成立，有几条经验现在就适用。