起飞(takeoff)是AI安全研究中的术语,指AI系统的能力从接近人类水平过渡到远超人类水平的阶段。按速度通常分为在数周或数月内发生的快速起飞(硬起飞)和在数年到数十年间逐步展开的缓慢起飞(软起飞)。
这一概念源于智能爆炸假说,即能够自我改进的AI可能引发能力的爆发式增长,并通过Eliezer Yudkowsky和Nick Bostrom等人的论述广为人知。起飞越快,人类应对和保持控制的时间就越少,因此起飞速度被视为AI风险评估和政策讨论中的核心变量。对递归自我改进的建模和对加速系数的估算是分析起飞动力学的典型方法。