智能爆炸

intelligence explosion

智能爆炸是一种假说,指能够改进自身的AI不断造出更强的后继者,从而使智能水平急剧提升的过程。

3篇文章最近提及

智能爆炸(intelligence explosion)是一种假说,指当AI达到能够设计出比自身更强的AI的水平时,新AI再造出更强AI的过程会不断重复,使智能水平急剧上升。这一概念由英国数学家I·J·古德于1965年在一篇关于"超智能机器"的文章中首次提出。古德写道,这样的机器将是人类需要做出的最后一项发明。

在AI安全领域,这一概念是递归式自我改进、超级智能和技术奇点等讨论的基础。关于智能爆炸是否真的可能发生、若发生会有多快,研究者之间存在分歧。许多预测把AI开始将AI研究本身自动化的时点视为其起点。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • 哈萨比斯警告:闭环自我改进是通向AGI最危险的路径AI伦理 ·

    他把这与讨论了大约二十年的"智能爆炸"情景联系起来。

    阅读文章
  • 自我改进AI智能体的架构:双循环、版本化与密封评估器AI应用 ·

    两个案例指向同一个结论:当前的递归自我改进,是在可验证问题上进行的有针对性的工程搜索,而不是开放式的智能爆炸。

    阅读文章
  • Anthropic招股书自述AI闭环:警告与战略并存的悖论AI伦理 ·

    沿着这条路径,一旦AI开始优化AI,稳步进展就会陡然变成近乎垂直的攀升,这一情景常被称为智能爆炸。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。