知能爆発

intelligence explosion

知能爆発とは、自らを改良できるAIがより優れた後継を次々に生み出し、知能が急激に高まるとされる仮説上の過程である。

記事3本最終言及

知能爆発(intelligence explosion)とは、AIが自らより優れたAIを設計できる水準に達すると、そのAIがさらに優れたAIを作る過程が繰り返され、知能が急激に高まるという仮説である。1965年に英国の数学者I・J・グッドが「超知能機械」に関する論文で初めて提唱した。グッドは、そのような機械は人類が作る必要のある最後の発明になると記した。

AI安全性の分野では、この概念が再帰的自己改善、超知能、技術的特異点(シンギュラリティ)をめぐる議論の基盤となっている。知能爆発が実際に起こり得るのか、起こるとすればどれほど速く進むのかについて、研究者の見解は分かれている。AIがAI研究そのものを自動化し始める時点を出発点と見る予測が多い。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • ハサビス氏が警告、人の検証なき自己改善ループがAGIへの最も危険な道AI倫理 ·

    同氏はこれを、およそ20年にわたって議論されてきた「知能爆発」シナリオと結びつけています。

    記事を読む
  • 自己改善型AIエージェントはどう動くか、二重ループと安全設計の要点AI活用 ·

    現在の再帰的自己改善は、検証可能な問題に対する的を絞ったエンジニアリング探索であって、際限のない知能爆発ではありません。

    記事を読む
  • AnthropicのS-1が明かす「ループを閉じる」戦略と自己改善AIの危険AI倫理 ·

    しばしば知能爆発と呼ばれるシナリオです。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。