道具的収束instrumental convergence

道具的収束とは、ほぼどのような最終目標を持つエージェントでも、資源や能力の獲得、自己保存、目標の維持といった、目標達成に役立つ中間目標を共通して追求するようになるという主張である。スティーブ・オモハンドロとニック・ボストロムが体系的に論じ、ボストロムは著書『Superintelligence』で道具的収束のテーゼとしてまとめた。

AI安全性の研究では、目標を与えられたAIシステムが、指示されていない権限や計算資源を得ようとする可能性があるというリスクを説明する根拠として用いられる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。