アシスタンスゲームassistance game

アシスタンスゲームは、スチュアート・ラッセルと共同研究者が提案したAI設計の枠組みである。人間とAIを一つのゲームの二人のプレイヤーとみなし、AIの唯一の目標を人間の好みを満たすことに置く一方、その好みが何かをAIは確実には知らず、人間の行動から推論する。

固定された目標を最大化する従来の設計と異なり、好みに確信を持たないAIには、人間に確認を求めたり、人間に停止されることを受け入れたりする動機が生まれる点が特徴である。人間がAIを停止できるかを扱うオフスイッチゲームの研究もこの枠組みに含まれる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。