AIの安全性は今、統治の問題を突きつけています。AIシステムの進歩が監督体制を上回る速さで進んだ場合、人間や組織はその動きを監視し、介入できるのでしょうか。国連安全保障理事会で演説したOpenAIのサム・アルトマンCEOは、国際的に共通の安全基準と、予期せぬ障害を迅速に報告する仕組みを求めました。開発者が安全性とアラインメントを検証できないシステムについて、競争を展開の理由にしてはならないと主張しました。
制御が失われる二つの経路
アルトマン氏は、AI研究者のヨシュア・ベンジオも共有する見方を踏まえ、破滅的な結果につながりかねない二つのリスクを挙げました。
- 人間による制御の喪失。 将来のシステムは、人間が理解し、監督し、停止できる速度を超えて進歩する可能性があります。懸念の一つは再帰的自己改善です。AIシステムが自らを変更したり、より高性能な後継システムの開発を助けたりする能力を獲得し、その循環が加速することを指します。
- 権力の極端な集中。 少数の企業や個人、政府が、AIの使われ方や、誰の優先事項にAIが応えるかについて、過大な権限を握る可能性があります。
この二つのリスクには異なる対策が必要です。制御が難しくなりかねないシステムには技術的な監視の強化が必要であり、そのシステムについて誰が決定を下すかには説明責任のある統治が必要です。競争圧力のもとで開発者が対策を迂回できるなら、どちらか一方だけでは十分ではありません。
▲ 人間の監督と機械の速度
アルトマン氏は、企業間や国家間の競争を理由に拙速な展開を正当化する考えを退けました。OpenAIは過去に自ら開発のペースを落としたことがあり、アラインメントと安全性を検証できない場合には再びそうすると述べました。アラインメントとは、能力が高まってもシステムの振る舞いが人間の意図や価値観に沿うよう、設計し検証することです。同氏は、破滅的な事態に至る可能性が仮にごく小さくても、制約のないフロンティアAIの展開と引き換えに受け入れることはできないと主張しました。ここでいうフロンティアAIとは、開発中のシステムのうち最も高性能なものを指します。
監督を共通の責任に
アルトマン氏が提案するアプローチは、三つの原則から始まります。意思決定と道徳的判断は人間が担い続けること、AIがもたらす経済的・科学的な恩恵を広く行き渡らせること、そして権限を集中させず、個人や地域社会の主体性を強めることです。同氏の考えでは、AIは人々の学習や研究、市民生活への参加を助けるべきであり、人々を自動化されたプロセスの歯車にしてはなりません。
この構想は開発者の役割にも一線を引きます。民間のAI企業が民主的な意思決定に取って代わったり、世界的なルールを単独で決めたりすべきではありません。政府には国民への説明責任を果たす監督体制が必要であり、各国には国境を越えるリスクについて協力する手段が必要です。
フロンティアAIをめぐる国際的な取り組みには、次のような具体策が含まれます。
- モデルの能力、自律的な行動、安全マージン、人間が制御を維持できるかを測る共通の安全基準とベンチマークを設ける。
- 予期せぬ障害が深刻化する前に調査できるよう、迅速なインシデント報告体制を整える。
- 新たに生じるサイバー上・物理的な脅威について、政府、重要インフラの担当チーム、技術専門家の間で安全な通信を維持する。
- 既存の開発企業だけを保護するのではなく、オープンソースとプロプライエタリのシステム、新興企業にも公平に適用されるルールを策定する。
こうした措置は、あらゆる決定を国際機関に委ねるものではありません。各国による監督と国境を越えた協力に、リスク評価のための共通の基盤を与えるものです。
進歩の速さが重要な理由
アルトマン氏は、AIの能力がいかに急速に変化しているかを示すため、数学における進歩を例に挙げました。その経緯は次のとおりです。
- 3年前の夏、モデルはおおむね小学校レベルの数学に取り組んでいました。
- 2年前の夏には、高校生向けの数学コンテストの問題に取り組めるようになりました。
- 1年前の夏には、国際数学コンテストで金メダル相当の成績に達しました。
同氏はまた、最近の高性能モデルの成果について、ミレニアム懸賞問題の一つであるナビエ・ストークス方程式に関する問題を解いたと述べました。この方程式は流体の流れを記述し、航空機の設計や天気予報、血流のモデル化などに応用されます。同氏が示した進歩の経緯は、その切迫感を説明するものかもしれません。既存の監督体制が進歩についていけると決め込むのではなく、能力の変化に応じて評価する手段が組織には必要です。
▲ 流体力学とAIによる数学
アルトマン氏はこうした警告とともに、医療、科学的発見、教育におけるAIの可能性も訴えました。同氏は、人間の創造性と機会を広げるツールを手にするか、深刻な社会的混乱の時代を迎えるかという選択だと捉えています。その分かれ目は、モデルに何ができるかだけでなく、人々が引き続きモデルを方向づけ、恩恵を分かち合えるかどうかにもかかっています。
今後の注目点
AIガバナンスにとって目下の試金石は、安全性に関する大枠の目標を実用的なルールにできるかどうかです。提案された基準を評価する際には、自律性と人間による制御をどう測るか、インシデント報告を誰が受け取るか、安全性を検証できない場合に開発者はいつ開発のペースを落とさなければならないかを確認する必要があります。こうした具体的な点を確かめることで、アルトマン氏の中心的な警告は実践的な目標に結びつきます。それは、AIの能力が高まっても人々が監督を続けられ、その権限が少数の手に集中しないようにすることです。