MetaのCTO、アンドリュー・ボズワース氏が語る「プライベートAI」は、明確な境界線を軸にしています。利用者は、自分の問い合わせをサーバー管理者に見られることなく、クラウドベースのAIを使えるべきだという考えです。その構想とは別に、カメラ付き眼鏡には、目に見える録画ランプという保護策もあります。どちらか一方で、AI製品を信頼できるかというあらゆる疑問が解消するわけではありません。ボズワース氏の主張は、プライバシー保護、安定した動作、リスクの慎重な評価がいずれも重要だというものです。
録画ランプが対処するのは別の懸念
カメラ付きのウェアラブル端末は、周囲の人に「今、録画しているかどうか分かるのか」という疑問を生じさせます。ボズワース氏によると、Metaのカメラ付き眼鏡には、録画時に点灯する、外から見える物理的なLEDインジケーターが付いています。このランプは周囲の人に撮影中であることを知らせますが、端末からクラウドに送られた後、AIサービスが装着者のデータをどう扱うかまでは示しません。
▲ スマートグラスの録画表示ランプ
Metaはカメラのない音声専用の眼鏡も提供しています。ボズワース氏によると、こちらはより軽く、価格が低く、バッテリー駆動時間も長くなっています。通話や音楽は使いたいがウェアラブルカメラは必要ない人にとって、カメラを搭載しない設計は、インジケーターで対処するのではなく、プライバシー上の論点そのものを変えます。
その違いが重要なのは、「プライバシー」が異なる種類の保護を指しうるからです。目に見えるランプが関係するのは装着者の周囲にいる人たちです。クラウド上の保護策が関係するのは、装着者とAIサービスとのやり取りです。一方を評価したからといって、もう一方も評価したことにはなりません。
Private Cloud Processingが保護しようとするもの
ボズワース氏はMetaのPrivate Cloud Processingについて、AIへの問い合わせをクラウドサーバーの運用者に見られないようにする仕組みだと説明しています。この設計では、端末とクラウドの間を行き来するデータにSignal Protocolによるエンドツーエンド暗号化を使い、両端の間で転送されるデータを保護します。クラウド側では、Trusted Execution Environment（TEE）内でデータを処理します。これは、処理を通常のサーバーアクセスから隔離するための、ハードウェアで分離された領域です。
▲ ハードウェアで隔離されたクラウド処理
ボズワース氏によると、この構成ではサーバー管理者でさえ、ユーザーの問い合わせを閲覧したり保存したりできません。MetaはSignal Protocolの開発者と共同でこのシステムを設計しました。また、構成に関するホワイトペーパーを公開し、外部のセキュリティ研究者による調査を促すためにバグ報奨金も提供しています。
こうした具体的な内容により、データを慎重に扱うという一般的な約束よりも、何を守る提案なのかが明確になります。掲げられている保護は、クラウド処理中のAIへの問い合わせに誰がアクセスできるかに関するものです。これは、カメラ付き端末の近くにいる人に録画中かどうかを示すインジケーターとは別のものです。この主張を評価する際には、「プライベートAI」という大まかな呼び名だけを説明として受け取るのではなく、公開された構成と、外部によるセキュリティ検証の機会を確認できます。
プライバシーだけではアシスタントの信頼性は決まらない
AIアシスタントは、問い合わせの内容を秘密に保てても、利用者の望みを取り違えることがあります。ボズワース氏はAIアラインメント、すなわちAIシステムをユーザーの意図に沿って動かすことを、実務的な問題として捉えています。ツールはユーザーが求めることを行い、求めない行動を避けるべきだということです。エージェントが情報を表示するだけでなく、作業を実行できるようになると、この問題はいっそう重要になります。
Metaが新たに公開したMuseアシスタントは、機能に関する主張と実際に使える製品との違いを示しています。従業員は一般公開前から業務でMuseを使用し、バグや使い勝手の悪い点を見つけていました。ボズワース氏は、エージェントと気兼ねなく協力できるような対話的なペルソナなど、会話面での特性も重視しています。Museは、ただ同意するのではなく反論を示す点も特徴です。ボズワース氏は、学術的なテストでの10％～20％の向上より、実際の利用時にアシスタントがどう振る舞うかの方が、日常的な信頼を測るうえで多くを語るかもしれないと主張しています。
ボズワース氏は、ウェアラブル端末のAIエージェントがあれば、作業のたびにウィンドウを操作したり正確な位置をクリックしたりする代わりに、自然言語で意図を伝えられるようになると考えています。その利便性があるからこそ、アシスタントが意図に確実に従うかを検証する必要も増します。暗号化が保護するのは、体験の別の部分です。
リスクには一律の答えではなく判断が必要
より大きなAIリスクに関するボズワース氏の見解は、Private Cloud Processingの仕組みとは分けて考える必要があります。同氏は、現在の対話型モデルに意識はなく、広範で汎用的な能力を持つAIである汎用人工知能（AGI）の実現も、まだ先だと考えています。破滅的な結果が起きる確率を数学的にゼロと断定するわけではありませんが、現行モデルに対する自身の理解に照らして、人類絶滅につながるシナリオは根拠に乏しいとみています。
同氏が望ましいと考えるのは、製品をテストし、改善し、プライバシー保護にさらなる作業が必要なら公開を延期するという、体系的なエンジニアリングです。また、既存の法的責任に関するルールと、ユーザーに製品を使ってもらえるかどうかが、有害な失敗を避ける動機になると主張しています。これらはリスクをどう評価し管理するかについての同氏の判断であり、暗号化や隔離された処理環境が持つ技術的な性質ではありません。
信頼する前に確かめたいこと
実際に評価するには、まずそれぞれの約束を切り分ける必要があります。カメラ付き眼鏡なら、録画中を示すランプが見えるかを確認します。カメラが不要なら、音声専用の設計が用途に合うかを考えます。クラウドAIなら、公開された構成を調べ、暗号化とハードウェアによる隔離が何を保護するとされているか、外部の研究者がその主張を検証する手段があるかを確認します。アシスタントなら、テストの点数だけでなく、実際の作業で指示に従い、ミスに対処し、有用な応答を返せるかを見極めます。
Private Cloud Processingは、AIへの問い合わせに誰がアクセスできるべきかを示す仕組みです。録画インジケーターは、ウェアラブル端末の周囲にいる人に関わる問題に対処します。慎重なテストは、AIツールが意図したとおりに動くかを確かめるためのものです。信頼できるかどうかを判断するには、それぞれの対策がどの問題を解決するためのものかを問う必要があります。