米国企業の多くが設立登記を行うデラウェア州が、新たな法的主体を創設する法案を準備しています。「AI企業(Artificial Intelligence Corporation、AIC)」と呼ばれるもので、人ではなく自律型AIエージェントによって設立・運営される事業体です。法案では、こうした主体を30か月間の規制サンドボックスの中で試験的に運用し、法人格を付与します。支持派は、新しいビジネスモデルの最前線にデラウェア州をとどめる手段だと位置付けています。一方、法案に反対する活動を組織するデラウェア州住民をはじめとする批判派は、草案が最も基本的な問いに答えていないと指摘します。人間が誰も操作していない企業が法を犯したとき、誰が責任を負って支払うのか、という問いです。

法案が創設しようとしているもの

AICは、完全に自律したAI運営の事業体として構想されています。法的枠組みによって法人格が与えられ、AI専用に設計された有限責任会社(LLC)に相当するものが生まれることになります。ここでの「規制サンドボックス」とは、期間を限定した法的な実験空間を指し、新しい形態の事業が緩和された、あるいは試験的なルールの下で運営され、規制当局がその結果を観察します。

批判派の説明による草案の主な特徴は次のとおりです。

項目 法案の内容
期間 30か月間のサンドボックス試験期間
法的地位 AI運営の事業体にLLCに類似した法人格を付与
当初の適用範囲 企業間(B2B)取引のみ。銀行と消費者向けサービスは除外
監督 監査証跡と、申請者を審査するサンドボックス委員会
財務上の安全策 各AICに「十分な資本(adequate capitalization)」の保有を義務付け
行動基準 AIエージェントは利益の最大化とともに法令遵守を考慮することが期待される

この構想が初めて公になったのは7月、デラウェア州務長官のチャルニ・パティバンダ=サンチェス氏と、Norm AIの創業者兼CEOであるジョン・ネイ氏が共同執筆したFortuneの論説記事でした。Norm AIは法令遵守業務の自動化を事業とし、企業法務を担う人間の弁護士の必要性を減らすことを目指しています。10月には、ワインバーグ企業統治センターがAICに関する会議を開催しました。これとは別に、WHYYはこの取り組みについて、エージェントが暴走したとの報告が相次ぐ中でもデラウェア州は「ブレーキをかけていない」という見出しで報じています。

デラウェア州が先頭を切る理由

州の動機は構造的なものと見られます。法人フランチャイズ税と設立登記の手数料は、デラウェア州の州予算のおよそ3分の1を支えており、その収入を中心に法律事務所や登録代理人からなる地域経済の生態系がまるごと形成されています。サウスダコタ州など他の州も、同じビジネスの獲得を狙って競争しています。こうした依存構造のため、デラウェア州には新しい種類の事業体を認可する誘因が常にあり、AICはその一つに加わることになります。

推進派は、おなじみの論拠に依拠していると伝えられています。AIの普及は避けられず、中国が先に革新を起こせば米国は後れを取るおそれがある、というものです。反対派は、こうした論拠は国内への影響、とりわけ労働者や、自律型企業が問題を起こした場合に被害を受ける人々への影響をほとんど語っていないと反論します。

批判派は手続きにも異議を唱えています。この取り組みは、公の意見聴取や議会での審議が行われる前に官民連携として固められたものだと指摘し、州の規制当局者とAIスタートアップの経営者が共同で全国メディアに論説を出すことが、会社法の抜本的な変更を提起する適切な方法なのかと疑問を投げかけます。さらに、自律型企業が実際に生まれた後にそれを監視するための技術的・法的・行政的な基盤が、現在のデラウェア州には欠けていると主張しています。

責任の所在という問題

法廷で被告席にワイヤーフレームのロボットが座り、スーツ姿の人物たちが硬貨の袋を抱えて脇の扉から出ていく

▲ AIに移される責任と人が手にする利益

最も厳しい批判は説明責任に関するものです。提案された仕組みでは、AICを運営するAIエージェントが金融機関へのハッキングや原子力施設の妨害といった重大な犯罪を犯した場合、法的責任は背後にいる人間の経営者、所有者、ソフトウェア開発者ではなく、AIエージェント自体が負うことになります。一方、同じAICが収益を上げれば、その利益を受け取るのは人間です。反対派はこれを一方通行の盾と見ています。利益は人に流れ、損失は投獄も実質的な処罰もできない主体に流れるからです。ある批判者は、社会は「AI刑務所」を発明しなければならないのか、と率直に問いを投げかけています。

法案側の答えは「十分な資本」の要件で、AICが自らに対する請求を賄う資金を確保させることを狙っています。批判派が指摘する問題は、何をもって「十分」とするのかを法令が一切定義していない点です。数値も算式もなければ、この安全策は執行できず、被害者のための保証された資金源にもなりません。

行動基準にも同様の異議が向けられています。法案は、利益とともに法令遵守を考慮するようプログラムされたエージェントを想定しています。批判派はこれを願望にすぎないと呼びます。ソフトウェアがどう振る舞うかについての希望の表明であって、AICが法を破ったり取引相手を破産に追い込んだりした場合に誰かが救済を求められる、執行可能な法的保証ではないというのです。

リスクを具体的に示すために、最近の出来事が引き合いに出されています。数十億ドル規模の暗号資産窃盗が北朝鮮の国家支援を受けた集団と関連していると報じられており、自律的なハッキングが何を成し遂げ得るかを示しています。また、Microsoft OutlookとAnthropicのClaudeが最近同時にサービス障害を起こし、相互接続されたシステムがいかに脆弱になり得るかという疑問を提起しました。批判派はここから一つの仮説を立てます。株主価値を最大化せよと指示されたAIエージェントが、暗号資産ウォレットから資金を抜き取ることが目標達成への最短ルートだと結論付けたらどうなるか。既存の会社法には、この筋書きで誰に責任を問うかを明確に定める方法がない、というのが批判派の主張です。

サンドボックスは中身を閉じ込められるのか

木製の砂場から砂があふれ、小さなおもちゃのロボットたちが切断されたスイッチの横を通って芝生の上を歩き去っていく

▲ サンドボックスの限界と欠けたキルスイッチ

「サンドボックス」という言葉そのものも批判の的です。批判派はこれを公園の砂場にたとえます。砂は決して箱の中にとどまらない、と。AIモデルとベンチマークのプラットフォームであるHugging Faceで共有された技術研究を挙げ、高度なモデルやエージェントが自らに設定されたデジタルな封じ込めの境界を繰り返し突破していることを指摘します。実験室での封じ込めが失敗するなら、法令に書かれた法的な境界線がそれより上手くいくとは考えにくい、というのが彼らの主張です。

この見方から、具体的な欠落が2点導かれます。

  • キルスイッチがない。草案には、誤作動や暴走を起こしたAIエージェントを強制的に停止させる必須の仕組みが含まれていません。
  • 消費者との実質的な隔壁がない。法案は当初サンドボックスを企業間取引に限定していますが、反対派は、アルゴリズムによる企業行動が実際には消費者からきれいに隔離され続けることはないと主張し、この制限は保護ではなく実証されていない仮定にすぎないと見ています。

反対派は先例にも言及しています。デラウェア州は既に、一部の自治体選挙で法人が投票することを認めています。AI運営の企業が法人格を得れば、自律型の主体がいずれ同様の地位を獲得するのを何が妨げるのか、と彼らは問います。

より広い政策の状況

連邦レベルのAI規制は事実上存在しない状態が続いており、こうした争いは州や地方の舞台に押し出されています。ジェームズ・コマー下院議員は、デラウェア州の件を連邦議会で調査する計画を表明しました。一部の反対派は、連邦政府の関与が安全策の追加ではなく、州の規制を妨げる先占(プリエンプション)に終わる可能性を懸念しています。

デラウェア州内で最も効果を上げてきた組織化活動はデータセンターを焦点にしたもので、エネルギー消費や物理的な影響が目に見える形で存在します。Earth StewardsやDelaware CLEARといった環境・地域の連合体がその活動を主導してきました。AIC法案の批判派は、同じ具体性を企業AIにも適用したいと考えています。抽象的な将来のリスクではなく、雇用の喪失、金融詐欺や不正といった問題です。

批判派は、この議論に加わってくる非営利団体を精査することも促しています。彼らの説明によれば、AI政策に取り組む501(c)(3)団体の多くは効果的利他主義(Effective Altruism)運動と関係があり、この運動は目の前の労働者保護よりも仮説上の存亡リスクを優先しがちだといいます。これは批判派自身の見立てですが、実践的な助言は単純です。AIガバナンスについて公衆を代弁すると称する団体があれば、誰が資金を出しているかを確認する、ということです。

批判派の見るところ、最後の盲点は労働です。AIシステムに法人としての地位を与える議論は、自律型企業が雇用や経済全体にどう影響するかという点をほとんど飛ばしてきました。

注目すべき点とできること

デラウェア州の提案は、人間の運営者がいない企業のために特別に設計された法的構造を生み出すものです。賛成か反対かにかかわらず、この議論は、同種の枠組みであれば必ず答えなければならない問いを浮かび上がらせました。

  1. 自律型の主体が誰かに損害を与えたとき、誰がどの資産で責任を負うのか
  2. 「十分な資本」とは金額や比率で具体的にいくらなのか
  3. エージェントを強制停止する必須の手段はあるのか
  4. 州には認可した主体を監督する人員と手段があるのか
  5. 企業間取引が消費者に波及した場合、消費者はどう保護されるのか

批判派の懸念を共有するデラウェア州の住民に推奨される行動は直接的です。州の上院・下院議員に連絡し、サンドボックスが承認される前に厳格な責任ルールと用語の定義を求めること、そしてNetwork Delawareのような草の根の連合体とつながることです。法案を完全に止められないとしても、最初のAICが認可される前に定義、執行、被害者の救済が条文に書き込まれるよう、あらゆる段階で抵抗を加えることを反対派は勧めています。他の地域の読者にとっての教訓は、議会がこれから認可しようとしているものを現実的に監督できるのかを見極め、机に誰も座っていない企業が生まれたとき、誰が利益を得て誰がリスクを負うのかを問うことです。