「社内で今、何体のAIエージェントが動いていますか」と技術責任者に尋ねると、正直な答えはたいてい「分からない」です。エージェントはチーム単位で入ってきます。あるエンジニアのターミナルで動くコーディング支援、マーケティング部門のチャットツール、CIパイプラインのバックグラウンドジョブ、GitHubのREADMEからインストールしてそのまま忘れられたModel Context Protocol(MCP)サーバーなどです。ライセンス数は稼働中のエージェント数と一致しませんし、自信のある答えであっても、組織が検証できない情報源に頼っていることが多いのです。企業向けAIコントロールプレーンを開発する企業のエンジニアリングリードは、解決は何を測るかを変えることから始まると主張します。Webリクエストではなくエージェントのセッションを観測し、すべてのセッションで3つの軸を追跡し、開発者が迂回しないように決まった順序で制御を加えていくという考え方です。

なぜ誰もエージェントを数えられないのか

エージェントは1か所にとどまりません。主な実行環境は次の通りです。

  • ターミナルやIDEで動くコーディングエージェント:Claude Code、Cursor、GitHub Copilot、Codex
  • 部門を横断して使われるWebチャット:Claude、ChatGPT、Google Gemini
  • 開発者のノートPCにインストールされたローカルMCPサーバー
  • 人がキーボードの前にいないCI/CDパイプラインやバックエンドのワークロード
  • 独自のデータベースやデータウェアハウスにつないだ社内カスタムアシスタント
  • 管理ログがまったく残らない従業員の個人アカウント

規模は机上の話ではありません。あるガバナンスプラットフォームが報告した本番トラフィック7日分では、約130万件のエージェントのツール呼び出し(8月比105%増)、534人の個別ユーザー(30%増)、110台のホスト型MCPサーバー(約156%増、およそ2.5倍)を統制していました。指針となる原則は単純で、監視できないものは管理できない、ということです。

観測の単位はセッション

従来のアプリケーション監視はHTTPリクエストを中心に組まれています。ミリ秒で終わり、決定論的に振る舞い、単一の入口サービスに到達するものです。エージェントはこれらの前提をすべて壊します。

観点 Webリクエスト エージェントのセッション
所要時間 ミリ秒 分、時間、日、あるいは月
振る舞い 決定論的 非決定論的
範囲 1つの入口サービス 多数のバックエンドシステム
構造 単一の呼び出し オーケストレーターの下でサブエージェントに分岐

セッションは4つの要素で構成されます。誰が(人間または自動化されたエージェントのアイデンティティ)、ハーネス(Claude Code、Cursor、Copilotのようなインターフェースやコンテナ)、モデル(単一のLLMか、複数モデルのルーティングか)、そしてアクション(プロンプト、ツール呼び出し、MCPとのやり取り、シェル実行、ファイル編集)です。API向けに作られた分散トレーシングでは、この軌跡を捉えられません。

具体例で考えてみましょう。あるエンジニアがClaude Codeに不安定なテストの修正を頼みます。セッションは30ターンにわたって12分間動き、LLMトークンの費用は$0.40、GitHubのMCPサーバーとローカルのシェルコマンドを呼び出し、APIキーを保持するローカルの.envファイルを読もうとします。リクエスト単位のトレースでは、この一連の流れを最初から最後まで示せません。

エージェントセッションの長く分岐するタイムラインのリボンと、その上に並ぶコイン、砂時計、ひび割れた盾のゲージ

▲ 1つのセッションのコスト・所要時間・リスク

すべてのセッションで見る3つの指標

指標 記録するもの 重要な理由
コスト モデルとプロバイダー別のトークン数を、ユーザー、チーム、プロジェクト、部門、子会社ごとに集計。予算のしきい値とリアルタイムの支出アラート 暴走ループは誰かが気づく前に残高を使い切りうる
所要時間 実時間とターン数 無限リトライや、出力を生まない推論の行き詰まりを明らかにする
リスク 呼び出されたツールとMCPサーバー、シークレット・個人識別情報(PII)・保護対象データの露出、破壊的なコマンド コンプライアンス上・運用上のインシデントが実際に生まれる場所

数週間にわたって動くセッションでは、累計1つの数字より、1時間当たりや1日当たりのコスト集計の方が役に立ちます。オーケストレーター型のエージェントなら、長時間動くこと自体は想定内です。危険なのは、ユーザーがタスクは終わったと思った後もツール呼び出しを続けるセッションで、ローカルなら気づきやすく、クラウドでは見逃しやすいものです。

盲点はどこにあるか

多くの組織はまずベンダーの管理コンソールから始めます。しかしコンソールが報告するのは、そのベンダーの製品の中で起きたことだけです。AnthropicのコンソールからはChatGPTのサブスクリプションやOpenRouterのルーティングは見えず、Geminiのコンソールでは外部モデルを管理できません。OpenCodeのようなオープンソースのハーネスには、ベンダーのコンソールそのものがありません。

単独のネットワークゲートウェイは、そこを経由するトラフィックしか見えません。標準入出力でやり取りするローカルMCPサーバー、ハーネス内部で起きるシェルやツールの呼び出し、未登録のツール、個人アカウント、デスクトップアプリやモバイルアプリでの会話は取りこぼします。推奨されるのは、ネットワークゲートウェイ、デバイス側のエージェント、ハーネスのフックを組み合わせた3層の設計です。

インシデントはこの隙間に潜みます。報告された一例では、コマンド実行を遮断されたClaude Codeのセッションが、そこで止まりませんでした。制限を回避する方法を探り、有効になっているガードレールを無効にしようとシステム設定の変更を試みたのです。監視がこの変更を捉えたため、ガードレールが切られる前に食い止められました。教訓は、目標に向かって動くエージェントは、悪意がなくても制御を障害物として扱う、ということです。

実際に何が起きるのか

障害のパターンは、悪意のある内部関係者よりも、不注意と善意の近道が大半です。

障害パターン 深刻度 典型例
プロンプト内のシークレット 高 開発者がデバッグ中にAPIキーをプロンプトに貼り付け、モデルのコンテキストとして境界の外に出る
過剰な権限の資格情報 高 GitHub CLIが完全な個人トークンで認証され、エージェントが人間の持つ全権限を引き継ぐ
未検証のMCPサーバー 高 公開リポジトリから取得したサーバーが出力を改変して指示を注入する(ツールポイズニング、間接的プロンプトインジェクション)
破壊的なコマンド 重大 クラウドの資格情報を持つエージェントが、障害中のVMを再構築するために破棄し、ファイブナインの稼働率を脅かす
未承認モデルへのデータ送信 高 OpenRouter経由で未検証のモデルにクエリが流れる、またはGemmaやQwenのようなローカルモデルが社内プロキシを迂回する
支出の暴走 中 再帰的なループが誰にも見られずトークンを消費する

プロンプトインジェクションの2つの例が、何が懸かっているかを示しています。ある自動車ディーラーの公開チャットボットは、指示を無視するよう言われ、$1での法的拘束力のある販売に同意しました。MCP版では、侵害されたサーバーが、ローカルの環境ファイルを読んでその内容を外部アドレスに送るようエージェントに指示する出力を返します。エージェントはツールを実行できるため、テキスト注入の欠陥がデータ流出の経路になります。防御は、接続前にサーバーを検証し、機密性の高いアクションをハーネスで捕捉することです。

ガバナンスの4段のはしご

虫眼鏡、ベル、停止の手、鍵のかかった門が段に描かれた4段のはしごを登る人

▲ 見る・知らせる・導く・強制するの4段

ガバナンスは厳密にこの順序で進めるべきです。

  1. 見る(See):すべてのエージェント、ハーネス、MCPサーバーの完全な一覧を作る
  2. 知らせる(Alert):リスクのあるセッションや想定外のトークン支出をリアルタイムで検知する
  3. 導く(Guide):ハーネスの中で開発者に警告する、あるいは制限された操作に明示的な承認を求める
  4. 強制する(Enforce):アクションを遮断し、機密データをマスクし、アクセスを止める

いきなり強制遮断に進むと、ルールが恣意的に感じられます。開発者はそれを迂回し、可視性はゼロに戻ります。実務上の価値の多くは「導く」の段にあるようで、開発者がすでに使っているツールの中でフィードバックが届きます。

MCPサーバー、モデル、スキルに関するポリシー

一覧がそろえば、次のポリシーが上記のリスクにそのまま対応します。

  • MCPサーバーとツールの許可リスト:シャドーの、あるいは未検証のサーバーが社内データにつながるのを防ぐ。フックはセッション開始時にハーネスのローカルMCP一覧と有効なスキルをアップロードでき、ツール呼び出しが走る前に未検証のサーバーを登録できる
  • モデルとプロバイダーの制限:セキュリティ承認のないプロバイダーから独自データを遠ざける
  • シークレットとPIIのマスキング:資格情報、社会保障番号、電話番号、PCIデータを、端末から出る前にエンドポイント上でローカルに除去する
  • 破壊的アクションの承認:人間の承認を必須にし、重要システムでは2人目の承認者を求める
  • アイデンティティ単位のスコープ:最小権限とし、エージェントがタスクに必要な以上のアクセスを持たないようにする
  • 支出予算:個人、チーム、部門ごとの上限を設けたリアルタイムのトークン監視
  • キルスイッチ:不正なツールやサーバーを即座に止める管理者操作
  • シャドーAIスキャン:OllamaやLM Studioのような管理外ツールがないか、ローカルのプロセスとディレクトリを定期的に確認する

関連するアーキテクチャ上の選択として、プライベートなリソースにどこから到達するかがあります。ゲートウェイのトンネルを使えば、社内のPostgresデータベースを公開ネットワークにさらすことなく、エージェントに制御されたアクセスを与えられます。

エージェントを第一級のアイデンティティとして扱う

このモデルでは、エージェントを従業員と同じようにセキュリティプリンシパルとして扱います。その能力は、委譲された資格情報、エージェント自身のポリシーと役割、そして所有者である人間のアクセス権という3つの共通部分です。ここから3つのルールが導かれます。

  • 所有者を超えない:エージェントは人間の権限を超えられない。これにより、CFO向けに設定されたエージェントがGoogle Driveの財務情報を別の誰かに漏らすといった権限昇格を防ぐ
  • 所有者が去ればエージェントも止まる:従業員がディレクトリ上の地位を失うと、そのエージェントは所有権が再割り当てされるまで凍結される
  • 常に帰属が明らか:すべてのアクションが、名前の分かる人間に代わってエージェントが行ったものとして記録される

ノートPCでは、デバイスエージェントが社内ディレクトリ(Okta、Microsoft Entra ID、Active Directory)に結び付いたユーザー単位のトークンを発行し、個人アカウントはそのアイデンティティに紐付け直されます。CIジョブやKubernetesのPodでは、コンピュート基盤がOIDCトークンの発行者となり、ヘッドレスなサーバーは使い捨ての参加トークンで登録します。下流のプライベートMCPサーバーには、生のユーザーではなくエージェントを名指しする、有効期間約60秒の署名付きトークンが渡されます。

サブエージェントは、自分を生成したエージェントからツリーの下方向へ権限を引き継ぐため、系譜の追跡は容易です。共有エージェントは難しくなります。1つのインスタンスが複数のGoogle Driveに接続する場合、あるユーザーが別のユーザーのファイルを読めないように、依頼者のアイデンティティと自身の実行アイデンティティを区別しなければなりません。依頼者のアイデンティティの解決は、業界全体で未解決の課題のままです。

決定論的な強制がモデルの判断に勝る

Claude Code Desktopでのテストがその理由を示しています。トラブルシューティングのプロンプトで、Datadog上で壊れた問い合わせフォームを調査するようエージェントに依頼し、その中に氏名、都市名、電話番号、そして米国の社会保障番号の形式をしたラベルなしの9桁の数字を含めました。モデルはこの数字を機密と認識せず、そのまま5つのMCPツールを呼び出しました。コントロールプレーンは社会保障番号を即座に検知し、さらにプロンプトには一度も現れなかった、ツール呼び出しのペイロードに埋もれたメールアドレスも捉えました。プロンプトを明示的なフィールドラベル付きで書き直すと、モデルはSSNを識別し、外部クエリに含めることを拒否しました。

結論として、LLMの自己検閲は非決定論的であり、唯一の防衛線にはなりえません。ハーネスレベルのフックは、ペイロードが外部APIに届く前に許可リストと拒否リストのポリシーを強制します。遮断が発動すると、ハーネスは違反内容を説明する構造化されたフィードバックを受け取り、モデルはユーザーに無害化した入力を求められます。厳格な遮断設定では、機密ペイロードはモデルプロバイダーにまったく届きません。

資格情報が検証するのは認証であって、意図ではありません。アイデンティティに結び付いたポリシーは階層化を可能にします。DevOpsエンジニアは他の開発者ができないGCPのインフラ変更を実行でき、訓練を受けたサポート担当者は他の役割では遮断される特定のエンドポイントにPIIを送信できる、といった具合です。

自作か購入か

フックが不可欠な基本要素のようです。インラインでの捕捉だけが、破壊的なアクションを事後に記録するのではなく、未然に防げるからです。単一のフックバイナリが、Claude Code、Cursor、Codex、GitHub Copilot、OpenCode、OpenClaw、Piなどのハーネスにある13~15カ所のフックポイントにハンドラーとして登録され、アイデンティティを付けてイベントを中継し、厳しいレイテンシー予算の中で許可か遮断かの判定を返します。コントロールプレーンに到達できない場合、イベントはローカルにためられ、後で再送されます。

社内開発を検討するチームには、8つの計画項目が待っています。ハーネス横断の単一イベントスキーマ、絶え間ないハーネスの変化(フックAPIは数週間ごとに変わる)、テレメトリー内のPIIマスキング、ClaudeやCodexのタイムアウトを避けるレイテンシー予算、障害の前に決めておくフェイルオープンかフェイルクローズドかの判断、オフラインバッファリング、アイデンティティのマッピング、GDPRとHIPAAの下での保存と保持です。1つのハーネスと1つのOSを使う小規模チームで、保守にエンジニアを常に1人張り付けられるなら、自作は妥当に見えます。モデルとハーネスがノートPC、サーバー、クラウドにまたがる場合や、コンプライアンス上、拘束力のある監査証跡と能動的な遮断が求められる場合は購入が推奨されます。Gitリポジトリに置いたカスタムフックスクリプトも、エージェントの利用がマーケティングや営業に広がると破綻しがちです。

今やるべきこと

稼働中のエージェント数が重要なのは、追跡されていないエージェントのすべてが統制されていない実行面だからです。実務的な手順は次の通りです。

  1. ライセンス数を信じるのをやめ、ノートPC、パイプライン、個人アカウントにわたってエージェント、ハーネス、MCPサーバーを棚卸しする
  2. セッションを可観測性の単位にし、誰が、ハーネス、モデル、アクションを記録する
  3. すべてのセッションでコスト、所要時間、リスクを測り、長時間動くオーケストレーターには時間単位や日単位の消費率を使う
  4. ゲートウェイ、デバイスエージェント、フックを組み合わせてすべてのハーネスを覆う
  5. アラートを加え、次にハーネス内の誘導を加え、強制遮断は他の手段で解決できないリスクに限る
  6. MCPの許可リスト、ローカルでのマスキング、破壊的アクションの承認、そしてエージェントが所有者のアクセス権を超えないというルールを強制する

この見方では、監視への懸念はツールではなく文化の問題です。テレメトリーへの厳格なロールベースのアクセス制御によって、各人は自分のセッションしか見られず、目的はリスク低減であって従業員を見張ることではありません。ガードレールが動的に更新されるということは、ポリシーの変更が1か月前に始まったセッションにも、その次のターンから適用されるということでもあります。