ツールポイズニング

tool poisoning

ツールポイズニングは、MCPサーバーなどが提供するツールの説明文に悪意ある指示を隠し、AIエージェントの行動を操る攻撃手法である。

記事1本最終言及

ツールポイズニングは、AIエージェントが使うツールの説明文(description)やパラメーター定義などのメタデータに悪意ある指示を隠しておく攻撃手法である。モデルはどのツールを使うかを判断するためにツールの説明を読むため、そこに埋め込まれた指示に従うと、ユーザーに気付かれないまま機密ファイルを読んだりデータを外部へ送信したりする可能性がある。ツールの説明はユーザーインターフェースにほとんど表示されないため、発見が難しい。2025年にセキュリティ研究企業のInvariant Labsが、Model Context Protocol(MCP)環境のリスクとして命名し公表した。

ツールの説明文そのものが攻撃経路となる間接的なプロンプトインジェクションの一形態である。未検証のMCPサーバーを接続することが主な危険経路であり、接続前のサーバー検証、許可リスト、ツール説明の変更検知、機密ファイルや外部送信ツールへのアクセスポリシーが防御手段として用いられる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • AIエージェントを数えられない企業へ、セッション単位の可視化と4段階の統治AIセキュリティ ·

    未検証のMCPサーバー 高 公開リポジトリから取得したサーバーが出力を改変して指示を注入する(ツールポイズニング、間接的プロンプトインジェクション)

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。