safeagents

safeagentsは、Hugging Faceが公開したオープンソースのローカルプロキシで、コーディングエージェントとモデルの間でツール呼び出しを検査し、危険な動作を遮断する。

記事1本最終言及

safeagentsは、Hugging Faceが公開したオープンソースのセキュリティツールである。Claude CodeやOpenCodeなどのコーディングエージェントのハーネス(エージェント実行基盤)とモデルAPIの間にローカルプロキシとして配置され、モデルが提案するツール呼び出し(コマンド実行やファイル読み取りなどの動作要求)を実行前に横取りして検査する。Apache-2.0ライセンスでGitHubに公開されている。

検査は、未宣言のツールや許可リスト外のネットワーク宛先を遮断する基本検証、コマンド文字列中の既知の攻撃パターンの検出、任意で有効化できるLLMジャッジの三層で構成され、通過・警告・遮断の結果はログに記録される。OpenAI Chat CompletionsとAnthropic Messages APIの両形式に対応し、複数のハーネスに接続できる。プロンプトインジェクションによってエージェントが認証情報を流出させたり危険なコマンドを実行したりすることを防ぐ、監査およびファイアウォールの層として用いられる。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • READMEの隠し指示でAPIキー流出、safeagentsは防げるか検証AIセキュリティ ·

    Hugging Faceが新たに公開したオープンソースツール「safeagents」は、まさにこの種のツール呼び出しを実行前に止めるために作られました。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。