レッドチームred team
レッドチームは攻撃者の視点から組織やAIシステムの防御を試し、弱点や対応力を確認するチームである。
記事3本
最終言及 レッドチームは攻撃者の役割を担い、模擬攻撃によって組織やシステムの防御を試すチームである。範囲を定めた脆弱性検査にとどまらず、攻撃の検知や対応まで評価する場合もある。軍事演習で敵役を務める部隊を指す言葉に由来し、情報セキュリティ分野に広まった。
この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。
この項目を扱った記事
研究機関はレッドチーミング、つまり公開前に意図的にモデルの弱点を探る手法を世代ごとに強化してきました。
独立した監査や、テスターがシステムの弱点を探るレッドチーミングは、問題の発見に役立ちます。