AIガバナンスとは、組織や社会がAIシステムの開発、展開、利用を責任を持って管理するために設ける方針、手続き、役割、統制の体系を指す。リスク管理、透明性、説明責任、データ保護、法令順守などを扱い、企業内部の管理体制と政府・国際機関による規制の双方を含む。
企業レベルではAIモデルやエージェントの利用を承認・監視する手続きやツールを意味し、制度レベルではEU AI Actのような法規や、NIST AI Risk Management Framework、ISO/IEC 42001のような標準が代表的な枠組みとされる。