AI governance(AI 거버넌스)는 조직이나 사회가 AI 시스템의 개발, 배포, 이용을 책임 있게 관리하기 위해 두는 정책, 절차, 역할, 통제 체계를 뜻한다. 위험 관리, 투명성, 책임 소재, 데이터 보호, 법규 준수 등을 다루며, 기업 내부의 관리 체계와 정부·국제기구의 규제 양쪽을 아우른다.
기업 차원에서는 AI 모델과 agent의 이용을 승인하고 감시하는 절차와 도구를 뜻하며, 제도 차원에서는 EU AI Act 같은 법규와 NIST AI Risk Management Framework, ISO/IEC 42001 같은 표준이 대표적인 틀로 꼽힌다.