セーフティケース(safety case)とは、あるシステムが定められた環境と用途において許容できる程度に安全であるという主張を、証拠とともに体系的に示した論証である。原子力、航空、鉄道、防衛といった安全性が重要な産業で、規制当局がシステムの運用を承認する前に事業者に求める文書として長く用いられてきた。
AI分野では、フロンティアAIモデルの開発者がモデルの学習や展開に先立って、そのモデルが破滅的な危害をもたらさない根拠を示すよう求める管理枠組みとして提案されている。危険な能力がないことを示す評価結果、モデルが危害を加えようとしても防げる制御手段、モデルが人間の意図に沿って振る舞う証拠などが論証の根拠となる。開発者が自己評価を公開する方式や規制当局が審査する方式が議論されている。