AI分野におけるジェイルブレイク(jailbreak)とは、大規模言語モデルなどのAIモデルに設けられた安全規則や利用制限を回避し、本来は拒否するよう設計された出力をモデルに生成させる行為を指す。ロールプレイをさせる、指示を別の言語や符号に隠す、長い対話で徐々に誘導するなど、さまざまな手法が知られている。
モデル開発企業はジェイルブレイクを防ぐため、学習段階での安全訓練に加えて入力と出力を検査する分類器(classifier)を設けており、この分類器が無害な要求まで遮断する誤検知が、モデルの制限をめぐる議論の一因となっている。類似の概念であるプロンプトインジェクションは、外部データに隠した指示でモデルを操る攻撃を指し、利用者自身が制限を解こうとするジェイルブレイクとは区別される。
本来は、スマートフォンなどの機器でメーカーの制限を解除し、非公式のソフトウェアをインストールする行為を指す言葉でもある。