jailbreak(탈옥)는 AI 분야에서 대규모 언어 모델 등 AI 모델에 설정된 안전 규칙과 사용 제한을 우회해, 모델이 원래 거부하도록 만들어진 출력을 내놓게 하는 행위를 뜻한다. 역할극을 시키거나, 지시문을 다른 언어나 암호로 감추거나, 긴 대화로 모델을 서서히 유도하는 등 여러 기법이 알려져 있다.
모델 개발사는 jailbreak를 막기 위해 학습 단계의 안전 훈련과 함께 입력·출력을 검사하는 분류기(classifier)를 두며, 이 분류기가 무해한 요청까지 막는 오탐이 모델 제한 논쟁의 한 축이 된다. 비슷한 개념인 prompt injection은 외부 데이터에 숨긴 지시로 모델을 조종하는 공격을 가리키며, 사용자가 직접 제한을 풀려는 jailbreak와 구별된다.
본래 스마트폰 등 기기의 제조사 제한을 풀어 비공식 소프트웨어를 설치하는 행위를 뜻하는 말이기도 하다.