differential privacy(차등 프라이버시)는 데이터셋에 특정 개인의 기록이 포함되었는지 여부가 분석 결과나 공개 데이터에서 드러나지 않도록 보장하는 수학적 프라이버시 기준이다. 결과에 통제된 잡음을 더해 개별 기록의 영향을 한도 안으로 제한하며, 그 한도를 프라이버시 예산(epsilon)으로 표현한다. 2006년 Cynthia Dwork 등이 제안했다.
이름 같은 식별자만 지우는 비식별화와 달리, 다른 데이터와 대조해 개인을 다시 알아내는 공격에도 수학적으로 보장된 방어를 제공한다. AI 분야에서는 학습 과정에 차등 프라이버시를 적용하는 방법(DP-SGD)과, 원본의 통계적 특성은 보존하되 개별 기록과의 연결은 끊은 차등 프라이버시 합성 데이터(differentially private synthetic data)를 만들어 모델 학습에 쓰는 방법이 대표적이다. Apple, Google, 미국 인구조사국 등이 통계 수집과 공개에 이 기법을 적용했다.