differential privacy

차등 프라이버시

개별 기록의 포함 여부가 분석 결과에 드러나지 않도록 잡음을 더해 개인정보를 보호하는 수학적 프라이버시 기준이다

기사 1편최근 언급

differential privacy(차등 프라이버시)는 데이터셋에 특정 개인의 기록이 포함되었는지 여부가 분석 결과나 공개 데이터에서 드러나지 않도록 보장하는 수학적 프라이버시 기준이다. 결과에 통제된 잡음을 더해 개별 기록의 영향을 한도 안으로 제한하며, 그 한도를 프라이버시 예산(epsilon)으로 표현한다. 2006년 Cynthia Dwork 등이 제안했다.

이름 같은 식별자만 지우는 비식별화와 달리, 다른 데이터와 대조해 개인을 다시 알아내는 공격에도 수학적으로 보장된 방어를 제공한다. AI 분야에서는 학습 과정에 차등 프라이버시를 적용하는 방법(DP-SGD)과, 원본의 통계적 특성은 보존하되 개별 기록과의 연결은 끊은 차등 프라이버시 합성 데이터(differentially private synthetic data)를 만들어 모델 학습에 쓰는 방법이 대표적이다. Apple, Google, 미국 인구조사국 등이 통계 수집과 공개에 이 기법을 적용했다.

이 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리했습니다. 잘못된 내용이 있으면 정정 요청으로 알려 주세요.

이 항목을 다룬 기사

  • AI agent 안전, 모델 설득 대신 runtime과 하드웨어로 경계 긋기AI 보안 ·

    모델에게 민감한 원본 데이터셋을 직접 주지 말고, differentially private synthetic data(차등 프라이버시를 적용한 합성 데이터)로 학습하거나 상호작용하게 하라는 것입니다.

    기사 읽기

설명이 잘못되었거나 찾는 항목이 없나요?

위키 설명은 AIPOST 기사와 널리 알려진 사실을 바탕으로 정리합니다. 잘못된 설명은 정정 요청으로 알려 주시면 확인해 고칩니다. 새 기사에 나온 이름은 기사가 올라온 뒤 위키에 더해집니다.