差分プライバシー

differential privacy

個々の記録の有無が分析結果から分からないようノイズを加えて個人情報を守る数学的なプライバシー基準

記事1本最終言及

差分プライバシーとは、特定の個人の記録がデータセットに含まれているかどうかが分析結果や公開データから分からないことを保証する数学的なプライバシー基準である。出力に制御されたノイズを加えて個々の記録の影響を一定の範囲内に抑え、その範囲をプライバシー予算(イプシロン)で表す。2006年にCynthia Dworkらが提案した。

氏名などの識別子を削除するだけの匿名化とは異なり、他のデータと突き合わせて個人を再特定する攻撃に対しても数学的に保証された防御を提供する。AI分野では、学習過程に差分プライバシーを適用する手法(DP-SGD)や、元データの統計的特性を保ちつつ個々の記録との結びつきを断った差分プライバシー合成データを生成してモデル学習に用いる手法が代表的である。Apple、Google、米国国勢調査局などが統計の収集や公開にこの技術を適用している。

この説明は、AIPOSTの記事と広く知られた事実をもとにまとめたものです。誤りがあれば訂正依頼でお知らせください。

この項目を扱った記事

  • NVIDIAが公開したOpenShell、AIエージェントを止める「越えられない壁」AIセキュリティ ·

    代わりに、差分プライバシーを適用した合成データ、つまり元のデータセットの統計的パターンを保ちながら、個人との結びつきを数学的に断ち切った人工的なレコードを使って学習や問い合わせを行うべきだというものです。

    記事を読む

説明の誤りや、見つからない項目はありますか?

事典の説明は、AIPOSTの記事と広く知られた事実をもとにまとめています。誤りは訂正依頼でお知らせいただければ、確認して修正します。新しい記事に登場した名前は、記事の公開後に事典に加わります。