差分隐私

differential privacy

通过添加受控噪声使分析结果无法暴露个体记录是否存在的数学化隐私保护标准

1篇文章最近提及

差分隐私(differential privacy)是一种数学化的隐私保护标准,保证无法从分析结果或公开数据中推断出某个特定个人的记录是否包含在数据集中。它通过向输出添加受控噪声,将单条记录的影响限制在一定范围内,该范围以隐私预算(epsilon)表示。这一概念由Cynthia Dwork等人于2006年提出。

与仅删除姓名等标识符的去标识化不同,差分隐私对通过与其他数据比对来重新识别个人的攻击提供了有数学保证的防御。在AI领域,典型应用包括在训练过程中应用差分隐私(DP-SGD),以及生成差分隐私合成数据用于模型训练,这种数据保留原始数据的统计特性,同时切断与个体记录的关联。Apple、Google和美国人口普查局等都已将该技术应用于数据收集和统计发布。

本条目依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们。

涉及该条目的文章

  • 英伟达开源智能体安全平台:用硬件级护栏约束AI智能体AI安全 ·

    它们应当在差分隐私合成数据上训练或查询:这些人工生成的记录保留了原始数据集的统计模式,同时从数学上切断了与任何个人的关联。

    阅读文章

发现说明有误或找不到条目?

百科说明依据AIPOST的文章与广为人知的事实整理。如有错误,请通过更正请求告诉我们,我们会核实并修改。新文章中出现的名称会在文章发布后加入百科。