Meta首席技术官安德鲁·博斯沃思描述了一种围绕明确边界构建的“隐私 AI”：人们应能使用云端 AI，而不让服务器管理员接触自己的查询内容。除此之外，配备摄像头的眼镜还有另一项保护措施：可见的录制指示灯。单靠其中任何一项，都无法回答 AI 产品是否值得信任的所有问题。博斯沃思更广泛的观点是，隐私保护、可靠的行为以及审慎的风险评估都很重要。
录制指示灯解决的是另一类问题
配备摄像头的可穿戴设备会让周围的人面临一个问题：他们能否知道设备何时正在录制？博斯沃思表示，Meta的摄像头眼镜配有可见的实体 LED 指示灯，录制时会亮起。这盏灯让周围的人知道设备正在拍摄；但它无法说明设备将数据发送到云端后，AI 服务会如何处理佩戴者的数据。
▲ 智能眼镜的可见录制指示灯
Meta还提供不带摄像头、仅支持音频功能的眼镜。博斯沃思称，这类眼镜更轻、更便宜，电池续航也更长。对于想用眼镜打电话、听音乐，却不想佩戴摄像头的人来说，去掉摄像头改变了隐私问题本身，而不是依靠指示灯来应对。
这一区别很重要，因为“隐私”可以指不同的保护措施。可见的指示灯关乎佩戴者周围的人；云端保护措施关乎佩戴者与 AI 服务的交互。评估其中一项，不能代替评估另一项。
Private Cloud Processing旨在保护什么
博斯沃思将Meta的Private Cloud Processing描述为一种防止云服务器运维人员接触AI查询的方式。在这一设计中，设备与云端之间传输的数据采用Signal Protocol端到端加密，以保护数据在两端之间的传输。云端则在可信执行环境（TEE）中处理数据：这是一个通过硬件隔离的区域，旨在将处理工作与常规的服务器访问隔开。
▲ 硬件隔离的云端处理
博斯沃思表示，在这一架构下，即使是服务器管理员也无法查看或留存用户查询内容。Meta与Signal Protocol的创建者共同设计了这套系统。Meta还发布了介绍该架构的白皮书，并提供漏洞赏金，鼓励外部安全研究人员对其进行检查。
有了这些细节，这套隐私方案就比“会谨慎处理数据”之类的笼统承诺更为具体。其声称提供的保护，针对的是云端处理过程中谁能接触AI查询。这与录制指示灯不同，后者解决的是摄像头设备附近的人能看到什么。评估这一主张时，读者可以查看已发布的架构资料和外部安全测试的途径，而不是把宽泛的“隐私 AI”标签本身当作解释。
隐私保护不等于助手可靠
AI助手可以保护查询内容的隐私，却仍可能误解用户想做什么。博斯沃思从实用角度解释AI对齐——让AI系统按照用户意图行事：工具应完成用户想做的事，并避免执行用户不希望它执行的操作。当智能体能够实际完成任务，而不只是显示信息时，这个问题就更加重要。
Meta新近发布的Muse助手，说明了能力主张与可用产品之间的区别。对外发布前，员工已在工作中使用Muse，以发现缺陷和使用中的不顺之处。博斯沃思还强调对话体验，例如让人愿意与智能体协作的互动人格；Muse的一个特点是会提出不同意见，而不是一味附和。他认为，与助手在实际使用中的表现相比，学术测试成绩提升10%至20%，可能更难说明人们在日常使用中能否信任它。
博斯沃思认为，可穿戴设备中的AI智能体可以让人们用自然语言表达意图，而不必通过窗口和精确点击来完成每项任务。正因为有这种便利，检验助手能否可靠地遵循用户意图也就更有必要。加密保护的是体验中的另一个方面。
风险需要判断，而非一概而论
博斯沃思对更大范围AI风险的看法，应与Private Cloud Processing的技术机制区分开来。他认为，如今的对话模型并不具备意识，而通用人工智能（AGI）——具备广泛通用能力的AI——仍有一段距离。他并未将灾难性结果发生的数学概率定为零，但基于自己对当前模型的理解，他认为灭绝情景缺乏依据。
他更倾向于采取有条理的工程方法：测试产品、持续改进，并在隐私保护还需要完善时推迟发布。他还认为，现有的责任规则以及用户是否愿意采用一款产品，会形成避免有害故障的激励。这些是他对如何权衡和管理风险的判断，并非加密或隔离处理环境的技术属性。
建立信任之前该检查什么
实际评估应从区分各项承诺开始。对于配备摄像头的眼镜，查看是否有可见的录制指示灯；如果不需要摄像头，则考虑纯音频设计是否更符合预期用途。对于云端AI，查看已发布的架构资料如何描述加密与硬件隔离所保护的内容，以及外部研究人员是否有途径检验这些主张。对于助手，应看它在实际任务中能否遵循指令、处理错误并给出有用的回应，而不只是看测试分数。
Private Cloud Processing说明了谁应能接触AI查询。录制指示灯关乎可穿戴设备周围的人。审慎测试则检验AI工具是否按预期行事。能否建立信任，取决于弄清每项保护措施究竟要解决什么问题。