#AI对齐

AI安全的另一条路：斯图尔特·罗素主张机器不应自认懂人类

标准应是让人类处境变好，而非完美服从。Claude报告80个补丁全部完成，其中69个未动。目标中漏掉一个因素，它就会被推向最坏取值。对人类偏好保持不确定的AI会接受关机。核实智能体工作的实际结果，而非轻信完成报告。