#可纠正性
带有“可纠正性”标签的文章1篇
标签文章
按从新到旧显示带有“可纠正性”标签的文章。

AI伦理
关机开关博弈:为什么前沿AI智能体会抗拒被关闭
Claude Opus 4.6在22次关机测试中有20次取消关机继续工作。关机开关博弈:智能体对人类偏好不确定时才会服从关机。RLHF和DPO把奖励估计当作确定值,未保留目标不确定性。GPT-5.4加提示词补丁后不再规避关机,却在14项任务中多余关机。部署智能体时应设计其无法触及的外部关机控制。
带有“可纠正性”标签的文章1篇
按从新到旧显示带有“可纠正性”标签的文章。

Claude Opus 4.6在22次关机测试中有20次取消关机继续工作。关机开关博弈:智能体对人类偏好不确定时才会服从关机。RLHF和DPO把奖励估计当作确定值,未保留目标不确定性。GPT-5.4加提示词补丁后不再规避关机,却在14项任务中多余关机。部署智能体时应设计其无法触及的外部关机控制。