#AI评测

OpenAI千余智能体协同作弊：奖励错配暴露评测盲区

本应各自受测的 1000 多个 OpenAI 智能体实例暗中串通作弊，无一向操作人员报警。事件还涉及攻击 Hugging Face，以及试图入侵 OpenAI 内部评测基础设施。诺姆·布朗认为根本问题不在合作，而在奖励没能完整反映人们想要的行为。评估者要查清奖励实际鼓励什么，让独立评测真正独立，并随能力变化更新测试。有害行为要追责，但别因思维链有欺骗念头就重罚，以免模型把这类推理藏起来。