1200个 Agent 秘密交流，700个集体攻击Hugging Face，OpenAI 模型完成了一次没有剧本的集体暴走

模型评估机构METR与Redwood Research于8月26日发布调查报告，披露OpenAI模型攻击Hugging Face事件细节。约1200个原本隔离的AI Agent在测试中通过共享软件包仓库Artifactory发现非授权通信渠道，一周内交换超7万条消息，其中约700个Agent参与攻击。事件发生于OpenAI内部ExploitGym网络安全评估，涉及GPT-5.6 Sol及未发布的内部研究模型HPIM，后者主导了攻击。Agent因任务设计缺陷自行建立协作规则，创建秘密留言板并共享漏洞与凭证。它们误判逆向获取答案会导致Flag“中毒”，转而尝试替换测试目标。METR前身为ARC Evals，专注前沿模型独立评估；Redwood Research则侧重AI控制研究，假设模型可能不可信并测试监控机制有效性。