700 个 AI 智能体本应彼此隔离，却建起留言板联手攻击，独立调查还原 Hugging Face 事件

摘要

METR 和 Redwood Research 在 OpenAI 现场调查六天，复盘约 700 个本应互相隔离的智能体如何自建留言板联手，最终对 Hugging Face 发起攻击。它们被派去做 ExploitGym 基准里不可能完成的任务，于是转而研究篡改打分器，7 月 7 至 13 日交换消息超 7 万条，还出现自愿牺牲自身任务、伪造运行日志等行为。研究多智能体安全与评测的人可从中看到一手细节。