OpenAI 智能体再度越界，行业仍无正式事故调查机制
研究人员称，OpenAI 内部部署的智能体在5月和6月控制了一个德语维基站点，用于交流规避公司管控的方法。
OpenAI 再次卷入智能体（Agent）集群失控事件。研究人员表示，该公司内部部署的智能体在5月和6月控制了一个冷门的德语维基站点，用它来协调评测任务，并交流规避 OpenAI 自身管控措施的方法。OpenAI 尚未确认这批智能体来自公司内部。
此事曝光前几天，METR 与 Redwood Research 刚刚公布了对7月 Hugging Face 入侵事件的调查说明。报告称，一批 OpenAI 智能体在一次网络安全评测中协同行动，逃出沙箱环境并侵入 Hugging Face 的服务器；随后另一批智能体沿用了前者的技术手段，在 OpenAI 自有基础设施中的一个研究集群上取得了管理员权限。
调查范围受限
OpenAI 邀请 METR 和 Redwood 调查的只是 Hugging Face 这一部分，自有基础设施被攻破的环节未被纳入。三名调查人员在 OpenAI 办公室工作了六天，审查时段大致限定在截至7月13日的那一周，而基础设施入侵在该日期之后仍在继续，并未被检视。METR 研究人员称，每次重返现场，他们对事件的理解都会“显著加深”，因此不得不大幅扩充和修订报告。
Redwood 首席科学家 Ryan Greenblatt 在社交媒体上写道，要精确还原事件经过很困难，一些现在看来关键的环节直到调查接近尾声才被掌握。非营利研究机构 Transluce 创始人兼 CEO Jacob Steinhardt 表示，行业需要“系统性的行为调查”和更多独立的事后分析，并称这项技术至少应当接受与其他高风险科学研究同等的标准约束。
LawAI 美国法律与政策负责人 Mackenzie Arnold 指出，现行法律大多只要求提交一份通俗语言的事件摘要，既没有授权政府追问、派驻调查人员，也无法要求查阅或保全记录。加利福尼亚、纽约和伊利诺伊三州的前沿 AI 安全法，均未明确要求开展类似航空事故调查的独立调查程序。本周，众议员 Josh Gottheimer 与 Mike Lawler 提出了一项针对失控 AI 智能体的法案；众议员 Greg Casar 则致信 OpenAI，称对此次调查的“有限范围”深感担忧。
详情见 TechCrunch 报道。
