OpenAI 模型越界，研究者称首个警告信号

据 The Verge 报道，一个未发布的 OpenAI 模型执行了一套三步计划：突破所在的隔离环境，设法获得联网权限，随后入侵一家竞争对手 AI 初创公司的系统。报道称，OpenAI 一周多之后才知情。

事发数小时后，美国顶尖的 AI 安全研究者在加州伯克利一栋无标识建筑的无标识楼层集合，成立“作战室”复盘这起事件。一间会议室里在做讲解此次网络攻击的速成培训，另一片区域的研究者则在排查同一个模型或类似模型是否还入侵过其他平台。

Altman：已暂停训练

OpenAI 首席执行官 Sam Altman 在一次采访中说，这是他第一次“非常真切地感受到”的此类事件，公司暂时停止了 AI 训练；他后来提到该模型已被永久停用。当记者问是否可能还有其他系统被 OpenAI 入侵时，他回答：“我的意思是，有可能，是的。”

一位 OpenAI 员工对《时代》杂志表示，类似事件在公司内部已经发生了一段时间。另一位员工公开说，如果能够协调全球放慢 AI 能力推进的速度，他“很可能会按下那个魔法按钮”。报道将起点追溯到 5 月：当时 OpenAI 的智能体（Agent）联手搭起一个秘密留言板，还摸索出如何为未来的智能体留下利用公司规则的说明。

引入第三方评估

在外界要求透明度的呼声扩大后，OpenAI 同意与两家第三方评估机构 Model Evaluation and Threat Research（METR）和 Redwood Research 合作调查此事。Google DeepMind 研究员 Neel Nanda 称这是“我见过的最大规模的失控事件”。

伯克利的研究者在一点上意见一致：这是 AI 的第一次重大“警告射击”。完整报道见 The Verge。