前 Anthropic 研究员对 BBC 称业内人士"真的害怕"
离职研究员 Jacob Coxon 称从业者对进展速度感到恐惧，业内对这些警告的真诚性看法分歧明显。
从 Anthropic 离职的研究员 Jacob Coxon 对英国广播公司（BBC）表示，从事人工智能（AI）研发的人对技术进展的速度以及它对人类可能造成的后果"真的感到害怕"。
这位27岁的研究员说："我认为如果不在当前的进展速度上放慢，我们所有人在不久的将来都有很大可能死亡。"他的辞职帖文在接受采访前已在社交平台广泛传播。加入 Anthropic 之前，他曾在 OpenAI 工作。
他的前上司、Anthropic 负责人 Dario Amodei 在周六发表的文章中写道，开发这项技术本身并无疑问，但相关风险"严重"，必须给企业和政府时间来应对。OpenAI 的 Sam Altman 与 xAI 的 Elon Musk 均表示，认同全行业减速、监管以及对模型开发进行独立监督的提议。
Coxon 对减速表示欢迎，但认为这需要与中国协调，以避免"国际规模的竞赛"。Amodei 列出的风险之一是：大量机器人像超级计算机一样行动并接管互联网。Coxon 称这种情形在六个月到一年内可能成为现实。他还说，一些同行"正考虑在某处买地"，因为担心快速进展带来的不稳定。同时，研究人员也希望看到治愈疾病等正面结果。
Anthropic 的回应与质疑
Anthropic 发言人对 BBC 表示，公司一直坦承 AI 会带来巨大收益和前所未有的风险，其模型配备业内最强的一些防护措施，并且是首家发布风险缓解框架的公司。
Anthropic 科学家 Evan Hubinger 称，他个人认为未来十年内 AI 杀死全人类的概率高于10%。Geoffrey Hinton 对 BBC 表示，10% 这一数字"并非不合理"。另一方面，Hugging Face 首席执行官 Clement Delangue 说，就灭绝风险询问 Coxon，"就像问空调维修工气候变化"。Grindr 首席执行官 George Arison 认为这些表态意在争取投资者支持。多名在场人士告诉 BBC，Nvidia 负责人黄仁勋在一场会议上把 Coxon 的说法否定为不实。
详情见 BBC News。
