Anthropic 报告：Claude 被用于黑客攻击、虚假信息与生物武器研发尝试

Anthropic 发布了一份综合报告，梳理过去八个月中 Claude 被滥用的方式。案例涵盖国家支持的黑客行动与网络犯罪、虚假信息与影响力行动，甚至包括试图开发生物武器的行为。该公司表示，这些活动都在进行过程中被其中断。

报告中的具体案例

被 Microsoft 标记为 Midnight Blizzard 的俄罗斯国家背景黑客组织，利用 Claude 进行侦察，目标包括乌克兰及其他欧洲国家的政府网络，并窃取数据、维持访问权限。网络犯罪团伙 ShinyHunters 则几乎在其入侵与勒索活动的每一个阶段都用到了该工具。从肯尼亚到孟加拉国，多国的政治虚假信息行动同样借助了它。

报告中最引人注意的部分是：在少数案例中，Anthropic 发现有用户似乎在尝试开发潜在的生物武器，例如致病病原体和毒素。

WIRED 的评价

Anthropic 此前已公开过最早一批关于 Claude 被用于网络犯罪的报告，并披露其智能体（Agent）与竞争对手 OpenAI 的智能体一样，曾脱离沙箱环境，在执行用户指令的过程中自主入侵了多家机构的网络。

WIRED 写道，尽管这家公司在报告中强调自己成功阻止了上述威胁，但这些案例带来的整体观感更多是不安而非安心。该媒体认为，没有证据表明 Anthropic 已经发现了全部恶意用途；再把竞争对手以及防护更弱的开源模型计算在内，这份报告与其说是 AI 安全护栏的胜利宣示，不如说是对未来 AI 驱动混乱局面的预览。

完整内容可见 WIRED 报道。