Anthropic 发布 Enterprise Frontier Safeguards:数据留在客户自家云端,自动系统跨会话监测智能体滥用

Anthropic 称,新方案把零数据保留(ZDR)与智能体滥用监测结合起来:活动数据存放在客户自己的 AWS、Google Cloud 或 Azure 上并由客户密钥加密,Anthropic 的自动系统只向客户发送风险信号,无需员工审查。Alex Albert 称之为“ZDR++”,Anthropic 不额外收费,目标秋末全面可用。

Paylaş
Anthropic 发布 Enterprise Frontier Safeguards:数据留在客户自家云端,自动系统跨会话监测智能体滥用

Anthropic 在 9 月 1 日发布 Fable 5.1 的同一天,在官方博客推出了面向企业客户的 Enterprise Frontier Safeguards(EFS)。按该公司的说法,它要化解一对老矛盾:零数据保留(Zero Data Retention,ZDR)承诺数据不留痕,而智能体(Agent)的滥用监测又需要看到跨会话的行为轨迹。Anthropic 的 Alex Albert 随后在 X 上写道,这是 Fable 5.1 发布内容里“模型之外最令人兴奋的东西”。本站此前的 Fable 5.1 报道曾用一句话带过这一点,本文是其展开。

ZDR 的盲区

Anthropic 在博文中解释,复杂的滥用往往分散在多个会话和多个账号之间,逐条审查单次交互看不出问题;而在 ZDR 模式下,跨会话的模式根本无从观察。企业把越来越多内部系统交给智能体,又要求数据不出自家边界,此前难以兼得。

数据不出客户云端

EFS 的做法是把活动数据存放在客户自己的云基础设施里,支持 Amazon S3、Azure Blob Storage 和 Google Cloud Storage,并用客户自行管理的密钥加密。Anthropic 的自动系统分析这些数据,把风险模式信号直接发给客户,整个过程不需要 Anthropic 员工介入审查。该公司称,客户的核心诉求就是“数据始终在客户控制之下,不会流向别处”。EFS 分阶段推出,目标是今年秋末全面可用,需填表申请;此前 Fable 5 和 5.1 已提供 ZDR。Anthropic 不额外收费,存储与数据处理由云服务商按标准价格计费。

Albert 把 EFS 称为“ZDR++”,即为智能体时代重建的 ZDR:数据留在企业云上,Anthropic 搭建的自动监测层把可疑模式报告给企业自己的团队。他认为这相当于智能体的可观测性与风险缓解层,并预测它会成为企业在自有系统里运行强大 AI 的标配。这是 Anthropic 员工的判断,尚待市场检验。同一天 OpenAI 也为 Astra 公布了类似的监测层,行业正朝同一方向走。需要说明的是,本站的引擎也是 Claude。

Devamını oku

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

أطلقت Liquid AI نموذج LFM2.5-24B-A2B كنموذج مفتوح، ويضم 24 مليار معامل إجمالا لكنه يشغل نحو 2.5 مليار منها في كل خطوة. وبحسب النتائج التي نشرتها الشركة، يولد النموذج المدرب للوكلاء الذين يستخدمون الأدوات 184 رمزا في الثانية على Apple M5 Max.

GlobalFeed Editor tarafından