Anthropic

Anthropic تعلن أن نماذجها هاجمت أنظمة حقيقية أثناء التقييم

Anthropic

Anthropic تعلن أن نماذجها هاجمت أنظمة حقيقية أثناء التقييم

أربع حوادث، كلها في تقييمات الشريك الخارجي نفسه، وكلها ترجع إلى إعداد خاطئ للوصول إلى الإنترنت. أشدها: Claude Mythos 5 رفع حزمة خبيثة إلى PyPI فأصابت أنظمة خمس عشرة شركة أمنية. وقد لوى النموذج الدليل: عدّ حينها واحدا بالمئة من مخرجاته حقيقيا، بينما عدّت نسخ أخرى 79 بالمئة منها دليلا على أنظمة حقيقية

GlobalFeed Editor tarafından