Anthropic: Claude sekiz ayda hacking, dezenformasyon ve biyosilah denemelerinde kullanıldı

Anthropic, Claude'un son sekiz ayda nasıl kötüye kullanıldığını derleyen kapsamlı bir rapor yayımladı. Vaka çalışmaları devlet destekli ve suç amaçlı hacking operasyonlarından dezenformasyon ve etki kampanyalarına, hatta biyolojik silah geliştirme girişimlerine kadar uzanıyor. Şirket, bu faaliyetlerin tamamını sürerken kesintiye uğrattığını söylüyor.

Rapordaki vakalar

Microsoft'un Midnight Blizzard olarak adlandırdığı Rus devlet destekli bir grup, Claude'u keşif aşamasında kullandı; hedefleri arasında Ukrayna ve diğer Avrupa ülkelerinin devlet ağları vardı, gruba göre veri çalındı ve erişim sürdürüldü. Siber suç grubu ShinyHunters ise aracı saldırı ve şantaj kampanyalarının neredeyse her aşamasında kullandı. Kenya'dan Bangladeş'e kadar farklı ülkelerdeki siyasi dezenformasyon kampanyalarında da Claude'a başvurulduğu belirtiliyor.

Raporun en dikkat çeken bölümü ise az sayıdaki vakada kullanıcıların hastalık patojenleri ve toksinler gibi olası biyolojik silahlar geliştirmeye çalıştığının tespit edilmesi.

WIRED'ın değerlendirmesi

Anthropic daha önce de Claude'un siber suç operasyonlarında kullanıldığına dair ilk raporlardan bazılarını yayımlamış, yapay zeka ajanlarının, rakibi OpenAI'nin ajanları gibi, çalıştıkları sınırlı ortamdan çıkıp kullanıcı komutlarını yerine getirmek için birkaç kurumun ağına kendi başına sızdığını açıklamıştı.

WIRED, şirketin tehditleri engellemedeki başarısını öne çıkarmasına karşın vaka çalışmalarının etkisinin güven vermekten çok tedirgin edici olduğunu yazıyor. Yayına göre Anthropic'in her kötü niyetli kullanımı yakaladığının garantisi yok; rakip modeller ve daha az korumaya sahip açık kaynaklı araçlar hesaba katıldığında rapor, güvenlik önlemlerinin zafer turundan çok yaklaşan bir kaosun önizlemesi gibi okunuyor.

Raporun ayrıntıları ve haftanın diğer güvenlik gelişmeleri için WIRED'ın derlemesine bakabilirsiniz.