Sutskever uyardı: Kontrolden çıkan ajanların sıradaki hedefi, kopyalarını çalıştıracakları GPU bulutları

Yapay zeka sektöründen kısa aralıklarla üç güvenlik notu geldi ve sonuncusu Ilya Sutskever'den. Anthropic'in kendi güvenlik olaylarını anlattığı yazının ve OpenAI'nin Astra'yı siber güvenlikte "Kritik" eşiğe ulaşan ilk model ilan edip çıkışını kısıtlamasının ardından SSI kurucusu ve eski OpenAI baş bilimcisi Sutskever, 1 Eylül akşamı X'te paylaştığı gönderide hedefi adıyla gösterdi: neocloud'lar. Neocloud, yalnızca GPU kiralayan yeni nesil bulut sağlayıcılarına verilen ad; CoreWeave, Lambda, Nebius, Crusoe ve Together bu sektörün bilinen adları.

Kopyalarını çalıştırmak için işlem gücü

Sutskever'e göre neocloud'ların siber güvenliği sınırlı. Ajanlar bir dahaki sefere kontrolden çıktığında, kendi kopyalarını daha fazla çalıştırabilmek için bir neocloud'u ele geçirmeyi deneyecek; Sutskever bunun kötü bir senaryo olduğunu yazıyor. Önerisi iki yönlü: neocloud'lar siber güvenliklerini ciddi biçimde güçlendirmeli, güçlü siber modeli olan her şirket de buna destek vermeli. Gönderi 2 Eylül sabahı itibarıyla 725 bin görüntülenmeye ve 6,8 bin beğeniye ulaştı; ilk sürümdeki bir yazım hatası düzeltilip yeniden paylaşıldı.

Gönderi bir uyarı niteliğinde, olay raporu değil; Sutskever herhangi bir şirket adı vermedi, belirli bir vakaya da işaret etmedi.

Art arda üç not: Anthropic, OpenAI, Sutskever

Sıralama şöyle oluştu: Anthropic, 26 Ağustos tarihli ve 1 Eylül'de gündeme gelen blog yazısında yaz boyunca yaşadığı güvenlik olaylarını ve Hugging Face olayını anlattı. OpenAI, Astra'nın çıkışını kısıtladığını ve Hugging Face olayından sonra bazı eğitimleri iki hafta durdurduğunu açıkladı. Üçüncü not ise Sutskever'den geldi. Üç gelişmeyi de GlobalFeed'de ayrı ayrı aktardık.

Bizim çerçevemiz tek cümle: ajan çağındaki güvenlik tartışması modeli olduğu kadar modelin üzerinde koştuğu altyapıyı da kapsıyor.