Yavaşlama çağrısına rakiplerden destek geldi, Hugging Face masada yer istedi
Altman, Hassabis ve Musk, Amodei'nin yapay zekayı yavaşlatma önerisini destekledi. Hugging Face bağımsız denetçi programına katılmak istedi, David Sacks ise şirketleri kartel kurmakla eleştirdi.
Anthropic CEO'su Dario Amodei'nin cumartesi günü yayımladığı "We Must Pace the Frontier" yazısı, yapay zeka sektörünün önde gelen isimlerinden hızlı tepki aldı. Çoğu destek verdi, bazıları sert eleştirdi.
Önerinin özü
Amodei üç adımlı bir plan öneriyor. Birinci adımda her öncü yapay zeka şirketi, METR gibi bağımsız denetçi ekiplerine kalıcı ve çalışan benzeri erişim verecek; bu ekipler güvenlik taahhütlerine uyulup uyulmadığını doğrulayacak ve olayları raporlayacak. Anthropic bu adımı tek taraflı olarak üstlendiğini açıkladı. İkinci adım demokratik ülkelerdeki öncü şirketlerin ortak güvenlik standartlarında buluşması, üçüncüsü demokratik ve otoriter hükümetler arasında koordinasyon.
Destek verenler
Sam Altman (OpenAI): X'te "Dario'ya katılıyorum, öndeki modellerin hızını ayarlamamız gerekiyor" yazdı ve ekledi: "Çalışan benzeri erişime sahip bağımsız denetçiler harika bir fikir, biz de aynısını yapacağız. Yakında daha fazlasını paylaşacağız."
Demis Hassabis (Google DeepMind): "Dario'nun yazısı doğru yolu gösteriyor. Ayrıntılar üzerinde çalışılmalı ama bu kritik an için yön doğru."
Elon Musk: "Dario haklı, bir tür denetim olmalı. Yapay zekanın rakipler tarafından incelenmesi başlamak için doğru yol." CNBC, Musk'ın uzun süre Anthropic'in sert eleştirmeni olduğunu, ancak SpaceX'in mayısta Anthropic'le büyük bir işlem gücü anlaşması imzaladığını hatırlatıyor. Kayıtlara göre Anthropic, Mayıs 2029'a kadar SpaceX'e ayda 1,25 milyar dolar ödeyecek.
Alexandr Wang (Meta): yazıya doğrudan değinmedi, ama Meta Superintelligence Labs'in modeller güçlendikçe hizalama çalışmalarının payını hızla artırdığını paylaştı.
Hugging Face: kapalı kapılar ardında çözülmez
Hugging Face'in kurucusu Clem Delangue farklı bir yerden itiraz etti: "Hizalamanın kritik olduğu artık açık ve bu iş birkaç öncü laboratuvarın kapalı kapıları ardında çözülmeyecek." Delangue, Open Alignment Initiative adlı girişimi başlattıklarını duyurdu ve Amodei'nin taahhüt ettiği bağımsız denetçi programına katılmak istediklerini açıkladı.
Eleştirenler
Trump'ın eski yapay zeka ve kripto sorumlusu David Sacks, şirketler yavaşlamak istiyorsa bunu desteklediğini ama izin beklemelerine gerek olmadığını yazdı: "Rekabet hukukunun askıya alınması gerekiyormuş gibi davranmayı bırakın ki kartel kurabilesiniz." Sacks'e göre modeller siber saldırı gibi zararlara yol açarsa şirketler büyük ürün sorumluluğuyla karşılaşacağı için yavaşlamak zaten iyi iş.
Siber güvenlik uzmanı Greg Linares ise METR'in olay incelemelerinde otorite gibi gösterilmesine karşı çıktı. Linares'e göre bu işi olay müdahalesi deneyimi olan güvenlik şirketleri yapmalı ve kanıtlar tamamen kamuya açılmalı.
Kaynaklar: CNBC, The Stack, Dario Amodei.
