Amodei: sektör yapay zekanın riskleri hakkında yıllarca yalan söyledi
Anthropic CEO'su Dario Amodei, CBS'e verdiği röportajda yavaşlama çağrısının arkasındaki kaygıyı anlattı. En zor sorunun Çin olduğunu, teknolojiyi özel bir şirketin geliştirmesinden rahatsızlık duyduğunu söyledi.
Anthropic CEO'su Dario Amodei, cumartesi günü yayımladığı yavaşlama çağrısının ardından CBS'in "Sunday Morning" programına konuştu. Röportaj şirketin San Francisco'daki merkezinde çekildi.
"Size yalan söylemeyeceğim, gerçek tehlikeler var" diyen Amodei şöyle devam etti: "Bence sektör uzun süre insanlara bu teknolojinin riskleri olduğu konusunda yalan söyledi."
"Panik değil, uyarı işareti"
Amodei, yapay zekadaki ilerlemenin üstel bir eğri izlediğini ve bu eğrinin dikleşmeye başladığını söyledi: "Bu, bugün panik yapmamız ya da her şeyi kapatmamız gerektiği anlamına gelmiyor. Ama bir uyarı işareti. Yavaşlamamız gerektiğini gösteren bir uyarı işareti." İlerlemenin bu kadar hızlı olmasının nasıl bir şey olacağını tam olarak kavrayamadığını da kabul etti.
Anthropic'in daha gelişmiş model yayımlamayı bırakıp bırakmayacağı sorulunca "Bu o anlama gelmiyor" dedi. Amaç, çıkan her model neslinin düzgün sınanması.
Bunun için Anthropic, bağımsız denetçilere modellerine kalıcı ve "çalışan benzeri" erişim verecek. Amodei bunu gıda denetçisine benzetiyor: bir şirket model geliştirdiğinde, taahhüt ettiği güvenlik uygulamalarına uyup uymadığını üçüncü bir taraf doğrulayabilecek.
Acil durdurma düğmesine evet, yasağa hayır
Amodei, federal düzenlemeyi desteklediğini söyledi. ABD'de gündemdeki teklifler süper zekayı tamamen yasaklamaktan zorunlu acil durdurma düğmesine kadar uzanıyor. "Acil durdurma düğmesi iyi bir fikir olabilir" diyen Amodei, tamamen yasaklamaya karşı çıktı. İki gerekçe gösterdi: tıbbi tedaviler gibi faydalardan vazgeçilmesi ve teknolojinin otoriter ülkeler dahil başka yerlerde zaten geliştirilecek olması.
"En zor ikilem" Çin
Çin yavaşlamazsa ABD'nin yavaşlaması gerekip gerekmediği sorusuna "Bu en zor ikilem, durumumuzun en zor yanı" diye cevap verdi. Model olarak ABD ile Sovyetler Birliği arasındaki nükleer silah anlaşmalarını gösterdi, ama beklentisinin düşük olduğunu da ekledi: "Uzun vadede yapay zeka ilerlemesine birlikte bir hız sınırı koymak gerekir. Bunun çok zor olacağını düşünüyorum, çünkü öne geçmenin ve bunun sağladığı askeri üstünlüğün teşviki çok büyük. Dürüst olmak gerekirse mümkün mü bilmiyorum, ama denemeliyiz."
CNBC'nin hatırlattığına göre Çin Devlet Başkanı Şi Cinping de pazar günü Hindistan'daki BRICS zirvesinde uzlaşıya dayalı küresel bir yapay zeka yönetişim çerçevesi çağrısı yaptı. Trump ile Şi'nin 24 Eylül'de Beyaz Saray'da görüşmesi ve yapay zekayı konuşması bekleniyor.
"Özel bir şirketin yapması tuhaf"
Kişisel sorumluluğu sorulunca Amodei, bu teknolojinin özel bir şirket tarafından geliştirilmesinin baştan beri tuhaf olduğunu söyledi: "İnsanlar bana hep neden bunu devletin yapmadığını soruyor. İşin en tuhaf yanı, onlara katılıyorum. Rahatsızım."
Teknolojiyi devlete devretmeye hazır olup olmadığı sorusuna "Doğru hükümetler bileşimine" cevabını verdi. Tek bir hükümetin de tek bir şirket kadar kolay kötüye kullanabileceğinden endişe ettiğini, demokratik yollarla seçilmiş hükümetlerin ortak denetimini daha doğru bulduğunu söyledi.
