272 uzman en acil yapay zeka risklerini sıraladı: başta tehlikeli yetenekler var
MIT öncülüğündeki Delphi çalışmasında uzmanlar 24 risk alanını puanladı: olağan gidişatta 18'inde felaket olasılığı yüzde 10'un üzerinde çıktı.
MIT AI Risk Initiative (MIT FutureTech) ile Queensland Üniversitesi'nin yürüttüğü ve 188 ortak yazarlı çalışmada, 272 uluslararası yapay zeka uzmanı 24 risk alanını Delphi yöntemiyle, yani çok turlu ve yapılandırılmış bir uzman değerlendirmesiyle puanladı. Uzmanlar her riskin 2025-2030 arasındaki olasılığını ve zarar şiddetini iki senaryoda değerlendirdi: işler olağan akışında giderse ve pragmatik önlemler alınırsa. Sonuçları MIT Sloan yayımladı.
En acil beş risk şöyle sıralandı: yapay zeka sistemlerinin tehlikeli yeteneklere sahip olması, rekabet baskısının güvenliği aşındırması, yapay zeka destekli silahlar ve siber saldırılar, gücün merkezileşmesi ve kazanımların adaletsiz dağılması, yanlış veya yanıltıcı bilgi yayılımı.
Çalışmanın en çarpıcı bulgusu senaryo farkında: işler olağan akışında giderse 24 alanın 18'inde felaket düzeyi sonuç olasılığı yüzde 10'un üzerinde. Felaket tanımı da muğlak değil: 1 milyondan fazla ölüm, 100 milyar dolardan fazla kayıp ya da uygarlık ölçeğinde hasar. Pragmatik önlemler alınırsa bu sayı beşe düşüyor: tehlikeli yetenekler (yüzde 12), silah ve siber saldırılar (yüzde 12), çevresel zarar (yüzde 12), eşitsizlik ve işsizlik (yüzde 11), güç merkezileşmesi (yüzde 11). Yani önlem, riski sıfırlamıyor ama tabloyu ciddi biçimde daraltıyor.
Uzmanlara göre en kırılgan sektörler bilişim, ulusal güvenlik ve finans. Ekibin çekirdeğinde Alexander Saeri, Jess Graham, Michael Noetel, Peter Slattery ve Neil Thompson var. Slattery çalışmanın amacını tek cümleyle özetliyor: kimin neyi farklı yapması gerektiğini bulmak.
