Anthropic araştırmacısı: Yapay zekanın tüm insanları öldürme olasılığı yüzde 10'un üzerinde

Anthropic'te güvenlik ekiplerinden birini yöneten Evan Hubinger, yapay zekanın on yıl içinde "tüm insanları öldürme" olasılığını kendi tahminiyle 10'da 1'den yüksek gördüğünü söyledi. Açıklama, bir meslektaşının şirketten güvenlik kaygılarıyla ayrılmasının birkaç saat ardından geldi.

Anthropic'te yapay zeka sistemleri eğiten, daha önce OpenAI için de model eğitmiş olan Jacob Coxon, X'te yaptığı paylaşımda şirketin güvenliğe gevşek yaklaşımı nedeniyle istifa ettiğini duyurdu. Coxon iki şirketi "doğrudan kendini geliştiren süper zekaya yarışmak ve hayatlarımızla kumar oynamakla" suçladı; ona göre "yapay zekayı inşa edenler bunun on yılın sonuna kadar hepimizi öldürebileceğine samimiyetle inanıyor".

"Henüz bir planımız yok"

Hubinger doğrudan yanıt verdiği paylaşımda kendini geliştiren yapay zeka konusunda endişeli olduğunu, bunun "düşündüğümüzden hızlı gerçekleştiğini" belirtti ve Coxon'un tarifine katıldı: "Yapay zekanın tüm insanları öldürebileceğine gerçekten samimiyetle inanıyoruz."

Buna karşın Hubinger, Anthropic'in ileri seviye yapay zekanın güvenli kalmasını ve insan değerleriyle uyumlu olmasını sağlamak için "henüz bir planı olmadığını", böyle bir plana giden net bir yolda da olmadıklarını söyledi. Coxon'a göre şirketler ileri sistemleri ilk geliştirmek için "bir yarışa kilitlenmiş" durumda ve "riske rağmen" ilerliyor.

Sektörde kendini geliştiren sistemlerin insan denetiminden çıkabileceği, özyinelemeli kendini geliştirme diye anılan döngü uzun süredir tartışılıyor. Bu henüz gerçekleşmedi, ancak şirketler bu hedefi aktif biçimde kovalıyor ve bugün yazılan yapay zeka kodunun büyük bölümü yapay zeka yardımıyla üretiliyor.

Coxon'un ayrılışı, OpenAI'daki güvenlik kaygıları sonrası eski OpenAI çalışanlarınca kurulan Anthropic'ten en görünür ayrılıklardan biri. Son yıllarda birçok araştırmacı OpenAI'dan ayrılma gerekçesi olarak güvenlik kaygılarını göstermişti.

Ayrıntılar için The Verge.