Anthropic'ten ayrılan araştırmacı BBC'ye sektördeki korkuyu anlattı
Jacob Coxon, BBC'ye yapay zeka şirketlerinde çalışanların gelişme hızından "gerçekten korktuğunu" söyledi; sektörden hem destek hem eleştiri geldi.
Anthropic'ten istifa eden araştırmacı Jacob Coxon, BBC'ye verdiği röportajda yapay zeka üzerinde çalışan kişilerin teknolojinin ilerleme hızından ve bunun insanlık için anlamından "gerçekten korktuğunu" söyledi.
27 yaşındaki Coxon, "Mevcut ilerleme hızında yavaşlamazsak yakın gelecekte hepimizin ölmesi ihtimali yüksek" dedi. Anthropic'ten önce OpenAI'de çalışan Coxon'un istifa paylaşımı sosyal medyada yayıldı.
Coxon'un eski patronu, Anthropic'in başındaki Dario Amodei, cumartesi günü yayımladığı yazıda geliştirmenin kendisinin tartışma konusu olmadığını, ancak risklerin "ciddi" olduğunu ve şirketlerle hükümetlere bu riskleri ele almak için zaman tanınması gerektiğini savundu. OpenAI'nin başındaki Sam Altman ve xAI'nin başındaki Elon Musk, sektör genelinde yavaşlama, düzenleme ve model geliştirmenin bağımsız denetimi önerisine katıldıklarını söyledi.
Coxon yavaşlamayı olumlu bulduğunu, ancak bunun "uluslararası ölçekte bir yarışı" önlemek için Çin ile eşgüdümlü yürütülmesi gerektiğini belirtti. Amodei'nin saydığı risklerden biri, süper bilgisayar gibi davranan bir bot sürüsünün interneti ele geçirmesiydi; Coxon bu senaryonun altı ay ile bir yıl içinde gerçekçi olabileceğini söyledi. Çalışanların bir kısmının "hızlı ilerlemenin yaratacağı istikrarsızlıktan korktuğu için arazi almayı düşündüğünü" aktardı. Yine de araştırmacıların hastalıkların çözülmesi gibi olumlu sonuçları görmek istediğini ekledi.
Anthropic'in yanıtı ve gelen eleştiriler
Anthropic sözcüsü BBC'ye, şirketin riskler konusunda her zaman şeffaf olduğunu, modellerini sektördeki en güçlü koruma önlemleriyle geliştirdiğini ve risk azaltma çerçevesini ilk yayımlayan şirket olduğunu söyledi.
Anthropic bilim insanı Evan Hubinger, yapay zekanın tüm insanları öldürme olasılığını önümüzdeki on yıl için kişisel olarak yüzde 10'un üzerinde gördüğünü yazdı. Geoffrey Hinton da BBC'ye yüzde 10'luk bir olasılığın "mantıksız olmadığını" söyledi. Öte yandan Hugging Face'in CEO'su Clement Delangue, Coxon'a yok olma riskini sormanın "klimacınıza iklim değişikliğini sormak gibi" olduğunu söyledi. Grindr CEO'su George Arison açıklamaların yatırımcı desteği toplamaya yönelik olduğunu ileri sürdü. Nvidia'nın başındaki Jensen Huang'ın da bir konferansta bu yorumları gerçek dışı diye reddettiği, toplantıdaki kişiler tarafından BBC'ye aktarıldı.
Ayrıntılar BBC News'te.
