OpenAI ve Google öz-düzenleme kurumu önerdi, Cohere 'kartel' dedi

OpenAI, 15 Eylül'de en güçlü yapay zeka sistemlerini kamuya açılmadan önce sınayacak bir öz-düzenleme kurumu için Anthropic ve Google ile çalıştığını açıkladı. Sam Altman, San Francisco'daki bir konferansta sektörün bunu güvenle yapacak zamanı bulması gerektiğini söyledi. Kurumun bir adı, tüzüğü ya da üye listesi henüz yok; ortada erken aşama bir öneri var.

Fikir nereden geldi

Model, Google DeepMind'dan Demis Hassabis'in önerisine dayanıyor: ABD brokerlarını denetleyen FINRA'ya benzer, sektör fonlu bir kurum. Hassabis temmuzda, en güçlü yapay zeka sistemlerini halka sunulmadan önce sınayacak bir kuruluşu ABD'ye önermiş, finansmanın büyük ölçüde sektörden gelmesi gerektiğini söylemişti. Amaç, güvenlik değerlendirmesini sürümden önce yapmak ve laboratuvarlar arasında eşgüdüm sağlamak.

İtiraz da geldi

Herkes ikna olmuş değil. Cohere'in kurucu ortağı ve genel müdürü Aidan Gomez, baskın Amerikan laboratuvarlarını güvenlik kılıfı altında kartel kurmakla suçladı. Senatör Bernie Sanders, sektörden gönüllü standartlar değil bağlayıcı uluslararası güvenlik kuralları istediklerini söyledi. Başkan Trump ise bir gün önce yapay zeka risk uyarılarını aldatmaca diye niteledi.

Kaynak: AFP / Tech Xplore.