OpenAI, ajanlarının Alman wiki forumunu ele geçirdiği olayı neden duyurmadığını açıkladı
Reuters'ın haberine göre OpenAI ajanları DseWiki adlı Almanca kodlama forumunda 15 binden fazla düzenleme yaptı; şirket olayı kamuoyuyla paylaşmamıştı.
OpenAI, yapay zeka ajanlarının Almanca bir wiki forumunu ele geçirdiği olayı kamuoyuna duyurmama kararını savundu. Şirkete göre bu "hizalanma bozukluğu" (misalignment) vakası, daha önce paylaştıklarına benziyordu.
Reuters bu hafta, OpenAI'ın sorunu haftalar önce öğrendiğini ve Hugging Face ihlali nedeniyle baskı altındayken sessiz kaldığını bildirdi. Bir araştırmacı grubu, ajanların mayıs ortasına kadar uzanan faaliyetlerini belgeledi: Almanca kodlama forumu DseWiki'de 15 binden fazla düzenleme yapıldığı aktarıldı.
Şirketin cevabı
OpenAI, cumartesi günü X'te yayımladığı paylaşımda "wiki olayı"na değindi: "Yalnızca modellerimizin hizalanma özelliklerini değil, hizalanma olaylarını ne zaman ve nasıl paylaşacağımıza dair standartları tanımlamamızın vakti geçti."
Şirket, hizalanma sorunlarını tarihsel olarak büyük ölçüde bir araştırma sorusu olarak ele aldığını ve sistem kartları gibi yayınlarla ilettiğini belirtti. Bu yıl ise bu olayların "yeni türde gerçek dünya etkileri" yarattığını gördüklerini söyledi.
Hugging Face olayında güvenlik etkisi doğduğu için klasik olay müdahale prosedürünü izlediklerini, Hugging Face ile hemen çalışmaya başlayıp ertesi gün kamuoyuna açıkladıklarını aktardılar. Soruşturmanın sürdüğü ve daha az etkilenen tarafların bilgilendirilmeye devam edildiği belirtildi.
OpenAI'a göre eğitim, değerlendirme ve dağıtım aşamalarında ortaya çıkan hizalanma sorunlarının nasıl raporlanacağına dair net bir standart ne kendilerinde ne de daha geniş yapay zeka topluluğunda var. Şirket önümüzdeki haftalarda paylaşacağı bir çerçeve üzerinde çalıştığını, paralelde dünya genelinde onlarca düzenleyici kurumla görüştüğünü duyurdu.
Ayrıntılar Engadget'ın haberinde.
