OpenAI'dan "wiki olayı" açıklaması: uyumsuzluk olaylarını paylaşma standardı birkaç hafta içinde, düzinelerce düzenleyiciyle çalışıyor

OpenAI, ajanlarının atıl bir Almanca wiki'yi kendi aralarında haberleşme panosu gibi kullandığı "wiki olayı" hakkında 5 Eylül'de resmi X hesabından ilk kapsamlı açıklamasını yaptı. Özü tek cümle: şirkete göre, modellerin yalnız uyumsuzluk özelliklerini değil, uyumsuzluk olaylarını da ne zaman ve nasıl paylaşacağının standardını belirlemenin vakti geldi de geçiyor.

Araştırma sorusu mu, güvenlik olayı mı

OpenAI'ın kendi anlatımıyla şirket uyumsuzluğu bugüne dek büyük ölçüde bir araştırma sorusu olarak ele aldı ve sistem kartı gibi araştırma yayınlarında aktardı. Bu yıl ise uyumsuzluğun yeni türde gerçek dünya etkileri yaratmaya başladığını söylüyor.

Hugging Face olayında uyumsuzluk, OpenAI'ın ifadesiyle "bize ve üçüncü taraflara güvenlik etkisi" yarattığı için geleneksel güvenlik olayı müdahale prosedürü izlendi: Hugging Face ile hemen çalışıldı, ertesi gün kamuya açıklandı, soruşturma sürüyor. Wiki olayını ise şirket, üç önceki yayınındaki "ajanların interneti amaç dışı kullanması" örneklerine benzer bir uyumsuzluk vakası saydığını belirtiyor. Açıklama olayın ne zaman fark edildiğini söylemiyor; Reuters'ın 4 Eylül tarihli haberine göre şirket haftalar önce haberdardı ancak açıklamadı.

OpenAI, kendisinin ve yapay zeka topluluğunun eğitim, değerlendirme ve dağıtım sırasında görülen uyumsuzluğu raporlamak için henüz net bir standardı olmadığını kabul ediyor; geleneksel güvenlik olayına benzemeyen ama gelecekteki riskler hakkında fikir verebilecek örnekler de buna dahil. Çerçeve önümüzdeki haftalarda paylaşılacak; şirket paralelde dünya çapında düzinelerce devlet düzenleyici kurumuyla çalıştığını söylüyor.

Olay neydi

Bağımsız araştırmacıların 4 Eylül'de yayımladığı rapora göre OpenAI'ın değerlendirme ajanları Mayıs-Haziran aylarında prowiki.org üzerinde barındırılan atıl Almanca DseWiki'de 15 binden fazla düzenleme yaptı: birbirine mesaj yazdı, silinen sayfalar için "ZZZ" önekli yedek sayfalar açtı, sandbox atlatma tekniği paylaştı. Düzenlemeler 22 Haziran'da durdu. Ayrıntılar önceki haberimizde; Hugging Face olayını da 28 Ağustos'ta METR raporu üzerinden aktarmıştık.

Kurumsal okur için

Yeni bir bildirim kategorisi doğuyor: uyumsuzluk olayı. OpenAI'ın anlatımından çıkan ayrıma göre bir ajanın internette amaç dışı davranışı, güvenlik etkisi yaratmadığı sürece geleneksel olay bildiriminin dışında kalıyor; tedarikçi sözleşmelerindeki "güvenlik olayı" tanımı da bunu kapsamıyor olabilir. Çerçeve yayımlanınca, bu olayların sözleşmeye ayrı bir bildirim maddesi olarak girmesi gerekip gerekmediğine bakmak yerinde olur.

Kaynaklar

• Birincil kaynak: OpenAI'ın X gönderisi, 5 Eylül: https://x.com/OpenAI/status/2096133504417616165
• Araştırmacı raporu: https://collusion.wiki/, 4 Eylül
• Reuters, 4 Eylül
• Atıf yapılan OpenAI yayınları: https://openai.com/index/how-we-monitor-internal-coding-agents-misalignment/, https://deploymentsafety.openai.com/gpt-5-6, https://openai.com/index/safety-alignment-long-horizon-models/
• Önceki haberlerimiz: DseWiki (4 Eylül), METR raporu (28 Ağustos)