OpenAI'de açık bulana artık 172 bin dolara kadar ödül var

OpenAI'nin ürünlerinde ciddi bir güvenlik açığı bulan bir araştırmacı artık 30 bin dolara, istisnai bir bulguda ise ödüllerle birlikte 172 bin dolara kadar kazanabiliyor. Şirket 2 Kasım'da iki duyuruyu birlikte yaptı: hata ödül programındaki ödülleri büyük ölçüde artırdı ve bir sonraki iç güvenlik sprintini dışarıdan bir güvenlik firması olan Cathedral ile birlikte yürüteceğini açıkladı. Fikir şu: Saldırganlardan önce kendi kapını kendin zorla, bulduğunu da hemen kapat. Bu yazıda sprintin ne olduğunu, önceki turdan çıkan rakamları ve araştırmacıların yeni ödül sisteminden nasıl yararlanabileceğini anlatıyoruz.

Güvenlik sprinti ne

Sprint, OpenAI'nin kendi modelleriyle kendi sistemlerini taradığı yoğun bir dönem. Şirket bir sonraki turda yeni araştırmacıları ve güvenlik ortaklarını kendi ekipleriyle bir araya getireceğini söylüyor. Bu turun ilk ortağı Cathedral. Cathedral'ın araştırmacıları, OpenAI'nin modellerini OpenAI ekipleriyle birlikte kullanarak şirketin savunmalarını zorlayacak. Cathedral'ın kurucu ortağı ve CEO'su Gavin Kliger, OpenAI'nin dış güvenlik firmalarıyla çalışıp kendi modelleriyle savunmasını sürekli test etmesini önemli bir örnek olarak görüyor ve her şirketin bu yetenekleri işe koşmayı düşünmesi gerektiğini belirtiyor.

Sprintin tarihi ve süresi duyuruda yer almıyor. OpenAI bu çalışmayı, zayıflıkları saldırganlardan önce bulup kapatan "sürekli savunma döngüleri" kurma çabasının parçası olarak tanımlıyor ve geleneksel siber savunmaların tek başına artık yetmediğini yazıyor.

Önceki tur neler gösterdi

OpenAI önceki sprintte ürün mühendislerinin yüzde 25'ini sistemlerdeki zayıflıkları bulup düzeltmeye ayırdığını söylüyor. Mühendisler Codex ile bulguları inceledi, açıkları yalıtılmış ortamlarda yeniden üretti ve incelemeye hazır yamalar çıkardı. Şirket bu çalışmanın mimarisini ve derslerini Defense Factory adlı bir sayfada paylaştı. Sayfadaki bilgilere göre:

• Sprint 250'den fazla kişiyi bir araya getirdi ve ilk gün 53 acil ya da yüksek öncelikli sorun kapatıldı.
• Ajanların bulguları doğru ekibe yönlendirmesiyle, ekiplerin sorumluluğu kabul etme oranı yüzde 90,6'ya çıktı.
• Tekrarlı çalıştırmalarla bulguların yüzde 37'sinin aynı sorunun kopyası olduğu anlaşıldı.
• Bulguların yüzde 19,5'i çalışan sistemde yeniden üretildi; bu doğrulamadan sonra yanlış alarm oranı yüzde 0,81'e indi.
• Düzeltmelerin tamamı Codex ile hazırlandı ve geri alınan düzeltme oranı yüzde 0,53'te kaldı.

Bunu bir binanın yangın tatbikatına benzetebilirsiniz: Herkes aynı gün sahaya iniyor, bulunan her çıkış sorunu bir sorumluya veriliyor ve düzeltildiği bağımsız olarak kontrol ediliyor. Defense Factory sayfası bu süreci beş adımlık bir döngü olarak anlatıyor: envanter çıkarmak, açık aramak, açığı çalışan sistemde doğrulamak, doğru ekibe vermek ve düzeltmeyi doğrulamak. OpenAI'ye göre en önemli ders, ajanların açıkları güvenle yeniden üretebileceği, her seferinde sıfırdan kurulan yalıtılmış geliştirme ortamları kurmak oldu.

Araştırmacılar için yeni ödüller

Ödül duyurusuna göre OpenAI orta, yüksek ve kritik bulgular için ödül aralıklarının orta noktasını ortalamada dört katından fazla artırdı. ChatGPT, Codex ya da API Platformu gibi temel ürünlerde kritik bir açık artık 30 bin dolara kadar ödül alıyor. İstisnai kritik bulgular için üst sınır 100 bin dolar olarak kalıyor, yeni ek ödüllerle birlikte 172 bin dolara kadar çıkabiliyor. Yeni sistemin parçaları şunlar:

• Kalite çarpanı: Açığı yalıtan, ne zaman istismar edilebildiğini ve etkisini gösteren güvenilir bir kavram kanıtı içeren raporlar ek çarpan alıyor.
• Sadakat programı: Düzenli rapor gönderen araştırmacılar için beş kademeli bir ek ödül sistemi kuruldu.
• Öncelikli kampanyalar: Yeni çıkan özellikler için kısa süreli, ayrı ödül havuzları açılacak.
• Geriye dönük ödeme: Henüz ödül almamış raporlara yeni aralıklar uygulanacak; duyurudan önceki 30 günde ödenen ödüllerde de aradaki fark ödenecek.

Duyurudaki örneklerden biri farkı iyi gösteriyor: ChatGPT'de tek tıkla hesap ele geçirmeyi sağlayan kritik bir açık için eskiden örnek ödül 6.500 dolarken yeni hesapla ek ödüllerle birlikte 51.577 dolara ulaşıyor. OpenAI'nin güvenlik ekibi 20-21 Kasım'da Oakland'daki PROMPT2PWN etkinliğinde araştırmacılarla yüz yüze görüşecek.

OpenAI ayrıca en yetenekli modellerini Daybreak programı üzerinden savunma ekiplerine açtığını, temel hizmetleri ve dijital altyapıyı koruyan savunucular için altı ay boyunca 1 milyar dolarlık sübvansiyonlu erişim taahhüt ettiğini hatırlatıyor. Güvenlik araştırmacısıysanız, güncel ödül tablosu ve program kuralları duyurudan bağlantı verilen resmi program sayfasında yer alıyor.

Kapak fotoğrafı: 1515 Third Street, San Francisco, Coolcaesar, Wikimedia Commons, CC BY 4.0.

Kaynaklar: OpenAI güvenlik sprinti duyurusu, OpenAI ödül programı duyurusu, OpenAI Defense Factory