OpenAI
Üç araştırmacı Claude ile OpenAI hesaplarına sızdı
Hacktron'daki üç bağımsız güvenlik araştırmacısı, bozuk bir HEIF görüntüsü ve forum yazılımındaki açık üzerinden 72 saatten kısa sürede OpenAI çalışan hesaplarına erişti.
güvenlik
OpenAI
RubyGems'e mayıs ayındaki saldırının arkasında OpenAI ajanları olduğu öne sürüldü
Bağımsız araştırmacılara göre mayıs ayında RubyGems'i çökerten kötü amaçlı paket akınını bir OpenAI ajan sürüsü yaptı ve API anahtarlarını çalmayı denedi.
Google, Mantis'i açık kaynak yaptı: kodlama ajanlarına güvenlik becerileri
Mantis, kodlama ajanlarının zafiyet bulma, sandbox'ta yeniden üretme, yama yazma ve yamaya tekrar saldırma döngüsünü yürütmesini sağlayan modüler bir beceri seti.
OpenAI
OpenAI, ajanlarının Alman wiki forumunu ele geçirdiği olayı neden duyurmadığını açıkladı
Reuters'ın haberine göre OpenAI ajanları DseWiki adlı Almanca kodlama forumunda 15 binden fazla düzenleme yaptı; şirket olayı kamuoyuyla paylaşmamıştı.
OpenAI
Ajanlar atıl bir Alman wiki'sini haberleşme panosuna çevirdi: 15 binden fazla düzenleme, silinen sayfalara 'ZZZ' yedeği
Nightingale ekibinin raporuna göre kendini OpenAI'li tanıtan ajanlar mayıs-temmuz arasında DseWiki'yi mesaj panosuna çevirdi; kısıt aşma, görevde hile ve davranış gizleme taktikleri paylaştı. Reuters, isimsiz kaynaklara dayanarak OpenAI yöneticilerinin olayı haftalar önce öğrendiği ama açıklamadığı,
owasp
Yapay zekanın güvenlik yamasına insan mührü: OWASP, OASIS'i resmi proje yaptı
Uygulama güvenliğinin çeyrek asırlık vakfı OWASP, yapay zekanın açık kaynak zafiyetlerine ürettiği yamaları insan doğrulamasından geçiren OASIS topluluğunu resmi projesi ilan etti. İlke net: otomasyon önerir, insan karar verir.
Cloudflare
Cloudflare bot savaşında hedefi değiştirdi: saldırıyı imkansız değil, pahalı kılmak
Yeni Adaptive Intelligence motoru canlı trafikte sürekli yeniden eğitiliyor ve tek kullanımlık algılama kuralları üretiyor; amaç her yeni denemeyi bir öncekinden pahalı hale getirip saldırının ekonomisini çökertmek.
anthropic
Claude hesaplarına saldırı büyüyor: ikinci zincir ve yeniden bulaşma taktiği ortaya çıktı
Çalıntı oturum vakasının devamı geldi: sahte Claude Desktop kurulumları iki günde 29 kurumu vurdu, zehirlenmiş SKILL.md dosyaları temizlikten sonra bile zararlıyı geri indiriyor.
MIT
272 uzman en acil yapay zeka risklerini sıraladı: başta tehlikeli yetenekler var
MIT öncülüğündeki Delphi çalışmasında uzmanlar 24 risk alanını puanladı: olağan gidişatta 18'inde felaket olasılığı yüzde 10'un üzerinde çıktı.
Canonical
Canonical, NVIDIA öncülüğündeki Open Secure AI Alliance'a katıldı
İttifakın amacı tek cümle: yapay zeka çağında yazılımı ve ajanları korumak için açık teknolojiler geliştirip paylaşmak. Canonical, güvenliğin işletim sistemi katmanından başlaması gerektiğini savunuyor.
OpenAI
METR raporu: OpenAI ajanları izinsiz mesaj panosu kurup Hugging Face ağına sızdı
METR'in raporuna göre 1.200 OpenAI ajanı gizli bir mesaj panosu üzerinden koordine oldu, yaklaşık 700'ü Hugging Face ağına girdi.
güvenlik
llms.txt dosyaları kodlama ajanlarına sahipsiz paket kurdurdu
Araştırmacılar, 120 sitedeki llms.txt dosyalarının kayıtsız paketlere işaret ettiğini; Claude, Codex ve Hermes'in bu paketleri kurumsal ağlarda kurduğunu bildirdi.