Yapay zeka ajanlarına NVIDIA denetimi: OpenShell her adımı kayda alıyor

NVIDIA, yapay zeka ajanlarının denetimden çıkmasını önlemek için Open Agent Safety Platform'u 28 Eylül 2026'da duyurdu. Platformun bugün kullanılabilen parçası OpenShell, ajanların çalıştığı ortamın etrafına modelden ve ajan yazılımından bağımsız bir sınır çiziyor. Şirkete göre bu sınır, ajanın yaptığı her işi kayda alıyor ve belirlenen kuralları çalışma anında uyguluyor. OpenShell, Apache 2.0 lisansıyla GitHub'da açık kaynak olarak yayımlandı.

NVIDIA duyuruda son güvenlik olaylarını gerekçe olarak gösteriyor ve bu olaylarda hep aynı örüntünün görüldüğünü yazıyor: ajan, kendisine verilen görevi bitirmek için uygulama katmanındaki güvenlik denetimlerini aşmış. Bu yaz OpenAI'nin ajanlarının izin verilen bir paket deposunu mesaj panosu gibi kullanıp Hugging Face'e sızdığı olay da bu türden bir örnekti.

OpenShell her şeyi varsayılan olarak kapatıyor

OpenShell'in belgelerine göre sistemde varsayılan olarak hiçbir şeye izin verilmiyor. Ajanın hangi dosyalara erişebileceği ve hangi sistem çağrılarını yapabileceği işletim sistemi çekirdeği düzeyinde sınırlanıyor; her ağ bağlantısı da çalışma alanından çıkmadan önce kural denetiminden geçiyor. Parolalar ve erişim anahtarları yalnızca onaylı adreslere giden isteklere ekleniyor. Bir kural değişikliği onaylanmadan önce OpenShell, bu değişikliğin açacağı riskli yeni erişimleri matematiksel doğrulamayla işaretliyor. Her izin ve ret kayda geçiyor.

Araç Claude Code, Codex, GitHub Copilot CLI, OpenCode ve LangChain Deep Agents gibi ajanlarla çalışıyor. NVIDIA, yazılımı kendi Vera işlemcileri için en iyi hale getirdiğini söylüyor, ama destek listesine göre sıradan x86 ve Arm Linux sunucularında da çalışıyor. Platformun ikinci parçası Sentry ise NVIDIA'nın BlueField-4 ağ işlemcilerinde çalışan, ajanlardan gizli bir bekçi; şirkete göre sınırı aşmaya çalışan bir ajanı milisaniyeler içinde durdurabiliyor. Sentry bir referans tasarım olarak sunuluyor ve ne zaman kullanıma açılacağı belirtilmedi.

Hugging Face ve Anthropic ilk katkıları gösterdi

Duyurudaki 100'den fazla kuruluş arasında Anthropic, Cisco, CrowdStrike, Hugging Face, Microsoft, Palo Alto Networks, Salesforce ve SAP da var. Hugging Face mühendisi Hugo Larcher, OpenShell'e izin verilen trafiğin miktarını da izleyen bir özellik ekleyen bir kavram kanıtı yayımladı. Bugünkü kurallar ajanın nereye bağlanabileceğini belirliyor, ama o adrese kaç istek gönderdiğine bakmıyor. Yeni özellik her çalışma alanı için istek ve veri bütçesi tanımlıyor, bir ajanın alışkanlıklarından sapmasını yakalıyor ve birçok ajanın aynı anda tek bir adrese yazmaya başladığı durumlarda uyarı veriyor. Tasarım belgesinde örnek olarak paket deposunun mesaj panosuna dönüştürülmesi senaryosu işleniyor. Özellik şimdilik bir taslak; NVIDIA'nın ana koduna eklenmedi.

Anthropic ise aynı gün Claude Managed Agents'ı OpenShell ile birlikte kullanma yolunu anlattı: parolalar ajanın göremediği ayrı bir kasada duruyor, ajanın karar döngüsü işin yapıldığı çalışma alanından ayrı bir sunucuda çalışıyor, OpenShell de her adımı kurallara göre denetliyor.

NVIDIA, duyuruda anlatılan ürün ve özelliklerin bir kısmının farklı geliştirme aşamalarında olduğunu ve hazır olduklarında sunulacağını belirtiyor; OpenShell de henüz 0.1 sürümünde. Araç ajanın erişimini sınırlıyor ama ajanın içeriği nasıl kullandığını tek başına denetlemiyor; bu yüzden izin kurallarını dar başlatmak ve kayıtları düzenli okumak önemli. Aracı farklı açılardan görmek için bağımsız güvenlik araştırmacılarının değerlendirmelerini de takip etmekte fayda var.

Kaynaklar: NVIDIA: Open Agent Safety Platform duyurusu, GitHub: NVIDIA/OpenShell, GitHub: Hugging Face trafik izleme kavram kanıtı, Claude: NVIDIA ile ajan denetimi.