Bir yapay zeka halüsinasyonu Pentagon operasyonunu son anda durdurdu
CNN'e göre bir sohbet botunun uydurduğu istihbarat komuta kanallarına yayıldı, uçaklar havadayken operasyon iptal edildi.
Bu ilkbaharda ABD ordusuna ait uçaklar havalandıktan sonra, yürütülen operasyonun dayandığı istihbaratın bir yapay zeka sohbet botu tarafından uydurulduğu anlaşıldı. CNN'in haberine göre operasyon son dakikada iptal edildi.
Yanlış istihbaratın kaynağı, Özel Harekat Komutanlığı'nda görevli bir analistti. Analist, açık kaynaklı verileri gizli sinyal istihbaratıyla birleştirmesi için bir sohbet botuna sordu; bot geminin kargo manifestosunu hatalı yorumladı. Rapor, gemide nükleer silah programına ait parçalar taşındığını söylüyordu. Analist aynı aracı ikinci kez kullanarak bu hatalı bulguyu resmi görünümlü bir özete dönüştürdü ve özet komuta kanallarında dolaşıma girdi.
Hız ile denetim arasındaki gerilim
Olay, ABD ordusunun karar süreçlerini hızlandırmak için yapay zekayı hızla devreye almaya çalıştığı bir döneme denk geliyor. Pentagon, yapay zekanın hedef tespit zincirini hızlandırarak komutanlara zaman kazandırdığını savunuyor. Ancak aracı cazip kılan aynı hız, yeterli insan denetimi olmadığında halüsinasyonların da komuta zinciri boyunca yukarı çıkmasına yol açabiliyor.
Kaynaklar: CNN.
