Reddetme mekanizması sökülmüş bir GLM-5.3 türevi, saldırı güvenliği etiketiyle dağıtımda

Hugging Face üzerinde GLM-5.3-CYBERSECURITY-FP8 adlı bir model dolaşıyor. Model kartına göre temel alınan ağırlıklar Z.ai'nin resmi GLM-5.3 modeli ve onun FP8 sürümü. Fark, modelin "abliterated" yani güvenlik reddetmeleri sökülmüş olarak yayımlanması. Etiketleri açık: reddetme kaldırıldı, saldırı güvenliği, kırmızı takım, sızma testi.

Rakamlar

Model 30 Ağustos'ta yüklendi ve şimdiden 15 binden fazla indirildi, 130 beğeni aldı. Lisansı MIT, yani kullanımı serbest. On dil destekliyor. Tek bir üst seviye tüketici ekran kartında çalışacak biçimde sıkıştırılmış, yani kullanmak için veri merkezi gerekmiyor. Aynı adla açılmış üç kopya deposu daha var, ikisi bugün oluşturulmuş. Bu, kaynağı kaldırmanın dağıtımı durdurmayacağı anlamına geliyor.

Neden şimdi konuşuluyor

Zamanlaması önemli. Reuters'ın aktardığına göre ABD, eylül ortasında Çin ile yapacağı yapay zeka görüşmesinde tam da bu başlığı açmak istiyor: yapay zeka güdümlü siber saldırıların izlenmesi ve Çin modellerinin saldırı yeteneği. Washington'ın masaya getirmeyi planladığı risk, resmi bir Çin modelinden türetilmiş haliyle zaten herkese açık duruyor.

Tartışmanın özü

Reddetme mekanizmasını sökmek yeni bir teknik değil ve savunma tarafında meşru kullanımı var: kırmızı takımlar kendi sistemlerini sınarken modelin işbirliği yapmasını ister. Buradaki fark ölçek ve erişim. Açık ağırlıklı güçlü bir modelden, engelleri kaldırılmış bir sürüm çıkarmak birkaç günlük iş, dağıtmak bedava ve geri alınamıyor. Açık ağırlık tartışmasının somut hali bu.

Kaynaklar

• Birincil kaynak: Hugging Face model kartı (indirme ve etiketler oradan)
• ABD-Çin görüşmesi: GlobalFeed haberi