Ant Ling görsel modelini MIT lisansıyla açtı: 124 milyar parametre, token başına 5,5 milyar çalışıyor
Ling-3.0-flash-VL açık kaynak çıktı. Uzman karışımı mimaride toplam 124 milyar parametrenin token başına yalnız 5,5 milyarı devreye giriyor, bağlam 1 milyon token. Ekranı görüp iş yapma iddiası da var.
Ant Group'un yapay zeka ekibi Ant Ling, görsel dil modeli Ling-3.0-flash-VL'yi MIT lisansıyla açık kaynak yaptı. Model, temmuzda çıkan Ling-3.0-flash'ın üzerine görme yeteneği eklenmiş hali.
Rakamlar
Mimari uzman karışımı: toplam 124 milyar parametre, ama token başına yalnız 5,5 milyarı devreye giriyor. Bağlam penceresi 1 milyon token'a kadar çıkıyor. Gövde 42 katmanlı melez bir yapı; KDA ile Gated MLA katmanları 5'e 1 oranında dönüşümlü diziliyor. Görme tarafında bir ViT kodlayıcı görüntü ve videodan öznitelik çıkarıyor, iki katmanlı bir MLP bunları metinle hizalıyor, VideoRoPE de hem uzamsal konumu hem zaman sırasını kodluyor. Yayımlanan biçimler BF16 ve F32; duyuruda FP8'in de verildiği, FP4 ve INT4'ün geleceği söylendi.
Seyrek etkinleşme burada asıl mesele. 124 milyarlık bir modelin token başına 5,5 milyarla çalışması, aynı boyuttaki yoğun bir modele göre çok daha ucuz çıkarım demek. Açık kaynak bir modelde bu, indirmekle çalıştırabilmek arasındaki farkı kapatan şeydir.
Üç iş
Model kartı yeteneği üç başlıkta topluyor. Anlama: nesne sayma, düzen çözümleme, grafik ve belge okuma. Akıl yürütme: görsel kanıtla hesap yapma, çok adımlı çıkarım ve doğrulama. Eyleme: arayüzleri anlayıp iş bitirme, yani web ve yazılım ekranlarını görüp eylem sırası kurma.
Üçüncüsü ilginç olanı. Bir modelin ekran görüntüsünden ne olduğunu anlaması ile o ekranda ne yapılacağına karar vermesi ayrı işlerdir; ikincisi ajan işidir ve açık kaynak tarafında hala seyrektir.
Ölçüt
Model kartındaki tek karşılaştırmalı rakam, Artificial Analysis Intelligence Index v4.1.1 üzerinde 42 puan: görme eklenmemiş Ling-3.0-flash'ın 38 puanına göre 4 puanlık iyileşme. Kartta rakiplerle satır satır karşılaştırma tablosu yok, dolayısıyla bu modelin nerede durduğu bağımsız ölçümler gelmeden söylenemez.
Ant Ling'in modelleri 6 Eylül'de yazdığımız sağlığa odaklı Ling 3.0 Flash Sante ile de gündeme gelmişti; aynı gövdeden dala ayrılan modeller çıkarmayı sürdürüyorlar.
