MiniMax H3: 33 milyar parametreli sesli 2K video modeli, ComfyUI ile 12 GB'lik ekran kartında yerel çalışıyor

MiniMax'in ağırlıklarını 3 Ağustos'ta açtığı video modeli H3, tüketici sınıfı ekran kartlarında bulut ve API olmadan çalıştırılıyor. ComfyUI ekibine göre bellek izi 123,6 GB'tan 42,5 GB'a indi ve model RTX 3060 gibi bir kartta koşuyor. Lisans dünya çapında geçerli; ABD, AB, Birleşik Krallık ve Güney

Paylaş
MiniMax H3: 33 milyar parametreli sesli 2K video modeli, ComfyUI ile 12 GB'lik ekran kartında yerel çalışıyor

MiniMax'in 31 Temmuz'da tanıttığı, ağırlıklarını 3 Ağustos'ta Hugging Face'te açtığı video modeli H3, bir ay sonra tüketici sınıfı ekran kartlarında yerel çalışıyor. Sesli, 2K çözünürlüklü, 15 saniyeye kadar video üreten 33 milyar parametreli model, bulut ve API olmadan, ComfyUI ekibinin örneğiyle RTX 3060 gibi 12 GB'lik bir oyun kartında koşuyor; ComfyUI, desteği ağırlıkların açıldığı gün eklemişti. Kullanıcılar da sosyal medyada aynı sonucu paylaşıyor.

Model ne yapıyor

MiniMax'e göre H3 “genel amaçlı, çok modlu bir üretim modeli”: metin, görüntü, video ve sesi tek bağlamda anlıyor, videoyla birlikte yerel stereo ses üretiyor. İki kontrol noktası var: FL2VA (metin ve ilk/son kare) ile Ref2VA (referans görüntü, video ya da ses). Çıktı 4 ile 15 saniye arasında, 24 fps, kısa kenar varsayılan 768 piksel, 2K'ya kadar.

Bellek nasıl küçüldü

Bellek rakamları MiniMax'in değil, ComfyUI'nin. Ekibe göre tam hassasiyette 123,6 GB olan toplam bellek izi en küçük varyantlarda 42,5 GB'a indi, yüzde 66 azalma: parametrelerin yaklaşık yüzde 40'ını oluşturan modülasyon ağırlıkları budanıp işlevsel olarak eşdeğer bir arama tablosuyla değiştirildi; ağırlıklar int8 “convrot” nicemlemeyle geliyor; özel çekirdekler çıkarımdaki tepe VRAM kullanımını düşürüyor. Dinamik VRAM boşaltmayla birleşince model, ComfyUI'nin ifadesiyle “RTX 3060 gibi bir GPU'da” çalışıyor. ComfyUI 0.30.0 ve üzeri gerekiyor.

Lisans kimi kapsıyor

“MiniMax H3 Community License Agreement” Avrupa Birliği, Birleşik Krallık, Kore Cumhuriyeti ve ABD'yi hariç tutuyor; oradakiler api@minimax.io adresinden lisans talep edebiliyor. Türkiye, Arap ülkeleri ve Çin hariç tutulan bölgeler arasında değil. Ticari kullanım serbest; ancak ürün arayüzünde “MiniMax H3” görünür biçimde yazılmalı, yıllık geliri 20 milyon doları aşan ürünler için ayrı yazılı izin gerekiyor. Yasaklar arasında askeri amaçlar ve seçimleri etkilemek için yanlış bilgi var; makine üretimi içerik kamuya açık ortamlarda belirtilmeli, çıktılar rakip model eğitiminde kullanılamaz.

Kurumsal okur için

Video üretimini kurum içinde tutmak, veriyi dışarı çıkarmamak isteyenler için bu, tüketici donanımında ilk gerçekçi seçenek. Ancak 42,5 GB'lik bellek izi ile “12 GB kartta çalışır” aynı şey değil: boşaltma hız pahasına çalışır; kendi donanımınızda ölçmeden karar vermeyin. ABD ya da AB'de iş yapan kurumlar lisans başvurusu gerektiğini bilmeli.

Kaynaklar

Devamını oku

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

أطلقت Liquid AI نموذج LFM2.5-24B-A2B كنموذج مفتوح، ويضم 24 مليار معامل إجمالا لكنه يشغل نحو 2.5 مليار منها في كل خطوة. وبحسب النتائج التي نشرتها الشركة، يولد النموذج المدرب للوكلاء الذين يستخدمون الأدوات 184 رمزا في الثانية على Apple M5 Max.

GlobalFeed Editor tarafından