OpenBMB, telefonda çalışan görsel model MiniCPM-V 4.7'yi açık model olarak yayımladı

Çin merkezli OpenBMB, görselleri ve videoyu anlayan MiniCPM-V 4.7'yi Apache 2.0 lisansıyla yayımladı. Serinin ilk MoE modeli olan 35B-A3B sürümü, şirketin paylaştığı kayıtlara göre iPhone 17 Pro Max'te yaklaşık 3 GB bellekle saniyede 13'ten fazla token üretiyor; küçük cihazlar için 1B sürümü de var.

Paylaş
OpenBMB, telefonda çalışan görsel model MiniCPM-V 4.7'yi açık model olarak yayımladı

Çin merkezli OpenBMB, 6 ve 7 Ekim 2026'da MiniCPM-V 4.7 modellerini Hugging Face'te yayımladı. MiniCPM-V serisi; tek bir görseli, birden fazla görseli ve videoyu anlayıp bunlar hakkında yazıyla cevap veren görsel dil modellerinden oluşuyor. Yeni nesil iki boyutta geliyor: toplam 35 milyar parametreli ama her adımda yaklaşık 3 milyarını çalıştıran 35B-A3B ve 1 milyar parametreli 1B. İkisi de Apache 2.0 lisanslı; ticari kullanım dahil indirilip kendi sunucunuzda ya da cihazınızda çalıştırılabiliyor.

Büyük modeli telefona sığdırma yöntemi

35B-A3B, serinin ilk MoE (uzmanlar karışımı) modeli. Bu yapıda model her kelime için uzmanların yalnızca bir kısmını kullanıyor, ama bütün uzmanların dosyası yine de cihazda durmak zorunda. Telefonun belleği hepsini aynı anda tutamadığında uzmanlar depolamadan tekrar tekrar yükleniyor ve model yavaşlıyor. Model kartındaki bilgilere göre OpenBMB bunu üç teknikle aşıyor: bir sonraki katmanda hangi uzmanların gerekeceğini önceden tahmin edip yükleyen Lookahead Expert Scheduling (LES), uzman dosyalarını katman katman sıkıştıran nicemleme ve tahmini üretimle hızlanan DSpark. Tahminler yalnızca ön yüklemeyi yönlendiriyor; modelin hangi uzmanı seçeceği aynı kalıyor.

Şirketin paylaştığı ekran kayıtlarına göre 35B-A3B, iPhone 17 Pro Max'te yaklaşık 3 GB bellekle saniyede 13'ten fazla token üretiyor; iPad M4'te çalışan kayıtlar da var. OpenBMB, Instruct modunda 35B-A3B'nin Qwen3.6 35B-A3B'den daha kısa sürede daha yüksek genel puan aldığını, 1B sürümünün de Qwen3.5 0.8B'yi hem puanda hem hızda geride bıraktığını söylüyor.

Desteklenen platformlar ve araçlar

Modeller iOS, Android ve HarmonyOS'ta çalışıyor; Rockchip, Houmo, Intel, AMD ve Arm yongaları için ilk günden destek veriliyor. Bilgisayar ve sunucu tarafında SGLang, vLLM, llama.cpp ve Ollama ile çalıştırılabiliyor; GGUF, AWQ, GPTQ ve FP8 gibi sıkıştırılmış sürümler de hazır. Görsel ayrıntı ile hız arasında seçim yapmak için görüntü 4 kat ya da 16 kat sıkıştırılabiliyor. OpenBMB ayrıca modeli kendi verinizle eğitirken eski becerilerin unutulmasını azaltmayı amaçlayan Self-Replay Fine-Tuning (SRFT) yöntemini de yayımladı.

Karşılaştırmaları OpenBMB yaptı ve model kartında Türkçe için ayrı bir sonuç yer almıyor. Türkçe belge, ekran görüntüsü ya da video üzerinde kullanmadan önce kendi örneklerinizle denemek iyi olur. Sonuçları farklı açılardan görmek için bağımsız araştırmacıların değerlendirmelerini de takip edin.

Kaynaklar: Hugging Face: MiniCPM-V 4.7 35B-A3B model kartı, Hugging Face: MiniCPM-V 4.7 1B model kartı, GitHub: MiniCPM-V.

Devamını oku

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

أطلقت Liquid AI نموذج LFM2.5-24B-A2B كنموذج مفتوح، ويضم 24 مليار معامل إجمالا لكنه يشغل نحو 2.5 مليار منها في كل خطوة. وبحسب النتائج التي نشرتها الشركة، يولد النموذج المدرب للوكلاء الذين يستخدمون الأدوات 184 رمزا في الثانية على Apple M5 Max.

GlobalFeed Editor tarafından