OpenBMB 开源可在手机运行的视觉模型 MiniCPM-V 4.7

OpenBMB 以 Apache 2.0 许可证发布了可理解图像和视频的 MiniCPM-V 4.7。根据官方发布的录屏,系列首个 MoE 模型 35B-A3B 在 iPhone 17 Pro Max 上仅用约 3 GB 内存即可达到每秒 13 个以上 token;另有面向小型设备的 1B 版本。

Paylaş
OpenBMB 开源可在手机运行的视觉模型 MiniCPM-V 4.7

OpenBMB 于 2026 年 10 月 6 日和 7 日在 Hugging Face 上发布了 MiniCPM-V 4.7 模型。MiniCPM-V 系列是视觉语言模型,可以理解单张图片、多张图片和视频,并用文字回答相关问题。新一代提供两个规格:总参数 350 亿、每步约激活 30 亿参数的 35B-A3B,以及 10 亿参数的 1B。两者均采用 Apache 2.0 许可证,可下载并在自己的服务器或设备上运行,包括商业用途。

大模型如何装进手机

35B-A3B 是该系列首个 MoE(混合专家)模型。在这种结构中,模型处理每个词时只使用部分专家,但所有专家的文件仍需存放在设备上。手机内存无法同时容纳全部专家时,专家会被反复从存储中加载,模型就会变慢。根据模型卡信息,OpenBMB 用三项技术解决这一问题:预测并提前加载下一层所需专家的 Lookahead Expert Scheduling(LES)、逐层压缩专家文件的量化,以及通过投机采样加速生成的 DSpark。预测只用于指导预加载,模型实际选择的专家保持不变。

根据官方发布的录屏,35B-A3B 在 iPhone 17 Pro Max 上用约 3 GB 内存即可达到每秒 13 个以上 token,也有在 iPad M4 上运行的录屏。OpenBMB 表示,在 Instruct 模式下,35B-A3B 以更短的时间取得了比 Qwen3.6 35B-A3B 更高的综合得分,1B 版本在得分和速度上均超过 Qwen3.5 0.8B。

支持的平台和工具

模型支持 iOS、Android 和鸿蒙系统,并首日支持瑞芯微、后摩、英特尔、AMD 和 Arm 芯片。在电脑和服务器上可通过 SGLang、vLLM、llama.cpp 和 Ollama 运行,GGUF、AWQ、GPTQ 和 FP8 等压缩版本也已提供。图像可按 4 倍或 16 倍压缩,在视觉细节和速度之间取舍。OpenBMB 还发布了 Self-Replay Fine-Tuning(SRFT)方法,旨在用自有数据训练模型时减少原有能力的遗忘。

对比测试由 OpenBMB 完成。用于自己的文档、截图或视频之前,最好先用自己的样例测试。想获得更全面的了解,也请关注独立研究人员的评估。

来源:Hugging Face:MiniCPM-V 4.7 35B-A3B 模型卡、Hugging Face:MiniCPM-V 4.7 1B 模型卡、GitHub:MiniCPM-V。

Devamını oku

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

أطلقت Liquid AI نموذج LFM2.5-24B-A2B كنموذج مفتوح، ويضم 24 مليار معامل إجمالا لكنه يشغل نحو 2.5 مليار منها في كل خطوة. وبحسب النتائج التي نشرتها الشركة، يولد النموذج المدرب للوكلاء الذين يستخدمون الأدوات 184 رمزا في الثانية على Apple M5 Max.

GlobalFeed Editor tarafından