OpenBMB 开源可在手机运行的视觉模型 MiniCPM-V 4.7
OpenBMB 以 Apache 2.0 许可证发布了可理解图像和视频的 MiniCPM-V 4.7。根据官方发布的录屏,系列首个 MoE 模型 35B-A3B 在 iPhone 17 Pro Max 上仅用约 3 GB 内存即可达到每秒 13 个以上 token;另有面向小型设备的 1B 版本。
OpenBMB 于 2026 年 10 月 6 日和 7 日在 Hugging Face 上发布了 MiniCPM-V 4.7 模型。MiniCPM-V 系列是视觉语言模型,可以理解单张图片、多张图片和视频,并用文字回答相关问题。新一代提供两个规格:总参数 350 亿、每步约激活 30 亿参数的 35B-A3B,以及 10 亿参数的 1B。两者均采用 Apache 2.0 许可证,可下载并在自己的服务器或设备上运行,包括商业用途。
大模型如何装进手机
35B-A3B 是该系列首个 MoE(混合专家)模型。在这种结构中,模型处理每个词时只使用部分专家,但所有专家的文件仍需存放在设备上。手机内存无法同时容纳全部专家时,专家会被反复从存储中加载,模型就会变慢。根据模型卡信息,OpenBMB 用三项技术解决这一问题:预测并提前加载下一层所需专家的 Lookahead Expert Scheduling(LES)、逐层压缩专家文件的量化,以及通过投机采样加速生成的 DSpark。预测只用于指导预加载,模型实际选择的专家保持不变。
根据官方发布的录屏,35B-A3B 在 iPhone 17 Pro Max 上用约 3 GB 内存即可达到每秒 13 个以上 token,也有在 iPad M4 上运行的录屏。OpenBMB 表示,在 Instruct 模式下,35B-A3B 以更短的时间取得了比 Qwen3.6 35B-A3B 更高的综合得分,1B 版本在得分和速度上均超过 Qwen3.5 0.8B。
支持的平台和工具
模型支持 iOS、Android 和鸿蒙系统,并首日支持瑞芯微、后摩、英特尔、AMD 和 Arm 芯片。在电脑和服务器上可通过 SGLang、vLLM、llama.cpp 和 Ollama 运行,GGUF、AWQ、GPTQ 和 FP8 等压缩版本也已提供。图像可按 4 倍或 16 倍压缩,在视觉细节和速度之间取舍。OpenBMB 还发布了 Self-Replay Fine-Tuning(SRFT)方法,旨在用自有数据训练模型时减少原有能力的遗忘。
对比测试由 OpenBMB 完成。用于自己的文档、截图或视频之前,最好先用自己的样例测试。想获得更全面的了解,也请关注独立研究人员的评估。
来源:Hugging Face:MiniCPM-V 4.7 35B-A3B 模型卡、Hugging Face:MiniCPM-V 4.7 1B 模型卡、GitHub:MiniCPM-V。