光有权重不够,连数据也开放了:阿布扎比推出六款完全开源模型,最大 3750 亿参数
Institute of Foundation Models 发布 K2 Horizon,权重、代码、训练数据与方法一并公开。六款模型,从能在手表上运行的 9 亿参数到面向企业的 3750 亿参数,全部采用 Apache 2.0。
总部位于阿布扎比的 Institute of Foundation Models(IFM)发布了由六款模型组成的 K2 Horizon 系列,参数规模从 9 亿到 3750 亿不等。根据这份 9 月 3 日的公告,它们全部完全开放:不只是权重,还包括代码、训练数据和方法。
这个区别正是重点。近几周业界讨论的“开放权重”只意味着共享权重文件,训练数据和配方仍然封闭。IFM 创始人、MBZUAI 校长邢波(Eric Xing)这样界定差别:“开源远不止开放权重。科学之所以成立,是因为别人能看到数据、跟随方法、复现结果,并在此之上改进。”
从手表到企业服务器
六款模型的分工如下:
- 9 亿:面向手表、眼镜等资源极其受限的环境。IFM 称它在同尺寸中于数学、推理和工具使用上表现最佳。
- 37 亿:适合手机与微调的尺寸,宣称在 40 亿参数以下推理最强。
- 70 亿:宣称为 100 亿参数以下最强模型,软件工程与深度研究能力突出,可在手机上运行。
- 320 亿(稠密):面向笔记本与本地服务器的本地部署。
- 360 亿(40 亿激活):采用全新的价值注意力混合架构,据称仅激活 40 亿参数即可胜过许多更大的模型。
- 3750 亿(230 亿激活):系列旗舰,面向企业推理与智能体任务。
六款模型共享同一核心架构、词表、训练方法与接口(9 亿参数版本词表更小)。开发者可以在小模型上做原型,再迁移到大模型,无需改动部署流程。
两项技术创新
公告重点提出两项。其一是“扩散蒸馏”,一种以并行方式成块生成 token 的技术,据称在不损害回答质量的前提下将速度提升约 3 倍。其二是“价值注意力混合”,一种据称能在不增加计算量的情况下改善推理的架构。
IFM 硅谷实验室主任Hector Liu 这样解释系列化的思路:“我们不是发布单一模型,而是一次性发布整个系列。开发者可以在最小的模型上做原型,扩展到旗舰模型,并在这一路上验证我们提出的每一项主张。”
从哪里获取
模型即刻可通过 Hugging Face 获取,同时支持 vLLM 与 SGLang。API 方面,Compass、Cerebras 与 Nebius 被列为推理合作伙伴。模型与代码以 Apache 2.0 许可发布。
发布者是谁
IFM 由穆罕默德·本·扎耶德人工智能大学(MBZUAI)于 2025 年 5 月创立,目前在阿布扎比、硅谷和巴黎设有三个办公室。除 K2 系列外,其模型组合还包括阿拉伯语大模型 Jais 和面向具身推理的世界模型 PAN。MBZUAI 成立于 2019 年,拥有来自 50 多个国家的近千名学生。
为何重要
对于必须把数据留在内部的企业来说,问题不只是模型有多好,还有它有多可审计。当训练数据与配方公开时,机构可以看到模型用什么训练、在合规问题前拿出材料、并用自己的数据复现模型。而对于权重开放但数据封闭的模型,这些都做不到。
发布的时机本身也值得注意:同一周,开放模型仓库 Hugging Face 被英伟达收购一事得到确认。