光有权重不够,连数据也开放了:阿布扎比推出六款完全开源模型,最大 3750 亿参数

Institute of Foundation Models 发布 K2 Horizon,权重、代码、训练数据与方法一并公开。六款模型,从能在手表上运行的 9 亿参数到面向企业的 3750 亿参数,全部采用 Apache 2.0。

Paylaş
光有权重不够,连数据也开放了:阿布扎比推出六款完全开源模型,最大 3750 亿参数

总部位于阿布扎比的 Institute of Foundation Models(IFM)发布了由六款模型组成的 K2 Horizon 系列,参数规模从 9 亿到 3750 亿不等。根据这份 9 月 3 日的公告,它们全部完全开放:不只是权重,还包括代码、训练数据和方法。

这个区别正是重点。近几周业界讨论的“开放权重”只意味着共享权重文件,训练数据和配方仍然封闭。IFM 创始人、MBZUAI 校长邢波(Eric Xing)这样界定差别:“开源远不止开放权重。科学之所以成立,是因为别人能看到数据、跟随方法、复现结果,并在此之上改进。”

从手表到企业服务器

六款模型的分工如下:

  • 9 亿:面向手表、眼镜等资源极其受限的环境。IFM 称它在同尺寸中于数学、推理和工具使用上表现最佳。
  • 37 亿:适合手机与微调的尺寸,宣称在 40 亿参数以下推理最强。
  • 70 亿:宣称为 100 亿参数以下最强模型,软件工程与深度研究能力突出,可在手机上运行。
  • 320 亿(稠密):面向笔记本与本地服务器的本地部署。
  • 360 亿(40 亿激活):采用全新的价值注意力混合架构,据称仅激活 40 亿参数即可胜过许多更大的模型。
  • 3750 亿(230 亿激活):系列旗舰,面向企业推理与智能体任务。

六款模型共享同一核心架构、词表、训练方法与接口(9 亿参数版本词表更小)。开发者可以在小模型上做原型,再迁移到大模型,无需改动部署流程。

两项技术创新

公告重点提出两项。其一是“扩散蒸馏”,一种以并行方式成块生成 token 的技术,据称在不损害回答质量的前提下将速度提升约 3 倍。其二是“价值注意力混合”,一种据称能在不增加计算量的情况下改善推理的架构。

IFM 硅谷实验室主任Hector Liu 这样解释系列化的思路:“我们不是发布单一模型,而是一次性发布整个系列。开发者可以在最小的模型上做原型,扩展到旗舰模型,并在这一路上验证我们提出的每一项主张。”

从哪里获取

模型即刻可通过 Hugging Face 获取,同时支持 vLLM 与 SGLang。API 方面,Compass、Cerebras 与 Nebius 被列为推理合作伙伴。模型与代码以 Apache 2.0 许可发布。

发布者是谁

IFM 由穆罕默德·本·扎耶德人工智能大学(MBZUAI)于 2025 年 5 月创立,目前在阿布扎比、硅谷和巴黎设有三个办公室。除 K2 系列外,其模型组合还包括阿拉伯语大模型 Jais 和面向具身推理的世界模型 PAN。MBZUAI 成立于 2019 年,拥有来自 50 多个国家的近千名学生。

为何重要

对于必须把数据留在内部的企业来说,问题不只是模型有多好,还有它有多可审计。当训练数据与配方公开时,机构可以看到模型用什么训练、在合规问题前拿出材料、并用自己的数据复现模型。而对于权重开放但数据封闭的模型,这些都做不到。

发布的时机本身也值得注意:同一周,开放模型仓库 Hugging Face 被英伟达收购一事得到确认。

Devamını oku

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

أطلقت Liquid AI نموذج LFM2.5-24B-A2B كنموذج مفتوح، ويضم 24 مليار معامل إجمالا لكنه يشغل نحو 2.5 مليار منها في كل خطوة. وبحسب النتائج التي نشرتها الشركة، يولد النموذج المدرب للوكلاء الذين يستخدمون الأدوات 184 رمزا في الثانية على Apple M5 Max.

GlobalFeed Editor tarafından