Aleph Alpha 发布 Kolibri:英德双语开放模型
Aleph Alpha 以 Apache 2.0 许可证发布面向英语和德语的开放模型 Kolibri。该模型总参数量 781 亿,每个词元激活 34.6 亿,可读取最多 100 万个词元的上下文;当上下文中没有答案时,它被训练为回答“不知道”。
Aleph Alpha 于 2026 年 10 月 3 日发布了新语言模型 Kolibri。这款由总部位于海德堡的德国公司开发的模型专为英语和德语设计,以 Apache 2.0 许可证开放。模型文件可供任何人下载,机构因此可以在自己的服务器上运行它。该公司将 Kolibri 定位为主权(sovereign)模型,让公共机构和受严格监管的行业无需把内部数据发送给外部服务即可使用。
Kolibri 的架构
据模型卡介绍,Kolibri 采用混合专家(Mixture-of-Experts,MoE)架构。模型总参数量为 781 亿,但每个词元(token)只激活其中的 34.6 亿。每层有 384 个专家,每一步从中选出 6 个。这种设计旨在以小得多的模型的计算量,利用大模型的知识。上下文窗口最多可达 100 万个词元;长上下文训练在 25.6 万个词元的长度上完成,模型卡也建议为提高效率采用这一长度。
Kolibri 只针对英语和德语训练。Aleph Alpha 表示,训练数据中有相当大的比例是德语文本,并开发了自己的分词器(tokenizer),能更高效地切分德语中较长的复合词。模型支持推理模式,推理强度分为关闭、低、中、高四档,用户可以在成本与回答质量之间取舍。模型还支持工具调用和结构化输出。
上下文中没有答案时会说“不知道”
据公告介绍,当给定的上下文中找不到答案时,Kolibri 被训练为回答“我不知道”,而不是编造内容。Aleph Alpha 为此采用了自家名为 Merlin-Arthur 的方法:该方法为训练生成合成的反例,旨在让模型的回答有据可依。该公司强调,在错误回答可能带来合规风险的关键任务中,这种行为尤为重要。
面向哪些用户
据 Aleph Alpha 介绍,该模型面向公共管理、航空航天、制造、汽车和半导体等行业。模型卡列出的用途包括对话助手、智能体工作流、文档处理、检索增强生成(RAG)以及企业内部知识工具。模型文件已在 Hugging Face 上发布。据模型卡,运行 Kolibri 需要数据中心级硬件:至少两块 80 GB 的 A100 或 H100 显卡,或一块 H200、B200 或 B300。模型通过该公司的 aleph-alpha-inference 插件在 vLLM 上运行,并提供与 OpenAI 兼容的接口。模型卡指出,Kolibri 面向有人类审核的系统,在决策支持场景中应作为参考建议使用。
Kolibri 是 6 月发布的 Kolibri Origin 的后继者。据该公司介绍,在两者相隔的三个月里,模型参数从 300 亿增至 780 亿,上下文窗口从 6.5 万个词元扩展到 100 万。模型在德国和芬兰使用 NVIDIA B200 显卡训练,知识截止日期为 2026 年 6 月 18 日。
正在与 Cohere 合并
Aleph Alpha 于 2026 年 9 月 16 日宣布与加拿大人工智能公司 Cohere 签署最终业务合并协议。据公告,合并后的公司将以 Cohere 的名义在全球运营,在柏林和多伦多设立双总部,Aleph Alpha 的海德堡办公室将保留为研究中心。该交易仍需获得监管批准,两家公司预计将于今年晚些时候完成。
公告中的测试结果由 Aleph Alpha 发布。由于模型只针对英语和德语训练,其在其他语言上的表现没有相关信息,运行它也需要强大的数据中心硬件。在投入使用前,最好先用自己的文档和工作流程测试 Kolibri。想获得更全面的了解,也值得关注独立研究人员的评估。
来源:Aleph Alpha:Kolibri 发布公告、Hugging Face:Kolibri-1 模型卡、Aleph Alpha:与 Cohere 的合并协议。