腾讯开源语音模型 AuK:把一整套工具收进一句指令

AuK 用一个模型完成语音合成、降噪、音乐分离、情感与音色编辑,由一句自然语言指令驱动。15 亿参数,MIT 许可,权重已公开。

Paylaş
腾讯开源语音模型 AuK:把一整套工具收进一句指令

腾讯混元团队开源了语音模型 AuK。权重发布在 Hugging Face 与 ModelScope,推理代码在 GitHub,许可证为 MIT,商用、修改与再分发均被允许。

模型规模为 15 亿参数。以今天的标准算小,而这条新闻的重点也正在这里:它能做的事情,与它的体量并不相称。

一个模型,六件原本分开的活

做音频的人此前要为每件事各配一套工具:语音合成一套,降噪一套,从歌曲里分离人声再一套,变声又是一套。AuK 把它们统统放到一个指令接口之后。你用自然语言说明要什么,需要时再给一段参考音频,拿回编辑好或生成好的声音。

仓库把任务归为五类:

  • 生成:零样本语音合成与指令引导生成
  • 内容编辑:改写所说的话,以及歌词编辑
  • 声学编辑:音高、语速与音量
  • 副语言编辑:情感、音色、去口音、非语言声音、转为耳语
  • 增强与分离:降噪、去混响、说话人与音乐分离

架构上,一个多模态语言模型同时读取指令与参考音频,50Hz 的 VAE 提供声学隐变量,混合 Transformer 在流匹配目标下融合两路信息。

同时放出的加速版本

与 AuK 一同发布的还有 AuK-Flash,这是一个蒸馏版本,推理只需四步,且推理时不使用无分类器引导。团队给出的测量是,在同等条件下相比完整模型约有 4.5 倍的实际速度提升。蒸馏分两个阶段:先以轨迹级一致性初始化得到少步学生模型,再用按任务路由的目标进行训练,分离任务另以干净预测回归加以监督。

该在哪里停一下

无论是发布说明还是仓库,都没有写明支持哪些语言。对语音模型来说这不是小事:在英语和中文上表现良好的模型,换到训练数据稀少的语言上可能完全垮掉。打算采用的人,应当先用自己的语言实测再下判断。

显存需求同样没有给出。不过 ComfyUI 集成部分明确写了一条限制:源音频与目标音频合计不得超过 30 秒,因此较长的录音需要分段处理。

真正改变格局的仍是许可证与体量。一个 15 亿参数、采用 MIT 许可且权重在你手上的模型,把此前大多以订阅方式售卖的工作带到了本地,音频不必离开你的机器。技术报告已发布在 arXiv。

Devamını oku

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

أطلقت Liquid AI نموذج LFM2.5-24B-A2B كنموذج مفتوح، ويضم 24 مليار معامل إجمالا لكنه يشغل نحو 2.5 مليار منها في كل خطوة. وبحسب النتائج التي نشرتها الشركة، يولد النموذج المدرب للوكلاء الذين يستخدمون الأدوات 184 رمزا في الثانية على Apple M5 Max.

GlobalFeed Editor tarafından