Skild AI 发布 S1:看一段视频就能让机器人学会新任务
Skild AI 称其上周发布的机器人基础模型 S1 可通过单段视频演示学会长达 10 分钟的陌生任务,无需重新训练。
Skild AI 上周发布机器人基础模型 S1,该模型可以从单段视频演示中学会此前未见过的长时序任务。模型以视频为输入,在不更新权重、不做针对特定任务的后训练的情况下直接执行任务,公司把这种方式称为上下文学习(in-context learning)。
具体流程是:操作员录制一段目标任务的视频,作为提示词交给模型。S1 解析演示中的意图、物体和动作顺序,再映射为面前这台机器人的动作。据该公司介绍,S1 可以完成时长最多 10 分钟的陌生任务,包括盆栽移植、做松饼、手冲咖啡和套件装配。在一次盆栽测试中,团队从录制演示到硬件上自主执行只用了 11 分钟。
公布的测试数据
在 Skild 针对多步骤新任务的测试中,S1 在每一步的成功率约为 66%,而公司给出的同类人工智能系统数据为 9%。Skild 还估算,一段简短的视频示例其作用大致相当于约 380 个实操训练样本,人工采集这些样本需要 50 至 100 小时。
NVIDIA 基础设施与 Foxconn 落地
S1 基于 NVIDIA 的人工智能基础设施构建。Skild 使用 Cosmos 世界基础模型和 Cosmos Curator 丰富并整理训练数据,用 Omniverse 库与 Isaac Sim 构建基于物理的虚拟环境,并在搭载 Newton 物理引擎的 Isaac Lab 中做强化学习。双方还在联合开发 GPU 加速的仿真求解器,用于建模机器人对固体物体的接触、抓取和操作,后续将作为 Newton 的一部分向开发者开放。此外,NVIDIA Nsight 用于定位训练性能瓶颈,TensorRT SDK 用于优化推理。
Skild、NVIDIA 与 Foxconn 正在双臂机械手上部署 Skild Brain,用于 NVIDIA Blackwell 系统的高精度装配。在展示的一个工作流中,机器人安装汇流排和限位块,拧紧 16 颗螺丝,并在多步骤过程中应对扰动。
该公司表示,首次商业部署 10 个月后已达到 1 亿美元年化收入运行率,并建立了 60 多个部署合作关系。详情见 NVIDIA 博客。