NVIDIA 功耗软件首测：Lambda 集群吞吐提升
在五机柜集群上，DSX MaxLPS 让 Lambda 在相同功耗预算内把每秒 token 产出从约 400 万提升到 500 万。
NVIDIA 公布了 DSX 平台功耗管理组件 DSX MaxLPS 的首次部署验证结果。测试由 GPU 云服务商 Lambda 完成，数据在 AI Infra Summit 上发布。
Lambda 在由 NVIDIA HGX B200 服务器组成的五机柜、19 节点集群上运行该软件。这 19 个节点被限制在与 16 个满功率节点相同的功耗预算内。结果显示，集群整体 token 吞吐量提升 24%，从每秒约 400 万个提升到 500 万个，每瓦性能提升 23%。
DSX MaxLPS 监测 GPU 和机柜级功耗，并在节点之间重新分配功率余量，把静态分配下被闲置的容量收回来。训练和推理的取电方式不同，混合负载场景受益最明显。NVIDIA 预计，在合适的部署环境中，该方案可让下一代 Vera Rubin NVL72 在相同兆瓦预算内多提供最高 40% 的 GPU 容量。
随电网调节的数据中心
另一条线是电网协同。NVIDIA 的 Eos 数据中心运行 Emerald AI 的 Conductor 平台，参与 Silicon Valley Power 的 Flexible Load Interconnect 计划。电网紧张时，低优先级任务被降速或改期，高优先级推理继续运行。
今年 8 月的一次测试中，该设施用电量在无人操作的情况下从 4 兆瓦降到 3 兆瓦。Emerald AI 的 Varun Sivaram 表示，这是公司首次在数千块 NVIDIA GPU 上部署。此后 Silicon Valley Power 已向该设施发送超过 200 次需求信号，Conductor 每次都在一分钟内响应。
DSX Flex 的首个专用商业部署将落在弗吉尼亚州 Manassas，是一座 96 兆瓦的 Vera Rubin 设施。DSX 于今年 5 月在 GTC Taipei 首次亮相。
详情见 NVIDIA 官方博客。
