跳到正文
NVIDIA Blog· Brian Sparks·· 6 天前精选AI 评分71

Lambda 采用 NVIDIA Photonics 共封装光学交换机连接超万卡 GB300 集群

Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics

AI 导读

AI 云服务商 Lambda 宣布在其连接超过 10,000 块 GPU 的 NVIDIA GB300 NVL72 机架中部署 NVIDIA Photonics 共封装光学(CPO)交换机。

推荐理由

共封装光学交换机通过缩短电信号通路与外置光源,为万卡级算力集群降低通信延迟与故障率提供了实测数据。

正文 · AI 翻译

训练 AI 模型需要成千上万颗 GPU 协同工作,这也对网络的速率、效率与韧性提出了极高要求。

Lambda 正在借助 NVIDIA Photonics 共封装光学(CPO)交换机攻克这一网络难题。这家云服务提供商正在使用该交换机连接拥有超过 1 万颗 GPU 的 NVIDIA GB300 NVL72 机架,为大规模 AI 工厂带来更低功耗、更强韧性以及更长的平均无中断时间(MTBI)。

“网络必须跟上超大规模 AI 集群的严苛需求,”Lambda 云服务总裁 Dave Ward 表示,“在如此大规模的部署中引入共封装光学技术,是构建支撑下一代 AI 基础设施的关键一步。” 

阅读来自 SC26 的全部 NVIDIA 官宣消息

在该公司使用这批交换机开展的测试中,机架级网络延迟(即数据传输耗时)降低了约 4%,Pod 级延迟降幅最高达约 10%。无论是在机架、可扩展单元还是 Pod 配置下,网络吞吐量均与传统可插拔光模块持平。

在大规模部署中兼顾能效与韧性

提升能效与韧性至关重要,因为网络正是驱动 AI 工厂生产力的核心枢纽。 

在大型训练任务中,单条链路中断就可能导致数千颗 GPU 停摆;而在智能体推理场景下,一次网络中断更可能在众多智能体之间引发连锁延迟效应。每一次中断都在耗费时间,而网络每消耗一瓦电力,算力可用电力就少了一瓦。 

NVIDIA Photonics 一举兼顾了能效与韧性。它通过在交换机封装上以共封装光学引擎取代可插拔光收发器,相比传统可插拔光学器件实现了最高达 5 倍的能效提升和最高达 15 倍的可靠性飞跃。此外,其激光器用量减少到了四分之一,故障隐患点随之大幅减少。

运行温度更低、光源可更换,进一步增强韧性

Lambda 部署的 NVIDIA Photonics 交换机各拥有 144 个 800Gb/s 端口,并通过液冷技术直接导出交换机芯片与光学引擎散发的热量。 

该公司报告称,其光学器件的中位数温度仅为 36°C,远低于传统可插拔光模块的 51°C,测试还表明其信号完整性更为稳定。

此外,NVIDIA Photonics 缩短了电光转换与交换机芯片之间的物理距离。每台交换机配有 18 个可拆卸的外置光源,负责向光学引擎供光。光学引擎与芯片并置于同一封装内,将电信号转换为光信号,在集群各部件之间通过光纤传输数据。 

现场技术人员可直接更换光源模块;而传统可插拔光模块一旦激光器发生故障,就必须更换整只模块。

共封装技术将电路传输距离从英寸级缩短至毫米级,有效降低了信号损耗。同时,它不再需要重定时器(Retimer)芯片,不仅降低了功耗,还精简了信号路径中的元器件数量。

进一步了解 NVIDIA Photonics,并阅读 Lambda 的部署公告。

查看 NVIDIA 在 SC26 上的全部公告

来源:NVIDIA Blog · blogs.nvidia.com

EVAOO 主站实战落地 · 大模型与 AI 内容工程

看完情报?回到 EVAOO 主站直接上手工具与完整 SOP

返回 EVAOO 主站