Lambda 采用 NVIDIA Photonics 共封装光学交换机连接超万卡 GB300 集群
Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics
AI 云服务商 Lambda 宣布在其连接超过 10,000 块 GPU 的 NVIDIA GB300 NVL72 机架中部署 NVIDIA Photonics 共封装光学(CPO)交换机。
共封装光学交换机通过缩短电信号通路与外置光源,为万卡级算力集群降低通信延迟与故障率提供了实测数据。

训练 AI 模型需要成千上万颗 GPU 协同工作,这也对网络的速率、效率与韧性提出了极高要求。
Lambda 正在借助 NVIDIA Photonics 共封装光学(CPO)交换机攻克这一网络难题。这家云服务提供商正在使用该交换机连接拥有超过 1 万颗 GPU 的 NVIDIA GB300 NVL72 机架,为大规模 AI 工厂带来更低功耗、更强韧性以及更长的平均无中断时间(MTBI)。
“网络必须跟上超大规模 AI 集群的严苛需求,”Lambda 云服务总裁 Dave Ward 表示,“在如此大规模的部署中引入共封装光学技术,是构建支撑下一代 AI 基础设施的关键一步。”
在该公司使用这批交换机开展的测试中,机架级网络延迟(即数据传输耗时)降低了约 4%,Pod 级延迟降幅最高达约 10%。无论是在机架、可扩展单元还是 Pod 配置下,网络吞吐量均与传统可插拔光模块持平。
在大规模部署中兼顾能效与韧性
提升能效与韧性至关重要,因为网络正是驱动 AI 工厂生产力的核心枢纽。
在大型训练任务中,单条链路中断就可能导致数千颗 GPU 停摆;而在智能体推理场景下,一次网络中断更可能在众多智能体之间引发连锁延迟效应。每一次中断都在耗费时间,而网络每消耗一瓦电力,算力可用电力就少了一瓦。
NVIDIA Photonics 一举兼顾了能效与韧性。它通过在交换机封装上以共封装光学引擎取代可插拔光收发器,相比传统可插拔光学器件实现了最高达 5 倍的能效提升和最高达 15 倍的可靠性飞跃。此外,其激光器用量减少到了四分之一,故障隐患点随之大幅减少。
运行温度更低、光源可更换,进一步增强韧性
Lambda 部署的 NVIDIA Photonics 交换机各拥有 144 个 800Gb/s 端口,并通过液冷技术直接导出交换机芯片与光学引擎散发的热量。
该公司报告称,其光学器件的中位数温度仅为 36°C,远低于传统可插拔光模块的 51°C,测试还表明其信号完整性更为稳定。
此外,NVIDIA Photonics 缩短了电光转换与交换机芯片之间的物理距离。每台交换机配有 18 个可拆卸的外置光源,负责向光学引擎供光。光学引擎与芯片并置于同一封装内,将电信号转换为光信号,在集群各部件之间通过光纤传输数据。
现场技术人员可直接更换光源模块;而传统可插拔光模块一旦激光器发生故障,就必须更换整只模块。
共封装技术将电路传输距离从英寸级缩短至毫米级,有效降低了信号损耗。同时,它不再需要重定时器(Retimer)芯片,不仅降低了功耗,还精简了信号路径中的元器件数量。
进一步了解 NVIDIA Photonics,并阅读 Lambda 的部署公告。
来源:NVIDIA Blog · blogs.nvidia.com