Meta 详解生产级 GPU 编译器扩展 TLX 构建实践
Meta 介绍了为 Triton 开发的底层扩展 TLX(Triton Low-Level Extensions),通过引入多指令多 Warp 抽象,在保留 Triton 高生产力张量编程的同时提供显式的 warp-group 和集群级硬件编排。
Meta 介绍了为 Triton 开发的底层扩展 TLX(Triton Low-Level Extensions),通过引入多指令多 Warp 抽象,在保留 Triton 高生产力张量编程的同时提供显式的 warp-group 和集群级硬件编排。
NVIDIA 针对韩国主流开源模型发布开源分布式推理框架 Dynamo 的优化部署方案,支持 SK Telecom 的 A.X K2、LG AI Research 的 K-EXAONE 2.0、Upstage 的 Solar Open 2 及 Motif-3。
NVIDIA 详解了通过芯片、互联与软件全栈协同设计应对大模型与智能体推理显存压力的技术路径,强调不能仅依靠单纯堆叠 GPU 的 HBM 容量。该方案通过 NVFP4 格式压缩模型权重与 KV cache、在 NVL72 系统内分布式存放,并依托 Dynamo 软件将闲置上下文分层卸载至 CPU 内存与低成本 CMX 存储,同时使 RAG 索引常驻 HBM 之外。
NVIDIA 工程师利用 Nemotron 开源模型套件与虚幻引擎 5 构建了万圣节交互投影装置 MonsterHouse,在一台工作站上实现完全离线的多模态实时互动。
推荐理由:原文展示了如何将端侧语音识别、轻量语言模型与面部动画串联成离线交互管线,为多模态实时智能体落地提供了完整参考架构。
Breakthrough Listen 与 SETI 研究所将智能体 AI 引入地外文明搜寻,研究人员可通过单条自然语言提示词控制艾伦望远镜阵列完成调谐与实时数据处理。该系统基于 NVIDIA Holoscan 平台和 RTX PRO 6000 Blackwell GPU,每秒可处理 2.4 terabits 传感器数据,已成功实现蟹状星云脉冲星的首个实时 AI 探测。
NVIDIA 介绍了多个团队利用前沿 AI 智能体结合 Omniverse 库构建物理仿真的实际案例。开发者通过自然语言指令指导智能体完成资产组装、物理配置与渲染,涵盖 Houdini 资产创建、机器人拆解测试、数字孪生以及人形机器人模拟等工作流。文中展示了 Astra 等模型结合 Isaac Sim、OpenUSD 及相关 MCP 工具加速仿真开发落地的具体方式。
推荐理由:文章详细梳理了开发者结合前沿模型与 Omniverse 搭建物理仿真的实践案例,展示了从自然语言指令到 3D 资产和工业仿真的具体落地路径。
NVIDIA 推出开源权重语音模型 Nemotron 3.5 Transcribe 及 Granary v2 数据清洗管线。该模型在单个权重中集成了 40 种语言转录、31 种语言与英语互译、13 种语言说话人日志和音频问答功能,支持最长 1 小时音频与 8 位说话人识别,并在 Hugging Face 英文 Open ASR 等基准上取得开源模型第一。
推荐理由:原文整合了多语种转录、说话人日志和音频问答至单一模型,并开放数据管线与微调方案供领域适配。
NVIDIA 宣布 RTX Spark Windows 笔记本正式由华硕、戴尔、惠普、联想、微软和微星开售,起售价 2,599 美元。
推荐理由:原文整合了端侧超算芯片的硬件发售与配套本地模型及调度工具,展示了本地智能体与桌面应用共存的具体工程解法。
在 GTC Berlin 上,Revolut、Lloyds 和 Starling Bank 等欧洲金融机构展示了基于 NVIDIA 加速计算与开放权重模型在其自有基础设施上运行的生产级系统。
NVIDIA 披露欧洲多家零售企业基于其技术落地开源模型与物理智能的实践成果,涵盖电商搜索、内容生成与仓储运营等场景。
推荐理由:汇总了欧洲零售企业结合开源模型与物理仿真的落地数据,对评估模型自训降本与智能体运营具有参考价值。
Dharma AI 介绍了其针对特定领域小语言模型的词表优化方法 VocabX,通过依据 token 推理成本而非出现频率重构词表,在不改动基座模型的前提下将生产环境推理成本降低了 77%。
推荐理由:文章阐释了按解码耗时而非词频重构词表的优化思路,为垂直领域小模型在生产环境中的推理降本提供了可迁移的实践参考。
Google Cloud 与 NVIDIA 宣布基于 NVIDIA Vera Rubin NVL72 的 A5X 实例将于下月正式可用,面向大规模强化学习与 AI 智能体推理。
推荐理由:该平台整合液冷与机架级高带宽网络,展现了超大规模算力集群支撑经验驱动型自主智能体训练的工程方案。
NVIDIA 宣布其欧洲及周边地区的云合作伙伴正在扩大区域 AI 算力基础设施,以支持主权计算、开源模型训练与安全 AI 智能体部署。Nscale、Crusoe 与 Mistral 等合作伙伴正部署 Vera Rubin 平台,其中 Nscale 在 GB300 NVL72 系统上借助 DSX 平台将总推理吞吐量提升了近 50%。
欧洲工业企业正全面采用 NVIDIA CUDA-X、Omniverse 库以及 Cosmos 和 Nemotron 开源模型重塑工程与制造流程。NVIDIA 工厂运营蓝图(FOX)现已在 GitHub 提供抢先体验,开发者可借此构建并部署常驻工厂管理智能体与视觉质检、根本原因分析等专业智能体。
NVIDIA 扩展其机密计算体系并推出机密裸金属部署选项,允许前沿模型构建者在第三方云和企业基础设施的专用裸金属实例上运行敏感工作负载,同时保留对其模型与数据的控制权。
NVIDIA 宣布扩展开源 NVIDIA Agent Toolkit,帮助企业基于自有数据定制、监控与治理 AI 智能体。该工具包新增了 Agent Knowledge Foundation,集成 CUDA-X 库、Auto-Ontology 库以及 Kumo 结构化开源模型家族,支持企业无需搬迁数据即可将原始数据转化为业务概念。
推荐理由:原文梳理了整套企业智能体开源技术栈,展示了如何在不迁移数据的前提下结合本体构建与结构化模型落地应用。
NVIDIA 创始人兼 CEO 黄仁勋在 GTC Berlin 2026 发表主旨演讲,发布了涵盖模块化数据中心、智能体安全与具身智能的一系列全栈基础设施。
推荐理由:演讲集中展示了从模块化物理算力到智能体安全运行时的完整交付方案,可作为评估企业级 AI 基础设施落地的参考。
Hugging Face 宣布旗下 Transformers、Diffusers 和 Kernels 库通过原生 PyTorch 后端 TorchTPU 获得 TPU 原生支持,不再依赖 Optimum TPU 或 torch_xla。
推荐理由:此前在 TPU 上运行 PyTorch 往往受限于图重编译或需改写 JAX,原生后端接入后开发者能直接将 TPU 视作普通设备调用。