跳到正文

AI 发展

AI 算力与云基建 最新动态

NVIDIA GPU 集群架构、推理经济学与成本测算、Cloudflare 边缘推理、算力供应链与大厂基础设施资本开支。

81 条精选近 30 天 75 条共收录 188 条

更新

精选归档 · 第 3 页

10月31日周六第 41–60 条
  1. Hugging Face Blog62

    NVIDIA 工程师详解如何基于 Nemotron 开源模型构建万圣节互动投影 MonsterHouse

    NVIDIA 工程师利用 Nemotron 开源模型套件与虚幻引擎 5 构建了万圣节交互投影装置 MonsterHouse,在一台工作站上实现完全离线的多模态实时互动。

    推荐理由:原文展示了如何将端侧语音识别、轻量语言模型与面部动画串联成离线交互管线,为多模态实时智能体落地提供了完整参考架构。

10月30日周五
  1. Cloudflare Blog72

    Cloudflare 面向私有源站的应用服务正式全面可用

    Cloudflare 宣布面向私有源站的应用服务正式全面可用,允许用户将代理 DNS 记录直接指向私有 IP。源站无需暴露公网 IP 或配置入站防火墙规则,即可直接复用 WAF、Bot 管理、缓存、速率限制和 Workers 等安全与加速能力,主要面向内部 API、AI 智能体后端与 MCP 服务器。

    推荐理由:内部服务和 MCP 服务器无需暴露公网即可复用边缘防护能力,降低了混合架构下的网络暴露风险与运维复杂度。

  2. Simon Willison's Weblog75

    Simon Willison 评 Spawn:利用自主智能体群构建多人游戏世界

    Simon Willison 解读了 Jacob Sansbury 介绍多人游戏 Spawn 自主研发模式的文章。Spawn 玩家可通过内置 AI 智能体 Savi 用提示词修改游戏世界,且整个项目由基于 Fable 模型的智能体群自主开发维护,每月模型 token 开销超 300 万美元。团队实行每小时向生产环境交付的极速持续部署,智能体负责直接修复线上错误并能在 30 秒内回滚故障代码。

    推荐理由:原文展现了高频持续部署与自修复智能体系统的极端工程案例,为评估自主编码智能体的应用边界提供了参考。

  3. NVIDIA Blog62

    NVIDIA 展示开发者如何利用前沿 AI 智能体构建 Omniverse 物理仿真

    NVIDIA 介绍了多个团队利用前沿 AI 智能体结合 Omniverse 库构建物理仿真的实际案例。开发者通过自然语言指令指导智能体完成资产组装、物理配置与渲染,涵盖 Houdini 资产创建、机器人拆解测试、数字孪生以及人形机器人模拟等工作流。文中展示了 Astra 等模型结合 Isaac Sim、OpenUSD 及相关 MCP 工具加速仿真开发落地的具体方式。

    推荐理由:文章详细梳理了开发者结合前沿模型与 Omniverse 搭建物理仿真的实践案例,展示了从自然语言指令到 3D 资产和工业仿真的具体落地路径。

10月29日周四
  1. The Verge AI80

    The Verge 专访 SemiAnalysis 分析师:拆解 Anthropic 招股书与算力经济学

    SemiAnalysis 分析师在 The Verge 访谈中拆解了 Anthropic 提交的 S-1 招股书,指出其年经常性收入已超 700 亿美元,推理毛利率提升至 85%。

    推荐理由:访谈拆解了前沿模型实验室的实际单位经济模型,展现出推理毛利改善与巨额算力承诺并存的商业现实。

10月28日周三
  1. Hugging Face Blog72

    NVIDIA 发布 Nemotron 3.5 Transcribe 与 Granary v2 数据管线

    NVIDIA 推出开源权重语音模型 Nemotron 3.5 Transcribe 及 Granary v2 数据清洗管线。该模型在单个权重中集成了 40 种语言转录、31 种语言与英语互译、13 种语言说话人日志和音频问答功能,支持最长 1 小时音频与 8 位说话人识别,并在 Hugging Face 英文 Open ASR 等基准上取得开源模型第一。

    推荐理由:原文整合了多语种转录、说话人日志和音频问答至单一模型,并开放数据管线与微调方案供领域适配。

  2. GitHub Changelog74

    GitHub Copilot 支持服务器到服务器身份验证

    GitHub Copilot 针对安装在组织上的 GitHub Apps 推出服务器到服务器身份验证公测版。基于 GitHub Copilot SDK 构建的服务和 AI 智能体可直接代表组织发起请求,无需绑定个人登录凭据。调用用量统一计入组织账单并受模型策略与预算控制,组织管理员可通过报表中的 app_client_id 审查各应用用量并随时管理访问权限。

    推荐理由:原文给出了自动化服务与个人账号解绑的具体权限配置,有助于工程团队在规模化调用时规范鉴权和账单管理。

  3. Latent Space82

    Latent Space 访谈 Anthropic:如何用 Claude 构建 Claude 及“大脑与手”分离架构

    Latent Space 深度访谈了 Anthropic 工程与产品负责人,解析内部研发与发布 Claude 的工程机制。访谈重点探讨了 Managed Agents 中将 Harness(大脑)与代码执行沙盒(手)解耦的设计,使沙盒崩溃不影响会话存续,并防止凭证暴露给未受信任的代码。团队还阐述了防思维链蒸馏策略、模型评估反馈闭环,以及在模型能力攀升时向安全与基础设施倾斜的研发取舍。

    推荐理由:访谈揭示了 Anthropic 将智能体治理框架与沙盒执行环境解耦的架构设计,为开发者设计高可靠智能体运行时提供了可迁移的工程思路。

10月27日周二
  1. Latent Space84

    Anthropic 正式提交 S-1 招股书筹备上市

    Anthropic 正式公开提交 S-1 招股书并计划以代码 ANT 在纳斯达克上市,披露其 2026 年上半年营收达到 162.86 亿美元,Q2 录得 9.74 亿美元运营利润。招股书显示其上半年 48% 的收入通过 Bedrock 和 Vertex 等云市场渠道获取,毛利率达 85%,但同时背负延至 2029 年、规模超千亿美元的不可撤销算力承诺。

    推荐理由:原文拆解了招股书披露的云渠道分成与长期算力负债,读者可以据此对比前沿大模型厂商的商业化效率与真实财务结构。

  2. Cloudflare Blog70

    Cloudflare 复盘 Workers AI GLM-5.3 跨请求 KV Cache 泄漏漏洞与 SGLang 修复方案

    Cloudflare 披露 Workers AI 运行的 GLM-5.3 模型因预填充显存池配置不当及 SGLang 分离式调度缺陷,导致超长提示词请求出现跨请求 KV cache 泄漏。

    推荐理由:原文详尽复盘了大模型分离式推理架构中的内存隔离缺陷,为高并发推理集群的生命周期管理提供了工程防护参考。

  3. Latent Space67

    Supabase 创始人访谈:支撑十亿级 AI 生成应用的后端演进规划

    Supabase 联合创始人接受 Latent Space 访谈,探讨了在 AI 智能体大量生成软件的背景下后端架构的设计与演进规划。对话重点涉及在数据库旁运行长周期工作负载的 Supabase Compute、高可用方案 Multigres,以及收购 Turso 后的扩展策略。访谈还分析了声明式架构如何让数据模式更易被智能体理解,并分享了团队内部应用 AI 的实践。

    推荐理由:访谈探讨了AI智能体生成软件背景下后端架构的演进逻辑,为开发者理解长周期工作负载与声明式数据库架构提供了参考。

10月24日周六
  1. SemiAnalysis82

    SemiAnalysis 实测 AWS Trainium3:原生 PyTorch 训练与性能分析器评测

    SemiAnalysis 发布对 AWS Trainium3 及其软件栈的实测报告,重点评估其转向原生 PyTorch 后的训练体验与软硬件性能。

    推荐理由:文章通过实测数据对比了 Trainium3 与 GPU 在原生 PyTorch 训练下的吞吐和 MFU,并详细展示了其硬件级性能分析工具的落地效果。

10月23日周五
  1. Latent Space66

    专访 Modal CEO Erik Bernhardsson:AI 算力合约痛点与 Serverless 基础设施实践

    Modal 联合创始人兼 CEO Erik Bernhardsson 在播客访谈中拆解了 AI 算力供需错配问题,指出固定周期的矩形 GPU 合约无法适应波动的真实负载,Modal 通过聚合数千家客户需求来实现算力池化与弹性切片。

    推荐理由:原文通过算力池化与快照冷启动等工程实践,展现了弹性 Serverless 架构如何解决传统固定周期算力合约的闲置与峰值难题。

10月22日周四
  1. Shopify Engineering72

    Shopify 打造 Remote Dev 架构,为 AI 智能体提供移动端远程开发环境

    Shopify 工程团队开发了 Remote Dev 架构,让其 Slack AI 智能体 River 能在远程环境独立完成 iOS 与 Android 应用的代码构建、真机模拟与测试。

    推荐理由:原文拆解了将移动端编译与模拟器解耦到远程机群的架构方案,为团队规模化落地智能体开发提供了工程参考。

  2. NVIDIA Blog65

    NVIDIA 扩展 Cosmos 平台并上线世界模型训练与部署工具

    NVIDIA 宣布扩展 Cosmos 平台,推出用于构建物理 AI 世界模型的训练工具、仿真检查点以及 Cosmos Data Factory 蓝图。平台提供自动驾驶与缺陷检测等 5 个云原生数据蓝图,并支持对 GR00T、Qwen 及 Hugging Face 开源模型进行微调与蒸馏。

    推荐理由:该工具链打通了从多模态合成数据生成到轻量化蒸馏的完整管线,为物理AI开发者提供了端到端的工业落地参考。

  3. NVIDIA Blog75

    NVIDIA 披露欧洲零售落地进展:开源模型与物理仿真覆盖电商与仓储运营

    NVIDIA 披露欧洲多家零售企业基于其技术落地开源模型与物理智能的实践成果,涵盖电商搜索、内容生成与仓储运营等场景。

    推荐理由:汇总了欧洲零售企业结合开源模型与物理仿真的落地数据,对评估模型自训降本与智能体运营具有参考价值。

  4. Hugging Face Blog79

    NVIDIA 推出关系型数据基础模型 Kumo Relational

    NVIDIA 推出预训练关系型基础模型 Kumo Relational,无需任务特定微调与特征工程,直接在企业级关系型数据库上通过单次前向传播进行预测。在 15 个数据库的 41 项基准测试中,其少样本上下文学习表现超越了专家工程构建的梯度提升树流水线与监督深度学习模型,并支持扩展至超 500B 行数据。

    推荐理由:该模型跳过传统特征工程与单表扁平化流程,为关系型数据库提供端到端上下文预测方案。

  5. Hugging Face Blog66

    Dharma AI 介绍 VocabX:如何通过词表专用化降低小模型 77% 推理成本

    Dharma AI 介绍了其针对特定领域小语言模型的词表优化方法 VocabX,通过依据 token 推理成本而非出现频率重构词表,在不改动基座模型的前提下将生产环境推理成本降低了 77%。

    推荐理由:文章阐释了按解码耗时而非词频重构词表的优化思路,为垂直领域小模型在生产环境中的推理降本提供了可迁移的实践参考。