跳到正文
11月11日周三
  1. Tomasz Tunguz (Theory Ventures)80

    Tomasz Tunguz 拆解 AI 价值链:各环节利润分配与定价权变动

    Tomasz Tunguz 通过公开披露数据将 AI 产业链各环节折算为统一的每年每瓦美元成本,发现在 40% 应用毛利率假设下,应用层占有 40% 毛利池,Neocloud 与推理层分别分得 28% 和 24%,电力与数据中心仅占 3% 和 5%。

    推荐理由:文章将电力到应用的整条链路统一度量衡拆解利润分配,有助于从业者评估算力涨价下各层级的定价权与整合趋势。

11月6日周五
  1. NVIDIA Blog57

    NVIDIA 解读如何通过全栈协同设计化解 AI 内存瓶颈

    NVIDIA 详解了通过芯片、互联与软件全栈协同设计应对大模型与智能体推理显存压力的技术路径,强调不能仅依靠单纯堆叠 GPU 的 HBM 容量。该方案通过 NVFP4 格式压缩模型权重与 KV cache、在 NVL72 系统内分布式存放,并依托 Dynamo 软件将闲置上下文分层卸载至 CPU 内存与低成本 CMX 存储,同时使 RAG 索引常驻 HBM 之外。

10月31日周六
  1. Hugging Face Blog62

    NVIDIA 工程师详解如何基于 Nemotron 开源模型构建万圣节互动投影 MonsterHouse

    NVIDIA 工程师利用 Nemotron 开源模型套件与虚幻引擎 5 构建了万圣节交互投影装置 MonsterHouse,在一台工作站上实现完全离线的多模态实时互动。

    推荐理由:原文展示了如何将端侧语音识别、轻量语言模型与面部动画串联成离线交互管线,为多模态实时智能体落地提供了完整参考架构。

10月22日周四
  1. Hugging Face Blog66

    Dharma AI 介绍 VocabX:如何通过词表专用化降低小模型 77% 推理成本

    Dharma AI 介绍了其针对特定领域小语言模型的词表优化方法 VocabX,通过依据 token 推理成本而非出现频率重构词表,在不改动基座模型的前提下将生产环境推理成本降低了 77%。

    推荐理由:文章阐释了按解码耗时而非词频重构词表的优化思路,为垂直领域小模型在生产环境中的推理降本提供了可迁移的实践参考。

7月9日周四
  1. Benedict Evans76

    Benedict Evans 探讨 Token 定价逻辑与基础模型价值捕获前景

    科技分析师 Benedict Evans 发文指出,当前的 Token 供应紧缩与高定价只是暂时现象,随着产能释放,缺乏网络效应的基础模型很可能滑向低毛利的大宗商品基础设施。他通过对比移动流量与半导体代工的发展历史表明,巨大的资本支出和高技术壁垒不等于长期的定价权与利润捕获能力。在没有出现赢家通吃效应的前提下,大部分商业价值预计仍将被构建在模型之上的具体应用与软件层所截留。

    推荐理由:作者通过对比移动通信流量与半导体代工的演进路径,拆解了模型厂商在算力瓶颈缓解后可能面临的价值捕获难题。

2月20日周五
  1. Benedict Evans76

    OpenAI 将如何竞争:缺乏网络效应下的战略困境与平台悖论

    科技分析师 Benedict Evans 撰文指出,OpenAI 当前缺乏不可替代的独特技术或网络效应,其庞大用户群存在参与度浅与付费率低的问题。面对拥有成熟分发渠道的科技巨头和同质化前沿模型竞争,OpenAI 试图通过巨额基础设施资本支出和协议标准化来构建护城河,但难以像微软或苹果那样形成真正的平台锁定与飞轮效应。

    推荐理由:文章拆解了 OpenAI 缺乏网络效应和产品粘性的战略困境,帮助读者理解为何巨额算力投入难以直接转化为平台壁垒。