跳到正文
  1. Hugging Face Blog75

    Hugging Face 宣布通过 TorchTPU 原生支持 Google TPU

    Hugging Face 宣布旗下 Transformers、Diffusers 和 Kernels 库通过原生 PyTorch 后端 TorchTPU 获得 TPU 原生支持,不再依赖 Optimum TPU 或 torch_xla。

    推荐理由:此前在 TPU 上运行 PyTorch 往往受限于图重编译或需改写 JAX,原生后端接入后开发者能直接将 TPU 视作普通设备调用。

  2. Cloudflare Blog80

    Cloudflare 将内部 AI 代码审查推理成本降低 68% 的优化实践

    Cloudflare 内部 AI 代码审查系统的单次平均审查成本从 2.43 美元降至 0.77 美元,降幅达 68%,审查中位耗时也由 4 分 09 秒缩短至 1 分 32 秒。

    推荐理由:团队拆解了提示词缓存跨仓库共享、多智能体协同调用精简及模型分级策略,为工程团队降低高频推理成本提供了实测路径。

  3. Cloudflare Blog81

    Cloudflare 发布系统一信息抽取模型 Clairic 预览版

    Cloudflare 宣布推出系统一风格的信息抽取模型 Clairic 预览版,已上线 Workers AI 并计划近期开源权重。该模型采用单次前向传递处理非结构化文本及图像,直接输出强类型的数值、日期、置信度与预测区间,不产生生成文本且不计输出 token 费用。在官方客服索赔流水线测试中,该级联方案比纯大语言模型方案耗时缩短 69%,成本降低 49%。

    推荐理由:该模型采用单次前向传递直接输出强类型数据,相比传统大语言模型大幅降低了信息提取与预测的调用延迟与成本。

已经到底了