跳到正文
LangChain Blog·· 4 天前同事件AI 评分77

LangSmith 推出编程智能体可观测与成本治理方案

Your coding agent bill doubled. Here’s how to fix it.

AI 导读

LangSmith 针对多编程智能体混用导致的成本激增推出统一可观测与治理方案,支持将 Claude Code、Cursor、GitHub Copilot Chat、Codex 等工具的会话追踪归一化到同一数据模型。方案提供跨工具的 Token 用量、成本与工具调用对比,通过 Engine 识别冗余调用并给出技能优化建议,同时结合 LLM Gateway 实现组织级成本封顶与模型路由。

同一件事,精选收录的是《LangSmith 推出代码智能体成本追踪功能,支持按 PR 结果核算 ROI》

正文 · AI 翻译

上周,一家中型初创公司的工程主管告诉我们,他们团队的编程智能体账单在两个季度内翻了 6 倍。不是因为工作难度增加了 6 倍,而是根本没人盯账单。

Uber 仅用 4 个月就烧光了 2026 全年的 AI 预算;微软正在各部门逐步取消 Claude Code 授权;Salesforce 面前则摆着一张高达 3 亿美元的 Anthropic 账单。

“Token 狂飙”的代价

2026 年初,编程智能体迎来爆发式增长,不少团队甚至把高额支出当成了业务进展的标志:消耗的 Token 越多,就意味着完成的工作越多、杠杆撬动得越大,也越能证明押注 AI 是正确的。然而短短几个月后风向骤变,账单急剧膨胀,成本控制成了 AI 负载能否继续规模化落地的核心命脉。

可该从哪里着手削减开销?开发一个新功能,初版实现可能用 Claude Code,行内微调换成 Cursor,同事代码审查又用 Copilot Chat,而每款工具记录活动的方式与格式都大相径庭。一旦追问“做这个功能到底花了多少钱,这笔投入值不值?”,绝大多数团队都给不出答案。

就在这一刻,疯狂消耗 Token 不再是短暂的探索期,而是演变成了一个沉重的包袱。你根本没有可靠的方法去评估它是否物有所值,因为计量指标全部分散在互不相通的工具之间。

核心痛点:不是缺少数据,而是割裂碎片化

其实每款编程工具都能提供一定程度的成本可见性:Copilot 输出 OpenTelemetry span,OpenCode 提供 session hook,Pi 配有扩展插件,Cursor 则使用 hook。但 Claude Code 里的工具调用与 Cursor 里的记录方式完全不同,根本无法并排对比,看看到底谁的性价比更高。

只要团队使用的工具超过一种,这种割裂感就会立刻暴露出来——而多工具并用几乎是不可避免的。那么,该如何跨团队实际使用的所有智能体,获得一份统一的全局视图?

从清晰可见到掌控全局

当我们与多个团队深入探讨这个问题时,发现了一个规律:这并非单一的孤立问题,而是一个闭环流程的一部分。

  1. 看清开销:面对五种格式迥异的仪表盘,你真正需要的是一个覆盖团队所有编程智能体的统一视图。LangSmith 现在可以将 Claude Code、Codex、Cursor、GitHub Copilot Chat、Pi 以及 OpenCode 的会话追踪统一整合进同一个调用链模型中。无论会话由哪个工具运行,都享有相同的元数据和查询语法。你终于可以直接提问“哪些会话开销最大”,并拿到一个完整的答案,而不是五份零散的数据碎片。
__wf_reserved_inherit
  1. 统一各工具成本口径:当各工具的会话能够并排展示时,客观横向对比才成为可能。将 Token 用量、单次会话成本、工具调用以及子智能体活动统一标准化后,你就能在具体工作流中准确判断 Cursor 或 Claude Code 究竟值不值这个价。
  2. 优化使用效率:看清数据是优化的前提,但多数团队根本无暇行动,因为没人有精力逐一人工审查每个会话是否存在浪费。这正是 Engine 的用武之地:它能分析智能体会话,并提出切实可行的技能改进建议——效果就如同一位资深工程师抽时间逐一审查智能体提交的每个 PR 后给出的指导。例如,如果智能体在一次会话中多次发起多余的工具调用来获取相同的上下文,Engine 会将其标记出来并建议合并调用。这样一来,你得到的不再只是看板上一句冷冰冰的“开销过高”,而是可以直接落地的修改建议。
__wf_reserved_inherit
  1. 控制支出:我们的 LLM Gateway 支持在用户、团队和组织层级设置成本上限并进行治理,不久后还能根据适用场景自动路由到开源模型。如今开源模型效果越来越好、成本越来越低,理应成为每套智能体测试运行环境的标配选项——虽然不是全面取代前沿模型,但对于绝大多数不需要顶尖智能的任务,完全可以作为默认选择。子智能体也是同理:让低成本模型去处理范围明确的子任务,可以避免聪明的顶尖模型在繁杂琐事上白白烧钱。
__wf_reserved_inherit

上述每个阶段都为下一步打下基础。掌握全局后,你才知道该从哪里着手优化;做好优化后,你就能明确哪里需要最严格的治理;而完善的治理又能巩固优化成果,确保下一轮监控看到的是实打实的进展,而非滋生出新的浪费。

这套方案专为使用多款编程智能体的团队打造。从客户反馈来看,绝大多数团队在引入智能体几个月后都会走到这一步。如果你的组织已经完全统一使用单一工具,且该工具自带的仪表盘足以满足你的分析需求,那暂时确实不需要再加一层工具。可一旦引入了第二款工具,自带仪表盘就再也无法回答这个问题:“把所有工具加在一起,钱到底花在哪儿了?”

面向编程智能体的 LangSmith

你不需要第一天就把这四项功能全都用上。如果团队刚开始尝试,可观测性才是最合适的切入点——在决定如何改进之前,你得先摸清楚有哪些智能体在运行、分别花了多少钱,以及会话都在哪些环节出错。如果你已经迈过这个阶段,开始感受到账单的压力,Engine 和 LLM Gateway 原生接入相同的链路追踪数据,让你从“看得见问题”平滑过渡到“能修复且能限额”,中途不需要推倒任何现有的东西。

配置完成后,编程智能体的会话就会像生产环境中运行的其他智能体一样,以 Trace(链路追踪)的形式呈现在 LangSmith 中。视具体集成情况,一个会话通常包含:

  • 用户与助手的对话轮次
  • 模型调用记录,包含 Token 用量与成本
  • 工具调用和 Shell 命令
  • MCP 活动与子智能体调用记录
  • 报错详情与耗时统计

所有 Trace 都会规范化为通用的数据模型(根会话、对话轮次、工具调用、元数据),方便你用统一的字段跨智能体查询。你可以按 thread_id、模型、供应商或工具名称进行筛选,定位高成本会话、揪出失败的工具调用,还能在同一个界面中横向对比 Cursor 与 Copilot 的行为表现,无需来回切换工具。

快速上手

各个工具的配置方法各不相同,请查看相应教程:Claude Code、Codex、OpenCode、Cursor、GitHub Copilot、Pi 或 dcode。

我们做这个产品,是因为自己也吃过同样的苦头:账单一路飞涨,我们却很难搞清楚哪些任务才真正值得花钱。你的研发团队永远不可能只用单一的一款智能体(他们也没必要这么做!),因为大家总会根据手头的具体任务挑选最趁手的工具。可观测性层必须迎合这一现实:无论底层有多少种智能体、事件格式多么千奇百怪,都能在一个地方看得清清楚楚。

借助 LangSmith,团队可以在统一的平台上对各类编程智能体的会话进行排错与评估。找到你正在使用的工具,立即开始体验吧。

‍

来源:LangChain Blog · langchain.com

事件后续 · 1

查看事件全部
EVAOO 主站实战落地 · AI Agent 与研发提效

看完情报?回到 EVAOO 主站直接上手工具与完整 SOP

返回 EVAOO 主站