LangChain 推出 LangSmith Tool Gateway 开启公测
LangSmith Tool Gateway: Secure, governed tool use for agents
LangChain 在 LangSmith 智能体平台正式上线 LangSmith Tool Gateway 公开公测版,为智能体提供托管工具治理层。该网关统一解析工具调用的身份与访问凭证,支持以用户自身身份或智能体专属身份发起调用,并兼容任意 MCP 服务端。平台还提供细粒度拒绝策略、人工审核流程以及完整的工具调用链路追踪与企业级审计日志。
针对生产环境中智能体调用工具缺乏鉴权与审计的痛点,该方案提供了统一管理身份、策略拦截与追踪的可复用架构。
智能体正在走出聊天窗口,承担起更多主动化、环境式的工作。它们不再被动等待提示词,而是定时执行或由事件触发,无需人工步步确认就能处理更长周期的任务。这让智能体变得更加实用,但同时也意味着团队必须把控好每个智能体能调用哪些工具、代表谁的身份执行操作,并对其每一次行动留存记录。
今天,我们在 LangSmith Agent Platform 上正式推出公开测试版(Public Beta)的 LangSmith Tool Gateway。Tool Gateway 是一个托管式工具层,专为智能体的每一次工具调用处理凭据、身份与访问权限,让管控智能体的行为变得轻而易举。借助 Tool Gateway,工程团队无需每次都从零手写认证逻辑,就能更便捷、更快速地以可控方式为智能体接入新工具。安全与合规团队也可以通过 LangSmith 对工具调用进行追踪与审计,将其纳入智能体监控体系。
工具治理是智能体治理的核心
智能体上线投产后,平台工程团队需要洞察每个智能体的具体操作,管控其可以调用的工具和模型,并通过使用策略来控制成本与风险。借助 LangSmith,开发者可以在统一的平台上构建、运行并持续改进智能体。
LLM Gateway 负责管控智能体发起的模型调用。借助它,你可以设定预算上限、配置备选模型、设置限流规则,并对敏感信息和个人隐私数据进行脱敏;同时,它还能在智能体追踪(trace)中呈现丰富的模型调用信息,包括延迟、回退(fallback)、失败状态及触发的安全护栏等,提供清晰的洞察视图。Tool Gateway 与 LLM Gateway 并存于 LangSmith 中,贯穿整个生命周期提供治理能力。
Tool Gateway 简化了智能体的工具列表配置,执行使用策略,管理工具调用时的身份认证;与 LLM Gateway 一样,它也在智能体 trace 中提供详尽的工具调用信息(如服务器、调用用户、执行结果、延迟等),实现全程透明可见。
Tool Gateway 与 LLM Gateway 协同工作,为智能体的行为动作与成本开销提供全方位的可见性与治理能力。
智能体调用工具为何会演变成治理难题
在生产环境中,智能体通常需要服务成百上千名用户,而每位用户的权限各不相同。这意味着系统必须管理并定期刷新海量 Token,并出于安全与审计要求,严密管理并记录每次访问。大规模管理身份与调用追踪,其复杂度远超本地开发。如果为每个智能体单独搭建这套底层管道,不仅会拖慢产品交付节奏,还会让系统暴露在更大、更多变的安全风险之下。
在生产环境中为智能体开放工具访问权限,需要满足三大要求:
- 访问权限(Access):明确该智能体能调用哪些工具,以及使用哪些凭据。
- 行为管控(Control):划定每位用户可以通过智能体执行的操作,并在必要时引入人工审核。
- 可见性(Visibility):追踪正在调用的工具,并确认智能体使用了正确的身份凭证。
最快但也最粗糙的做法,就是把这三项逻辑全部硬编码进智能体中。工程师为每个服务商手写一套 OAuth 流程,将 Token 直接存放在智能体旁边,每接入一个新工具就新增一段路由逻辑。在受限环境下追求快速出成果时,这种做法确实行得通;但一旦调用量、工具数量和用户规模开始增长,这种方式就会难以为继。
智能体究竟应该如何使用工具?
结合具体场景来看这个问题会更清楚。我们合作的一家美国大型零售商正在开发用于门店运营和库存管理的智能体,其中两个智能体恰好能说明当下面临的挑战。
第一个是负责为店员答疑的门店助手,它使用的是每位员工个人的登录凭据,拥有访问库存系统、排班表和电子邮箱的权限;第二个是库存盘点智能体,每天凌晨 3 点自动运行核对库存,使用的是专属的服务凭据。
工程团队已经搭建了 50 多个 MCP 服务器,对外提供了上千个工具。但实际上,每个智能体只应该调用经过审批的一小部分工具,并且每次调用都必须匹配上下文所需的正确凭据。如果团队将凭据硬编码进智能体,或者直接开放整个工具服务器,就缺乏确定性的检查机制,无法阻止智能体误用凭据或调用未经授权的工具。再加上缺乏对智能体工具调用行为的端到端可见性,安全团队根本无法进行审计或核实。
Tool Gateway 统一管理每次工具调用的权限、身份与策略

Tool Gateway 是一层托管式工具管理层,调用方可以通过单一 URL 路由所有工具请求。针对每个调用方,Tool Gateway 都会完成身份解析、权限管理,并记录工具调用的追踪日志。
具体运作流程如下:
权限管控:明确智能体“能用什么工具”以及“以谁的身份使用”
Tool Gateway 充当了工具发现与访问的统一入口。由于不必再为每个智能体重复配置工具,新智能体的上线速度大幅提升;同时,安全团队也能对每个智能体的访问范围一目了然。
工具只需注册一次
通过 URL 添加任意 MCP 服务器,或为 Google、Salesforce、GitHub 等常用应用启用内置服务器。各团队不仅能轻松找到现有工具,还能确保使用时严格遵循安全策略。
严格限定每个智能体的访问范围
工具包(tool kit)是一组经过筛选、发布在单一 URL 上的工具集合。用户可以根据需求创建工具包,将其共享给整个工作区或仅供个人使用。智能体接入特定工具包后,就只能看到并使用该工具包内打包的工具。
利用搜索模式,保障大型工具包的高效与准确
当智能体关联了成百上千个工具时,一次性全部加载不仅会增加延迟,还会让精准选出合适工具变得更加困难。开启搜索模式后,智能体只需检索工具包,仅加载与当前任务相关的工具即可。

Tool Gateway 为工具调用提供身份解析能力,工程团队无需再手写认证逻辑,从而加快研发进度。通过网关发起的每一次工具调用,调用方都会被映射到两种身份之一:
- 以用户身份代行(Acting as the user)会直接套用用户本人的凭据。企业的身份提供商(如 Okta、Entra ID)会验证其身份,用户只需关联一次账号,此后 Tool Gateway 就会在每次调用时使用该用户的权限。如果用户尚未关联,调用会返回一个登录链接,待用户完成验证后自动继续执行。这样一来,工程师无需编写额外代码,就能让智能体代表用户调用工具。
- 以智能体身份运行时,系统会使用与智能体绑定的凭据,具体可通过在 LangSmith 中配置的智能体身份验证,或通过配置文件(Profile)实现。配置文件采用共享凭据,工作区管理员只需为智能体连接一次即可。管理员也可以通过配置文件设置一组共享凭据,供在后台自主运行的多个智能体重复使用。
管控:制定工具使用与审批策略
管理员可以通过多种方式制定策略来控制工具的使用:
- 拒绝策略可以在不同粒度上阻止工具调用:具体到某个用户、服务密钥或两者的组合。拒绝策略还可以应用于所有人,并设置例外名单。管理员可以在组织或工作区级别配置这些策略。
- 审批策略则要求用户在 MCP 客户端中确认敏感的工具调用,确认后方可执行。例如,在开放写入数据仓库的工具之前,管理员可以配置人机协同(human-in-the-loop)审批要求,确保智能体每次尝试向数据仓库写入数据时,都必须经过人工审核。

可见性:在智能体追踪中监控工具调用
LangSmith 会结合智能体的对话上下文,对每一次工具调用进行追踪,让你无需跨多个平台拼凑追踪记录与日志,就能轻松监控使用情况并应对审计。虽然工具调用向来都会记录在 LangSmith 的追踪中,但借助 Tool Gateway,我们还能获取更详尽的信息,包括使用的是谁的凭据、调用了哪台服务器、延迟以及执行结果。这样一来,调试速度显著加快,安全审计也有了清晰可查的依据。
洞悉每一次工具调用
为 Tool Gateway 开启工具调用追踪,即可记录每次调用涉及的工具、服务器、用户、结果及耗时。由于系统不会存储发送给工具或由工具返回的数据,敏感信息绝不会进入记录。
结合上下文高效调试
工具调用会直接显示在智能体自身的追踪记录中。在平时用于调试的同一个视图里,你就能清楚看到智能体选择工具的步骤、使用的身份凭据以及调用是否成功。
为安全团队提供统一审计记录
在企业版方案中,审计日志能够记录全组织范围内各工具的运行情况及其执行身份。这让需要收集日志和进行监控的安全与合规团队,可以在统一平台上轻松搞定一切。“昨晚凌晨 3 点这个智能体使用了什么工具、用了谁的凭据?”这类问题从此迎刃而解。

内置工具免去常见工具的服务器与 OAuth 配置
数分钟内即可连接常用工具,无需自行搭建或维护任何服务器。
常用工具,开箱即用
Tool Gateway 提供了由 LangSmith 托管的内置服务器,覆盖了大多数智能体所需的应用程序:Google、Microsoft、Salesforce、GitHub 和 Linear。使用内置工具时,你无需运行服务器,也无需注册 OAuth 应用。
一次连接,随处调用
开启内置服务器,连接账号或添加 API 密钥,即可将其工具添加到任意工具包中。
| 登录方式 | 操作流程 | 内置工具 |
|---|---|---|
| 由 LangSmith 托管 | 点击 Connect 并完成登录,OAuth 应用由 LangSmith 负责运行。 | Google、Microsoft、Salesforce、GitHub、Linear、LinkedIn |
| API 密钥或公开 | 启用并在需要时添加 API 密钥 | 并行搜索、Exa、Tavily、Apollo、Ashby、Pylon、网页读取 |

只需 5 步,即可为智能体配置安全可控的工具访问权限
LangSmith Tool Gateway 提供了简单流畅的流程,便于添加新的工具服务器,并允许对多个智能体开放其中的工具访问权限。添加完成后,工作区内的所有智能体均可调用该服务器及其工具,平台的身份识别与认证则全由 LangSmith 负责。具体步骤如下:
- 获取权限。在 LangSmith 中打开 Tools。
- 添加服务器。注册 MCP 服务器 URL 或直接启用内置服务器。
- 为各工具关联账号。只需登录一次,或保存 API 密钥即可。
- 构建工具包。挑选智能体所需的工具,即可获得一个统一的 MCP URL。
- 将客户端指向工具包 URL。Tool Gateway 兼容任何 MCP 客户端,包括 LangChain、Deep Agents、Managed Deep Agents、Claude Code 和 Cursor。
部署值得信赖的持久化智能体
持久化智能体的最大价值,在于无需人工干预即可在后台自主运转。而默认具备安全的工具访问能力和端到端可见性,是建立这种信任的关键基石。Tool Gateway 不仅为智能体赋予所需权限,还提供身份认证、自定义安全护栏以及每次调用的完整记录,让你的团队能够专注于构建智能体本身,免除维护连接的后顾之忧。
🛠️ 立即前往 LangSmith 打开 Tools,添加你的第一个服务器!
来源:LangChain Blog · langchain.com