LangSmith 在 AWS 正式上线 BYOC 托管部署模式

今天，LangSmith 自带云（BYOC，Bring Your Own Cloud）正式上线 Amazon Web Services（AWS）。

BYOC 方案能为企业提供托管式 LangSmith 部署，直接运行在客户自有的 AWS 账户和 VPC 中。追踪数据、数据集、实验、提示词、智能体部署以及沙盒数据等敏感应用数据，全程保留在客户的 AWS 环境内；LangChain 则负责配置并运维该部署，涵盖监控、升级、弹性伸缩及集群生命周期管理。

对于正在将 AI 智能体从试点推向生产环境的团队来说，这解决了一大常见痛点。智能体的追踪和运行时数据通常包含个人身份信息（PII）、受保护健康信息（PHI）、客户记录、内部 API 响应、工具输出以及其他敏感上下文。这些团队既需要 LangSmith 的可观测性、评估、部署与管理能力，又必须确保数据不出原本掌控的云边界。

借助 AWS 上的 BYOC，客户可以：

将 LangSmith 的敏感数据保留在自有的 AWS 账户和 VPC 内
减少基础设施维护耗时，把更多精力投入到智能体的构建、评估与改进中
在保持智能体紧邻私有系统的同时，跨团队、跨区域拓展智能体开发规模

BYOC 目前面向企业级客户开放，覆盖美国、欧盟及亚太地区的 15 个 AWS 区域。

如需为您的组织开通 BYOC，欢迎联系我们。

为什么打造 BYOC

各团队在引入 LangSmith 时，会因各自的安全、合规和运维需求而采取不同方式。

若托管型 SaaS 部署符合组织的数据与网络规范，LangSmith Cloud 仍是上手最快的方式。私有化部署（Self-hosted）LangSmith 则赋予团队对平台部署与运维的完全掌控权，但这同时也伴随着实打实的运维责任。

私有化部署需要专门的基础设施运维支持，涉及数据库容量规划与维护、Kubernetes 管理、网络配置、版本升级、可靠性监控、备份以及长期的日常维护。对于在企业内大规模推广智能体的团队来说，这种运维模式不仅推高了成本，还会挤占部署和优化智能体工作负载的精力。

LangSmith BYOC 正是为此类团队打造：既想要私有化部署的数据驻留与网络隔离优势，又想享受托管服务的省心运维体验。客户掌控 AWS 账户、VPC、数据库、对象存储以及敏感应用数据；LangChain 则代为负责 LangSmith 部署的运维工作。

对于处于受监管或安全敏感环境的团队而言，这一模式尤为实用，涵盖金融服务、医疗健康、网络安全以及具有严格数据治理要求的大型企业。

在自有 AWS 边界内运行的托管式 LangSmith 部署

BYOC 部署由两个平面协同运行。

控制平面运行在 LangChain 的云端。负责身份验证、用户管理、组织与工作区配置、计费与用量元数据，以及 LangSmith 前端界面；同时还负责配置、监控并编排客户的数据平面。控制平面不会存储任何敏感应用数据。
数据平面运行在客户的 AWS 账户中。包含 VPC、私有 Amazon Elastic Kubernetes Service（EKS）集群、数据库、对象存储以及敏感的 LangSmith 数据，具体涵盖追踪记录、提示词、数据集、实验、评估器、Insights 运行记录、标注队列、智能体部署、沙盒及其他运行时数据。

控制平面与数据平面之间通过 AWS PrivateLink 通信，不经过公网。

管理链路上仅暴露客户集群的 Kubernetes API 服务器，LangChain 控制平面借此在客户数据平面中安装并协调 LangSmith 组件。运行时链路上，数据平面可调用控制平面，用于身份验证、工作区配置、遥测以及计费元数据交互。Amazon EKS 集群完全私有化，API 服务器端点不对公网开放，工作节点也未分配公网 IP。

BYOC 的核心优势

通过 BYOC，团队可以直接在自身 AWS 环境中的数据平面上，使用 LangSmith 的全套能力来追踪、评估、部署和管理生产级智能体；跨团队、跨区域扩展所需的运维工作则由 LangChain 全权负责。

数据完全留在客户账户内。敏感的应用数据保存在客户自选区域的 AWS 账户中。LangChain 无需将追踪记录、数据集、提示词、实验或部署数据传输到自家网络，即可完成平台的运维工作。

智能体可安全访问私有系统。数据平面运行在客户的 VPC 内，因此智能体和沙箱能够通过现有的网络路径，直接访问内部数据库、私有 API 以及本地部署系统。

部署速度远快于从零自建。客户只需应用一段 Terraform 模块，创建供 LangChain 部署使用的 IAM 角色，随后在 LangSmith 中创建数据平面即可。LangChain 会自动预置 VPC、Amazon EKS 集群、数据库、存储、入口网关以及集群内服务。

全生命周期运维由 LangChain 托管。底层基础设施升级、LangSmith 版本迭代、弹性伸缩、打补丁、数据备份和健康监控等运维工作均由 LangChain 负责。客户的工程团队无需分心维护 LangSmith 技术栈，可全情投入到智能体的构建与优化中。

架构支持跨团队、跨区域扩展。企业可在不同的环境、AWS 账户和区域中创建更多数据平面。用户和角色等组织级配置会在各部署之间同步生效，团队无需为每个小组单独搭建运维模式，即可轻松扩大 LangSmith 的使用规模。

运维访问全程可审计。紧急技术支持均采用经客户明确授权的访问机制。LangSmith 审计日志保存在数据平面内，Amazon EKS 审计日志直接写入客户账户的 Amazon CloudWatch，VPC 流日志则存储在客户名下的 Amazon S3（Amazon Simple Storage Service）存储桶中。

面对严格的数据和安全合规要求，已有不少客户借助 BYOC，将 LangSmith 应用于 AWS 环境下的生产级智能体业务中。

合作伙伴信任我们能够守护好他们的数据，我们也始终将这份责任放在首位。正因如此，我们选择与 LangChain 及 AWS 合作，通过 BYOC 方案接入 LangSmith。它为我们的团队提供了构建和优化 AI 智能体所需的强大可观测工具，同时将敏感数据稳妥地保留在我们高度安全的环境中。
—— Rishabh Jain，Latent Health 联合创始人

基于标准化 AWS 架构构建

每个 BYOC 数据平面均基于标准化架构预置，该架构与 LangChain 运行 LangSmith Cloud 所采用的架构保持一致。

单套部署包含以下组件：

客户 AWS 账户中的专属 VPC
无公网 API 服务器端点的私有 Amazon EKS 集群
无公网 IP 的工作节点
私有负载均衡器
在 LangChain BYOC 域名上配置 DNS 与 Ingress 入口
对 Amazon RDS 和追踪数据存储库进行每日备份，写入客户账户自有的 Amazon S3
支持 LangSmith 服务与节点容量的自动扩缩容
具备自动故障转移能力的多可用区 Amazon RDS 与 Amazon ElastiCache

LangChain 使用 Crossplane 来调配和协调数据平面。客户只需通过提供的 Terraform 模块创建 IAM 角色，Crossplane 即可代入该角色，在客户账户中创建和管理基础设施。

该角色权限严格限定在基础设施管理范围内。在 AWS 支持的范围内，权限仅限于带有 managed_by=langsmith 标签和特定名称前缀的资源。该角色不包含数据读取权限，例如对追踪数据存储桶的 s3:GetObject、对 PostgreSQL 的 rds-db:connect 或对 Redis 的 elasticache:Connect。

BYOC 模式支持的 LangSmith 功能特性

目前绝大多数 LangSmith 功能均已在 BYOC 模式上线，涵盖团队构建、评估、部署和运维智能体所需的核心工作流。

现已支持：

可观测性：追踪（tracing）、项目、仪表板与告警
评估评测：数据集、实验、评估器与标注队列
深度洞察：自动分析追踪数据，挖掘使用模式、高频行为与失效模式
Context Hub：提示词、记忆及其他上下文文件
LangSmith 部署：在客户数据平面内部署并管理智能体
沙箱环境：在客户账户的专用节点组中执行代码并操作文件系统
大模型网关：凭借单个 LangSmith API 密钥统一访问各模型，集中管理费用开支、速率限制与数据保护策略
Fleet：构建并运行无代码智能体
SmithDB：LangChain 用于处理追踪数据的可观测性后端，数据持久化存储在客户账户的 Amazon S3 中

Managed Deep Agents、LLM 认证代理与 Engine 现已支持 BYOC。

开始使用

LangSmith 企业版客户现已可在 AWS 上使用 BYOC。

如需使用，欢迎联系我们探讨适合您团队的 BYOC 方案，也可查阅官方文档了解更多细节。