跳到正文
LangChain Blog·· 5 天前精选AI 评分70

LangSmith 推出三项新权限控制以保护追踪中的敏感数据

Protect sensitive data in your traces: new controls in LangSmith

AI 导读

LangSmith 推出三项追踪数据访问控制功能,帮助团队在遵循 GDPR 与 HIPAA 等合规要求的同时开展生产调试。新功能支持限制用户查看输入输出文本、按用户组划分团队权限,以及基于根运行元数据配置追踪级 ABAC 策略。工程师无需接触敏感内容即可查看运行树、延迟与模型 token 消耗,功能目前已在 LangSmith Enterprise 方案上线。

推荐理由

原文给出了细粒度权限控制的具体组合方式,有助于团队在满足合规要求的同时保留生产调试能力。

正文 · AI 翻译

智能体要上线生产环境,就绕不开对它所接触数据的治理。一旦这些数据包含敏感的客户信息,进行访问控制就不再只是安全考量,更是一项法规与合同义务。这往往让工程与安全团队陷入两难:工程师需要生产环境的追踪(trace)记录来排查问题、提升智能体性能;安全与合规团队则必须恪守最小权限原则——员工只能接触工作所必需的数据。

正因如此,LangSmith 新增了三项控制功能,帮助团队管理敏感追踪数据的访问权限:

  • 控制谁能查看追踪的输入与输出(即用户消息与模型回复)
  • 通过用户组按团队分别管理权限
  • 利用元数据设置追踪层级的访问策略

在保障客户数据安全的同时,为工程师保留可见性

追踪记录能让工程师清楚了解智能体的运行逻辑,进而发现优化空间。但在记录生产环境的实际操作时,追踪的输入与输出往往混杂着姓名、健康信息或支付信息等敏感客户数据。企业必须限制这类数据的访问权限,以满足: 

  • 合规监管要求——例如 GDPR、HIPAA 和 CCPA,这些法规要求企业严格限制敏感数据的接触人群,并在发生数据泄露时追究企业责任
  • 客户合同约定——合同往往会增加额外的数据管理要求,例如强制遵循 ISO 27001 框架或通过 SOC 2 审计

面对这些要求,团队过去基本只有两条路可选。

第一种是自建可观测性系统,通过复制追踪数据和维护多个工作区来实现。这样工程师确实能看到追踪,但平台工程团队的配置与维护负担骤增。另一种做法则是索性不把追踪数据发送到可观测平台,这又导致智能体工程师失去了系统可见性,拖慢产品迭代速度。

我们推出这些全新控制功能,正是为了让企业无需再用各种繁琐方案妥协,就能同时兼顾工程与安全团队的需求。

具体运作方式如下:你可以把完整保真的追踪数据发送到 LangSmith,然后仅向需要的人员开放访问权限。排查问题遵循最小权限原则,像排查延迟等性能瓶颈时,完全无需暴露任何敏感数据。如果客户反馈了问题,你也可以只将该客户相关的输入与输出开放给负责解决问题的特定人员或团队。所有权限均可通过细粒度的管理员控制台灵活配置。

限制追踪输入与输出的访问

LangSmith 全新的输入输出控制功能,让管理员能够更精细地决定用户可以看到追踪记录的哪些部分。敏感用户数据大多集中在追踪的输入与输出中;而运行树、性能统计数据以及元数据等信息,既是优化智能体的关键,敏感度又低得多。

借助这些控制功能,智能体工程师无需查看敏感内容,也能排查并解决各类问题(例如重复或低效的工具调用);同时,确实需要完整上下文的人员也能根据需要获取查看权限。

按团队划分并管理权限

管理员还可以在 LangSmith 中将用户划分为不同的用户组。每个用户组在各个工作区中都拥有一套独立定义的权限,叠加在企业通用的基于角色的访问控制(RBAC)与基于属性的访问控制(ABAC)之上。这样一来,管理员就能严格契合企业内部对各团队职责的分工,更自然地管理权限。

例如,临床医生可以分到一个能查看 Trace 输入和输出的用户组,以便进行精准的 Trace 标注;而智能体工程师则可以分到一个仅能查看运行树、延迟和 Token 用量的组,借此获取优化智能体所需的数据。这类访问策略还能继承现有的限制规则,比如对不同地区的员工实施差异化的访问策略。

基于元数据设置 Trace 访问策略

为了实现更精细的控制,管理员可以利用 root run 元数据来定义 Trace 级的 ABAC(基于属性的访问控制)策略。每条策略都会检查 Trace 上的元数据,并根据预设条件授予访问权限。

这是 LangSmith 粒度最细的访问控制功能,让管理员能够根据具体的智能体应用场景与数据处理要求,极其灵活地制定管控规则。例如,管理员可以通过客户 ID,让客服人员仅能查看其所对接客户的 Trace;或者根据用户 ID,让开发者只能访问自己名下编程智能体的 Trace。

只要相关属性被记录在 root run 元数据中,就可以用来落实最小权限访问原则。

组合多种控制措施,落实最小权限原则

上述每项控制措施单独使用都很有价值,但它们的设计初衷是通过分层叠加使用,来管理生产环境中的 Trace 访问。智能体会将完整保真的 Trace 发送给 LangSmith,并附带客户 ID 或用户 ID 等 root run 元数据。LangSmith 会保存完整的 Trace,无需脱敏备份或存储多份副本。各个团队具体能看到什么内容,完全由 LangSmith 的上述控制机制决定。

例如,支持团队只能查看其服务客户的输入和输出内容;而智能体工程师可以查看所有 Trace 的运行树和性能数据,但输入和输出内容会被隐藏。当支持团队接手新客户时,你只需更新其基于元数据的策略,而无需调整输入输出权限,也不会影响工程团队的访问权限。工程师借此获得了优化智能体所需的可视化数据,安全团队也能确保敏感数据仅向合规人员开放。

立即开始

这些全新控制功能现已面向 LangSmith 企业版方案开放。

现有客户可以查阅有关输入与输出访问权限、用户组以及基于元数据的访问策略的官方文档开始上手。

如果你刚接触 LangSmith 并对这些控制功能感兴趣,欢迎联系我们的团队洽谈了解。

来源:LangChain Blog · langchain.com

EVAOO 主站实战落地 · AI Agent 与研发提效

看完情报?回到 EVAOO 主站直接上手工具与完整 SOP

返回 EVAOO 主站