跳到正文
LangChain Blog·· 5 天前精选AI 评分69

AI 智能体沙箱选型指南

How to Choose the Right Sandbox for AI Agents

AI 导读

LangChain 发布 AI 智能体沙箱选型指南,梳理了智能体在执行代码时的提示词注入与越权风险。文章结合敏感数据访问、不受信任输入与外部通信三项风险条件,提出沙箱需具备 microVM 级内核隔离、独立文件系统、网络限制与资源配额控制。文中对比了智能体内置沙箱与沙箱作为外部工具调用两种架构,并介绍了 LangSmith Sandboxes 托管方案。

推荐理由

梳理了代码执行场景下的安全风险与架构模式,为开发者评估沙箱隔离能力与鉴权方案提供了清晰参考。

正文 · AI 翻译

AI 智能体只有在能够付诸行动时才能发挥最大价值,而赋予它们编写和运行代码的能力,正是最具价值的赋能方式之一。然而,这种自主性也伴随着安全风险。智能体编写的代码可能会对你的数据和系统造成意想不到的威胁,因此你必须严格把控这些代码的运行环境及其访问权限。

沙箱(Sandbox)让团队拥有了这种控制力。它们能隔离 AI 生成的代码,限制其权限,并在保障安全的前提下为智能体处理实际工作划定边界。简单来说,沙箱就是供智能体安全使用的计算环境。本指南将介绍运行 AI 生成代码的安全风险,并探讨如何选择合适的沙箱方案,在保护数据和系统的同时不削弱智能体的实用价值。

什么是 AI 智能体沙箱?

AI 智能体沙箱是一个隔离环境,智能体可以在其中运行自己编写的代码、安装软件包以及处理文件,而完全不会触及宿主机或其余底层基础设施。即使攻击者试图通过提示词注入来劫持智能体,沙箱也能限制智能体对你的数据和系统可能造成的破坏。

智能体的“致命三要素”:为什么智能体需要沙箱?

大语言模型(LLM)在软件工程领域表现出色,因此代码生成与执行成为了智能体创造价值的最佳途径之一。代码本身既可以作为最终产出,也可以作为智能体完成非软件工程任务的辅助工具——后者最常见的例子就是编写一次性脚本来进行自定义数据分析。然而潜在的风险在于,攻击者可以通过提示词注入诱导智能体编写恶意代码,从而危及你的数据和系统安全。 

目前,尚无万无一失的方法可以防范提示词注入,且包含提示词注入攻击的不可信内容可以通过多种途径渗入智能体的上下文中。终端用户的输入、外部 MCP 服务器的响应以及第三方编写的技能插件,都是常见的攻击载体。知名 Web 框架 Django 的联合创作者、“提示词注入”这一概念的提出者 Simon Willison,曾将由此带来的风险归纳为“致命三要素”(lethal trifecta)。一旦以下三个条件同时满足,就意味着攻击者有可能通过你的智能体窃取数据:

  1. 能够访问敏感数据
  2. 暴露于不可信内容之中
  3. 具备对外通信能力 

受 Willison 的“致命三要素”和 Chromium 安全机制“双规则”(Rule of Two)的启发,Meta 提出了“智能体双规则”(Agents Rule of Two)。在该框架下,如果智能体在一个会话中同时具备以下全部三个特征,则不应让其完全自主运行:

  • 智能体可以处理不可信输入
  • 智能体可以访问敏感系统或私有数据
  • 智能体可以更改状态或与外部通信

如果某项任务同时需要这三项能力,Meta 建议引入人工审批或其他可靠的验证手段。

要为智能体配备所需的工具,通常就意味着既要赋予其访问敏感数据的权限,又要允许其对外通信。基础模型和配套工程架构的进步让 AI 智能体能够利用越来越庞大的上下文,但这也同时增加了攻击者发动提示词注入攻击的概率。

以电子邮件助手为例,它需要读取陌生发件人的邮件、访问私密收件箱并发送回复。来信中的恶意指令就可能利用这一组合漏洞,诱使智能体泄露隐私信息或发送未经授权的邮件。 

你的智能体很可能也面临“致命三要素”的风险,这意味着必须设置安全机制,严格限制它能对哪些数据执行何种操作。要想顺利落实这些管控,先缩小这三项风险因素的影响范围会容易得多。而这正是沙箱的用武之地。 

选择 AI 智能体沙箱时该看重什么

在评估代码生成智能体沙箱时,重点关注以下特性,以便限制其访问敏感数据,并减轻提示词注入攻击得逞后的危害:

  • 文件系统隔离
  • 限制网络访问
  • 资源限制
  • 受控复用
  • 与宿主机实现内核级隔离

市面上有些标榜为“沙箱”的产品并不具备开箱即用的上述功能,因此在为智能体选型时务必严格评估。例如,开源的 Kubernetes Agent Sandbox 只有部署在容器间具备内核级隔离的集群中才是安全的,但大多数 Kubernetes 集群并没做到这一点。 

文件系统隔离

沙箱内应当仅包含智能体工作所需的数据,并阻止其尝试访问任何其他数据。这样既能最大限度减少敏感数据的暴露,也更便于审计与管控。 

限制网络访问

沙箱应当允许你指定智能体可通过互联网向哪些外部端点发送数据。这意味着,即便攻击者诱使智能体泄露敏感数据,数据也只能被发送给你信任的实体。

资源限制

沙箱应当允许你控制智能体可使用的算力、内存以及运行时间。即便智能体失陷,也不能让它过度消耗系统资源。 

受控复用

复用沙箱是让智能体在多次执行中保持状态的一种便捷方式,但这同时也意味着一旦攻击者攻破了沙箱,造成的破坏可能会一直延续。所选的沙箱方案应当把这个决定权交给你,由你权衡是否值得承担该风险。 

与宿主机实现内核级隔离

上述管控机制要发挥作用,前提是智能体无法覆写执行这些策略的底层系统。然而不幸的是,操作系统内核往往存在漏洞,一旦智能体失陷,攻击者就可能利用这些漏洞夺取机器控制权,从而绕过所有数据保护机制。对此,解决办法是采用虚拟化技术——让沙箱运行在独立的内核上,与宿主机内核彻底隔离开来。你可以使用基于 microVM 的方案,在不承担为每个沙箱启动完整虚拟机的高昂开销下,高效创建具备内核级隔离的沙箱。 

具备上述所有特性的沙箱方案,并不代表你就可以高枕无忧、不考虑智能体失陷对数据和系统带来的风险。光靠沙箱并不能彻底消除“致命三要素”中的任何一环。但沙箱能大幅收缩对敏感数据的访问并限制外部通信,将提示词注入的风险压缩到可控范围,让团队有信心从容应对。

智能体该运行在沙箱内部,还是将沙箱作为工具来调用?

智能体接入沙箱主要有两种方式,我们的 CEO 兼联合创始人 Harrison Chase 在《智能体连接沙箱的两种模式》一文中对此做过介绍:

  • 沙箱内置智能体模式。把智能体预装进镜像,直接在沙箱内运行。这种方式与本地开发体验一致,但智能体只要有改动,就得重新构建并部署镜像。
  • 沙箱作为工具模式。智能体运行在自有服务器上,只在需要执行代码时才通过 API 调用沙箱。

将沙箱作为工具调用有三大优势:更新智能体逻辑无需重构镜像、API 密钥不必放入沙箱、智能体状态与执行环境彻底隔离。

主要缺点在于网络延迟——每次执行调用都要走网络。Deep Agents 同时支持这两种模式。

LangSmith Sandboxes:集成端到端智能体工程平台的安全代码执行环境

我们开发了 LangSmith 智能体工程平台作为开源产品的补充,方便开发者对基于 LangChain、LangGraph 或 Deep Agents 构建的智能体进行全方位测试、部署和监控。沙箱往往是打造安全智能体的核心组件,因此我们在 LangSmith 中内置了托管沙箱方案。该产品完全遵循前述最佳实践设计,并经过了严格的渗透测试。LangSmith Sandboxes 已被各类型企业广泛采用,其中不乏 Monday.com 等大型企业。

每个 LangSmith Sandbox 都由独立的 microVM 提供底层支持,配备专属文件系统,在内核层面实现了沙箱之间以及沙箱与底层基础设施的严格隔离。用户可以完全掌控沙箱从启动、停机到销毁的全生命周期,按需决定复用频次,并自主配置沙箱内进程的网络访问权限。我们还内置了授权代理服务:流量离开沙箱后,代理才会向出站请求注入安全凭证,从而避免敏感密钥落入沙箱内部被不可信进程窥探或滥用。

管理 LangSmith Sandboxes 无需切换工具,直接沿用现有的可观测性、评测和部署 API 及认证方式即可。只需寥寥数行代码,就能为基于 LangChain、LangGraph 或 Deep Agents 构建的智能体接入沙箱能力。

为什么选择 LangSmith Sandboxes:
严格遵循现代安全最佳实践
授权代理机制让不可信代码接触不到密钥凭证
与 LangChain 和 LangSmith 生态无缝集成

如果你正打算借助沙箱打造兼具实用性与安全性的智能体,不妨参考官方文档,即刻体验 LangSmith Sandboxes。

来源:LangChain Blog · langchain.com

EVAOO 主站实战落地 · AI Agent 与研发提效

看完情报?回到 EVAOO 主站直接上手工具与完整 SOP

返回 EVAOO 主站