跳到正文
LangChain Blog·· 6 天前精选AI 评分75

LangChain:AI 智能体开发正从具体任务转向目标驱动

From tasks to goals

AI 导读

LangChain 发文探讨 AI 智能体从执行单项任务向承担持续目标的范式转变。目标驱动意味着从指定动作转向指定结果、从有限任务转向持续职责,智能体需要自主拆解任务、应对不确定的工具调用,并在后台异步运行。开发者需要为智能体构建工具调用控制、人工答疑收件箱、基于指标或人工的反馈循环、定时与事件触发机制,以及跨运行周期沉淀反馈的记忆系统。

推荐理由

文章梳理了智能体从执行具体任务转向承担持续目标的架构转变,为后台长程智能体设计提供了落地考量。

正文 · AI 翻译

随着智能体能力不断增强,我们正从“给它们派任务”转向“给它们设目标”。

任务指的是:

  • 写这封邮件
  • 起草这篇博文
  • 修复这个 Bug

目标则是:

  • ‍减轻我的协调负担,同时确保重要事项按计划推进‍
  • 运营维护一个博客
  • 让这款产品获得成功

在底层逻辑上,从任务到目标的转变其实包含两个更具实操意义的转变:

  • 从指定动作转向指定结果
  • 从有限的任务转向持续的职责

这一变化改变了智能体的职责、它所需的支撑、其构建方式,以及我们与它交互的模式。

智能体自己挑选任务

过去,任务都是由用户指定的。而现在,用户只需设定目标,智能体就会将目标拆解成多个任务,执行其中一部分,接着更新任务清单,通过不断迭代逐步逼近目标。

这就要求智能体擅长构思并挑选不同的任务,也催生了对全新上下文工程和提示词策略的需求。在构想潜在任务时,它需要具备一定的创造力,并且能提出多样化的方案(如果翻来覆去总是提相同的任务,效果显然不行)。

实操考量:需要有途径直观查看智能体正在执行哪些任务(比如待办清单),同时还要编写提示词,引导智能体更有创意地规划任务

工具调用的不确定性大幅增加

给智能体分配明确任务时,你大致能预料到它会调用哪些工具。但如果是给它一个目标,你根本无法预知它会调用什么工具,甚至连它需要用到哪些工具都摸不准。

举个例子:

  • 如果让智能体发封邮件(属于任务),你很清楚它需要 Gmail 工具,可能还需要日历工具。
  • 但如果让智能体减轻我的协调负担,同时确保重要事项按计划推进(属于目标),你就很难预料它什么时候会用到邮件、短信、搜索、浏览器,或是其他五花八门的工具。

实操考量:需要对智能体能够或不能调用哪些工具建立更严格的控制机制

用于提问的交互入口

给智能体下达具体任务时,用户自然身处闭环之中。即便一开始没有提供全部信息,智能体也可以很方便地在对话中追问。

但如果给它的是一个目标,它可能会在后台默默运行,期间难免需要针对某些细节进行确认。因此,它必须拥有一种向人类提问的渠道,无论是通过 Slack 还是专门的交互界面。

实操考量:必须建立一套机制,让在后台运行的智能体能够向你寻求确认

获取反馈的途径

在向目标迈进的过程中,智能体需要清楚自己的表现如何。这可以通过监测某项指标是否有改善来实现,也可以通过人类明确给出的反馈来评估。从某种角度看,指标关联度越高越好(因为方便自动化跟踪!),但盲目优化指标从来不是明智之举,所以来自人类的直接反馈往往更靠谱。正因如此,目标在设计上一定要便于人类提供反馈。

你既可以设定供智能体努力达成的量化指标,也可以搭建一套收集用户反馈的渠道。一方面明确智能体评估进展的方式,另一方面也要让人类能够纠正它对“成功”的理解偏差。

实操考量:设计目标时必须契合反馈机制,同时还要搭建好让智能体能够接收反馈的通道

持续性任务需要触发机制(以及终止规则)

给智能体下达任务时,它会一直运行直到任务完成。

给你设定目标后,智能体需要在后台运行。它们并非一直在跑,而是时不时被唤醒来处理任务。那么,它们是如何被唤醒的?

我们见到的常见方式包括:

  • 每隔 X 分钟的心跳机制
  • 周期性 Cron 定时任务
  • 单次 Cron 任务(提醒)
  • 监听事件流

话虽如此,智能体也需要有办法停止、暂停或忽略这些触发信号。如果它每三十分钟收到一次心跳,每次都跑来问你同一个问题,这种体验简直糟糕透顶。

承担持续的职责,并不意味着智能体非得时刻找点事做。有时候,“按兵不动”才是正确的选择。

实践考量:你需要利用定时任务和事件触发器来唤醒智能体,并通过提示词让它自行判断何时采取行动。

记忆让反馈产生复利效应

记忆听起来很酷,过去几年也激发了开发者的无限想象,但在以任务为中心的场景中,它其实并没有那么必要(除非你在反复执行同一个任务)。

面对单次任务,用户每次都可以提供相关上下文。但当你托付一项持续的职责时,这部分负担就转移到了智能体身上。它必须记住以往的决策和反馈,无需你一次次重复交代。

例如:否决一个博客选题不仅影响当前的草稿,还应该作为后续选题的参考依据。

实践考量:智能体必须能够在多次运行之间留存并利用相关的决策与反馈。

结语

给智能体设定目标,绝不只是给它写一段更长的提示词。你实际上是将“做什么”和“何时做”的决策权托付给了它。你的角色也随之转变:不再是事无巨细地下达指令,而是把控大方向、划定边界,并审查工作进展。

来源:LangChain Blog · langchain.com

EVAOO 主站实战落地 · AI Agent 与研发提效

看完情报?回到 EVAOO 主站直接上手工具与完整 SOP

返回 EVAOO 主站