Meta 详解如何用 AI 智能体跨广告排序模型规模化迁移机器学习技术
How Meta Uses AI Agents to Scale ML Innovations Across Ads Ranking Models
Meta 详解了利用 AI 智能体在其庞大且异构的广告排序模型集群中自动化迁移机器学习创新的系统方案。该系统贯穿技术发现、泛化适配与落地采用三个阶段,通过结合 LLM 推理与专用 ML 工具接管高判断密度的决策工作。
文章拆解了利用 AI 智能体在超大规模工业级推荐与排序模型集群中实现跨模型自动化迁移的完整三阶段工程设计。
- 在本系列的前一篇文章中,我们介绍了排序工程师智能体(REA)。这是一个自动化系统,能够自主提出假设、设计实验,并在广告排序模型上验证新的机器学习(ML)技术。
- 今天,我们将分享如何将架构升级、训练优化等排序模型的改进成果,高效推广到海量且多元的广告排序模型集群中。
- 本文将详细介绍这一被我们称为“技术推广”(technique propagation)的流程,以及我们如何利用 AI 智能体来优化它。
- 自智能体于 2026 年 3 月开始主导执行以来,据我们估算,已有超过 60% 的技术推广工作由 AI 智能体完成。与引入智能体前的同期工作相比,早期成果显示:工程研发效率提升至 3 倍;在部分选定组合中,训练算力消耗中位数降至四分之一;预计到今年年底将节约超过 4500 万美元的算力开销。
Meta 的广告推荐系统由大量各不相同的广告排序模型驱动。这些模型分别服务于不同的产品展示位和广告主目标,且各自拥有独特的架构、训练数据和在线服务约束。
在这套模型体系中,机器学习研究员和工程师不断通过我们称之为“技术”的创新成果来推进前沿水平。一项技术泛指任何能让排序模型表现更好的改进,例如 Wukong 分解层和 Interformer 交互网络等架构升级、更丰富的数据表征、训练优化,或是训练与推理环节的效率提升。
然而,由于每个模型的架构、数据以及训练与上线服务约束各不相同,在一个模型上验证有效的技术几乎无法直接复制套用到下一个模型上。与此同时,落地速度也至关重要,因为机器学习技术存在“保质期”。今天带来收益的创新,可能在几个模型迭代周期内就会被取代。验证有效的技术越快推广到整个模型集群,就能在下一代技术到来之前创造出越大的价值。
那么,我们如何在尽量减少工程人力和算力消耗的同时,尽快将一项技术推广到形态各异的模型集群中?
规模化技术推广
将日益增多的成熟技术推广到庞大多元的模型集群中,会催生出一个呈组合级膨胀的“技术-模型”探索空间。在这一空间中,工程人力与算力资源都会成为极大的制约瓶颈。
适配技术的常规做法,是由具备领域专业背景的工程师手动完成。工程师需要深入分析该技术与特定模型架构的交互机制,对其进行泛化,并针对该模型的具体约束进行调优。这种方式产出的效果最出色,目前也仍用于我们营收最高的模型,但它无法扩展覆盖到整个空间中的所有模型。每一次适配都要投入大量精力,且要求工程师对相关技术与目标模型均有深刻理解。因此,产出上限始终受限于工程人力,而潜在的适配需求却在以快得多的速度增长。
技术推广的第二个限制是算力。每次尝试适配都需要跑一次训练,而在算力预算有限的情况下,不仅要考虑尝试哪些技术,更要想办法在庞大的配置组合空间中探索,避免把算力白白浪费在收益微弱的尝试上。
这两项限制指向了同一个要求:要想把技术快速推广到大量不同模型上,推广过程就必须实现标准化、自动化,并具备自主研判能力。
我们首先推进了模型设计的标准化与推广过程的自动化:通过模板驱动的方法,将模型拆解为少量可复用、可组合的构件,只要某项技术在模板层验证通过,就会自动应用到基于该模板构建的每一个模型中。过去 2 年里,依靠标准化与自动化,我们面向规模庞大且种类繁多的模型库上线了 5000 多个“技术-模型”组合,同时将单模型的工程耗时缩减了 92%。更多细节可参考我们关于标准模型模板(SMT)的文章。
标准化和自动化能够解决确定性的步骤,但要实现高效且成功的推广,依然少不了关键判断,比如哪项技术值得推广到哪个模型、超参数搜索范围该定多大、模型为何没有带来收益,或者如何排查并解决故障。这些决策过去依然高度依赖人力,限制了我们进一步扩大规模,也让我们难以在技术验证后的几周内将其快速普及到所有适用模型中。
这正是 AI 智能体的用武之地。
借助 AI 智能体规模化推广技术

我们的技术推广系统围绕三大核心能力构建:
- 发现(Discovery):实时跟踪哪些技术已得到验证,评估其迁移潜力,并按预期效果排序,生成按优先级排列的“技术-模型”候选组合。
- 泛化(Generalization):将已验证的技术推广开来,使其能够适用于最初并非为其设计的模型。对于基于共享模板构建的模型,某项技术只需针对该模板泛化一次,即可惠及基于它构建的所有模型;对于模板未覆盖的模型,则需要针对每个模型单独进行适配,这也正是最考验深度技术推理的地方。
- 落地(Adoption):将验证过的适配方案批量转化为正式上线的模型:发起实验、管理跨越数天的异步训练任务、监控收敛情况、诊断并从故障中恢复,并整理出可落地的上线提案。
如今,AI 智能体为上述所有能力注入了强劲动力:它们承担了大量高度依赖研判的非确定性决策,为整个系统带来了深度智能。智能体将基于大语言模型的推理能力与专业机器学习工具相结合,负责决定尝试哪些适配方案、排查失败原因并自动修复、高效探索超参数搜索空间,以及跨数百个并发任务协调算力资源。此外,智能体共享一个统一的知识库,其中沉淀了以往的训练任务记录、模型架构以及技术落地效果,因此它们能站在已有经验的基础上继续推进,而不是每次都从零开始。

智能体如何加速技术发现
“技术发掘”(Discovery)主要解答两个问题:有哪些已验证有效的技术?它们对模型库中的各个模型分别有多大适用性?在此之前,这两个问题都需要领域专家逐个评估模型来解答。他们要跟进全机构的研究和成果,发掘值得推广的技术,再凭借专业经验判断其适用度。
智能体则不受限于专家的个人认知或工程带宽。它们不必依赖某位专家的经验,而是调取共享知识库,且能一次性对全量模型开展评估,无需逐一排查。智能体系统性地梳理出已验证的技术,预估这些技术在整个模型库中的迁移可行性,并按预期收益排序生成高优先级技术清单。工程师现在只需审阅智能体的评估结果,据此做出决策即可。
智能体如何提升泛化过程的算力效率
所谓泛化,是指将在某个模型上验证成功的技术重新实现,使其适用于架构、特征表征、训练数据和在线服务限制各不相同的其他模型。核心思路通常可以迁移,但工程实现几乎无法直接复用。所需的定制程度取决于技术本身与目标模型:可能只需微调超参数,可能是改造特征以适配目标模型已有的输入格式,可能是缩减模型架构以满足推理算力预算,甚至可能需要彻底重构这项技术。针对特定模型需要做哪些调整、改动到何种程度,往往需要经验判断。
根据模型是基于标准化模板构建还是单独定制,泛化可分为两种形态,智能体对二者均能提供协助:
- 模板泛化:对于基于标准化模板构建的模型,智能体会协助构建、评估和改进模板本身。它们根据已验证的技术提出模板优化假设,在具有代表性的模型集上发起实验、评估结果、诊断报错并进行多轮迭代,协助应对模板开发所需的长达数天的迭代周期。在模板层面验证一次技术,所消耗的算力远低于对每个模型单独适配。
- 定制泛化:对于营收贡献最高的核心模型,我们仍需逐个定制技术方案。在工程师将新技术初步应用到少数模型时,智能体便在一旁协同工作并逐步学习。当工程师做出调整配置、调优超参数或排查故障等适配决策时,智能体会全程跟踪每次修改和对应的实验结果,记录哪些方法有效、哪些行不通,以及哪些决策属于特定模型独有、哪些具备通用性。有了这些积累,智能体就能为其余模型提出并测试适配方案,工程师则只需负责审核和把关,无需凡事亲力亲为。
智能体参考数百万次历史训练记录和各目标模型的自身特性,从最可能奏效的配置入手;利用每轮训练结果收敛下一轮的超参数搜索范围,并判断哪些实验值得继续进行、哪些应当提前终止。结果显示,在部分“技术-模型”组合的实测中,训练算力消耗实现了中位数达 4 倍的降幅。
智能体如何加速技术落地
在落地阶段,智能体会逐个模型部署通用技术。它们能够发起实验、管理长达数天的异步训练任务、微调各个模型、监控收敛情况、从故障中恢复,并整理出经过验证的方案。
根据技术引入途径的不同,微调方式也会有所差异。对于单独应用的技术,智能体会针对具体模型找出最佳的技术组合配置;而对于基于共享模板构建的模型,自动研究循环会在模板之上展开探索,对各个模型进行单独调优,挖掘共享配置本身无法带来的增益。
一旦出现故障,无论是基础设施问题、训练不收敛还是数据管道错误,集成式的调试与恢复机制都会定位根本原因,并采取针对性的修复措施或重试。
同时运行数百个此类工作流时,如何确定任务优先级,以及哪些任务值得继续运行或提前终止,就成了关键问题。在固定的算力预算下实现收益最大化是一个全局优化问题,也是我们目前的重点投入方向。智能体会监控并发训练任务,结合业务收益重要性、技术潜力与截止时间的紧迫度进行排序,并及时回收停滞或低价值任务所占用的算力,确保 GPU 始终服务于最高价值的工作,避免闲置或被低优先级实验阻塞。
过去,工程师必须盯紧每一次训练,手动排查各类故障并重新启动任务,导致每人最多只能兼顾少数几个模型。如今,他们只需在关键决策点进行把关,审批方案并设定优先级,生产力提升了 3 倍(每位工程师目前能处理的“技术-模型”适配数量是过去的 3 倍),大幅缩短了从技术验证到模型上线的时间周期。
如何评估智能体驱动的技术推广
由智能体推广的技术与由工程师推广的技术遵循相同的评估标准。一项技术必须在预测性能的离线指标(如归一化熵 NE)上表现出提升,且不得在训练或推理成本等关键红线指标上出现倒退。随后,它还必须在线上 A/B 测试中取得统计显著的收益,才能正式上线。
但如果只在最终环节进行单次评估,对于跨越数天、历经多个阶段运作的智能体而言,往往为时已晚,难以起到引导作用。每个阶段产出的成果各不相同,因此都需要配套的指标。以下便是我们验证智能体工作的方式。
发现阶段:我们会评估智能体所选技术-模型候选组合的精确率和召回率。对某项特定技术而言,精确率指的是最终成功上线该技术的模型在智能体选出模型中的占比;召回率则是智能体挖掘出的模型占该技术所有适用模型的比例。在这一阶段,召回率更加重要,因为一旦漏掉某个模型就再也没有弥补的机会;而精确率则是一道安全防线,防止算力被浪费在行不通的技术上。
泛化阶段:我们会对智能体泛化的技术在各类模型上进行评估,确保它们不仅在最初验证的模型上有效,还能在其他模型中带来提升。我们首先在按比例缩小的模型版本上测试每项泛化技术,在高效控制算力开销的同时,广泛筛选技术与模型的适配情况。随后,通过初筛的技术会在一组具代表性的全尺寸模型上接受评估,唯有提升了 NE 且达标所有安全防线指标的技术,才能进入后续的推广落地阶段。
落地阶段:在此阶段,我们继续沿用之前的预测性能和安全防线指标来评估正确性。但落地也是运维操作最繁重的环节,实验往往要持续运行数天,因此我们还会评估智能体的生产力。其中最关键的指标有两项:完成一次实验所需的人工干预次数(直接反映每项实验仍消耗多少工程研发时间),以及智能体自主诊断和化解问题的比例。
在整个推广普及过程中,人类始终是不可或缺的把关者,负责审查关键决策、确认研判方案,并最终审批上线内容。
让智能体驱动的推广普及成为 Meta 的标准实践
基于初期的实践成果,我们正在加速推进智能体驱动的工作流,使其成为整个模型矩阵中技术推广普及的主要方式。
如今,一项得到验证的技术要想普及到所有适用的模型,可能需要一年以上的时间。我们的目标是将这一周期缩短至三个月。这意味着我们需要将智能体驱动工作流的端到端吞吐量提升至 5 倍,让推广落地紧跟创新的步伐,而不再滞后脱节。
为此,我们持续加大对智能体本身能力的投入,借助自进化学习来提升泛化质量、容量效率与执行力——让智能体能够根据累积的成果反馈自主优化策略,而不再单单依赖人类提供的启发式规则。
在模型之间推广技术,只是我们更大愿景中的一部分。从探索、假设提出,到技术普及、实验验证与生产上线,我们正在将排序 AI 领域端到端模型开发生命周期的每一个环节全面“智能体化”。这些智能体充当着系统的规模化扩展层,确保每一项被验证的创新成果都能在整个模型矩阵中充分释放潜能。
致谢
Babak Behsaz, Wenlin Chen, Jae-Woo Choi, David Colmenares, Kevin De Angeli, Kapil Dontula, Qi Fan, Jason Flaks, Ali Gowani, Umut Gunduz, Alex Han, Varun Jalan, Annapurna Kala, Anika Karpurapu, Santanu Kolay, Manjeet Kumar, Nhat Le, Huanran Li, Sundeep Mallela, John Martabano Landy, Refik Mert Cam, Swamy Muddu, Rudresh Rajnikant Panchal, Sandeep Pandey, Dhiraj Parashar, Dookun Park, Ray Qin, Shah Rahman, Narender Rana, Munaf Sahaf, Alex Sandrovskii, Matt Steiner, Vivienne Sung, Sankalp Suhas Taralekar, Ritwik Tewari, Louis Tiao, Alireza Vahdatpour, Arvind Vepa, Jacky Wang, Hitesh Yalamanchili, Emily Yan, Chang Yang, Fan Yang, Shuting Zhao, Wenhan Zhao 以及 Peng Zhong,
文章 Meta 如何利用 AI 智能体在广告排序模型中规模化推广机器学习创新 最初发布于 Engineering at Meta。
来源:Engineering at Meta · engineering.fb.com