跳到正文
Engineering at Meta·· 4 天前精选AI 评分76

Meta 详解模板驱动的机器学习架构 SMT:单模型工程耗时降低 92%

Design Once, Deploy at Scale: Building a Template-Driven ML Ecosystem

AI 导读

Meta 详解了标准模型模板(SMT)架构,将广告精排等大规模生产模型的设计收敛为一组可复用组件,使单模型工程耗时减少 92%。该架构通过多模型优化在代表性模板上验证并传播新技术,两年内上线 5000 多个技术与模型组合,带动覆盖 70% 模型的在线指标累计提升 0.86%。结构化模板同时收窄了参数空间,为后续引入 AI 智能体自动化探索模型设计提供了统一底座。

推荐理由

Meta 分享了通过标准化模板解决多模型碎片化调优的工程架构,为大规模推荐与广告排序系统的迭代管理提供了可复用的系统化思路。

正文 · AI 翻译
  • 随着机器学习生态中生产模型的数量不断攀升,技术瓶颈已不再是如何发明新算法,而是如何将这些创新稳定、高效地落地到形态各异的各类模型中,实现“水涨船高”的整体跃升。
  • Meta 采用了一套基于模板的设计思路,将模型结构提炼为少数可复用、可组合的标准构件,把原本针对单个模型的调优任务,转变为可由底层系统统一承载的通用工程。
  • 过去两年里,这套方法让单个模型的工程耗时缩减了 92%,累计交付了超过 5000 种技术与模型的组合方案;在不增加推理算力的前提下,将离线模型质量平均提升了 0.63%,并为全栈 70% 的模型带来了累计 0.86% 的线上效果增益。
  • 相关研究细节已在 Meta 发布的论文《Design Once, Deploy at Scale: Template-Driven ML Development for Large Model Ecosystems》中完整公开。

Meta 的广告精排系统每天需要承载上百亿次请求,涵盖多种产品形态和优化目标,底层由大量生产模型共同支撑。在如此庞大的体量下,若想继续提升用户相关度与广告主价值,核心难点已由技术研发转向技术推广:任何一个行之有效的新方案,都必须覆盖所有适用的模型,而靠工程师逐个模型去适配,根本跟不上模型集群的扩张步伐。

在超大规模机器学习系统中,碎片化问题会迅速发酵。一项新架构可能在某个模型上落地,但要推向整个生态往往耗时数年;平台升级方案搞定了一类模型,却常在各类定制化配置的长尾模型上栽跟头;针对单个模型摸索出的调优经验,也很难复用到下一个模型上,因为两者的底层设定大相径庭。长此以往,技术推广的阻力甚至超过了技术研发本身。

Meta 的广告精排体系就面临着这样的困境。随着广告优化目标日益多元,线上生产模型的数量激增,随之而来的是模型架构、特征工程、训练配置、推理限制以及平台专属逻辑的极度碎片化。这种多样性固然赋予了各业务团队足够的灵活性,但也引发了三大系统性弊端:新技术跨模型推广的工程成本高昂、长尾边缘问题频发导致稳定性开销剧增,以及很难准确评估某项改动对全盘生态带来的实际影响。

更深层的问题在于,这种碎片化打破了工程规模效益。如果每个技术点都必须针对单个模型逐一评估、适配,工程工作量就会随模型数量呈线性增长。在早期阶段尚能应付,但一旦模型基数变得极为庞大,这就会沦为致命的效率瓶颈。 

此外,碎片化还会削弱自动化系统的威力。AutoML 和各类调优工具必须依赖结构统一的环境才能发挥最大作用;一旦每个模型的架构各不相同,即便最具潜力的技术,最终也只能覆盖少数几个模型。

Meta 并没有选择在这套复杂的烂摊子上硬加一层自动化工具,而是直击痛点,先着手消减系统本身的复杂度。团队为此推出了标准模型模板(Standard Model Templates,SMT),把模型设计统一收敛到一组精心维护的可复用模板之中。

图 1:在引入 SMT 之前,各项技术都需要在每个模型上手动调优,需要尝试的组合呈指数级增长。采用 SMT 后,多模型优化只需在代表性模型上对技术调优一次,具备泛化能力的技术就会被纳入下一代模板版本中。

模板驱动的基础架构

所谓模板,是指由架构选型、特征逻辑、训练设置和推理配置等共享组件构成的一套规范化、极简的模型配置方案。我们不再将每个生产模型都当作彼此独立的设计来维护,而是把相似的模型归集到少数几套标准模板中。特定模型的定制逻辑在必要时依然保留,但公共部分都已被显式抽象并实现共享。

在实际应用中,我们使用少数几套模板,即可覆盖不同参数规模下的主流排序与召回模式。这些模板封装了可复用组件,涵盖特征选择、特征交叉、模型并行、训练配置以及面向硬件优化的推理服务。

这在很大程度上重塑了运作模式。当产生新想法时,我们不必再逐个模型单独评估,只需在规模小得多的代表性模板上进行验证,随后即可同步到使用这些模板的模型群组。换言之,我们从“针对单一模型迭代”转向了“在模板层面统一迭代”。

这带来了三大核心优势:

  1. 降低技术推广复杂度:借助共享模板,单次实现即可赋能大量下游模型,从而大幅降低了规模化上线新方案的成本。
  2. 提升系统可靠性:独立模型架构的数量减少后,我们就有条件建立更严格的验证机制、更完善的防护边界,以及更容易跨模型复用的排错流程。训练不稳定或推理性能倒退等问题也更容易排查,因为它们都发生在统一的模板结构内,而不是漫无边际的配置空间中。
  3. 增强结果可预测性:当同一群组的模型共享同一套模板时,代表性模型上的表现就成了整个群组极具参考价值的风向标。这让生态层面的规划更加脚踏实地,减少了盲目假设。

随着时间推移,这种模板驱动的模式已不仅是一项标准化举措,更演变为了更广泛的机器学习开发体系的基石。

图 2:SMT 开发循环流程(左)与各模板内部的分层架构(右)。新技术只需在代表性模型上调优一次,写入新模板版本后,便能直接推广到基于该模板构建的每一个模型中。

SMT:从标准化走向可扩展的技术迁移

转向 SMT 释放了一项更具野心的能力——将整个模型生态作为一个紧密协同的整体进行优化。我们不再需要维护庞大且互不相干的模型集群,而是将整个技术体系视作一个共享的创新阵地。

与其逐一推广单项技术,我们通过共享模板层,直接将源模型中经过验证的整套成熟架构迁移到目标模型家族中。这一点至关重要,因为很多性能提升并非来自孤立应用的单个组件,而是源于架构选型、扩缩容决策与训练策略之间的协同效应。

在过去两年中,这种方法将单个模型的工程耗时缩减了 92%,并在庞大多样的模型集群中落地了 5000 多个“技术-模型”组合,同时在推理算力成本持平的情况下将离线模型质量平均提升 0.63%,还实现了 0.86% 的累计线上收益。更重要的是,它打破了“多样化优化目标必须依赖高度差异化模型设计”的传统认知。在很多情况下,一个精心设计的共享模板所具备的泛化能力,远比想象的更强大。

我们还发现,一旦模型结构实现标准化,扩展(scaling)相关的决策就变得更具复用性。我们无需为每个模型单独摸索性价比平衡点,而是可以直接在模板层面总结规律,并推广到更广泛的场景中。由此催生出的基于扩展定律的优化工作流,让资源分配更加有章可循,告别了临时拍脑袋的试错方式。

多模型协同优化

为了确保模板迭代的严谨性,我们引入了多模型优化机制。该流程会在一系列具有代表性的模型上评估候选技术,寻找既能提升综合性能、又能将性能回退控制在最低限度的配置方案。

如果一项技术平均收益很高,却频繁引发性能回退,就很难在整个集群中大规模落地。面对生产级的推广部署,稳定一致与峰值收益同等重要。多模型优化在评估某项技术是否具备集成条件时,会同时兼顾综合性能与回退率。

完成优化后,候选技术还会在留存模型上进行交叉验证,以确认收益能否泛化到代表集之外。顺利过关的技术将被合入下一代模板版本中。在过去两年里,我们通过这套工作流成功落地了 80 项全新的机器学习技术。

这种演进带来的收益具有复利效应。每个接入成熟模板的模型,都能直接继承过往沉淀下来的全部通用改进,而无需在孤立的基线基础上从头探索。

为什么 SMT 对基于智能体的机器学习系统至关重要

在很多人对智能体建模的设想中,往往是一个端到端智能体调用各种工具、训练流水线和评估结果,在庞大的设计空间中自由探索。但放在实践中,这种模式很快就会遭遇一个熟悉的瓶颈:搜索空间太不受约束了。缺乏强先验的引导,智能体会耗费过多精力在低效甚至无效的区域徘徊,疲于应对本可避免的报错,或是提出一些难以解释、更难以部署上线的改动方案。

SMT 恰恰能破解这一难题。它固化了已被验证有效的成熟设计模式,为智能体提供了结构化的起点、有边界的搜索空间和保底的质量基线。如此一来,模型构建不再是一场漫无边际的自由搜索,而是可以拆解为若干个高度专注的专门子问题。

在 Meta,SMT 也是我们基于多智能体构建模型的基础。模板负责搭建框架结构,智能体则负责自适应探索与自动化执行。在模板层面,智能体参与模板本身的构建、评测与改进:它们根据已验证的技术提出优化方案,在代表性模型上启动实验,排查故障,并进行多轮迭代,从而将原本耗时数天的模板开发循环高效运转起来。此外,智能体还能承担更具挑战性的任务,例如将模型迁移到新的硬件平台。通过这种方式验证过的技术,只需花费单独适配各模型所需算力的一小部分,就能直接惠及基于该模板构建的所有模型。我们在另一篇文章《Meta 如何利用 AI 智能体跨广告排序模型推广机器学习技术》中有更详细的介绍。

经验总结与 SMT 的未来方向

在大型机器学习生态中,将算法创新快速推广并转化为模型能力的提升,往往是最大的扩展瓶颈。SMT 能够取得成功,原因在于底层系统的结构越清晰,自动化的威力就越大。基于模板的开发模式不仅降低了人工运维生态系统的门槛,也让优化系统、扩展工作流以及智能体能够更有效地进行推理。

不过,标准化唯有具备足够强的约束力、果断剔除不必要的多样性,同时保留关键的必要灵活性,才能真正奏效。如果一套模板系统试图迁就历史上出现过的每一个极端特例,最终只会重蹈覆辙,陷入它原本想要解决的碎片化泥潭。

接下来我们还有很多工作要做:进一步提高模板的覆盖范围,强化基于扩展定律的优化能力,并逐步迈向完全端到端的智能体化工作流——包括由智能体驱动的模板构建、模型生成、线上评测,以及基于线上信号的持续优化。同时,我们还需要进一步提升这些工作流的可靠性与可解释性。

但这一核心思路已经得到了充分验证:要想将机器学习创新规模化推广到整个庞大生态中,就必须规范并统一承载这些创新的基础界面。换句话说,“一次设计、规模化部署”不仅是一种提升效率的策略,更是一种让大型机器学习生态加速迭代演进的架构抉择。

阅读论文

“一次设计,规模化部署:面向大型模型生态的模板驱动机器学习开发”

致谢

Aayush Aggarwal、Saurabh Aggarwal、Anuj Bindal、Nakul Camasamudram、Shouyuan Chen、Wenlin Chen、Kevin De Angeli、Jason Flaks、Luc Kien Hang、Rupinder Khandpur、Santanu Kolay、Nhat Le、Swamy Muddu、Sandeep Pandey、Dhiraj Parashar、Akshay Pardeshi、Jingzheng Qin、Shah Rahman、Shiblee Sadik、Munaf Sahaf、Vibha Sinha、Saied Tahaghoghi、Terry Tang、Alireza Vahdatpour、Fangjing Wu、Haoyu Wu、Wendan Yan 与 Chang Yang。

文章《一次设计,规模化部署:构建模板驱动的机器学习生态系统》首发于 Engineering at Meta。

来源:Engineering at Meta · engineering.fb.com

EVAOO 主站实战落地 · 海外买量与投放优化

看完情报?回到 EVAOO 主站直接上手工具与完整 SOP

返回 EVAOO 主站