---
title: "Meta以标准模型模板推广机器学习改进"
canonical: "https://siyuanailab.com/curation/translations/f92af544cd6396e43600ef836a491ada-857ca12cfdb626d2782cc4b6a55892ac46157f4ed8d89c97632420ef216d9d91/"
dateModified: "2026-11-19"
datePublished: "2026-11-19"
---

[返回日报条目](https://siyuanailab.com/curation/#entry/f92af544cd6396e43600ef836a491ada)

 

资料节译

 

# Meta以标准模型模板推广机器学习改进

 

[阅读原文](https://engineering.fb.com/2026/11/18/ml-applications/design-once-deploy-at-scale-template-driven-ml-ecosystem/)

 

现有资料无法确认原文完整，本页只翻译已取得的材料。

 

现有原件无法确认图片是否齐全。

 

- 随着机器学习（ML）生态系统中的生产模型数量不断增长，瓶颈已不再是发明新的模型改进技术，而是如何在碎片化的模型空间中可靠、高效地部署这些技术，从而形成水涨船高、共同受益的局面。
 
- 在 Meta，我们构建了一种模板驱动的方法，将模型设计标准化为少量可复用、可组合的构建模块，把逐个模型迭代的问题转变为共享系统的问题。
 
- 过去两年，这种方法将每个模型的工程耗时减少了 92%，交付了 5000 多种技术与模型的组合，在服务容量保持中性的情况下，离线模型质量平均提升 0.63%，并带来了累计 0.86% 的线上提升，覆盖了按数量计算 70% 的模型。
 
- 这项工作的完整细节见我们的论文：“[一次设计，规模化部署：面向大型模型生态系统的模板驱动机器学习开发](https://arxiv.org/abs/2603.24963)。”

 

Meta 的广告排序系统每天处理数十亿次请求，服务于种类繁多的产品和优化目标，并由大量生产模型提供支持。在这样的规模下，提升用户相关性和广告主价值的主要挑战，已从发明新技术转向推广这些技术。每个有重大影响的想法都需要应用到所有适用模型上，而逐个模型进行适配无法随模型群规模扩展。

 

在大型机器学习系统中，碎片化会迅速加剧。新架构落地到一个模型后，要将其推广到整个生态系统的各个角落可能需要数年。平台迁移适用于一类模型，却可能在大量长尾专用配置上失效。调优经验改善了一个模型，却未必能指导下一个模型，因为底层设置差异太大。久而久之，推广变得比创新本身更困难。

 

Meta 的广告排序生态系统遇到了这一确切问题。随着生产模型数量随广告优化目标的多样化而增长，架构、特征、训练设置、服务约束和特定平台逻辑也变得更加多样。这种多样性给团队带来了灵活性，但也造成了三个系统性问题：大范围交付新想法的工程成本高、边缘情况激增带来的可靠性成本高，以及估算变更对整个生态系统的影响时可预测性低。

 

更深层的问题是，碎片化使工程本身面临不利的扩展规律。如果每个想法都必须针对每个模型单独评估和适配，工作量就会随着模型数量线性增长。早期这尚可应对，但模型数量众多时就会成为严重瓶颈。

 

碎片化也会削弱自动化。AutoML 和优化系统在结构化空间中效果最好，但如果每个模型的形态都不同，潜力最大的技术就只能应用于一部分模型。

 

我们的解决办法不是在这种复杂性之上再增加一层自动化，而是先降低复杂性本身。为此，我们引入了标准模型模板（SMT），将模型设计标准化为一组经过筛选、可复用的模板。

 

模板是一种带有明确设计取舍的精简模型配置，由架构选择、特征逻辑、训练设置和服务配置等共享组件构成。我们不再把每个生产模型都作为基本独立的设计来维护，而是将相似模型归入数量更少的标准模板。必要时仍保留模型专属逻辑，但共同部分会被明确表示并共享。

 

实际应用中，我们使用少量模板，覆盖不同模型规模下的主要排序和检索模式。这些模板封装了可复用组件，包括特征选择、特征交互、模型并行、训练配置以及硬件感知的服务。

 

这从根本上改变了运作方式。我们不再对每个模型分别评估新想法，而是可以在少得多的代表性模板上进行评估，再将其推广到使用这些模板的模型组。换句话说，我们从逐模型迭代转向模板级迭代。

 

这带来了三项主要优势。

 

- **降低推广复杂度**：共享模板让一次实现可服务于许多下游模型，从而降低大规模交付新想法的成本。
 
- **提高可靠性：**独特模型配置减少后，构建更完善的验证、更好的防护措施以及更具迁移性的调试流程就切实可行了。由于问题出现在共享模板结构中，而不是无边界的配置空间里，训练不稳定或服务回归等问题更容易分析。
 
- **提高可预测性**：当一组模型共享同一模板时，代表性模型上的表现就能更好地反映该组其他模型的情况。这让生态系统层面的规划更有依据，也更少依赖假设。

 

随着时间推移，这种模板驱动的方法不再只是标准化工作，而成为更广泛的机器学习开发系统的基础。

 

转向 SMT 解锁了更宏大的能力——将整个生态系统作为一个统一、协同的整体进行优化。我们不再管理一群彼此独立的模型，而是开始将整个模型版图视为共享的创新空间。

 

我们不再逐个推广单项技术，而是通过共享模板层，将经过验证的整体模型设计从表现出色的源模型迁移到目标模型系列。这一点很重要，因为许多收益来自架构选择、规模决策和训练策略之间的相互作用，而非彼此独立地应用孤立组件。

 

过去 2 年，这种方法**将每个模型的工程耗时减少了 92%，在我们庞大而多样的模型群中交付了 5000 多种技术与模型的组合**，**同时使** **离线模型质量在服务容量保持中性的情况下平均提升了 0.63%**，并**带来了累计 0.86% 的线上提升**。更重要的是，它挑战了一种常见假设：多样化的优化目标必然要求高度多样化的模型设计。在许多情况下，设计良好的共享模板能比预期适用于更多场景。

 

我们还发现，模型结构标准化后，规模决策也变得更容易复用。我们不必再针对每个模型分别摸索成本与性能之间的权衡，而可以在模板空间中学习这些规律，并将其更广泛地应用。这催生了基于规模定律的优化工作流，使资源分配更有原则、少一些临时应对。

 

我们使用多模型优化，使模板迭代过程更加严谨。该流程会在具有代表性的模型上评估候选技术，并寻找能够提升总体表现、同时限制回归的配置。

 

一项技术即使平均收益很高，但经常导致回归，也很难推广到大型模型群中。在生产规模下推广时，一致性与峰值提升同样重要。决定一项技术是否适合整合时，多模型优化会同时考虑总体表现和回归率。

 

优化之后，我们会在留出的模型上验证候选技术，检查其收益能否推广到代表性集合之外。通过验证的技术会整合到下一个模板版本中。过去两年，[我们通过这一工作流交付了 80 项新的机器学习技术](https://arxiv.org/pdf/2603.24963)。

 

由此产生的效果会不断累积。每个采用成熟模板的模型，都会继承一系列经过泛化的改进，而不是从孤立的基线起步。

 

构建智能体模型通常设想由单个端到端智能体探索庞大的设计空间，并使用工具、训练流水线和评估结果。实际中，这种方法会遇到一个熟悉的问题：搜索空间缺乏约束。没有强有力的先验知识，智能体会耗费过多精力探索无效区域、补救本可避免的失败，或提出难以解释、更难部署的变更。

 

SMT 有助于解决这一问题，因为它们编码了经过验证的设计模式，为智能体提供结构化的起点、边界明确的搜索空间和质量下限。我们不再把模型构建视为自由形式的搜索，而可以将其拆解为若干专门的子问题。

 

在 Meta，SMT 也是我们采用多智能体方法构建模型的基础。模板提供结构，智能体则提供自适应探索和自动化。在模板层面，智能体帮助构建、评估和改进模板本身。它们依据经过验证的技术提出优化想法，在代表性模型上启动实验、诊断失败，并经过多轮迭代，从而帮助管理模板开发所需的多日循环。智能体还可以承担更困难的工作，例如将模型迁移到新的硬件平台。通过这种方式验证的技术，能以远低于逐个适配模型所需的计算量，触达使用该模板构建的每个模型。更多详情见我们的文章，[Meta 如何利用 AI 智能体将机器学习技术推广到广告排序模型](https://engineering.fb.com/2026/11/18/ml-applications/ai-agents-to-scale-ml-innovations-across-ads-ranking-models)**。**

 

在大型机器学习生态系统中，推广机器学习创新以改进模型，往往是主要的扩展挑战。SMT 之所以有效，是因为底层系统越有结构，自动化就越强大。模板驱动开发不仅让人们更容易操作生态系统，也让优化系统、规模优化工作流和智能体能够更有效地进行推理。

 

但只有在标准化的取舍足以消除不必要的多样性，同时保留有限且重要的灵活性时，它才会奏效。试图容纳所有历史边缘情况的模板系统，最终会重现它原本要解决的碎片化问题。

 

我们还需要进一步提升模板覆盖范围、加强基于规模定律的优化，并迈向完全端到端的智能体工作流——包括智能体构建模板、生成模型、在线评估，以及依据线上信号持续优化。我们还需要让这些工作流更加可靠、更加易于解释。

 

但核心理念经受住了考验。如果要在大型生态系统中扩展机器学习创新，就需要标准化创新落地的基础。在其他话说，一次设计、规模化部署不仅是一种提高效率的手段，更是一项架构选择，决定如何让大型机器学习生态系统更快地学习。

 

*Aayush Aggarwal、Saurabh Aggarwal、Anuj Bindal、Nakul Camasamudram、Shouyuan Chen、Wenlin Chen、Kevin De Angeli、Jason Flaks、Luc Kien Hang、Rupinder Khandpur、Santanu Kolay、Nhat Le、Swamy Muddu、Sandeep Pandey、Dhiraj Parashar、Akshay Pardeshi、Jingzheng Qin、Shah Rahman、Shiblee Sadik、Munaf Sahaf、Vibha Sinha、Saied Tahaghoghi、Terry Tang、Alireza Vahdatpour、Fangjing Wu、Haoyu Wu、Wendan Yan 和 Chang Yang。*

 

文章 [一次设计，规模化部署：构建模板驱动的机器学习生态系统](https://engineering.fb.com/2026/11/18/ml-applications/design-once-deploy-at-scale-template-driven-ml-ecosystem/)最初发表于 [Meta 工程](https://engineering.fb.com/)。

 

AI 翻译；具体表述请与原文对照。
