- 广告排序模型正迅速扩展到 LLM 规模,硬件的发展速度却跟不上运行这些模型的需求。额外增加一个计算单元,对某些广告请求、模型和芯片的影响,比对其他对象更大。挑战在于如何分配计算资源,才能让整个系统取得最佳效果。
- 我们构建了 Intelligent Delivery(智能投放),这是一个由机器学习驱动的系统,可在服务栈中分配资源,以实现系统整体最优。自 2017 年以来,在模型和系统改进的基础上,它又带来了约 10% 的排序性能提升。
- 我们将介绍 Intelligent Delivery 的几项能力:如何构建机器学习模型来预测计算资源的边际效用;如何通过多层机制在系统中调配资源;以及我们如何越来越多地运用智能体 AI,持续发现并应对系统变化。
随着前沿广告排序系统朝着更大的模型、更广的候选集和更丰富的投放架构发展,服务效率也面临更高要求。计算资源的增长速度赶不上模型和系统复杂度的增长。挑战不只是如何构建更强大的模型,还包括如何在异构系统、有限服务容量和严格延迟预算下高效运行这些模型。我们最近分享了如何让闲置推理容量发挥作用。本文将介绍我们如何决定每个计算单元的去向,以实现全局最优的系统效率。
Intelligent Delivery 是我们应对这一问题的方法。从 2017 年到 2026 年上半年,在各主要版位的模型和系统改进基础上,它又为广告排序性能带来了约 10% 的提升。它引入了一个由机器学习驱动、日益由 AI 操作的自适应优化层,持续将资源分配给边际效用最高的请求、模型、硬件集群和排序阶段。这帮助我们在生产环境中高效运行先进的广告排序模型,更充分地利用每个计算单元,为使用我们应用和服务的人们投放更好的广告。
我们的目标之一,是打造一个能够持续趋近全局最优的投放系统,无论用户行为如何变化、模型如何演进,以及服务栈如何变得更加复杂。
广告投放系统的三个基本特性增加了这一挑战:
**计算资源的边际影响高度异质,并取决于具体情境:**同样增加一个计算单元,根据产品版位、用户意图、候选质量和系统状态的不同,带来的回报可能大不相同。仅靠请求感知信号并不足够;要做好资源分配,就要估算每个请求在每个可调系统参数上的收益,而每个调节项在漏斗的不同阶段表现也各不相同。我们需要在毫秒内,针对庞大的决策空间计算每个请求的结果。
**局部最优不等于全局最优:**估算结果只是起点;服务栈还必须能够动态调控。广告投放涉及多阶段排序、数百个模型、几代硬件和许多数据中心。如果没有能考虑整个服务栈复杂依赖关系的自适应控制,就无法在这些边界之间自由且可靠地调配资源。
**全局最优是一个不断变化的目标:**优化格局持续变化。每个新模型、每一代硬件或新架构都会改变格局,并可能使先前最优的资源分配决策失效。系统必须足够迅速地适应,才能保持最优。
Intelligent Delivery 包含三项能力,分别旨在应对这些系统层面的基本挑战。
有些广告请求比其他请求更能从额外计算中受益。起初,我们用粗略的分组来体现这些差异:按照版位、上下文和广告创意表示等属性对请求分组,再由工程师制定策略,为各组分配资源。这种方法带来了改进,却难以扩展。每增加一个信号,规则数量就会成倍增长,使这项工作难以为继;而且各个独立分组无法捕捉数千个信号之间的非线性交互,限制了准确性。
我们将问题重新表述为两个机器学习问题后,在主要版位的离线基准测试中,识别最受额外计算影响的广告请求的能力比此前的生产模型提升了约 20%:哪些广告请求最有可能从额外计算中受益?不同的资源设置会如何影响这些请求的结果和服务性能?
为回答第一个问题,我们构建了资源核心模型(Resource Core Model):一组深度学习模型,包含 60 亿个稀疏参数和 2000 万个稠密参数,在候选检索前运行一次,并由整个投放漏斗共享。模型通过学习得到的嵌入和深层特征交互,捕捉人工定义的分组无法体现的细致请求模式。
随后,我们将资源核心模型微调为一组专用模型,分别生成关于结果、计算消耗和延迟影响的增量信号。这些模型共同构成一个用于资源分配的共享机器学习智能层:资源核心模型理解每个请求及其服务行为,各个机制则决定如何将这些预测转化为行动。
广告服务运行在全球分布、异构的硬件集群上,覆盖多个数据中心区域、几代硬件和数百万台主机,并由多层服务栈共享。单一的资源分配机制无法端到端地控制复杂的资源分布。因此,我们将问题分解为一个分层体系,并为每一层构建了专用决策引擎。沿着一个请求的流程,就能最直观地了解这个层级体系。
有人打开信息流。一条广告请求随之生成,在接下来的几百毫秒内,它会经过一系列资源分配决策。这引出了三个重要问题及其答案。
**请求由哪个区域处理?**流量和容量并不总在同一地点,每个区域的硬件组合和容量余裕也不同,因此同样一个计算单元在某些地区比其他地区效率更高。我们构建了实时基础设施,可在几分钟的周期内动态调整区域间的流量,推动各区域在边际容量上达到相同的效率水平。
**请求会运行在哪种硬件上?**我们的硬件集群包含 Intel、AMD 和 Arm 的 CPU,以及 NVIDIA、AMD 和我们自研的Meta 训练与推理加速器(MTIA),每类硬件都有数代产品。难点不在于硬件种类多,而在于容量不能相互替代。不同阶段受不同资源制约:检索受内存容量限制,排序受计算能力限制,模型推理受加速器吞吐量限制。因此,并不存在单一的最快型号,只有最适合每种工作负载的选择。我们会测量每种工作负载与硬件型号组合的效率,再求解分配方案,让稀缺硬件用于最能将其转化为有效工作的负载。
**在主机内部,请求能使用多少机器资源?**并发请求的延迟预算和影响各不相同,同时必须满足严格的尾延迟服务等级目标(SLO)。我们使用先进的深度学习模型实时预测每个请求的预期结果、计算成本和延迟成本,并求解一个受约束的优化问题,在主机延迟预算内最大化交付的影响——随着主机负载上升,性能取舍会越来越明显,因此会优先削减资源消耗大、影响小的工作。要落实这些决策,必须控制整个服务栈,所以这一框架涵盖从内核级调度器到应用级线程池的各个层面。
这三个步骤只是请求生命周期中众多资源分配决策的一部分。除此之外,我们还会优化每条请求在各个排序阶段要排序的广告数量、哪些广告候选进入候选池,以及其他许多方面。
这些资源分配决策紧密耦合,其中任何一项资源变化都会波及整个系统。在区域间调整流量会改变每台主机的负载,进而影响设定每个请求处理工作量的反馈控制器。我们会在端到端的闭环硬件测试环境中验证这些变化,确保优化的是全局最优,而非局部最优。
随着广告系统不断发展,要将新模型、新机制或新硬件投入生产并无缝集成,需要大量工作。系统中有数百万个可调维度,我们不可能针对每项新变更穷举所有配置。那会耗费太多时间,也需要远超现有规模的硬件资源。
过去,我们高度依赖专业知识和工程师的经验来找出有潜力的配置。但这种方法难以扩展,因为每个新模型、新机制和新一代硬件都会让搜索空间扩张,速度超过工程师的探索能力。
我们尝试用受约束的优化方法实现自动化。虽然取得了一些改进,但这种方法仍不够灵活,速度也慢。我们发现它缺乏泛化能力(只能覆盖少数关键调节项),也无法有效吸收人类从以往经验中形成的直觉。
我们不再盲目搜索,而是让 AI 智能体持续监控整个系统格局,找出需要处理的变化和低效之处。在较长的上下文窗口中,智能体会读取机制源代码、设计文档和十年的实验日志,并从中筛选出少数值得测试的变更。工程师会在最终变更上线前审核并批准。
如今,智能体已经能够提出有充分依据的变更建议、设计严谨的实验并执行实验。2026 年上半年,智能体参与了约 20% 的 Intelligent Delivery 优化。在自动化程度最高的一项机制中,从理解系统格局、形成假设,到开展实验并确定最终变更,智能体如今已承担约 80% 的工程工作。这将优化周期从数月缩短到数周,同时让人始终牢牢掌控过程,也持续沉淀着工程师多年积累的专业经验。
**端到端实时优化:**如今,理解请求和决定如何服务仍是两个独立步骤。我们正致力于将两者融合为一个模型,使其能读取请求并实时完成服务,无需数月实验。已有研究使用基于学习的方法,为每个请求调整计算资源。不过,要在流量持续变化、容量限制严格且各阶段紧密依赖的条件下,同时对所有服务阶段进行联合优化,这方面仍有待探索,也是我们正在推进的方向。
**在 GPU 上运行最先进的模型:**大型排序模型,例如Meta 的生成式广告模型(GEM),正在扩展到 LLM 规模,并越来越多地运行在 GPU 上,这带来了不同的优化空间。GPU 容量不像 CPU 时间那样可以灵活划分,而是以完整、固定的区块提供,其吞吐量、批处理和内存特性也各不相同。我们为 CPU 环境构建的调节手段必须重新设计;如今我们的许多工作都在于理解这些机制,并将它们转化为新的调节手段。每个加速器能承担的有效工作越多,我们就能在相同容量下用强大的模型服务更多人。
Sowji Adavi、Karthik Alle、Tao Cai、Olivier Chaine、Jianhao Du、Antonio Frigo、Gayatree Ganu、Chao Li、Chao Ma、Bennet Matazzoni、Riddhi Mehta、Saurabh Pohnerkar、Sudhir Pokhrel、Yuehui Qian、Liang Qiao、Yitao Qiu、Rob Schwartzberg、Sanketh Shetty、Ganlin Song、Samuel Tatipamula、Xueqi Wang、Ye Wang、Wei Wei、Jing Xu、Haomin Yu、Jiayi Yu、Jay Zang、Caijie Zhang、Shengjie Zhang、Tong Zhang 和 Wei Zheng。