据悉，相比以前的小模型算法，腾讯广告精排大模型已累计给广告主带来15%的GMV提升；太极机器学习平台在加速混元AI大模型的训练时，效率高于业界其他方案3.7倍。太极机器学习平台采用了分布式参数服务器架构，这是业界第一梯队企业们公认的最佳选择。以混元AI大模型的训练为例，太极的加速方案高于业界其他方案3.7倍，有效提升了模型的训练效率。
智东西（公众号：zhidxcom）
作者 | ZeR0
编辑 | 漠影
智东西6月21日报道，腾讯多模态AI大模型已经开始在广告投放领域发挥出降本增效的价值。
广告技术的发展正让“降本增效”愈发可量化和感知，比如目前互联网广告平台开始以GMV（成交金额）或ROI（投入产出比）为营销效果的评估标准。
一次更高效的广告投放，本质上是在合适的场景，让对的广告出现在对的人面前。这离不开广告平台对广告内容和用户群体的深刻理解，并在他们之间达成更准确的匹配。
针对广告投放追求的更低成本、更优效果目标，腾讯广告已经交出一份新答卷：首先以腾讯混元AI大模型助力系统深刻理解广告内容，其次以精排大模型提升广告和用户的匹配准确率，这两者的底层，还都离不开腾讯机器学习平台太极。
据悉，相比以前的小模型算法，腾讯广告精排大模型已累计给广告主带来15%的GMV提升；太极机器学习平台在加速混元AI大模型的训练时，效率高于业界其他方案3.7倍。
一、混元AI大模型：让系统深度理解广告内容的核心引擎
近两年国内外AI大模型快速发展，不仅持续迈向更高的参数规模及模型大小，而且不断刷新文本和图像理解水平。
大模型的这些核心能力，对广告推荐同样大有裨益。广告中既有艺术和创意，也有感情和期待，推荐系统要首先需理解广告中蕴含的丰富信息，才能做出恰当的推荐。
腾讯自研的深度学习大模型——腾讯广告混元AI大模型，便是广告系统理解内容的核心引擎。
腾讯广告混元AI大模型，是一个具有千亿参数的大模型，能够准确理解文字和图像中蕴含的各个层面的信息。它可以把文字、图像、视频作为一个整体来理解，这样不仅对广告的理解更准确，也更符合平台用户对广告的整体感受。
混元AI大模型的多模态理解能力，可以有效的加深推荐系统对于广告的理解，从而更精准的将广告推荐给合适的人群，提高用户体验以及广告转化效果。此外，该模型还有文字&图像&视频综合生成能力，已经以产品的形式在腾讯广告投放平台提供给每一位广告主，可以极大的提升广告制作的效率。
其“图生视频”功能，可以将静态的图片自动生成不同样式的视频广告；“文案助手”功能，可以为广告自动生成更恰当的标题，提升广告的效果；“文生视频”功能，未来只需提供一句广告文案，就可以自动生成与之匹配的视频广告。
HunYuan_tvr模型架构示意图
经过与类似的图文理解模型做全面的正面对比，目前腾讯广告混元AI大模型横扫跨模态检索领域5大权威测评集大满贯、多模态理解领域国际权威榜单VCR上排名第一、CLUE自然语言理解分类榜及CLUE总榜登顶，比大部分模型的图文综合理解能力更强。
二、精排大模型：千亿级推理参数，让系统更高效匹配广告和人群
在理解广告之后，广告平台还面临一个挑战：把广告展示给合适的人群。模型在解决这一挑战中发挥了核心作用，特别是精排模型。
广告平台上有数以万计的广告主、数以亿计的用户，即便经过广告定向的筛选，匹配一次用户请求的广告仍然可能有成千上万。具体向用户展示哪一个或者哪几个广告才能在尽量符合用户偏好的同时为广告主带来最大的收入，这是一个极为复杂的多对多匹配问题，需要精细的预估和排序。
腾讯广告精排大模型即为解决这个难题而设计。其单模型推理参数达千亿级别，序列化后大小可达数百GB，浮点数计算量最高每秒超过10亿次，在行业位于先进水平。
如此大的模型，最明显的收益是可以利用更多的特征和样本数据，学习得到更强大更精确的模型，进而实现更高效的匹配，比如：
- 可以基于更长期、更细致的人群数据，在合规前提下强化用户洞察，对人群的理解更清晰准确；
- 可以基于更多场景、页面、上下文信息，在跨场景联合建模的同时强化场景差异性表达，降低维护成本，提升用户广告体验；
- 可以基于更长期的样本数据，配合恰当的模型结构和学习算法，平衡不同行业不同稀疏程度广告主投放目标的学习，提升投放效果；
- 可以更好地基于混元AI大模型在广告理解层面得到的丰富信息，实现更好的泛化和广告冷启动。
腾讯广告精排大模型各项算法指标相对于百亿规模小模型有显著提升，全流量上线后，用户可以看到更符合自己兴趣的广告，广告主也可以期待有更高的投放回报。
相比以前的小模型算法，腾讯广告精排大模型已累计给广告主带来15%的GMV提升。
当前精排大模型的效果提升还只是一个开始，大模型平台系统和模型算法会持续升级，与此同时，大模型能力也会逐步向召回、粗排等其他环节辐射，不断抬高效果的天花板，为用户和广告主提供更佳的广告体验。
在实现高效广告匹配的同时，腾讯广告也是隐私保护的技术探索者和实践者。
早在2019年，腾讯广告便获得ISO/IEC27001和ISO/IEC 29151两项国际认证，在信息安全和隐私保护能力与国际主流标准全面接轨。此外，腾讯广告也在联邦学习等隐私计算技术持续深耕，助力广告程序化交易联合建模，在保障双方的数据安全前提下实现合作。
三、太极机器学习平台：支持TB级大模型训练推理
腾讯广告平台需要为亿级的用户、海量并不停增加的广告内容提供服务。
大模型 高访问压力，对广告平台的承载能力和计算能力都提出了很高的要求。腾讯广告精排大模型的要求尤其苛刻，不仅模型大小是业界顶级，还需在用户等待页面加载的极短时间内就完成广告匹配。
为了满足这些规模和性能要求，腾讯专门自研搭建了太极机器学习平台，可支持10TB级模型训练、TB级模型推理和分钟级模型发布上线，扩展集群规模则可支持更大的模型训练和推理，为实际业务提供大模型的情况下，同时具有很高的性能，达到行业领先水平。
太极机器学习平台采用了分布式参数服务器架构，这是业界第一梯队企业们公认的最佳选择。
这种架构的特点是，存储模型参数和执行模型计算，这两种任务在分别的服务器上运行，增加更多服务器就能支持更大、计算需求更高的模型。
太极机器学习平台中的参数服务器系统AngelPS也是腾讯自研的成果，该系统不仅能承载10TB级模型的训练，对多维特征融合、复杂模型结构等更高级、更前瞻性的功能也有优秀支持。
同时，太极机器学习平台还具备超大模型在线推理服务的能力。
推理计算方面，它既支持常规的CPU计算，也支持复杂模型的GPU计算加速；存储上，根据在线推理模型大小，自适应选择小模型本地内存加载和大模型AngelPS远程查询的部署策略；在线服务运营上，平台具备多级容灾能力，脏模型秒级回滚能力，以及完备的系统和业务运行实时指标监控和报警系统。
目前，千亿参数、TB规模训练，百GB规模预测的腾讯广告精排大模型能短时间内在太极上完成计算、提供可靠的广告匹配结果。
不仅如此，为了提供周全的可靠性、紧跟潮流的匹配能力，上百GB规模的腾讯广告精排大模型需要有多个副本同时运行，每天还需根据当天的真实用户行为持续学习，这些都依赖太极机器平台强大的承载能力和周全的功能。
太极机器学习平台有突出的模型训练硬件加速能力。以混元AI大模型的训练为例，太极的加速方案高于业界其他方案3.7倍，有效提升了模型的训练效率。
为了让开发者易学、易用，太极机器学习平台也提供了对常见的TensorFlow模型和API的支持，同时还提供了多种改进，降低TensorFlow中复杂的性能优化、内存管理带来的困扰。
如果将太极机器学习平台比作一条多车道的高速公路，大模型就像许许多多的重型卡车，可以在高速公路上高速行驶；相比之下，较落后的技术平台就像是乡间的泥泞小道，只通行一辆小车也颠簸、缓慢。
当前具备领先地位的太极机器学习平台，有助于提供更好的基建体系，助力大模型们高速运行。
结语：落地广告推荐，打赢大模型关键一仗
在腾讯太极机器学习平台之上，混元AI大模型和腾讯广告精排大模型共同完善优化了广告理解、用户理解、广告和用户匹配的整个流程，提升了对广告的理解、广告和人群的匹配效率，以及广告主的推荐精准度和转化效率。
在“降本增效”的目标指引下，关注并提升GMV 的腾讯广告平台技术已打赢大模型落地的关一仗。接下来，腾讯广告计划不断基于此优化模型，帮助广告主达成更高GMV。
