← All writing生成式推荐 · 06

生成式推荐进入广告主链路|生成式推荐 2026·06:GR4AD

GR4AD 将业务感知的广告 SID、列表级强化学习与低延迟解码整合到四亿用户规模的广告系统。

Read the English edition →

GenRec 让模型生成整页内容。GR4AD 进一步进入广告系统,其中“推荐得像不像”之外还有一个更锋利的目标:

这组广告在预算、出价、用户体验和平台收入之间,是否形成了可执行的商业结果?

广告不是普通商品推荐加一个价格特征。广告状态变化快、价值目标强、审计要求高,解码延迟还必须压进主链路预算。

30 秒看懂本文

  1. 旧方法的问题:召回、粗排、精排与重排各自优化;普通内容 SID 又无法表达出价、商业价值与广告状态。
  2. GR4AD 的答案:构建业务感知的 UA-SID,以列表级目标训练;用 LazyAR、可变序列长度、动态 beam、共享 KV cache、FP8 与缓存压缩推理成本。
  3. 工业证据:论文报告系统服务超过四亿用户、低于 100 ms 的延迟、单张 L20 超过 500 QPS,并带来广告收入提升。数字很强,但外部团队无法复核私有日志、基线与归因。

GR4AD:广告语义、商业价值与低延迟解码

为什么内容 SID 不够

两条跑鞋内容相似,但广告系统还关心:

  • 广告主愿意支付多少;
  • 预算是否即将耗尽;
  • 预估点击与转化;
  • 创意新鲜度与审核状态;
  • 当前请求的商业目标。

如果 SID 只编码标题和图像,模型生成的是“像内容的广告”,不一定是“此刻可投放且有价值的广告”。

GR4AD 的 Unified Advertisement 表示将内容、协同与业务信号放在同一空间,再量化为 UA-SID。这样生成 token 本身就携带广告语境,而不是生成后再由多层规则勉强修正。

列表目标怎样写进训练

广告列表价值不能简单等于单条广告分数之和。重复品牌、相似创意和预算竞争都会造成相互影响。

可以把列表奖励抽象为:

[ R(A_{1:K})

\sum_{j=1}^{K} \left( \alpha,\widehat{\mathrm{CTR}}_j + \beta,\widehat{\mathrm{CVR}}_j + \gamma,\mathrm{eCPM}j \right) -\lambda,\mathrm{Redundancy}(A{1:K}). ]

GR4AD 使用列表级强化学习,使模型直接对整组广告负责。这里最大的风险是 reward model 不等于真实市场。若奖励过度追逐短期收入,可能牺牲用户体验、广告主公平和长期生态。

为什么 serving 设计几乎和模型同样重要

自回归生成的瓶颈是逐 token 解码。广告请求量巨大,任何额外 token 都会变成 GPU 成本。论文组合多种工程策略:

  • LazyAR:并非所有位置都严格逐步生成,能推迟或并行的计算不提前支付;
  • Variable Sequence Length:简单广告用更短 SID,避免所有对象承担最长编码;
  • Dynamic beam:根据请求不确定性调整搜索宽度;
  • Shared KV cache:多个候选路径复用公共前缀计算;
  • Top-K 预裁剪、FP8、结果缓存:进一步提高吞吐。

这说明工业生成式推荐不是“把更大 Transformer 接到线上”。模型结构、tokenizer 和 serving 必须共同设计。

线上数字为什么仍需克制

论文报告约 4.2% 的广告收入提升等结果。我们可以据此相信整套方案具有工业价值,但不能据此证明:

  • UA-SID 单独贡献了多少;
  • RL 与 serving 优化分别贡献多少;
  • 收入提升是否稳定跨季节与广告主类型;
  • 长尾广告主是否得到更公平曝光;
  • 用户长期留存是否受影响。

工业论文最珍贵的是证明“这类系统能活着跑起来”,最薄弱的地方则是外部无法重建同样的市场和反馈闭环。

它失败在哪里

GR4AD 的技术目标高度清晰,但安全与治理讨论仍不够:

  • 商业价值进入 SID 后,错误编码可能怎样被审计;
  • 模型是否对大预算广告主形成系统性偏好;
  • 新广告秒级更新时,旧缓存与新状态怎样一致;
  • 生成路径能否解释为何某广告获得曝光;
  • 收入优化是否设置用户体验与合规 guardrail。

至此,第二季已经走完表示、推理、连续生成、商品创造和工业部署。但还有一个最基础的问题没有回答:

生成式推荐的总体指标更高,真的是因为它更会泛化吗?

终篇 How Well Does Generative Recommendation Generalize? 会拆开测试集,检查模型究竟是在组合新模式,还是换一种方式记住训练数据。

上一篇:GenRec · 返回第二季专题页