搜索推荐算法技术交流
110成员📄 UniRec: Cross-stage Multi-Task Fusion with Preference Alignment for Cascaded Recommender Systems
作者：Lingyuan Kong 等 9 人 (快手 Kuaishou Technology)
arXiv: 2609.11052
## 核心贡献
UniRec 是快手提出的跨阶段多任务融合框架，首次将级联推荐系统中粗排与精排的多任务融合模块纳入统一优化目标。通过耦合双智能体架构实现跨阶段表示共享与梯度协同，通过双轴偏好对齐在纵轴（跨阶段一致性）与横轴（任务聚合效率）两个维度同时优化，并引入属性组相对正则化（AGRR）防止端到端优化中的属性级奖励偏差。已在快手全量部署。
## 技术方案
### 1. 耦合双智能体架构
- 部分共享嵌入空间：粗排与精排智能体共享用户/物品/上下文嵌入，梯度双向传播
- 非对称融合塔：粗排用轻量 MLP-Mixer（线性复杂度），精排用 AutoInt-Lite（缩减注意力）
- 适配器网络：将粗排表示注入精排（stop-gradient，仅前向传递），避免精排梯度破坏粗排召回多样性
### 2. 双轴偏好对齐
- 纵轴（跨阶段一致性）：将精排 pairwise 偏好传递给粗排融合分数
- 横轴（CPPA 紧凑聚合）：将 M 个任务的 O(MN²) Softplus 项重组为 O(N²)，正/负偏好证据聚合
- 数学等价但训练吞吐提升 30.1%，单样本处理时间降低 23.1%
### 3. 属性组相对正则化 AGRR
- 受 GRPO 启发，按视频时长等属性分桶
- 桶内计算优势函数并归一化策略，防止模型利用属性级奖励差异
- 桶内 KL 散度目标替代无界似然加权
## 关键实验结果
RecFlow 公开基准：
- NDCG@10/30/50 均最优，ASH 达 0.9978
- Kendall τ 0.6318，Spearman ρ 0.8072
快手线上 A/B 实验（20%流量，一周）：
- App 使用时长 +0.616%
- 总观看时长 +0.675%
- 视频观看时长 +0.755%
- Like +2.367%，Follow +1.573%
- 活跃用户 +0.189%
- 已全量部署于快手平台
## 实践启示
1. 级联推荐的融合模块应跨阶段联合优化，而非各自独立训练
2. 非对称架构设计（MLP-Mixer vs AutoInt-Lite）是精度-效率平衡的关键
3. stop-gradient 是跨阶段信息传递的安全阀，保持各阶段优化目标独立
4. CPPA 的数学等价重组可推广至任何多任务 pairwise 损失场景
5. AGRR 为端到端优化提供了轻量级防属性偏差机制
🔗 论文链接：https://arxiv.org/abs/2609.11052... 全部
抖音全量部署100K超长序列推荐框架完播率提升2.33%
SequenceO1 是字节跳动在抖音和抖音极速版全量流量上部署的端到端超长序列推荐框架，将用户行为序列建模从 10K 扩展到 100K 量级。通过先压缩再推理的设计，在保持端到端优化路径的同时，使 100K 超长序列在工业生产中可行。RecSys 2026 Industry Track 长口头报告。论文信息标题：SequenceO1: End-to-End Ultra-Long (100K) Sequence Modeling in Recommendation with Low-Rank Caching...
统一上下文中心CTR预测范式美团搜索广告RPM提升3.09%
UniCon 提出以上下文单元为基本建模单位的统一 CTR 预测范式，将历史行为和当前请求视为同构上下文单元序列，通过上下文内注意力捕获局部性、上下文间注意力建模动态演化，在美团搜索广告场景实现离线 AUC +0.0139、线上 RPM +3.09%、CTR +2.07%、Revenue +2.95%。论文信息标题：UniCon: A Unified Context-Centric Modeling Paradigm for CTR Prediction...
原子级协同记忆演化驱动智能体推荐平均提升8.5%
AtomRec 提出面向智能体推荐系统的演化原子协同记忆机制，将用户和物品记忆表示为结构化原子笔记，通过语义链接构建协同记忆图，并在新交互到来时动态演化历史记忆字段，推荐时检索多跳证据路径而非孤立邻居摘要。在四个公开数据集上平均相对提升约 8.5%。论文信息标题：AtomRec: Evolving Atomic Memory for Agentic Recommendation作者：Peiyu Hu, Weihai Lu, Siying Gu, Zhuodong Liu, Zhaokai Luo, Yuean Niu, Zhiyong Wang, Jia Wang（共 8 人）...
嵌入手术实现稠密检索局部排序修正
💡 嵌入手术通过在查询时对文档嵌入进行局部最小化更新，实现了稠密检索中的自适应排序修正，无需重新训练或重建索引。📖 研究背景稠密检索系统是现代搜索引擎、推荐平台和检索增强生成管道中的核心组件。它们将文档和查询编码为稠密嵌入，通过向量相似度实现高效的语义搜索。然而，由于文档嵌入是离线计算并存储在静态索引中的，这些系统难以适应用户反馈或不断演变的搜索意图。针对这一局限性，本文提出了一种名为嵌入手术的轻量级方法，用于稠密检索中的自适应排序修正。该方法在查询时根据编辑反馈、用户交互或大语言模型生成的伪标签，对选定的文档嵌入进行局部、最小化的更新。本文将嵌入手术形式化为一个凸优化问题，在最小化对受影响文档表示修改的同时强制执行排序约束。作者将嵌入手术集成到标准稠密检索管道中，并在TREC Deep Learning、TREC Robust、TREC CAsT和MS MARCO基准上进行了评估。结果显示，该方法在编辑反馈下取得了持续改进（例如，在DL-Hard上nDCG@10相对提升高达60.64%），即使在噪声或变化的反馈下也有效，且计算成本低，不会破坏嵌入空间的整体结构。大量实验表明，排序修正会传播到语义相关的查询，并且嵌入更新可以通过简单的原地覆盖安全高效地应用于可扩展的近似最近邻索引，无需昂贵的索引重建。最后，嵌入手术与CoRocchio等查询适应方法互补，在获得额外收益的同时对噪声反馈更具鲁棒性。...
自主Agent系统两天完成41轮实验NDCG提升20%
RecEvolve 是一个知识驱动的自主智能体系统，直接部署在生产级大规模 Two-Tower 检索模型上，通过持续闭环自主框架在约两天内完成 41 次自主训练实验，实现 NDCG 约 20% 的相对提升，线上真实流量 A/B 测试用户满意度 +3.77%。论文投稿 RecSys 2026。论文信息标题：RecEvolve: A Knowledge-Driven Autonomous Agent System for Recommender Systems...
腾讯TGR三层生成式推荐框架统一排序生成与推理
TGR（Tencent Generative Recommendation）是腾讯PCG发布的工业级生成式推荐技术栈，通过三层耦合架构将推荐系统从传统级联范式推进到统一的生成式范式，已部署在腾讯多条产品线上服务数亿日活用户。论文信息标题：TGR: Advancing Industrial Recommendation from Generative-Paradigm Ranking toward Unified Generation and Reasoning...
推荐原生Transformer实现行为序列规模化排序
💡 ReST通过推荐原生的Transformer架构与计算不对称分解，实现了行为序列在工业排序中的有效扩展，显著提升在线指标。📖 研究背景本研究针对工业推荐排序中行为序列建模的扩展问题，提出推荐原生Transformer框架ReST。研究背景是：虽然Transformer在语言建模中通过规模扩展取得巨大成功，但直接移植到生产级排序面临两大挑战：信号质量（行为序列噪声大、时间不规则、监督稀疏）和计算不对称（每个请求需对多个候选物评分，共享用户历史）。核心贡献包括：提出双门控注意力、旋转位置与时间嵌入、稳定残差归一化及训练专用辅助目标，以提升信号质量；将排序分解为重型可复用序列编码器和轻量级交叉解码器，结合无投影KV注意力与令牌特定参数化，实现计算复用；通过用户级共享前缀训练与共享前缀服务，实现一次计算多次解码。实验结论：在工业与公开基准上，ReST在准确率与扩展性上优于LLM风格及推荐基线，在线A/B测试中在线AUC提升1.31%，核心收入指标提升11.93%，满足50毫秒P99延迟预算，并已全面部署。...
法律文本可信度评估揭示检索框架潜力
💡 QUEST系统通过信息检索框架和新型可信度相关性评估指标，揭示了自动方法在识别庇护上诉中可信度指标时的困难与潜力。📖 研究背景本研究针对丹麦庇护申请上诉案件中的可信度评估问题，提出了一套名为QUEST的查询与主题提取系统。研究背景在于，庇护申请的法律裁决文件冗长、复杂且异构，包含申请人访谈记录、原始决定及补充材料。当申请被拒绝时，上诉处理的关键问题在于原始申请中的信息可信度是否影响了决定。核心贡献包括：将问题形式化为信息检索任务，结合合成查询生成、主题提取和相关性评估；提出了领域特定的可信度相关性评估指标crels，区别于传统相关性评估；通过实验发现，基于可信度的评估比传统评估更具挑战性，且现有检索系统未针对可信度进行优化。实验结论表明，稠密检索方法并非始终最优，但神经重排序能稳定提升性能；同时，LLM评判器的阈值设置对系统性能有显著影响。...
Transformer检索首次实现工业级对数线性扩展
💡 TransRetrieval通过加权平均聚合、目标令牌压缩和位置式域嵌入，首次在工业推荐检索阶段实现了Transformer的稳健对数线性缩放，并带来显著的收入提升。📖 研究背景将缩放定律应用于推荐检索面临特征异质性的阻碍：简单堆叠Transformer层会导致收益递减，因为异构字段产生严重的令牌范数发散。本文提出TransRetrieval，一个基于Transformer的检索框架，能够随计算预算和跨域数据扩展。关键使能技术包括：(1)加权平均聚合，恢复Transformer所依赖的同质令牌假设；(2)目标令牌压缩，将每个候选的FLOPs降低85%，同时保持交叉注意力的表达能力；(3)位置式域嵌入，以可忽略的额外成本统一多个域，将跨域数据转化为扩展资产。在400亿交互的工业数据集和公开的KuaiRand基准上，将每个目标的计算量从0.1扩展到2 MFLOPs，Recall@2000分别提升19.3和22.2个百分点，证实了稳健的对数线性缩放。在线A/B测试中，在与生产基线相同的端到端延迟约束下，TransRetrieval使平台收入提升2.53%。...