标签 AAAI 下的文章

新加坡的会场里，全球人工智能顶会 AAAI，正式揭晓年度奖项，也迎来了它的第 40 个年头。

今年共颁发了 5 个杰出论文奖，以及 2 个经典论文奖。在获奖名单中，竟然还有“机器学习三巨头”之一的 Yoshua Bengio。

不过这一次，他并不是因为最新成果获奖，而是凭借在 2011 年写的一篇论文获得了经典论文奖。而且不久前，他刚达成 AI 领域首个“百万被引作者”的成就。

为什么 10 多年前的这篇论文，会在今年被重新拉出来，还获得了经典论文奖？

不妨来看看它讲了些什么。

论文名为 Learning Structured Embeddings of Knowledge Bases（《面向知识库的结构化表示学习》）。提出了一种方法，把知识库的结构化数据嵌入到连续空间中，从而让结构化知识更容易用于机器学习任务。

换句话说，这篇文章解决的是如何把离散世界（知识、事实、关系）嵌入到连续空间；以及如何让神经网络不靠纯统计，而是“接住现实结构”。而今天热门的世界模型、RAG、Agent 的外部记忆等等这些东西，从本质上讲，全都在复用这条路线。

再说回今年获奖的 5 篇杰出论文，这些论文有讲机器人和 VLA 的，有在讲如何在连续时间系统中让 AI 模型“白盒化”的，还有讲 LLM 和 CLIP、讲高频信号和局部判别结构的。

串起来看，这些论文的研究方向，其实可以概括出一个共同指向：AI 的竞争，已从拼实验环境的中的炫酷 Demo，转向真正的应用层。Scaling Law 那套虽然不完全失效，但多少有点过时了，谁能在真实世界中被理解、被修订、被信任越来越关键。

AAAI 2026: AI 走向现实，评奖标准重塑

下面来看看这几篇杰出论文，都有哪些有意思的信息。

具身智能领域：

论文名：ReconVLA: Reconstructive Vision-Language-Action Model as Effective Robot Perceiver（ReconVLA：作为高效机器人感知器的重建式视觉-语言-动作模型）

要说清本文的创新点，需要再这里先简单回顾一下什么是 VLA——VLA（Vision-Language-Action）具身智能领域的一个关键模型，可以把视觉感知、语言理解和动作生成统一到同一个模型中，直接根据“看到什么 + 听到什么”，来输出可执行机器人动作。

不过当前 VLA 的缺陷也是很明显的：比如模型在执行动作时，视觉注意力高度分散；即便模型能“理解指令”，但在复杂场景、多干扰物、长任务中，往往看不准真正要操作的物体。

结果就是：抓错对象、操作不精确（现实世界对精确度要求很高）、长链任务中途失败等等。

总之，以往 VLA 只监督“动作输出”，几乎不约束“视觉感知过程本身”。

而 ReconVLA 的关键思想是：不“告诉模型看哪里”，而是“逼模型把关键区域重建出来”。

其核心机制，简单来说，就是模拟人类视觉的“凝视（gaze）”机制，不要求模型输出框，也不输入裁剪图，而是让模型在内部生成一种“重建信号”，去还原“当前要操作的局部区域”。

论文还系统性地对比了三类视觉定位（grounding）范式：

  • 一类是以外部检测器和裁剪图像为代表的 Explicit Grounding，

  • 一类是先输出目标框、再生成动作的 CoT Grounding，

  • 以及作者提出的 Implicit Grounding（隐式 Grounding），也就是 ReconVLA 的方式。

图注：不同范式 Grounding 之间的概念性对比。

前两类方法本质上都是在显式告诉模型“答案在哪里”，并未真正改变 VLA 内部的视觉表示和注意力机制。

而 ReconVLA 通过重建过程，将关键区域作为一种隐式的视觉监督信号，引导模型生成所谓的“重建 token（reconstructive tokens）”，从而在不引入额外输入或输出的前提下，重塑视觉感知能力。

换句话说，它不再让模型“蒙着眼睛试动作”，而是强制模型在每一步决策前，先把目标对象看准，再去动手。

关于从“结果可解释”，走向“结构可操作”：

论文名：Causal Structure Learning for Dynamical Systems with Theoretical Score Analysis

（基于理论评分分析的动态系统因果结构学习方法）

这篇论文提出了一种方法：CADYT。能够在连续时间、甚至不规则采样的数据中，同时刻画系统的动力学演化，并恢复其中的因果结构。

更重要的是，作者证明了用于判断因果关系的评分函数，在理论上等价于一种合理的模型选择准则，而不是经验性的启发式指标。换句话说，就是这个评分不是凭经验设计的，而是从理论上保证：它会偏向那些“解释得刚刚好、不多也不少”的因果结构。

在现实世界的系统中，无论是工业控制、物理系统，还是医疗过程，系统本质上都是连续时间演化的，而且由稳定的因果机制驱动。但以往的方法往往只能解决其中一半问题。

一类是时间序列因果发现方法，它们通常基于离散时间建模（如 DBN、Granger），并假设规则采样，因此在面对真实的连续动力学和不规则采样时，难以准确刻画系统本身的演化机制。

另一类是连续时间动力学建模方法（如 Neural ODE、GP-ODE），虽然能自然处理不规则采样，却主要关注预测精度，本质上并不区分因果依赖与偶然相关。

这就留下了一个长期存在的空白：几乎没有方法，既工作在连续时间框架下，又能够同时恢复系统的动力学机制和因果结构。

而 CADYT 正是针对这一空白提出的。它将连续时间的高斯过程动力学建模，与基于最小描述长度（MDL）和算法马尔可夫条件（AMC）的因果评分结合起来，在不规则采样条件下，通过比较不同因果结构对数据的“压缩能力”，来识别真正的因果关系，并给出了明确的理论保证。

说得更直白一点，这项工作把连续时间动力学建模，从“拟合得像不像真实轨迹”，推进到了“学到的机制在因果上是不是对的”。

论文名：Model Change for Description Logic Concepts

（描述逻辑概念的模型变更）

此论文还未公开上传，暂无链接。

关于表示学习，重新审视结构本身

论文名：LLM2CLIP: Powerful Language Model Unlocks Richer Cross-Modality Representation

（LLM2CLIP：强大语言模型解锁更丰富跨模态表征）

CLIP（Contrastive Language–Image Pre-training）是一个经典的多模态模型，通过对比学习，将图像和文本映射到同一语义空间，从而实现“以文找图、以图找文”等跨模态理解能力。

CLIP 在跨模态检索和基础语义对齐上表现出色，但它也有一个公认的短板：文本编码器容量较小、上下文长度有限，对长、复杂、信息密集的文本理解能力不足。这在长文本检索、多语言理解等场景中尤为明显。

LLM 在语言理解、上下文建模和世界知识方面，倒是明显更强。但问题在于，LLM 不能直接接入 CLIP。

——一方面，原生 LLM 的句向量并不具备对比学习所需的“高区分度”，很难有效拉开不同 caption 之间的距离；另一方面，如果端到端联合训练 LLM 和 CLIP，计算成本也高得不可接受。

这篇论文提出了一种系统化的新方法，名曰：LLM2CLIP，顾名思义，把 LLM“接入”或“输送”到 CLIP 里，用 LLM 来替代或者增强 CLIP 的文本能力。

但这并不是简单地把 LLM 直接接进去。作者给出的解决路径，是分两步走，各解决一个关键障碍。

第一步，是先让 LLM 成为一个“合格的文本 embedding 模型”。为此，论文提出了 Caption-Contrastive Fine-tuning：

使用同一张图像对应的不同 caption 作为正样本，通过对比学习，让语义相近的描述在向量空间中更接近、不相关的描述更远；同时配合平均池化、双向注意力和 LoRA 等结构调整，提升句向量的稳定性和可区分性。

这一步的目标并不是做多模态，而是把 LLM 训练成一个真正“好用”的文本表示器。

第二步，则是直接用经过处理的 LLM，替换掉 CLIP 原有的文本编码器。在这一阶段，LLM 参数被冻结，仅训练一个非常轻量的 adaptor 来对齐视觉特征，使整体训练流程几乎等同于普通的 CLIP 微调，算力成本基本不变。

大量消融实验表明：同时保留两个文本编码器、或试图在两者之间做复杂对齐，效果反而更差；“直接替换”是最简单、也是最有效的方案。

实验结果显示，LLM2CLIP 在长文本检索任务上提升最为显著，短文本检索也有稳定增益，同时多语言检索能力明显增强。更重要的是，这些提升是在仅使用百万级数据、几乎不增加训练成本的前提下实现的。

总体来看，LLM2CLIP 的价值在于，它没有重造一个更大的多模态模型，而是用一种低成本、可复用的方式，把“语言理解”这块短板，直接补进了 CLIP 的核心结构里。

论文名：

High-Pass Matters: Theoretical Insights and Sheaflet-Based Design for Hypergraph Neural Networks

（高频信息的重要性：面向超图神经网络的理论分析与 Sheaflet 方法设计）

此论文还未公开上传，暂无链接。

总而言之，这些研究都在把关注点从结果层面的性能，推向模型内部的感知、结构和机制本身。

论文地址：

https://arxiv.org/abs/2508.10333

https://arxiv.org/abs/2411.04997

https://arxiv.org/abs/2512.14361

参考链接：

https://aaai.org/about-aaai/aaai-awards/aaai-conference-paper-awards-and-recognition/

https://aaai.org/about-aaai/aaai-awards/aaai-classic-paper-award/?utm_source

https://aaai.org/conference/aaai/aaai-26/award-talks/

当你在电商平台搜索“苹果”，系统会推荐“水果”还是“手机”？或者直接跳到某个品牌旗舰店？短短一个词，背后承载了完全不同的购买意图。而推荐是否精准，直接影响用户的搜索体验，也影响平台的转化效率。

查询推荐（Query Suggestion）是现代电商搜索系统中的关键功能，通过在用户输入过程中实时推荐相关查询，帮助用户快速明确意图，提升搜索体验与转化效率。传统方法通常采用多阶段级联架构（MCA），虽然在效率与效果之间取得了一定平衡，但由于各阶段目标不一致、长尾查询召回困难等问题，限制了系统性能的进一步突破。

基于上述问题，快手在业界首次提出端到端的生成式统一查询推荐框架——OneSug，成功将召回、粗排、精排等多个阶段统一在一个生成模型中，显著提升了推荐效果与系统效率，在快手电商场景中实现了业务指标与用户体验的双重提升。

本工作相关成果《OneSug: The Unified End-to-End Generative Framework for E-commerce Query Suggestion》已被人工智能顶级会议 AAAI 2026 接收。
图片
[🔮 论文链接]：https://arxiv.org/abs/2506.06913

一、研究背景

传统的查询推荐系统通常采用多阶段级联架构，依次进行召回、粗排和精排。虽然该架构在响应时间与转化率之间实现了一定平衡，但也带来了明显的局限性：

  • 级联式框架（召回->粗排->排序），前一链路性能决定下一链路上限；
  • 召回、排序分离技术迭代范式，全链路统一目标优化难；
  • 长尾前缀由于缺乏历史行为数据，难以召回高质量 Query。

近年来，生成式检索（Generative Retrieval）因其强大的语义理解与生成能力，在推荐与搜索领域展现出巨大潜力。然而，现有方法多聚焦于视频推荐，其本质上是一个开集到开集的任务，难以直接应用于输入输出都是开放词表的的查询推荐场景。
图片

图片

二、方法简介：OneSug 的三大核心模块

针对上述问题，我们提出了 OneSug 模型，整体架构如上图所示，主要包括 3 个部分：

  • Prefix-Query 表征增强模块（Prefix2Query Representation Enhancement）
  • 统一的 Enc-Dec 生成架构（Unified Encoder-Decoder Architecture）

  • 用户行为偏好对齐（User Preference Alignment）
    图片

    2.1 Prefix-Query 表征增强模块

    Sug 场景下，用户输入的前缀往往较短且意图模糊（如“苹果”可指水果或品牌）。为此，我们提出的解决方式分为 2 个部分。

  • 语义与业务空间对齐：我们以 BGE 作为 base 模型，同时引入用户真实的 prefix2query、query2query 数据，使用对比学习对 BGE 进行微调，使其语义空间与快手电商的业务特征空间对齐。
  • 层次化语义 ID 生成：在对齐语义空间的基础上，我们引入 RQ-VAE，为每个前缀和 Query 生成层次化的语义 ID。RQ-VAE 可将任意文本映射为离散的语义 ID；同时保证语义相近的 query 会被编码到相同的簇中；通过这种方式，对于任何一个用户输入的前缀，我们可以快速匹配到与其语义 ID 最接近的 top-K 个相关 query，作为增强上下文输入后续生成模型。

2.2 统一的 Enc-Dec 生成架构

OneSug 的生成架构基于 Enc-Dec 结构，并直接通过自回归（Autoregressive）方式生成用户最有可能点击的 Query。该模型的输入包含四个关键部分：用户当前输入前缀（如 “智能手机”）由 PRE 模块增强的相关查询序列（如 “智能手机性价比 2025”）用户历史行为序列（如过去搜索的 “蓝牙耳机”、“手机壳”等）用户画像信息。输出即为模型生成的 Query 列表（如 “智能手机推荐 2025”、“智能手机性价比排行”）。

2.3 用户行为偏好对齐（RWR）

2.3.1 用户偏好量化

我们首先对用户在搜索场景下的真实行为进行了精细化的分级，将其划分为六个明确的层次，并为每个层级赋予一个基础奖励权重λ：
图片
为了进一步细致的调节样本权重，额外引入了调节因子r(xu​,q)=λ⋅ctr，其中表示当前前缀下 query 的 ctr。

2.3.2 混合排序框架

奖励加权偏好优化传统的 DPO 使用<正样本, 负样本>对进行训练，但默认两者同等重要。这在业务场景中是不合理的，因为区分“点击”和“曝光”的难度远小于区分“点击”和“随机负样本”。RWR 的核心思想是：根据正负样本之间的奖励差距，为不同的样本对赋予不同的学习权重。
我们构建了九种类型的样本对（如 <Order, Show>, <Click, Rand>）。对于每一对样本，计算其奖励差异权重rwΔ​：
图片

  • rwΔ​值小：说明正负样本奖励差距大（如<Click, Rand>），是“容易样本”，模型正常学习即可。
  • rwΔ​值大：说明正负样本奖励差距小（如<Click, Show>），是“困难样本”，RWR 会赋予更大的权重，迫使模型更加努力地学习其间微妙的偏好差异。

2.3.3 混合排序框架

为了克服传统 Pairwise 范式的 DPO 在全局排序能力上的局限性，我们引入了一种混合排序框架。该框架将 listwise 范式的排序损失和 point-wise 范式的 sft loss 进行混合，使得模型既能获得高效的排序能力，同时避免 reward hacking 造成的生成能力下降。Pairwise 范式对齐模型，在包含多个负样本的候选中无法学习到“哪个是最好的”。

受 Plackett-Luce 模型启发，我们设计了 Listwise 排序损失，对于正样本，让模型同时拉大它与所有负样本的奖励差距，迫使模型不仅要知道正样本比负样本好，还要学会在负样本越多、越强的情况下，依然将正样本排在前面，从而直接优化列表的整体排序质量。论文中分别提出了基于 Pairwise 和 ListWise 范式的混合排序框架，同时在理论上证明了 Pairwise 范式的对齐模型是 ListWise 的特殊情况。
图片

三、实验结果

3.1 离线效果

在快手电商场景的大规模数据集上，OneSug 在 HR@16 和 MRR@16 指标上均显著优于传统多阶段系统与生成式基线模型。论文中同时提到，OneSug 不仅适用于 Enc-Dec 结构的生成式模型，Decode-only 架构的模型同样适用，且具有更高的离线指标，因为现阶段的推理耗时约束暂时没有进行在线实验。
图片

3.2 在线 A/BOneSug

模型目前在快手电商搜索场景下全量推全，AB 实验大幅度提高了 Ctr、订单和 GMV 等指标，同时人工测评 GSB 指标也有很大幅度的提升。
图片

图片

3.3 在线推理

线上流程完全取代了召回-粗排-精排，使平均耗时降低了 43.2%，为后续优化提供了充足的空间。
图片

四、总结与展望

OneSug 是业界首个在电商场景中实现全流量部署的端到端生成式 Query 推荐系统，其统一建模方式显著提升了语义理解与个性化推荐的能力，为生成式模型在搜广推的落地提供了新的范式。

未来，我们将进一步探索大语言模型在排序阶段的强化学习优化、实时更新等方向，持续推动端到端生成式系统在推荐、广告等多业务场景中的广泛应用。

AAAI 是人工智能领域顶级的国际学术会议，本文精选了美团技术团队被收录的 8 篇学术论文（附下载链接），覆盖大模型推理、 退火策略、过程奖励模型、强化学习、视觉文本渲染等多个技术领域，希望这些论文能对大家有所帮助或启发。

01 Promoting Efficient Reasoning with Verifiable Stepwise Reward

论文类型：Poster

论文下载：PDF

论文简介：大推理模型通过强化学习提升了链式推理能力，但输出冗长，导致推理开销增大和用户体验下降，即「过度思考」问题。针对这一现象，本文提出了可验证的过程奖励机制（VSRM），通过奖励有效步骤、惩戒无效步骤，优化模型推理过程。VSRM 首先通过特殊 token 划分推理步骤，并结合三条规则保证每个步骤的内容可读性。各步骤通过插入 token 生成子轨迹，模型根据每步前后正确率变化分配步骤级奖励。为避免奖励信号稀疏，引入前瞻窗口机制，通过折扣因子传播未来正确率变化，使奖励更密集。

实验表明，VSRM 能大幅缩减输出长度，且在多种数学 benchmark 和不同模型、算法下保持甚至提升性能。消融实验证明前瞻窗口机制有效，显式长度惩罚对 VSRM 无益。VSRM 机制可与各类强化学习算法无缝结合，有效抑制无效步骤，鼓励有效推理，是解决过度思考问题、提升模型推理效率的有效方法。

02 Scaling and Transferability of Annealing Strategies in Large Language Model Training

论文类型：Long Paper

论文下载：PDF

论文简介：本文深入研究了大型语言模型训练过程中退火策略（Annealing Strategies）对模型性能的影响，提出了一个新的缩放法则公式来预测不同训练配置下的损失曲线。研究发现，即使在相同的训练 token 数量和模型规模下，不同的批次大小（batch size）和学习率调度器也会导致显著不同的训练曲线。为此，作者提出了一个改进的缩放法则公式：

其中 S 表示学习率对训练步数的积分（前向效应），M 表示动量对训练步数的积分（退火动量项），N 代表模型规模。

论文的核心贡献包括：(1) 证明在特定情况下，训练步数比训练 token 数更适合作为追踪损失曲线的指标；(2) 发现最优退火比率（Ropt）随总训练步数增加而减小，遵循幂律关系；(3) 验证了最优退火比率在训练集和验证集上保持一致；(4) 通过在 Dense 模型和 MoE（Mixture-of-Experts）模型上的大量实验，证明小模型可以作为优化大模型训练动态的可靠代理。该研究为大规模语言模型的训练提供了更精确的理论指导，有助于优化训练效率和模型性能。

03 From Mathematical Reasoning to Code: Generalization of Process Reward Models in Test-Time Scaling

论文类型：Long Paper （Oral）

论文下载：PDF

论文简介：本文系统研究了过程奖励模型（Process Reward Models, PRMs）在提升大型语言模型推理能力方面的作用，特别关注其从数学推理到代码生成任务的跨域泛化能力。研究从训练方法、可扩展性和泛化能力等多个维度对 PRMs 进行了深入分析。

论文的核心发现包括：
- 训练计算资源的影响：研究发现随着 PRM 模型规模的增大，性能提升呈现边际递减效应，强调了在模型规模和计算成本之间寻找平衡的重要性。同时，训练数据集的多样性显著影响 PRM 性能，作者提出的 ASLAF（自动步骤级标注与过滤）方法在多个基准测试中表现优异。
- 测试时扩展策略：论文评估了 Best-of-N 采样、束搜索、蒙特卡洛树搜索（MCTS）和多数投票等多种搜索策略。结果表明，在计算资源充足时 MCTS 效果最佳，而在资源受限情况下 Best-of-N 采样是实用的替代方案。
- 跨域泛化能力：令人惊讶的是，在数学数据集上训练的 PRMs 在代码生成任务上的表现与专门针对代码训练的模型相当，展现出强大的跨域适应能力。通过梯度分析，研究还发现 PRMs 倾向于选择具有相似底层推理模式的响应，这为理解其优化机制提供了新视角。该研究为优化大规模语言模型的训练和部署提供了重要的理论指导和实践参考。

04 Rethinking the Sampling Criteria in Reinforcement Learning for LLM Reasoning: A Competence-Difficulty Alignment Perspective

论文类型：Poster

论文下载：PDF

论文简介：本文对强化学习（RL）中的问题采样策略进行了系统性研究，当前主流采样策略大多直接依赖单步通过率（Pass Rate） 作为问题难度指标，存在 1）对问题难度的估计不够稳定；2）无法有效捕捉模型能力与问题难度的对齐关系的问题。

针对这些问题，本文提出了 CDAS（Competence-Difficulty Alignment Sampling）：一种将模型能力与问题难度显式建模并对齐的动态采样方法。CDAS 不依赖单步通过率，而是通过累积历史表现差异来构建更稳定的难度估计；同时定义模型能力，并以不动点系统确保两者在训练过程中共同收敛。基于能力—难度差值构建对齐指标，再通过对称采样策略，选取最匹配模型当前能力的问题，从而提升有效梯度比例与训练效率。CDAS 在数学推理和代码生成场景中均通过 RL 训练 验证，结果显示 CDAS 显著提升了采样效率与模型性能，击败了多种主流采样策略。

05 ViType: High-Fidelity Visual Text Rendering via Glyph-Aware Multimodal Diffusion

论文类型：Oral

论文下载：PDF

论文简介：随着文生图模型在电商营销等领域的广泛应用，视觉文本渲染的准确性已成为制约生成质量的核心瓶颈。现有模型因缺乏字形级理解能力，难以精确刻画多语言字符结构，导致海报、商品图等商业场景中文字乱码、字形失真等问题频发，严重阻碍了 AIGC 在智能设计中的实际落地。

针对这一关键挑战，我们提出 ViType 三阶段对齐增强框架：首先通过视觉问答机制实现文本-字形显式对齐，将字符视觉结构注入大语言模型语义空间；其次创新性地将预对齐字形嵌入与文本 token 同步输入多模态扩散 Transformer，通过联合训练建立跨模态特征协同；最后基于高质量图文对进行美学精调，确保生成图像的版式和谐与视觉美感。该框架使字符准确率提升 15%以上，为电商海报、营销物料等高精度视觉内容创作提供了可靠的技术支撑。

06 DSCF: Dual-Source Counterfactual Fusion for High-Dimensional Combinatorial Interventions

论文类型：Poster

论文下载：PDF

论文简介：在个性化推荐、数字营销和医疗健康等领域，基于观测数据预测反事实结果对科学决策至关重要。在这些应用场景中，决策过程往往涉及高维组合干预策略，例如多渠道资源捆绑投放或产品组合推荐。面向这类场景，无论是历史策略的效果评估还是新策略的优化，都需要模型能够对历史数据中很少出现甚至从未出现过的策略组合效果进行准确预测。此外，观测数据中源于历史分配策略和倾向性投放的选择偏差会进一步加剧数据稀疏问题，从而影响反事实推断的准确性。

为此，本文提出双源反事实融合模型（Dual-Source Counterfactual Fusion，DSCF），该可扩展框架通过双专家混合架构联合建模观测数据和代理反事实样本，并采用领域引导融合机制，在有效平衡偏差消除与信息多样性的同时，还能自适应地泛化到反事实输入场景。在合成和半合成数据集上的大量实验表明，DSCF 框架能够显著提升高维组合干预场景下的预测准确性，并在不同情境下展现出优异的鲁棒性表现。

07 Compress-then-Rank: Faster and Better Listwise Reranking with Large Language Models via Ranking-Aware Passage Compression

论文类型：Poster

论文下载：PDF

论文简介：基于大型语言模型（LLMs）的列表重排序（listwise reranking）已经成为最先进的方法，在段落重排序任务中不断创下新的性能基准。然而，其实际应用面临两个关键挑战：处理长序列时高昂的计算开销和高延迟，以及由于“迷失在中间”等现象导致的长上下文性能下降。

为了解决这些问题，我们提出了一种高效的框架压缩后排序（Compress-then-Rank, C2R），该框架不是直接对原始段落进行列表重排序，而是对其紧凑的多向量代理进行操作。这些代理可以预先计算并缓存，适用于语料库中的所有段落。C2R 的有效性依赖于三项关键创新。首先，压缩模型通过结合文本恢复和文本延续目标进行预训练，生成高保真的压缩向量序列，从而减轻了单向量方法中常见的语义损失问题。其次，一种新颖的输入方案将每个序数索引的嵌入添加到其对应的压缩向量序列前，这不仅划定了段落边界，还引导重排序 LLM 生成排序列表。最后，压缩模型和重排序模型通过联合优化，使压缩过程对排序目标具有排序感知能力。在主要重排序基准上的广泛实验表明，C2R 在提供显著加速的同时，能够实现与全文重排序方法相当甚至更优的排序性能。

08 Multi-Aspect Cross-modal Quantization for Generative Recommendation

论文类型：Oral

论文下载：PDF

论文简介：本文提出一种基于多模态融合的生成式推荐框架（MACRec），旨在解决现有生成式推荐方法因模态信息利用不足和跨模态交互缺失导致的性能瓶颈。

针对文本与视觉模态的量化难题，MACRec 引入跨模态量化与多角度对齐机制，通过两阶段技术路线实现优化：1）跨模态残差量化：将对比学习融入分层量化过程，生成兼具语义层次性与模态兼容性的物品标识符，显著降低多模态表征冲突；2）跨模态协同对齐：通过显式-隐式协同对齐策略，分别建模文本与视觉模态的共享特征和互补特征，增强生成式推荐的多模态理解能力。在亚马逊电商推荐数据集上的实验结果表明，MACRec 相较基准模型在推荐性能上有显著提升；各模态的码本分布更均衡、利用率更低，充分验证了跨模态量化与对齐机制在提升生成式推荐有效性方面的优势。

AAAI 是人工智能领域顶级的国际学术会议，本文精选了美团技术团队被收录的 8 篇学术论文（附下载链接），覆盖大模型推理、 退火策略、过程奖励模型、强化学习、视觉文本渲染等多个技术领域，希望这些论文能对大家有所帮助或启发。

01 Promoting Efficient Reasoning with Verifiable Stepwise Reward

论文类型：Poster

论文下载：PDF

论文简介：大推理模型通过强化学习提升了链式推理能力，但输出冗长，导致推理开销增大和用户体验下降，即「过度思考」问题。针对这一现象，本文提出了可验证的过程奖励机制（VSRM），通过奖励有效步骤、惩戒无效步骤，优化模型推理过程。VSRM 首先通过特殊 token 划分推理步骤，并结合三条规则保证每个步骤的内容可读性。各步骤通过插入 token 生成子轨迹，模型根据每步前后正确率变化分配步骤级奖励。为避免奖励信号稀疏，引入前瞻窗口机制，通过折扣因子传播未来正确率变化，使奖励更密集。

实验表明，VSRM 能大幅缩减输出长度，且在多种数学 benchmark 和不同模型、算法下保持甚至提升性能。消融实验证明前瞻窗口机制有效，显式长度惩罚对 VSRM 无益。VSRM 机制可与各类强化学习算法无缝结合，有效抑制无效步骤，鼓励有效推理，是解决过度思考问题、提升模型推理效率的有效方法。

02 Scaling and Transferability of Annealing Strategies in Large Language Model Training

论文类型：Long Paper

论文下载：PDF

论文简介：本文深入研究了大型语言模型训练过程中退火策略（Annealing Strategies）对模型性能的影响，提出了一个新的缩放法则公式来预测不同训练配置下的损失曲线。研究发现，即使在相同的训练 token 数量和模型规模下，不同的批次大小（batch size）和学习率调度器也会导致显著不同的训练曲线。为此，作者提出了一个改进的缩放法则公式：

其中 S 表示学习率对训练步数的积分（前向效应），M 表示动量对训练步数的积分（退火动量项），N 代表模型规模。

论文的核心贡献包括：(1) 证明在特定情况下，训练步数比训练 token 数更适合作为追踪损失曲线的指标；(2) 发现最优退火比率（Ropt）随总训练步数增加而减小，遵循幂律关系；(3) 验证了最优退火比率在训练集和验证集上保持一致；(4) 通过在 Dense 模型和 MoE（Mixture-of-Experts）模型上的大量实验，证明小模型可以作为优化大模型训练动态的可靠代理。该研究为大规模语言模型的训练提供了更精确的理论指导，有助于优化训练效率和模型性能。

03 From Mathematical Reasoning to Code: Generalization of Process Reward Models in Test-Time Scaling

论文类型：Long Paper （Oral）

论文下载：PDF

论文简介：本文系统研究了过程奖励模型（Process Reward Models, PRMs）在提升大型语言模型推理能力方面的作用，特别关注其从数学推理到代码生成任务的跨域泛化能力。研究从训练方法、可扩展性和泛化能力等多个维度对 PRMs 进行了深入分析。

论文的核心发现包括：
- 训练计算资源的影响：研究发现随着 PRM 模型规模的增大，性能提升呈现边际递减效应，强调了在模型规模和计算成本之间寻找平衡的重要性。同时，训练数据集的多样性显著影响 PRM 性能，作者提出的 ASLAF（自动步骤级标注与过滤）方法在多个基准测试中表现优异。
- 测试时扩展策略：论文评估了 Best-of-N 采样、束搜索、蒙特卡洛树搜索（MCTS）和多数投票等多种搜索策略。结果表明，在计算资源充足时 MCTS 效果最佳，而在资源受限情况下 Best-of-N 采样是实用的替代方案。
- 跨域泛化能力：令人惊讶的是，在数学数据集上训练的 PRMs 在代码生成任务上的表现与专门针对代码训练的模型相当，展现出强大的跨域适应能力。通过梯度分析，研究还发现 PRMs 倾向于选择具有相似底层推理模式的响应，这为理解其优化机制提供了新视角。该研究为优化大规模语言模型的训练和部署提供了重要的理论指导和实践参考。

04 Rethinking the Sampling Criteria in Reinforcement Learning for LLM Reasoning: A Competence-Difficulty Alignment Perspective

论文类型：Poster

论文下载：PDF

论文简介：本文对强化学习（RL）中的问题采样策略进行了系统性研究，当前主流采样策略大多直接依赖单步通过率（Pass Rate） 作为问题难度指标，存在 1）对问题难度的估计不够稳定；2）无法有效捕捉模型能力与问题难度的对齐关系的问题。

针对这些问题，本文提出了 CDAS（Competence-Difficulty Alignment Sampling）：一种将模型能力与问题难度显式建模并对齐的动态采样方法。CDAS 不依赖单步通过率，而是通过累积历史表现差异来构建更稳定的难度估计；同时定义模型能力，并以不动点系统确保两者在训练过程中共同收敛。基于能力—难度差值构建对齐指标，再通过对称采样策略，选取最匹配模型当前能力的问题，从而提升有效梯度比例与训练效率。CDAS 在数学推理和代码生成场景中均通过 RL 训练 验证，结果显示 CDAS 显著提升了采样效率与模型性能，击败了多种主流采样策略。

05 ViType: High-Fidelity Visual Text Rendering via Glyph-Aware Multimodal Diffusion

论文类型：Oral

论文下载：PDF

论文简介：随着文生图模型在电商营销等领域的广泛应用，视觉文本渲染的准确性已成为制约生成质量的核心瓶颈。现有模型因缺乏字形级理解能力，难以精确刻画多语言字符结构，导致海报、商品图等商业场景中文字乱码、字形失真等问题频发，严重阻碍了 AIGC 在智能设计中的实际落地。

针对这一关键挑战，我们提出 ViType 三阶段对齐增强框架：首先通过视觉问答机制实现文本-字形显式对齐，将字符视觉结构注入大语言模型语义空间；其次创新性地将预对齐字形嵌入与文本 token 同步输入多模态扩散 Transformer，通过联合训练建立跨模态特征协同；最后基于高质量图文对进行美学精调，确保生成图像的版式和谐与视觉美感。该框架使字符准确率提升 15%以上，为电商海报、营销物料等高精度视觉内容创作提供了可靠的技术支撑。

06 DSCF: Dual-Source Counterfactual Fusion for High-Dimensional Combinatorial Interventions

论文类型：Poster

论文下载：PDF

论文简介：在个性化推荐、数字营销和医疗健康等领域，基于观测数据预测反事实结果对科学决策至关重要。在这些应用场景中，决策过程往往涉及高维组合干预策略，例如多渠道资源捆绑投放或产品组合推荐。面向这类场景，无论是历史策略的效果评估还是新策略的优化，都需要模型能够对历史数据中很少出现甚至从未出现过的策略组合效果进行准确预测。此外，观测数据中源于历史分配策略和倾向性投放的选择偏差会进一步加剧数据稀疏问题，从而影响反事实推断的准确性。

为此，本文提出双源反事实融合模型（Dual-Source Counterfactual Fusion，DSCF），该可扩展框架通过双专家混合架构联合建模观测数据和代理反事实样本，并采用领域引导融合机制，在有效平衡偏差消除与信息多样性的同时，还能自适应地泛化到反事实输入场景。在合成和半合成数据集上的大量实验表明，DSCF 框架能够显著提升高维组合干预场景下的预测准确性，并在不同情境下展现出优异的鲁棒性表现。

07 Compress-then-Rank: Faster and Better Listwise Reranking with Large Language Models via Ranking-Aware Passage Compression

论文类型：Poster

论文下载：PDF

论文简介：基于大型语言模型（LLMs）的列表重排序（listwise reranking）已经成为最先进的方法，在段落重排序任务中不断创下新的性能基准。然而，其实际应用面临两个关键挑战：处理长序列时高昂的计算开销和高延迟，以及由于“迷失在中间”等现象导致的长上下文性能下降。

为了解决这些问题，我们提出了一种高效的框架压缩后排序（Compress-then-Rank, C2R），该框架不是直接对原始段落进行列表重排序，而是对其紧凑的多向量代理进行操作。这些代理可以预先计算并缓存，适用于语料库中的所有段落。C2R 的有效性依赖于三项关键创新。首先，压缩模型通过结合文本恢复和文本延续目标进行预训练，生成高保真的压缩向量序列，从而减轻了单向量方法中常见的语义损失问题。其次，一种新颖的输入方案将每个序数索引的嵌入添加到其对应的压缩向量序列前，这不仅划定了段落边界，还引导重排序 LLM 生成排序列表。最后，压缩模型和重排序模型通过联合优化，使压缩过程对排序目标具有排序感知能力。在主要重排序基准上的广泛实验表明，C2R 在提供显著加速的同时，能够实现与全文重排序方法相当甚至更优的排序性能。

08 Multi-Aspect Cross-modal Quantization for Generative Recommendation

论文类型：Oral

论文下载：PDF

论文简介：本文提出一种基于多模态融合的生成式推荐框架（MACRec），旨在解决现有生成式推荐方法因模态信息利用不足和跨模态交互缺失导致的性能瓶颈。

针对文本与视觉模态的量化难题，MACRec 引入跨模态量化与多角度对齐机制，通过两阶段技术路线实现优化：1）跨模态残差量化：将对比学习融入分层量化过程，生成兼具语义层次性与模态兼容性的物品标识符，显著降低多模态表征冲突；2）跨模态协同对齐：通过显式-隐式协同对齐策略，分别建模文本与视觉模态的共享特征和互补特征，增强生成式推荐的多模态理解能力。在亚马逊电商推荐数据集上的实验结果表明，MACRec 相较基准模型在推荐性能上有显著提升；各模态的码本分布更均衡、利用率更低，充分验证了跨模态量化与对齐机制在提升生成式推荐有效性方面的优势。