HASTE:面向生成式推荐的分层与属性监督训练框架
论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
一篇投稿于 arXiv 的论文提出 HASTE,一个用于生成式推荐的统一训练框架。现有方法通常用标准因果交叉熵目标优化语义 ID 预测,未显式利用语义 ID 的层级结构,训练成本高,且数据稀疏的长尾物品表征较差。HASTE 引入分层损失,在物品层级结构的每一层提供监督;同时引入属性特定损失,促使模型保留细粒度物品属性,借助语言模型自身的语义知识改善长尾物品表征。作者在时尚推荐基准和 Amazon 数据集多个领域上评估,称推荐性能在多个数据集和不同物品频次区间均有提升,其中分层损失收敛速度约为标准因果交叉熵目标的两倍。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载要解决的问题
生成式推荐模型把物品表示为语义 ID,并以自回归方式生成这些 ID。现有做法通常用标准因果交叉熵目标来优化语义 ID 预测,这种目标没有显式利用语义 ID 本身的层级结构,因此需要较多训练量才能学到有效的物品表征。另一个问题是数据稀疏的长尾物品,由于监督信号有限,其表征质量偏低,导致长尾推荐效果较弱。论文正是针对这两点提出改进方案。
HASTE 的两项监督
HASTE 是一个统一的训练框架,核心是引入分层监督与属性级监督。其中的分层损失显式利用语义 ID 的多级结构,在物品层级结构的每一层都给出监督信号,从而加快训练收敛。属性特定损失则鼓励模型保留细粒度的物品属性,借助语言模型本身具备的语义知识来改善表征,进而提升长尾物品的推荐表现。两项损失共同作用,目标是在提升训练效率的同时兼顾推荐质量。
评测与结果
作者在时尚推荐基准以及 Amazon 数据集的多个领域上对 HASTE 做了评估,覆盖不同的数据集和不同的物品频次区间。结果显示推荐性能在这些数据集与频次区间上均有提升。其中分层损失的表现较为突出:其收敛速度约为标准因果交叉熵目标的两倍,在保持较强推荐质量的同时明显改善了训练效率。论文编号为 arXiv:2610.17368,归入信息检索、人工智能与机器学习等分类。
为什么值得看
生成式推荐训练成本高、长尾效果差是常见痛点,该工作给出分层与属性监督的具体做法及约 2 倍收敛加速的实测结果。
论文数据集
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
