注册

FORTE：工业推荐系统特征评估与淘汰框架

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

论文提出 FORTE，一个与模型无关的生产框架，用于发现、验证和移除推荐系统中的特征。它通过高效扰动实现每日特征评估，用分组消融处理特征交互，并借助血缘追踪找到所有下游消费模型。在两个大规模推荐系统上验证：搜索相关性模型得到 32、48、59 三个嵌套候选集，线上护栏拒绝最大集合，最终选用 48 特征集，移除该模型 43.3% 的特征；大型排序模型识别出 8 个可移除候选，重训与 A/B 测试确认无回退，上线后训练参数减少 29.9%，服务吞吐提升 19.8-25.5%，年度训练成本下降。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

特征淘汰的不对称难题

生产推荐系统在特征生命周期上存在不对称：新增特征需要在某个指标上带来收益，而移除特征则不能使任何指标回退。实际工作中，特征淘汰难以排期，原因包括特征与其他特征存在交互、其重要性逐日变化、在生产模型变更或数据漂移前无法评估、与其他上线项目争夺 A/B 测试空间、在线 A/B 测试中出现回退，以及被多个模型消费而需要协调淘汰。FORTE 正是针对这些障碍提出的模型无关生产框架，覆盖特征的发现、验证与移除三个环节。

评估机制与血缘追踪

FORTE 采用高效的扰动实现，使特征评估可以按天进行。为处理特征之间的交互，它通过分组消融来评估由所有低秩特征构造的候选特征集。论文称其离线结果对线上 A/B 测试具有足够的预测能力，因此淘汰操作可以带着信心进入线上测试。此外，血缘追踪用于识别所有下游消费模型，从而在把某个特征从训练集中移除时实现完整的节省，而不是只影响单个模型。

两个大规模系统的验证结果

FORTE 在两个大规模推荐系统上得到验证，能够找出不会造成线上回退的可淘汰特征集，而对效率的影响取决于模型特性。在搜索相关性模型上，FORTE 给出 32、48、59 三个嵌套候选集，线上护栏拒绝了最大的处理组，最终选择 48 特征集进行淘汰，移除该模型 43.3% 的特征。在大型排序模型上，FORTE 识别出 8 个可移除候选，重训与 A/B 测试确认没有回退；该上线使可训练参数减少 29.9%，服务吞吐提升 19.8-25.5%，并降低了年度训练成本。

为什么值得看

特征淘汰长期缺乏系统化方法，该框架给出可预测线上 A/B 的离线评估与血缘追踪方案，并附两个大规模系统的实测收益。

论文

信源1 家

  1. [1]arXiv cs.AI一手信源FORTE: A Production Framework for Feature Evaluation and Deprecation in Industrial Recommender Systems

关键事实

  • FORTE 是一个与模型无关的生产框架，用于发现、验证和移除特征。[1]

  • 其高效扰动实现支持每日特征评估，分组消融用于处理特征交互。[1]

  • 在搜索相关性模型上，FORTE 给出 32、48、59 三个嵌套候选集，线上护栏拒绝最大集合，最终选用 48 特征集，移除 43.3% 的特征。[1]

  • 在大型排序模型上，FORTE 识别出 8 个可移除候选，重训与 A/B 测试确认无回退。[1]

  • 该排序模型上线后训练参数减少 29.9%，服务吞吐提升 19.8-25.5%，年度训练成本下降。[1]

相关 · 论文

DreamX 将预训练视频扩散模型改造为通用潜在动作学习器

11月4日 周三·AI 78

arXiv 论文提出「认知共生体」概念，主张 AI 增强人的智能

11月4日 周三·AI 58

独立复现 DNO-Prct：Llama 3.1 8B 对 GPT-4o 胜率升…

11月4日 周三·AI 72

研究提出 PEARL 方法，用于持久抑制语言模型的不对齐行为

11月4日 周三·AI 78

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论