新框架利用策略引导搜索优化表格数据特征变换

论文AI 评分 60/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对表格数据特征变换,研究团队提出一种包含两个互补组件的新框架。该框架通过排列不变的分层模块捕捉特征、操作及抽象层级间的交互,并利用策略引导的多目标强化学习策略,从经验种子初始化搜索,联合优化预测准确率与变换效率。实验显示该方法在多个基准上有效且稳健,代码与数据已公开。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

从原始特征构造抽象

这项研究关注表格数据上的特征变换问题,目标是通过对原始特征进行加工,构造出信息量更高的抽象表示,从而提升预测表现。作者指出,近期一类生成式做法把变换知识压缩进连续嵌入空间,以便在候选变换策略中高效搜索。这类做法虽然提高了探索效率,但作者认为它存在三处不足:一是没有刻画低层特征、具体操作与高层抽象之间的层级关系;二是对本身与顺序无关的变换序列施加了对顺序敏感的嵌入,从而带来系统性偏差;三是依赖基于梯度的搜索方式,而变换空间是非凸的,梯度方法并不适配。论文围绕这三点展开改进,作者为 Rui Liu、Tao Zhe、Yanyong Huang、Sankha Narayan Guria、Xiao Luo、Wei Fan、Yanjie Fu、Dongjie Wang,共八人。

层级模块保持排列不变

框架的第一个组件是一个排列不变的分层模块,用来捕捉特征、操作与抽象层级之间的交互。该模块引入自注意力池化机制,把语义上等价的结构映射为一致的嵌入,并让这些嵌入与下游任务的表现对齐。这样处理的直接效果是:同一组变换无论以何种先后次序出现,都不会因为书写顺序不同而被编码成差异较大的向量,前述由顺序敏感嵌入引入的偏差因此被削弱。与把变换知识整体压入一个连续空间的做法相比,这一模块显式保留了层级结构,使低层特征到高层抽象的构造路径在表示中可被区分,而不是被折叠进单一向量。

策略引导的多目标搜索

第二个组件是策略引导的多目标强化学习策略。它从经验上表现较强的种子出发初始化搜索,而不是从零开始探索,并同时优化两个目标:预测准确率与变换效率。作者认为,用强化学习替代梯度搜索,更契合非凸的变换空间。两个目标被联合优化,意味着搜索过程不只看模型效果,也考虑构造变换所付出的代价。论文在多种表格基准上进行了实验,报告该框架相对若干强基线在有效性与鲁棒性上的表现,并说明代码与数据已公开。该工作已被 CIKM 2026 接收,归档编号为 arXiv:2609.10225。

适用边界与读者关注点

从材料给出的信息看,这套方法的适用范围是表格数据的特征变换学习,评价维度是预测表现与变换效率。它的两项设计分别针对表示层面的顺序偏差和搜索层面的非凸困难,二者互补:前者决定候选变换如何被编码,后者决定在编码空间中如何挑选。对关注自动化特征工程的读者而言,可留意两点:一是排列不变的分层编码是否真的让等价结构获得一致表示,二是从强种子出发的多目标搜索在效率约束下如何取舍精度。材料未给出具体数据集名称、基线数值与效率指标的量级,这些细节需查阅论文全文与公开代码。

为什么值得看

解决表格数据特征变换中的层级关系与顺序偏差问题,提升模型预测效率。

强化学习

信源1 家

  1. [1]arXiv cs.AI一手信源Hierarchical and Permutation-Invariant Feature Transformation Learning via Policy-Guided Embedding Search

关键事实

  • 框架包含排列不变分层模块与策略引导多目标强化学习策略。[1]

  • 方法联合优化预测准确率与变换效率。[1]

  • 相关代码与数据已公开。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。