新框架利用策略引导搜索优化表格数据特征变换
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载从原始特征构造抽象
这项研究关注表格数据上的特征变换问题,目标是通过对原始特征进行加工,构造出信息量更高的抽象表示,从而提升预测表现。作者指出,近期一类生成式做法把变换知识压缩进连续嵌入空间,以便在候选变换策略中高效搜索。这类做法虽然提高了探索效率,但作者认为它存在三处不足:一是没有刻画低层特征、具体操作与高层抽象之间的层级关系;二是对本身与顺序无关的变换序列施加了对顺序敏感的嵌入,从而带来系统性偏差;三是依赖基于梯度的搜索方式,而变换空间是非凸的,梯度方法并不适配。论文围绕这三点展开改进,作者为 Rui Liu、Tao Zhe、Yanyong Huang、Sankha Narayan Guria、Xiao Luo、Wei Fan、Yanjie Fu、Dongjie Wang,共八人。
层级模块保持排列不变
框架的第一个组件是一个排列不变的分层模块,用来捕捉特征、操作与抽象层级之间的交互。该模块引入自注意力池化机制,把语义上等价的结构映射为一致的嵌入,并让这些嵌入与下游任务的表现对齐。这样处理的直接效果是:同一组变换无论以何种先后次序出现,都不会因为书写顺序不同而被编码成差异较大的向量,前述由顺序敏感嵌入引入的偏差因此被削弱。与把变换知识整体压入一个连续空间的做法相比,这一模块显式保留了层级结构,使低层特征到高层抽象的构造路径在表示中可被区分,而不是被折叠进单一向量。
策略引导的多目标搜索
第二个组件是策略引导的多目标强化学习策略。它从经验上表现较强的种子出发初始化搜索,而不是从零开始探索,并同时优化两个目标:预测准确率与变换效率。作者认为,用强化学习替代梯度搜索,更契合非凸的变换空间。两个目标被联合优化,意味着搜索过程不只看模型效果,也考虑构造变换所付出的代价。论文在多种表格基准上进行了实验,报告该框架相对若干强基线在有效性与鲁棒性上的表现,并说明代码与数据已公开。该工作已被 CIKM 2026 接收,归档编号为 arXiv:2609.10225。
适用边界与读者关注点
从材料给出的信息看,这套方法的适用范围是表格数据的特征变换学习,评价维度是预测表现与变换效率。它的两项设计分别针对表示层面的顺序偏差和搜索层面的非凸困难,二者互补:前者决定候选变换如何被编码,后者决定在编码空间中如何挑选。对关注自动化特征工程的读者而言,可留意两点:一是排列不变的分层编码是否真的让等价结构获得一致表示,二是从强种子出发的多目标搜索在效率约束下如何取舍精度。材料未给出具体数据集名称、基线数值与效率指标的量级,这些细节需查阅论文全文与公开代码。
为什么值得看
解决表格数据特征变换中的层级关系与顺序偏差问题,提升模型预测效率。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
