SABLE：面向高维隐空间的贝叶斯优化方法
论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
一篇 arXiv 论文提出 SABLE，用于在隐空间维度远高于评估预算时做贝叶斯优化。该方法用贝叶斯仿射代理模型完成预测与采集，把高阶结构当作代理模型的偏差处理；观测 N 次后，斜率更新的维度最多为 N-1，从而把每次查询拆成两部分：在跨度内、最多 N 维上用期望改进（EI）优化，以及由标量范数控制的跨度外部分。作者指出，仿射 EI 隐式选定的跨度外范数会导致探索不足，SABLE 改用有限时程调度来设定它，同时不把搜索限制在学习到的子空间内。重压缩方案把信息压缩到 O(M) 个伪观测，使重拟合成本上界为 O(M²D+M³)，参数推断、预测与采集决策保持在数十毫秒。在合成基准和隐空间优化任务上，该方法样本效率高，大预算下决策时间降低数个数量级。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载方法要解决的问题
工程设计与蛋白质等复杂对象难以优化，原因在于设计空间具有高维结构，且每次目标评估代价高昂。生成模型能提供连续的隐表示，但隐空间维度可达数千到数万，形成隐维度 D 远超评估预算的局面。SABLE 面向的就是这一区间：隐空间服从各向同性分布、评估预算有限。作者用贝叶斯仿射代理同时承担预测与采集，把更高阶的结构视为代理模型的偏差项，而不是另建复杂模型。
查询分解与探索调度
在获得 N 个观测之后，斜率更新的维度最多为 N-1，因此每次查询可以拆成两块：跨度内分量最多 N 维，用期望改进（EI）优化；跨度外分量由一个标量范数决定。作者指出，仿射 EI 会隐式地选定这个范数，而这种隐式选择可能造成探索不足。SABLE 的做法是不依赖隐式选择，改用有限时程调度直接规定该范数，同时不把搜索限制在学习到的子空间里，从而保留跳出子空间的能力。
计算开销与实验结果
为控制重拟合成本，SABLE 引入重压缩方案，把已有信息归并为 O(M) 个伪观测，使重拟合成本上界为 O(M²D+M³)，而参数推断、预测和采集决策仍保持在数十毫秒量级。论文在合成基准与隐空间优化任务上评估该方法，报告了较高的样本效率，并称在大预算条件下决策时间相比对照方案降低数个数量级。论文全文与 PDF 可通过 arXiv 获取。
为什么值得看
隐空间维度远超评估预算的优化场景长期缺少高效方法，这篇论文给出了可分解的仿射代理与调度策略，并给出复杂度与耗时数据。
论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。