論文の概要: Hierarchical and Permutation-Invariant Feature Transformation Learning via Policy-Guided Embedding Search
- arxiv url: http://arxiv.org/abs/2609.10225v1
- Date: Wed, 09 Sep 2026 14:23:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:09.04838
- Title: Hierarchical and Permutation-Invariant Feature Transformation Learning via Policy-Guided Embedding Search
- Title(参考訳): ポリシー誘導埋め込み探索による階層的・置換不変特徴変換学習
- Abstract要約: 最近の生成的アプローチは、候補戦略の効率的な探索のために、変換知識を連続空間にエンコードする。
最近の生成的アプローチは、候補戦略の効率的な探索のために、変換知識を連続的な埋め込み空間にエンコードする。
- 参考スコア(独自算出の注目度): 37.10664184982262
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Feature transformation improves predictive performance on tabular data by constructing informative abstractions from raw features. Recent generative approaches encode transformation knowledge into continuous embedding spaces for efficient exploration of candidate strategies, but face three key limitations: (1) overlooking hierarchical relationships between low-level features, operations, and high-level abstractions; (2) enforcing order-sensitive embeddings on inherently permutation-invariant transformation sequences, thereby introducing systematic bias; and (3) relying on gradient-based search, which is ill-suited to non-convex transformation spaces. We propose a framework with two complementary components. First, a permutation-invariant hierarchical module captures interactions across features, operations, and abstraction levels, with a self-attention pooling mechanism that maps semantically equivalent structures to consistent embeddings aligned with downstream performance. Second, a policy-guided multi-objective reinforcement learning strategy initializes the search from empirically strong seeds and jointly optimizes predictive accuracy and transformation efficiency. Extensive experiments on diverse tabular benchmarks demonstrate the effectiveness and robustness of our framework against strong baselines. Our code and data are publicly available at: https://github.com/RayLiu1103/PHER.
- Abstract(参考訳): 特徴変換は、生の特徴から情報的抽象化を構築することにより、表データの予測性能を向上させる。
最近の生成的アプローチでは,(1)低レベルの特徴,操作,高レベルの抽象化の階層的関係を見渡すこと,(2)自然に置換不変な変換列に順序に敏感な埋め込みを強制すること,(3)非凸変換空間に不適な勾配に基づく探索に頼ること,の3つの重要な制限に直面している。
2つの相補的なコンポーネントを持つフレームワークを提案する。
まず、置換不変な階層的モジュールは、機能、操作、抽象化レベル間の相互作用をキャプチャし、セマンティックに等価な構造を下流のパフォーマンスに合わせて一貫した埋め込みにマップする自己アテンションプーリング機構を使用する。
第二に、ポリシー誘導多目的強化学習戦略は、経験的に強い種子からの探索を初期化し、予測精度と変換効率を共同最適化する。
多様な表型ベンチマークに関する大規模な実験は、強力なベースラインに対する我々のフレームワークの有効性と堅牢性を示している。
私たちのコードとデータは、https://github.com/RayLiu1103/PHERで公開されています。
関連論文リスト
- InsightSR: Refining Symbolic Regression Search Spaces via Parallel Semantic and Structural LLM Guidance [8.272456038469484]
シンボリック回帰は、観測データから同義的な数学的法則を発見しようとする。
我々は、PySRの遺伝的プログラミングエンジンを中心としたガイドレイヤーとして、LLM(Large Language Models)イテレーションを組み込むフレームワークであるInsightSRを紹介する。
論文 参考訳(メタデータ) (2026-08-26T02:04:20Z) - The Coverage Principle: A Framework for Understanding Compositional Generalization [31.762330857169914]
合成タスクのパターンマッチングに主に依存するモデルは、同じコンテキストで使用した場合に同じ結果が得られるフラグメントを置換する以外には、確実に一般化できないことを示す。
我々は,このフレームワークがトランスフォーマーの一般化能力に強い予測力を持つことを実証した。
論文 参考訳(メタデータ) (2025-05-26T17:55:15Z) - Learning and Evaluating Hierarchical Feature Representations [3.770103075126785]
我々は、直交部分空間の階層的構成(Hier-COS)という新しい枠組みを提案する。
Hier-COSは、与えられた分類木の構造と整合した設計により、深い特徴埋め込みをベクトル空間にマッピングすることを学ぶ。
Hier-COSはすべてのデータセットにまたがって最先端の階層的パフォーマンスを実現し,同時に1つのケースを除いてトップ1の精度を上回ります。
論文 参考訳(メタデータ) (2025-03-10T20:59:41Z) - Feature Decoupling-Recycling Network for Fast Interactive Segmentation [79.22497777645806]
近年のインタラクティブセグメンテーション手法では,入力としてソースイメージ,ユーザガイダンス,従来予測されていたマスクを反復的に取り込んでいる。
本稿では,本質的な相違点に基づいてモデリングコンポーネントを分離するFDRN(Feature Decoupling-Recycling Network)を提案する。
論文 参考訳(メタデータ) (2023-08-07T12:26:34Z) - Multi-body SE(3) Equivariance for Unsupervised Rigid Segmentation and
Motion Estimation [49.56131393810713]
本稿では、SE(3)同変アーキテクチャと、この課題に教師なしで取り組むためのトレーニング戦略を提案する。
本手法は,0.25Mパラメータと0.92G FLOPを用いて,モデル性能と計算効率を両立させる。
論文 参考訳(メタデータ) (2023-06-08T22:55:32Z) - Understanding and Constructing Latent Modality Structures in Multi-modal
Representation Learning [53.68371566336254]
優れたパフォーマンスの鍵は、完全なモダリティアライメントではなく、有意義な潜在モダリティ構造にある、と我々は主張する。
具体的には,1)モダリティ内正規化のための深い特徴分離損失,2)モダリティ間正規化のためのブラウン橋損失,3)モダリティ内正規化およびモダリティ間正規化のための幾何学的整合損失を設計する。
論文 参考訳(メタデータ) (2023-03-10T14:38:49Z) - Part-guided Relational Transformers for Fine-grained Visual Recognition [59.20531172172135]
識別的特徴を学習し,特徴変換モジュールとの相関関係を探索するフレームワークを提案する。
提案手法は,3-of-the-levelオブジェクト認識において,部分ブランチの追加に頼らず,最先端の性能に達する。
論文 参考訳(メタデータ) (2022-12-28T03:45:56Z) - GSMFlow: Generation Shifts Mitigating Flow for Generalized Zero-Shot
Learning [55.79997930181418]
Generalized Zero-Shot Learningは、目に見えないクラスから見えないクラスに意味的な知識を移すことで、目に見えないクラスと見えないクラスの両方から画像を認識することを目的としている。
生成モデルの利点を生かして、見学したクラスから学んだ知識に基づいて、現実的な見知らぬサンプルを幻覚させることは、有望な解決策である。
本研究では,複数の条件付きアフィン結合層からなるフローベース生成フレームワークを提案する。
論文 参考訳(メタデータ) (2022-07-05T04:04:37Z) - DFC: Deep Feature Consistency for Robust Point Cloud Registration [0.4724825031148411]
複雑なアライメントシーンのための学習に基づくアライメントネットワークを提案する。
我々は,3DMatchデータセットとKITTIオドメトリデータセットに対するアプローチを検証する。
論文 参考訳(メタデータ) (2021-11-15T08:27:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。