論文の概要: Group-wise Reinforcement Feature Generation for Optimal and Explainable
Representation Space Reconstruction
- arxiv url: http://arxiv.org/abs/2205.14526v1
- Date: Sat, 28 May 2022 21:34:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-31 14:13:20.297446
- Title: Group-wise Reinforcement Feature Generation for Optimal and Explainable
Representation Space Reconstruction
- Title（参考訳）: 最適かつ説明可能な表現空間再構成のためのグループワイド強化特徴生成
- Authors: Dongjie Wang, Yanjie Fu, Kunpeng Liu, Xiaolin Li, Yan Solihin
- Abstract要約: 我々は表現空間の再構成をネストした特徴生成と選択の対話的なプロセスに再構成する。
我々は、機能群、操作群、および他の機能群を横断して新機能を生成するグループワイズ生成戦略を設計する。
システムの有効性, 効率, トレーサビリティ, 明示性を実証するための広範な実験を行った。
- 参考スコア（独自算出の注目度）: 25.604176830832586
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Representation (feature) space is an environment where data points are
vectorized, distances are computed, patterns are characterized, and geometric
structures are embedded. Extracting a good representation space is critical to
address the curse of dimensionality, improve model generalization, overcome
data sparsity, and increase the availability of classic models. Existing
literature, such as feature engineering and representation learning, is limited
in achieving full automation (e.g., over heavy reliance on intensive labor and
empirical experiences), explainable explicitness (e.g., traceable
reconstruction process and explainable new features), and flexible optimal
(e.g., optimal feature space reconstruction is not embedded into downstream
tasks). Can we simultaneously address the automation, explicitness, and optimal
challenges in representation space reconstruction for a machine learning task?
To answer this question, we propose a group-wise reinforcement generation
perspective. We reformulate representation space reconstruction into an
interactive process of nested feature generation and selection, where feature
generation is to generate new meaningful and explicit features, and feature
selection is to eliminate redundant features to control feature sizes. We
develop a cascading reinforcement learning method that leverages three
cascading Markov Decision Processes to learn optimal generation policies to
automate the selection of features and operations and the feature crossing. We
design a group-wise generation strategy to cross a feature group, an operation,
and another feature group to generate new features and find the strategy that
can enhance exploration efficiency and augment reward signals of cascading
agents. Finally, we present extensive experiments to demonstrate the
effectiveness, efficiency, traceability, and explicitness of our system.
- Abstract（参考訳）: 表現空間は、データポイントがベクトル化され、距離が計算され、パターンが特徴づけられ、幾何学的構造が埋め込まれた環境である。
優れた表現空間を抽出することは、次元の呪いに対処し、モデルの一般化を改善し、データの分散を克服し、古典モデルの可用性を高めるために重要である。
機能工学や表現学習のような既存の文献は、完全な自動化(例えば、集中労働や経験的な経験に大きく依存する)、説明可能な明示性(例えば、トレーサブルな再構築プロセスと説明可能な新機能)、柔軟な最適(例えば、最適な特徴空間再構成は下流のタスクに埋め込まれない)の達成に限られている。
機械学習タスクの空間再構築における自動化、明示性、最適な課題を同時に解決できるだろうか?
この質問に答えるために,グループ指向の強化生成視点を提案する。
表現空間の再構成をネストした特徴生成と選択の対話的プロセスに再構成し,特徴生成は意味のある,明示的な特徴を新たに生成し,特徴選択は余分な特徴を排除し,特徴量を制御する。
本研究では,3つのカスケードマルコフ決定プロセスを活用するカスケード強化学習法を開発し,特徴量選択と機能交差の自動化のための最適生成ポリシーを学習する。
我々は,機能群,操作群,その他の機能群を横断するグループ別生成戦略をデザインし,新たな特徴を生成し,探索効率の向上とカスケード剤の報酬信号の増強を可能にする戦略を見出す。
最後に, システムの有効性, 効率, トレーサビリティ, 明示性を実証するための実験を行った。
関連論文リスト
- Topology-aware Reinforcement Feature Space Reconstruction for Graph Data [22.5530178427691]
優れた機能領域の再構築は、データのAI能力の向上、モデルの一般化の改善、下流MLモデルの可用性の向上に不可欠である。
我々は、トポロジ対応強化学習を用いて、グラフデータの特徴空間再構成を自動化し、最適化する。
提案手法では,コア部分グラフ抽出とグラフニューラルネットワーク(GNN)の併用により,トポロジ的特徴を符号化し,計算複雑性を低減する。
論文 参考訳（メタデータ） (2024-11-08T18:01:05Z) - Reinforcement Feature Transformation for Polymer Property Performance Prediction [22.87577374767465]
既存の機械学習モデルは、低品質のポリマーデータセットによるポリマー表現を効果的に学習する際の課題に直面している。
本研究は, 最適かつ説明可能な記述子表現空間を再構築することにより, 高分子特性性能予測タスクの改善に焦点をあてる。
論文 参考訳（メタデータ） (2024-09-23T23:42:18Z) - GrootVL: Tree Topology is All You Need in State Space Model [66.36757400689281]
GrootVLは、視覚的タスクとテキストタスクの両方に適用できる多目的マルチモーダルフレームワークである。
本手法は, 画像分類, オブジェクト検出, セグメンテーションにおいて, 既存の構造化状態空間モデルよりも大幅に優れる。
大規模言語モデルの微調整により,本手法は訓練コストの少ない複数のテキストタスクにおいて一貫した改善を実現する。
論文 参考訳（メタデータ） (2024-06-04T15:09:29Z) - Feature Selection as Deep Sequential Generative Learning [50.00973409680637]
本研究では, 逐次再構成, 変分, 性能評価器の損失を伴って, 深部変分変圧器モデルを構築した。
提案モデルでは,特徴選択の知識を抽出し,連続的な埋め込み空間を学習し,特徴選択決定シーケンスをユーティリティスコアに関連付けられた埋め込みベクトルにマッピングする。
論文 参考訳（メタデータ） (2024-03-06T16:31:56Z) - Human as Points: Explicit Point-based 3D Human Reconstruction from
Single-view RGB Images [78.56114271538061]
我々はHaPと呼ばれる明示的なポイントベース人間再構築フレームワークを導入する。
提案手法は,3次元幾何学空間における完全明示的な点雲推定,操作,生成,洗練が特徴である。
我々の結果は、完全に明示的で幾何学中心のアルゴリズム設計へのパラダイムのロールバックを示すかもしれない。
論文 参考訳（メタデータ） (2023-11-06T05:52:29Z) - Feature Interaction Aware Automated Data Representation Transformation [27.26916497306978]
我々は,マルコフ決定過程をカスケードした階層的強化学習構造を開発し,特徴選択と操作選択を自動化する。
我々は、選択された特徴間の相互作用強度に基づいてエージェントに報酬を与える。その結果、人間の意思決定をエミュレートする特徴空間をインテリジェントかつ効率的に探索する。
論文 参考訳（メタデータ） (2023-09-29T06:48:16Z) - Self-optimizing Feature Generation via Categorical Hashing
Representation and Hierarchical Reinforcement Crossing [37.73656271138515]
本稿では,自己最適化機能生成を解決するための,原則的かつ汎用的な表現交差フレームワークを提案する。
提案手法の有効性と有効性を示すための実験結果について述べる。
論文 参考訳（メタデータ） (2023-09-08T22:05:27Z) - Traceable Group-Wise Self-Optimizing Feature Transformation Learning: A
Dual Optimization Perspective [33.45878576396101]
特徴変換は、既存の特徴を数学的に洗練することにより、効果的な表現空間を再構築することを目的としている。
既存の研究は主にドメイン知識に基づく特徴工学や学習潜在表現に重点を置いている。
最初の作業は、新しい自己最適化フレームワークを導入することで、この課題への先駆的な一歩を踏み出したのです。
論文 参考訳（メタデータ） (2023-06-29T12:29:21Z) - Structure-Aware Feature Generation for Zero-Shot Learning [108.76968151682621]
潜在空間と生成ネットワークの両方を学習する際の位相構造を考慮し,SA-GANと呼ばれる新しい構造認識特徴生成手法を提案する。
本手法は,未確認クラスの一般化能力を大幅に向上させ,分類性能を向上させる。
論文 参考訳（メタデータ） (2021-08-16T11:52:08Z) - A Trainable Optimal Transport Embedding for Feature Aggregation and its
Relationship to Attention [96.77554122595578]
固定サイズのパラメータ化表現を導入し、与えられた入力セットから、そのセットとトレーニング可能な参照の間の最適な輸送計画に従って要素を埋め込み、集約する。
我々のアプローチは大規模なデータセットにスケールし、参照のエンドツーエンドのトレーニングを可能にすると同時に、計算コストの少ない単純な教師なし学習メカニズムも提供する。
論文 参考訳（メタデータ） (2020-06-22T08:35:58Z) - Mutual Information Maximization for Robust Plannable Representations [82.83676853746742]
モデルに基づく強化学習のための情報理論表現学習アルゴリズムMIROを提案する。
提案手法は, 邪魔や散らかったシーンの存在下で, 再建目的よりも頑健であることを示す。
論文 参考訳（メタデータ） (2020-05-16T21:58:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。