論文の概要: MINERVA: Mutual Information Neural Estimation for Supervised Feature Selection

• arxiv url: http://arxiv.org/abs/2510.02610v1
• Date: Thu, 02 Oct 2025 23:09:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-06 16:35:52.203066
• Title: MINERVA: Mutual Information Neural Estimation for Supervised Feature Selection
• Title（参考訳）: MINERVA:教師付き特徴選択のための相互情報ニューラル推定
• Authors: Taurai Muvunzaa, Egor Kraev, Pere Planell-Morell, Alexander Y. Shestopaloff,
• Abstract要約: 本稿では,特徴と対象間の相互情報のニューラル推定に基づく特徴選択のための新しい手法を提案する。 ニューラルネットワークによる相互情報の近似をパラマティフィケーションし、疎性誘導型正規化器を付加した慎重に設計された損失関数を用いて特徴選択を行う。 提案手法は,特徴選択から表現学習を分離する2段階のプロセスで実装され,より優れた一般化とより正確な特徴重要度表現を実現する。
• 参考スコア（独自算出の注目度）: 39.57737590420284
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Existing feature filters rely on statistical pair-wise dependence metrics to model feature-target relationships, but this approach may fail when the target depends on higher-order feature interactions rather than individual contributions. We introduce Mutual Information Neural Estimation Regularized Vetting Algorithm (MINERVA), a novel approach to supervised feature selection based on neural estimation of mutual information between features and targets. We paramaterize the approximation of mutual information with neural networks and perform feature selection using a carefully designed loss function augmented with sparsity-inducing regularizers. Our method is implemented in a two-stage process to decouple representation learning from feature selection, ensuring better generalization and a more accurate expression of feature importance. We present examples of ubiquitous dependency structures that are rarely captured in literature and show that our proposed method effectively captures these complex feature-target relationships by evaluating feature subsets as an ensemble. Experimental results on synthetic and real-life fraud datasets demonstrate the efficacy of our method and its ability to perform exact solutions.
• Abstract（参考訳）: 既存の特徴フィルタは、特徴-対象関係をモデル化するために統計的対依存性のメトリクスに依存しているが、ターゲットが個々の貢献よりも高次の特徴相互作用に依存する場合、このアプローチは失敗する可能性がある。 我々は,特徴と対象間の相互情報のニューラルな推定に基づく特徴選択を教師する新しい手法である相互情報ニューラルネットワーク正規化ベッティングアルゴリズム(MINERVA)を紹介する。 ニューラルネットワークによる相互情報の近似をパラマティフィケーションし、疎性誘導型正規化器を付加した慎重に設計された損失関数を用いて特徴選択を行う。 提案手法は,特徴選択から表現学習を分離し,より優れた一般化とより正確な特徴重要度表現を実現するための2段階プロセスで実装されている。 本稿では,文献にはほとんど見つからないユビキタスな依存関係構造の例を示し,提案手法が特徴部分集合をアンサンブルとして評価することにより,これらの複雑な特徴-対象関係を効果的に捉えることを示す。 合成および実生活における詐欺データセットの実験結果から,本手法の有効性と正確な解法の実現能力が示された。

関連論文リスト

• Causal Feature Selection via Transfer Entropy [59.999594949050596]
  因果発見は、観察データによる特徴間の因果関係を特定することを目的としている。 本稿では,前向きと後向きの機能選択に依存する新たな因果的特徴選択手法を提案する。 精度および有限サンプルの場合の回帰誤差と分類誤差について理論的に保証する。
  論文  参考訳（メタデータ） (2023-10-17T08:04:45Z)
• Copula for Instance-wise Feature Selection and Ranking [24.09326839818306]
  本稿では,変数間の相関を捉える強力な数学的手法であるガウスコプラを,現在の特徴選択フレームワークに組み込むことを提案する。 提案手法が有意な相関関係を捉えることができることを示すために, 合成データセットと実データセットの双方について, 性能比較と解釈可能性の観点から実験を行った。
  論文  参考訳（メタデータ） (2023-08-01T13:45:04Z)
• Regularization Through Simultaneous Learning: A Case Study on Plant Classification [0.0]
  本稿では,トランスファーラーニングとマルチタスクラーニングの原則に基づく正規化アプローチである同時学習を紹介する。 我々は、ターゲットデータセットであるUFOP-HVDの補助データセットを活用し、カスタマイズされた損失関数でガイドされた同時分類を容易にする。 興味深いことに,本手法は正規化のないモデルよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2023-05-22T19:44:57Z)
• A Two-Stage Feature Selection Approach for Robust Evaluation of Treatment Effects in High-Dimensional Observational Data [1.4710887888397084]
  我々は,OAENet(Outcome Adaptive Elastic Net)と呼ばれる新しい2段階特徴選択手法を提案する。 OAENetは、マッチング技術を用いて堅牢な因果推論決定を行うように設計されている。 シミュレーションデータに関する数値実験により、OAENetは最先端の手法を大きく上回っていることが示された。
  論文  参考訳（メタデータ） (2021-11-27T02:54:30Z)
• Learning Bias-Invariant Representation by Cross-Sample Mutual Information Minimization [77.8735802150511]
  対象タスクが誤用したバイアス情報を除去するために,クロスサンプル対逆脱バイアス法(CSAD)を提案する。 相関測定は, 対向的偏り評価において重要な役割を担い, クロスサンプル型相互情報推定器によって行われる。 我々は,提案手法の最先端手法に対する利点を検証するために,公開データセットの徹底的な実験を行った。
  論文  参考訳（メタデータ） (2021-08-11T21:17:02Z)
• Detecting Beneficial Feature Interactions for Recommender Systems [15.599904548629537]
  特徴的相互作用は、レコメンデータシステムにおいて高い精度を達成するために不可欠である。 本稿では,これらの特徴の相互作用を自動的に検出する新しい手法とともに,効果的にモデル化するためのグラフニューラルネットワークアプローチを提案する。 提案手法は,情報ボトルネック原理と統計的相互作用理論により有効であることが証明された。
  論文  参考訳（メタデータ） (2020-08-02T06:08:23Z)
• Out-of-distribution Generalization via Partial Feature Decorrelation [72.96261704851683]
  本稿では,特徴分解ネットワークと対象画像分類モデルとを協調的に最適化する,PFDL(Partial Feature Deorrelation Learning)アルゴリズムを提案する。 実世界のデータセットを用いた実験により,OOD画像分類データセットにおけるバックボーンモデルの精度が向上することを示した。
  論文  参考訳（メタデータ） (2020-07-30T05:48:48Z)
• A Trainable Optimal Transport Embedding for Feature Aggregation and its Relationship to Attention [96.77554122595578]
  固定サイズのパラメータ化表現を導入し、与えられた入力セットから、そのセットとトレーニング可能な参照の間の最適な輸送計画に従って要素を埋め込み、集約する。 我々のアプローチは大規模なデータセットにスケールし、参照のエンドツーエンドのトレーニングを可能にすると同時に、計算コストの少ない単純な教師なし学習メカニズムも提供する。
  論文  参考訳（メタデータ） (2020-06-22T08:35:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。