論文の概要: Estimating Conditional Mutual Information for Dynamic Feature Selection

• arxiv url: http://arxiv.org/abs/2306.03301v3
• Date: Sun, 8 Sep 2024 17:44:14 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-11 04:24:51.576174
• Title: Estimating Conditional Mutual Information for Dynamic Feature Selection
• Title（参考訳）: 動的特徴選択のための条件付き相互情報の推定
• Authors: Soham Gadgil, Ian Covert, Su-In Lee,
• Abstract要約: 動的な特徴選択は、機能獲得コストを削減し、モデルの予測に透明性を提供する、有望なパラダイムである。 ここでは、情報理論の観点から、応答変数との相互情報に基づいて特徴を優先順位付けする。 提案手法は, 様々なデータセットにわたる最近の手法に対して一貫した利得を提供する。
• 参考スコア（独自算出の注目度）: 14.706269510726356
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dynamic feature selection, where we sequentially query features to make accurate predictions with a minimal budget, is a promising paradigm to reduce feature acquisition costs and provide transparency into a model's predictions. The problem is challenging, however, as it requires both predicting with arbitrary feature sets and learning a policy to identify valuable selections. Here, we take an information-theoretic perspective and prioritize features based on their mutual information with the response variable. The main challenge is implementing this policy, and we design a new approach that estimates the mutual information in a discriminative rather than generative fashion. Building on our approach, we then introduce several further improvements: allowing variable feature budgets across samples, enabling non-uniform feature costs, incorporating prior information, and exploring modern architectures to handle partial inputs. Our experiments show that our method provides consistent gains over recent methods across a variety of datasets.
• Abstract（参考訳）: 動的機能選択は、最小限の予算で正確な予測を行うために、機能をシーケンシャルにクエリし、機能獲得コストを削減し、モデルの予測に透明性を提供する、有望なパラダイムである。 しかし問題は、任意の特徴セットで予測することと、価値ある選択を特定するためのポリシーを学ぶことの両方を必要とするため、難しい。 ここでは、情報理論の観点から、応答変数との相互情報に基づいて特徴を優先順位付けする。 主な課題は、このポリシーを実践することであり、我々は、生成的手法ではなく、差別的手法で相互情報を推定する新しいアプローチを設計する。 サンプル間での多様な機能予算の実現、一様でない機能コストの実現、事前情報の導入、部分的な入力を処理するための現代的なアーキテクチャの探索などです。 実験の結果,本手法は様々なデータセットにまたがる最近の手法よりも一貫した利得を提供することがわかった。

関連論文リスト

• Deep Generative Demand Learning for Newsvendor and Pricing [7.594251468240168]
  我々は、機能ベースのニュースベンダ問題において、データ駆動の在庫と価格決定について検討する。 本稿では,これらの課題に対処するために条件付き深層生成モデル(cDGM)を活用する新しいアプローチを提案する。 我々は、利益予測の整合性や最適解への決定の収束など、我々のアプローチに対する理論的保証を提供する。
  論文  参考訳（メタデータ） (2024-11-13T14:17:26Z)
• Pattern based learning and optimisation through pricing for bin packing problem [50.83768979636913]
  確率変数の分布のような問題条件が変化すると、以前の状況でうまく機能するパターンはより効果的になるかもしれないと論じる。 本研究では,パターンを効率的に同定し,各条件に対する値の動的定量化を行う新しい手法を提案する。 本手法は,制約を満たす能力と目的値に対する影響に基づいて,パターンの値の定量化を行う。
  論文  参考訳（メタデータ） (2024-08-27T17:03:48Z)
• Enhancing Neural Subset Selection: Integrating Background Information into Set Representations [53.15923939406772]
  対象値が入力集合とサブセットの両方に条件付けされている場合、スーパーセットのテクスティ不変な統計量を関心のサブセットに組み込むことが不可欠であることを示す。 これにより、出力値がサブセットとその対応するスーパーセットの置換に不変であることを保証する。
  論文  参考訳（メタデータ） (2024-02-05T16:09:35Z)
• Debiasing Multimodal Models via Causal Information Minimization [65.23982806840182]
  我々は、マルチモーダルデータのための因果グラフにおいて、共同創設者から生じるバイアスを研究する。 ロバストな予測機能は、モデルがアウト・オブ・ディストリビューションデータに一般化するのに役立つ多様な情報を含んでいる。 これらの特徴を共同設立者表現として使用し、因果理論によって動機づけられた手法を用いてモデルからバイアスを取り除く。
  論文  参考訳（メタデータ） (2023-11-28T16:46:14Z)
• Causal Feature Selection via Transfer Entropy [59.999594949050596]
  因果発見は、観察データによる特徴間の因果関係を特定することを目的としている。 本稿では,前向きと後向きの機能選択に依存する新たな因果的特徴選択手法を提案する。 精度および有限サンプルの場合の回帰誤差と分類誤差について理論的に保証する。
  論文  参考訳（メタデータ） (2023-10-17T08:04:45Z)
• Learning to Maximize Mutual Information for Dynamic Feature Selection [13.821253491768168]
  本稿では,現在利用可能な情報に基づいてモデルを逐次クエリする動的特徴選択(DFS)問題を考察する。 条件付き相互情報に基づいて,特徴を欲求的に選択する,よりシンプルなアプローチについて検討する。 提案手法は,最適性を訓練した際の欲求を回復し,既存の特徴選択法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-01-02T08:31:56Z)
• An Additive Instance-Wise Approach to Multi-class Model Interpretation [53.87578024052922]
  解釈可能な機械学習は、ブラックボックスシステムの特定の予測を駆動する要因に関する洞察を提供する。 既存の手法は主に、局所的な加法的あるいはインスタンス的なアプローチに従う説明的入力特徴の選択に重点を置いている。 本研究は,両手法の長所を生かし,複数の対象クラスに対する局所的な説明を同時に学習するためのグローバルフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-07T06:50:27Z)
• VFDS: Variational Foresight Dynamic Selection in Bayesian Neural Networks for Efficient Human Activity Recognition [81.29900407096977]
  変動予測動的選択(VFDS)は、観測する次の機能サブセットを選択するポリシーを学ぶ。 本稿では,その実践においてパフォーマンスコストのトレードオフが重要となるヒューマンアクティビティ認識(HAR)タスクに,VFDSを適用した。
  論文  参考訳（メタデータ） (2022-03-31T22:52:43Z)
• Model-agnostic and Scalable Counterfactual Explanations via Reinforcement Learning [0.5729426778193398]
  本稿では,最適化手順をエンドツーエンドの学習プロセスに変換する深層強化学習手法を提案する。 実世界のデータを用いた実験により,本手法はモデルに依存しず,モデル予測からのフィードバックのみに依存することがわかった。
  論文  参考訳（メタデータ） (2021-06-04T16:54:36Z)
• Feature Selection for Huge Data via Minipatch Learning [0.0]
  安定ミニパッチ選択(STAMPS)と適応STAMPSを提案する。 STAMPSは、データの観測と特徴の両方の小さな(適応性の高い)ランダムなサブセットに基づいて訓練された基本特徴セレクタの選択イベントのアンサンブルを構築するメタアルゴリズムである。 われわれのアプローチは一般的であり、様々な機能選択戦略や機械学習技術に応用できる。
  論文  参考訳（メタデータ） (2020-10-16T17:41:08Z)
• Dynamic Feature Acquisition with Arbitrary Conditional Flows [11.655069211977464]
  予測評価をさらに改善するために,新機能を動的に獲得するモデルを提案する。 我々は、情報理論の指標、条件付き相互情報を利用して、取得する最も情報性の高い特徴を選択する。 本モデルは,複数の設定で評価されたベースラインよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2020-06-13T19:01:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。