論文の概要: Estimating Conditional Mutual Information for Dynamic Feature Selection

• arxiv url: http://arxiv.org/abs/2306.03301v1
• Date: Mon, 5 Jun 2023 23:03:03 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-07 18:00:34.051862
• Title: Estimating Conditional Mutual Information for Dynamic Feature Selection
• Title（参考訳）: 動的特徴選択のための条件付き相互情報の推定
• Authors: Soham Gadgil, Ian Covert, Su-In Lee
• Abstract要約: 動的な特徴選択は、機能獲得コストを削減し、予測プロセスに透明性を提供する、有望なパラダイムである。 ここでは、情報理論の観点から、応答変数との相互情報に基づいて特徴を優先順位付けする。 サンプル間での多様な機能予算の実現、機能間の一様でないコストの実現、事前情報の導入、部分的な入力情報を扱うための現代的なアーキテクチャの探索など、いくつかの改善点を紹介します。
• 参考スコア（独自算出の注目度）: 14.50261153230204
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dynamic feature selection, where we sequentially query features to make accurate predictions with a minimal budget, is a promising paradigm to reduce feature acquisition costs and provide transparency into the prediction process. The problem is challenging, however, as it requires both making predictions with arbitrary feature sets and learning a policy to identify the most valuable selections. Here, we take an information-theoretic perspective and prioritize features based on their mutual information with the response variable. The main challenge is learning this selection policy, and we design a straightforward new modeling approach that estimates the mutual information in a discriminative rather than generative fashion. Building on our learning approach, we introduce several further improvements: allowing variable feature budgets across samples, enabling non-uniform costs between features, incorporating prior information, and exploring modern architectures to handle partial input information. We find that our method provides consistent gains over recent state-of-the-art methods across a variety of datasets.
• Abstract（参考訳）: 機能を順次クエリして、最小限の予算で正確な予測を行う動的な機能選択は、機能獲得コストを削減し、予測プロセスに透明性を提供する、有望なパラダイムです。 しかし、任意の特徴セットによる予測と、最も価値のある選択を特定するためのポリシーの学習の両方を必要とするため、この問題は難しい。 本稿では,情報理論的な視点を取り,応答変数との相互情報に基づいて特徴を優先順位付けする。 主な課題は、この選択ポリシーを学習することであり、生成的手法ではなく、差別的に相互情報を推定する、直接的な新しいモデリングアプローチを設計する。 サンプル間での多様な機能予算の実現、機能間の一様でないコストの実現、事前情報の導入、部分的な入力情報を扱うための現代的なアーキテクチャの探索などです。 提案手法は, 様々なデータセットを対象とした最近の最先端手法に対して一貫した利得を提供する。

関連論文リスト

• Deep Generative Demand Learning for Newsvendor and Pricing [7.594251468240168]
  我々は、機能ベースのニュースベンダ問題において、データ駆動の在庫と価格決定について検討する。 本稿では,これらの課題に対処するために条件付き深層生成モデル(cDGM)を活用する新しいアプローチを提案する。 我々は、利益予測の整合性や最適解への決定の収束など、我々のアプローチに対する理論的保証を提供する。
  論文  参考訳（メタデータ） (2024-11-13T14:17:26Z)
• Pattern based learning and optimisation through pricing for bin packing problem [50.83768979636913]
  確率変数の分布のような問題条件が変化すると、以前の状況でうまく機能するパターンはより効果的になるかもしれないと論じる。 本研究では,パターンを効率的に同定し,各条件に対する値の動的定量化を行う新しい手法を提案する。 本手法は,制約を満たす能力と目的値に対する影響に基づいて,パターンの値の定量化を行う。
  論文  参考訳（メタデータ） (2024-08-27T17:03:48Z)
• Enhancing Neural Subset Selection: Integrating Background Information into Set Representations [53.15923939406772]
  対象値が入力集合とサブセットの両方に条件付けされている場合、スーパーセットのテクスティ不変な統計量を関心のサブセットに組み込むことが不可欠であることを示す。 これにより、出力値がサブセットとその対応するスーパーセットの置換に不変であることを保証する。
  論文  参考訳（メタデータ） (2024-02-05T16:09:35Z)
• Debiasing Multimodal Models via Causal Information Minimization [65.23982806840182]
  我々は、マルチモーダルデータのための因果グラフにおいて、共同創設者から生じるバイアスを研究する。 ロバストな予測機能は、モデルがアウト・オブ・ディストリビューションデータに一般化するのに役立つ多様な情報を含んでいる。 これらの特徴を共同設立者表現として使用し、因果理論によって動機づけられた手法を用いてモデルからバイアスを取り除く。
  論文  参考訳（メタデータ） (2023-11-28T16:46:14Z)
• Causal Feature Selection via Transfer Entropy [59.999594949050596]
  因果発見は、観察データによる特徴間の因果関係を特定することを目的としている。 本稿では,前向きと後向きの機能選択に依存する新たな因果的特徴選択手法を提案する。 精度および有限サンプルの場合の回帰誤差と分類誤差について理論的に保証する。
  論文  参考訳（メタデータ） (2023-10-17T08:04:45Z)
• Learning to Maximize Mutual Information for Dynamic Feature Selection [13.821253491768168]
  本稿では,現在利用可能な情報に基づいてモデルを逐次クエリする動的特徴選択(DFS)問題を考察する。 条件付き相互情報に基づいて,特徴を欲求的に選択する,よりシンプルなアプローチについて検討する。 提案手法は,最適性を訓練した際の欲求を回復し,既存の特徴選択法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-01-02T08:31:56Z)
• An Additive Instance-Wise Approach to Multi-class Model Interpretation [53.87578024052922]
  解釈可能な機械学習は、ブラックボックスシステムの特定の予測を駆動する要因に関する洞察を提供する。 既存の手法は主に、局所的な加法的あるいはインスタンス的なアプローチに従う説明的入力特徴の選択に重点を置いている。 本研究は,両手法の長所を生かし,複数の対象クラスに対する局所的な説明を同時に学習するためのグローバルフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-07-07T06:50:27Z)
• VFDS: Variational Foresight Dynamic Selection in Bayesian Neural Networks for Efficient Human Activity Recognition [81.29900407096977]
  変動予測動的選択(VFDS)は、観測する次の機能サブセットを選択するポリシーを学ぶ。 本稿では,その実践においてパフォーマンスコストのトレードオフが重要となるヒューマンアクティビティ認識(HAR)タスクに,VFDSを適用した。
  論文  参考訳（メタデータ） (2022-03-31T22:52:43Z)
• Model-agnostic and Scalable Counterfactual Explanations via Reinforcement Learning [0.5729426778193398]
  本稿では,最適化手順をエンドツーエンドの学習プロセスに変換する深層強化学習手法を提案する。 実世界のデータを用いた実験により,本手法はモデルに依存しず,モデル予測からのフィードバックのみに依存することがわかった。
  論文  参考訳（メタデータ） (2021-06-04T16:54:36Z)
• Feature Selection for Huge Data via Minipatch Learning [0.0]
  安定ミニパッチ選択(STAMPS)と適応STAMPSを提案する。 STAMPSは、データの観測と特徴の両方の小さな(適応性の高い)ランダムなサブセットに基づいて訓練された基本特徴セレクタの選択イベントのアンサンブルを構築するメタアルゴリズムである。 われわれのアプローチは一般的であり、様々な機能選択戦略や機械学習技術に応用できる。
  論文  参考訳（メタデータ） (2020-10-16T17:41:08Z)
• Dynamic Feature Acquisition with Arbitrary Conditional Flows [11.655069211977464]
  予測評価をさらに改善するために,新機能を動的に獲得するモデルを提案する。 我々は、情報理論の指標、条件付き相互情報を利用して、取得する最も情報性の高い特徴を選択する。 本モデルは,複数の設定で評価されたベースラインよりも優れた性能を示す。
  論文  参考訳（メタデータ） (2020-06-13T19:01:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。