論文の概要: iLOCO: Distribution-Free Inference for Feature Interactions

• arxiv url: http://arxiv.org/abs/2502.06661v1
• Date: Mon, 10 Feb 2025 16:49:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-11 14:35:01.388775
• Title: iLOCO: Distribution-Free Inference for Feature Interactions
• Title（参考訳）: iLOCO: 機能インタラクションのための分散フリー推論
• Authors: Camille Little, Lili Zheng, Genevera Allen,
• Abstract要約: 本稿では,高次特徴相互作用の重要性を測定するための新しいモデル非依存指標を提案する。 We developed distribution-free and assumption-light confidence intervals for our iLOCO metric。 我々は,iLOCO測定値と信頼区間を,合成データと実データの両方で検証する。
• 参考スコア（独自算出の注目度）: 4.56754610152086
• License:
• Abstract: Feature importance measures are widely studied and are essential for understanding model behavior, guiding feature selection, and enhancing interpretability. However, many machine learning fitted models involve complex, higher-order interactions between features. Existing feature importance metrics fail to capture these higher-order effects while existing interaction metrics often suffer from limited applicability or excessive computation; no methods exist to conduct statistical inference for feature interactions. To bridge this gap, we first propose a new model-agnostic metric, interaction Leave-One-Covariate-Out iLOCO, for measuring the importance of higher-order feature interactions. Next, we leverage recent advances in LOCO inference to develop distribution-free and assumption-light confidence intervals for our iLOCO metric. To address computational challenges, we also introduce an ensemble learning method for calculating the iLOCO metric and confidence intervals that we show is both computationally and statistically efficient. We validate our iLOCO metric and our confidence intervals on both synthetic and real data sets, showing that our approach outperforms existing methods and provides the first inferential approach to detecting feature interactions.
• Abstract（参考訳）: 特徴重要度尺度は、モデル行動の理解、特徴選択の導出、解釈可能性の向上に不可欠である。 しかし、多くの機械学習適合モデルには、機能間の複雑な高次相互作用が含まれる。 既存の特徴重要度はこれらの高次効果を捉えるのに失敗するが、既存の相互作用度は限定的な適用性や過剰な計算に悩まされることが多い。 このギャップを埋めるために、我々はまず、高次特徴相互作用の重要性を測定するために、新しいモデルに依存しない相互作用指標、Leave-One-Covariate-Out iLOCOを提案する。 次に、最近のLOCO推論の進歩を活用し、我々のiLOCO測定値に対する分布自由および仮定軽度信頼区間を開発する。 また、計算課題に対処するため、iLOCOメトリックと信頼区間を計算するためのアンサンブル学習手法を導入し、計算的かつ統計的に効率的であることを示す。 我々は,iLOCO測定値と信頼区間を合成データと実データの両方で検証し,提案手法が既存の手法より優れていることを示すとともに,特徴的相互作用を検出するための最初の推論手法を提供する。

関連論文リスト

• Targeted Learning for Variable Importance [23.428985354228672]
  変数の重要性は、機械学習を解釈するための最も広く使われている手段の1つです。 本稿では,変数重要度に対する推論の堅牢性を高めるために,ターゲット学習(TL)フレームワークを用いた新しい手法を提案する。 i) 従来の手法の効率を保ち, (ii) 計算量に匹敵する複雑性を維持し, (iii) 精度を向上し, 特に有限サンプル文脈において有効であることを示す。
  論文  参考訳（メタデータ） (2024-11-04T16:14:45Z)
• Exploiting Structure in Offline Multi-Agent RL: The Benefits of Low Interaction Rank [52.831993899183416]
  相互作用ランクという構造的仮定を導入し、相互作用ランクの低い関数が一般的なものよりも分布シフトに対して著しく堅牢であることを示す。 我々は,非正規化と非正規化学習と組み合わせることで,オフラインMARLにおける分散的,計算的,統計的に効率的な学習が可能であることを実証した。
  論文  参考訳（メタデータ） (2024-10-01T22:16:22Z)
• Enhancing Interaction Modeling with Agent Selection and Physical Coefficient for Trajectory Prediction [1.6954753390775528]
  本稿では,インタラクションエージェントを手動で選択し,アテンションスコアの代わりに相関関係を計算するASPILinを提案する。 興味深いことに、InterACTION、HighD、CitySimデータセットで実施された実験は、我々の手法が効率的かつ簡単であることを実証している。
  論文  参考訳（メタデータ） (2024-05-21T18:45:18Z)
• AntEval: Evaluation of Social Interaction Competencies in LLM-Driven Agents [65.16893197330589]
  大規模言語モデル(LLM)は、幅広いシナリオで人間の振る舞いを再現する能力を示した。 しかし、複雑なマルチ文字のソーシャルインタラクションを扱う能力については、まだ完全には研究されていない。 本稿では,新しいインタラクションフレームワークと評価手法を含むマルチエージェントインタラクション評価フレームワーク(AntEval)を紹介する。
  論文  参考訳（メタデータ） (2024-01-12T11:18:00Z)
• IPCC-TP: Utilizing Incremental Pearson Correlation Coefficient for Joint Multi-Agent Trajectory Prediction [73.25645602768158]
  IPCC-TPはインクリメンタルピアソン相関係数に基づく新しい関連認識モジュールであり,マルチエージェントインタラクションモデリングを改善する。 我々のモジュールは、既存のマルチエージェント予測手法に便利に組み込んで、元の動き分布デコーダを拡張することができる。
  論文  参考訳（メタデータ） (2023-03-01T15:16:56Z)
• Variable Importance Matching for Causal Inference [73.25504313552516]
  これらの目標を達成するためのModel-to-Matchと呼ばれる一般的なフレームワークについて説明する。 Model-to-Matchは、距離メートル法を構築するために変数重要度測定を使用する。 LASSO を用いて Model-to-Match フレームワークを運用する。
  論文  参考訳（メタデータ） (2023-02-23T00:43:03Z)
• Inference for Interpretable Machine Learning: Fast, Model-Agnostic Confidence Intervals for Feature Importance [1.2891210250935146]
  我々は、機械学習の解釈の広く使われている形態、すなわち特徴の重要性に対する信頼区間を発達させる。 ランダムな観察とミニパッチアンサンブルと呼ばれる特徴サブサンプリングの形式を活用することで実現している。 推論に必要な計算が、アンサンブル学習プロセスの一部としてほぼ無償で提供されるため、私たちのアプローチは高速です。
  論文  参考訳（メタデータ） (2022-06-05T03:14:48Z)
• Stabilizing Q-learning with Linear Architectures for Provably Efficient Learning [53.17258888552998]
  本研究では,線形関数近似を用いた基本的な$Q$-learningプロトコルの探索変種を提案する。 このアルゴリズムの性能は,新しい近似誤差というより寛容な概念の下で,非常に優雅に低下することを示す。
  論文  参考訳（メタデータ） (2022-06-01T23:26:51Z)
• Accurate and Robust Feature Importance Estimation under Distribution Shifts [49.58991359544005]
  PRoFILEは、新しい特徴重要度推定法である。 忠実さと頑健さの両面で、最先端のアプローチよりも大幅に改善されていることを示す。
  論文  参考訳（メタデータ） (2020-09-30T05:29:01Z)
• Robust Unsupervised Learning of Temporal Dynamic Interactions [21.928675010305543]
  本稿では,対話の堅牢な表現学習のためのProcrustes距離に基づくモデルフリーメトリックを提案する。 また、相互作用プリミティブの分布を比較するために、最適な輸送ベース距離メートル法も導入する。 安全パイロットデータベースから抽出した車車間相互作用の教師なし学習において,その有用性を示す。
  論文  参考訳（メタデータ） (2020-06-18T02:39:45Z)
• Understanding Global Feature Contributions With Additive Importance Measures [14.50261153230204]
  我々は,各特徴に関連付けられた予測力を通じて,特徴の重要性を定義する視点について検討する。 予測力(モデルベースと普遍性)の2つの概念を導入し、付加的重要度尺度の枠組みを用いてこのアプローチを定式化する。 次に,機能的相互作用を考慮に入れながら予測力を定量化するモデルに依存しないSAGEを提案する。
  論文  参考訳（メタデータ） (2020-04-01T19:17:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。