論文の概要: MinShap: A Modified Shapley Value Approach for Feature Selection
- arxiv url: http://arxiv.org/abs/2604.15107v1
- Date: Thu, 16 Apr 2026 15:02:22 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-17 21:29:31.965197
- Title: MinShap: A Modified Shapley Value Approach for Feature Selection
- Title（参考訳）: MinShap: 機能選択のための改良されたシェープ値アプローチ
- Authors: Chenghui Zheng, Garvesh Raskutti,
- Abstract要約: 本稿では,他のアルゴリズムとともにShapley値フレームワークの修正であるemphMinShapを提案する。
MinShapは、LOCO、GCM、Lassoといった最先端の機能選択アルゴリズムを精度と安定性の両方で上回る傾向にある。
- 参考スコア（独自算出の注目度）: 2.635536317968963
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Feature selection is a classical problem in statistics and machine learning, and it continues to remain an extremely challenging problem especially in the context of unknown non-linear relationships with dependent features. On the other hand, Shapley values are a classic solution concept from cooperative game theory that is widely used for feature attribution in general non-linear models with highly-dependent features. However, Shapley values are not naturally suited for feature selection since they tend to capture both direct effects from each feature to the response and indirect effects through other features. In this paper, we combine the advantages of Shapley values and adapt them to feature selection by proposing \emph{MinShap}, a modification of the Shapley value framework along with a suite of other related algorithms. In particular for MinShap, instead of taking the average marginal contributions over permutations of features, considers the minimum marginal contribution across permutations. We provide a theoretical foundation motivated by the faithfulness assumption in DAG (directed acyclic graphical models), a guarantee for the Type I error of MinShap, and show through numerical simulations and real data experiments that MinShap tends to outperform state-of-the-art feature selection algorithms such as LOCO, GCM and Lasso in terms of both accuracy and stability. We also introduce a suite of algorithms related to MinShap by using the multiple testing/p-value perspective that improves performance in lower-sample settings and provide supporting theoretical guarantees.
- Abstract（参考訳）: 特徴選択は統計学や機械学習において古典的な問題であり、特に依存する特徴との未知の非線形関係において、非常に困難な問題であり続けている。
一方、Shapley値は協調ゲーム理論の古典的な解概念であり、高依存的特徴を持つ一般非線形モデルにおいて特徴属性として広く用いられている。
しかし、Shapley値は機能選択に自然に適していない。各機能から応答への直接効果と、他の機能による間接効果の両方をキャプチャする傾向があるからだ。
本稿では、Shapley値の利点を組み合わせて、他の関連アルゴリズムと共にShapley値フレームワークの修正である \emph{MinShap} を提案する。
特にMinShapでは、特徴の置換よりも平均的な限界貢献を取らずに、置換間の最小限の限界貢献を考える。
我々は,DAGにおける忠実性の仮定,MinShapのタイプIエラーの保証,および数値シミュレーションと実データ実験を通じて,LOCO,GCM,Lassoといった最先端の特徴選択アルゴリズムを精度と安定性の両方の観点から上回る傾向にあることを示す理論基盤を提供する。
また、複数のテスト/p値の観点からMinShapに関連するアルゴリズム一式を導入し、低サンプリング環境での性能を改善し、理論的保証を提供する。
関連論文リスト
- Shapley-Inspired Feature Weighting in $k$-means with No Additional Hyperparameters [2.3940819037450987]
クラスタリングアルゴリズムは、すべての機能がデータ構造に等しく寄与していると仮定することが多い。
SHARK(Shapley Reweighted $k$-means)は,Shapley値を用いた特徴量クラスタリングアルゴリズムである。
合成および実世界のデータセットの実験は、SHARKが既存の手法と一貫して一致し、性能を向上していることを示している。
論文 参考訳（メタデータ） (2025-08-11T13:07:21Z) - Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳（メタデータ） (2024-11-21T10:26:17Z) - Improving the Weighting Strategy in KernelSHAP [0.8057006406834466]
説明可能なAI(XAI)では、Shapley値が、複雑な機械学習モデルによる予測を説明する一般的なフレームワークである。
本稿では,結果のShapley値近似のばらつきを低減するために,決定論的重みを1つに置き換えるKernelSHAPの新たな改良を提案する。
提案手法は, 近似したShapley値と同じ精度を保ちながら, 必要なコントリビューション関数の評価を5%$から50%$に削減することができる。
論文 参考訳（メタデータ） (2024-10-07T10:02:31Z) - LLpowershap: Logistic Loss-based Automated Shapley Values Feature
Selection Method [0.0]
損失に基づくShapley値を用いて最小ノイズで情報的特徴を識別する新しい特徴選択手法LLpowershapを提案する。
シミュレーションの結果,LLpowershapはより多くの情報特徴を識別するだけでなく,他の最先端特徴選択法と比較して,ノイズ特性の少ない特徴を出力することがわかった。
論文 参考訳（メタデータ） (2024-01-23T11:46:52Z) - Fast Shapley Value Estimation: A Unified Approach [71.92014859992263]
冗長な手法を排除し、単純で効率的なシェープリー推定器SimSHAPを提案する。
既存手法の解析において、推定器は特徴部分集合からランダムに要約された値の線形変換として統一可能であることを観察する。
実験により,SimSHAPの有効性が検証され,精度の高いShapley値の計算が大幅に高速化された。
論文 参考訳（メタデータ） (2023-11-02T06:09:24Z) - Nonlinear Feature Aggregation: Two Algorithms driven by Theory [45.3190496371625]
現実世界の機械学習アプリケーションは、膨大な機能によって特徴付けられ、計算やメモリの問題を引き起こす。
一般集約関数を用いて特徴量の非線形変換を集約する次元還元アルゴリズム(NonLinCFA)を提案する。
また、アルゴリズムを合成および実世界のデータセット上でテストし、回帰および分類タスクを実行し、競合性能を示す。
論文 参考訳（メタデータ） (2023-06-19T19:57:33Z) - Efficient Shapley Values Estimation by Amortization for Text
Classification [66.7725354593271]
我々は,各入力特徴のシェープ値を直接予測し,追加のモデル評価を行なわずに補正モデルを開発する。
2つのテキスト分類データセットの実験結果から、アモルタイズされたモデルでは、Shapley Valuesを最大60倍のスピードアップで正確に見積もっている。
論文 参考訳（メタデータ） (2023-05-31T16:19:13Z) - WeightedSHAP: analyzing and improving Shapley based feature attributions [17.340091573913316]
共有価値(Shapley value)は、個々の特徴の影響を測定するための一般的なアプローチである。
WeightedSHAPを提案する。これはShapleyの価値を一般化し、データから直接フォーカスする限界貢献を学習する。
いくつかの実世界のデータセットにおいて、WeightedSHAPによって識別される影響のある特徴がモデルの予測を再カプセル化できることを示す。
論文 参考訳（メタデータ） (2022-09-27T14:34:07Z) - Exact Shapley Values for Local and Model-True Explanations of Decision
Tree Ensembles [0.0]
決定木アンサンブルの説明にShapley値を適用することを検討する。
本稿では,無作為林に適応し,決定木を増強できる,Shapley値に基づく特徴属性に対する新しいアプローチを提案する。
論文 参考訳（メタデータ） (2021-12-16T20:16:02Z) - Fast Hierarchical Games for Image Explanations [78.16853337149871]
本稿では,シェープリー係数の階層的拡張に基づく画像分類のモデル非依存な説明法を提案する。
他のShapleyベースの説明手法とは異なり、h-Shapはスケーラブルで近似を必要とせずに計算できる。
本手法は,合成データセット,医用画像シナリオ,一般コンピュータビジョン問題において,一般的なシャプリーベースおよび非サプリーベース手法と比較した。
論文 参考訳（メタデータ） (2021-04-13T13:11:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。