論文の概要: ShapShift: Explaining Model Prediction Shifts with Subgroup Conditional Shapley Values
- arxiv url: http://arxiv.org/abs/2604.11200v1
- Date: Mon, 13 Apr 2026 08:56:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-14 20:13:16.443189
- Title: ShapShift: Explaining Model Prediction Shifts with Subgroup Conditional Shapley Values
- Title（参考訳）: ShapShift: サブグループ条件付き共有値によるモデル予測シフトの説明
- Authors: Tom Bewley, Salim I. Amoukou, Emanuele Albini, Saumitra Mishra, Manuela Veloso,
- Abstract要約: 入力分布の変化は、機械学習モデルの平均予測におけるシフトを誘導することができる。
本稿では,データの解釈可能な部分群の条件付き確率変化に予測シフトをもたらすShapley値法を提案する。
モデルクラス間での予測シフトについて、単純で忠実でほぼ完全に説明できることを示す。
- 参考スコア（独自算出の注目度）: 21.035730606359174
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Changes in input distribution can induce shifts in the average predictions of machine learning models. Such prediction shifts may impact downstream business outcomes (e.g. a bank's loan approval rate), so understanding their causes can be crucial. We propose \ours{}: a Shapley value method for attributing prediction shifts to changes in the conditional probabilities of interpretable subgroups of data, where these subgroups are defined by the structure of decision trees. We initially apply this method to single decision trees, providing exact explanations based on conditional probability changes at split nodes. Next, we extend it to tree ensembles by selecting the most explanatory tree and accounting for residual effects. Finally, we propose a model-agnostic variant using surrogate trees grown with a novel objective function, allowing application to models like neural networks. While exact computation can be intensive, approximation techniques enable practical application. We show that \ours{} provides simple, faithful, and near-complete explanations of prediction shifts across model classes, aiding model monitoring in dynamic environments.
- Abstract（参考訳）: 入力分布の変化は、機械学習モデルの平均予測におけるシフトを誘導することができる。
このような予測シフトは、下流のビジネス成果(例えば、銀行の融資承認率)に影響を与える可能性があるため、それらの原因を理解することが重要である。
本稿では,データの解釈可能な部分群の条件付き確率変化に予測シフトを寄与させるShapley値法である \ours{}を提案する。
我々はまず,この手法を単一決定木に適用し,分割ノードにおける条件付き確率変化に基づく正確な説明を提供する。
次に,最も説明しやすい木を選択し,残効を考慮し,木群に拡張する。
最後に,ニューラルネットワークなどのモデルに適用可能な,新たな目的関数で成長した代理木を用いたモデルに依存しない変種を提案する。
正確な計算は集中的に行うことができるが、近似技術は実用的な応用を可能にする。
本稿では,モデルクラス間での予測シフトについて,シンプルで忠実でほぼ完全な説明を提供し,動的環境におけるモデル監視を支援することを示す。
関連論文リスト
- Internal Causal Mechanisms Robustly Predict Language Model Out-of-Distribution Behaviors [61.92704516732144]
正当性予測の最も堅牢な特徴は、モデルの振舞いに特徴的な因果的役割を果たすものであることを示す。
モデル出力の正しさを予測するために因果メカニズムを利用する2つの手法を提案する。
論文 参考訳（メタデータ） (2025-05-17T00:31:39Z) - Explainable Clustering Beyond Worst-Case Guarantees [5.65604054654671]
Moshkovitz, Dasgupta, Rashtchian, Frost (ICML 2020) による説明可能なクラスタリング問題について検討した。
説明可能なクラスタリングの目標は、軸に沿った決定木に$K$のリーフと最小のクラスタリングコスト(すべてのリーフがクラスタである)を適合させることだ。
論文 参考訳（メタデータ） (2024-11-03T14:00:20Z) - Grouping Shapley Value Feature Importances of Random Forests for
explainable Yield Prediction [0.8543936047647136]
本稿では,特徴群に対して直接計算されたShapley値の概念を説明し,木構造上で効率的に計算するアルゴリズムを提案する。
我々は、グローバルな理解のために多くのローカルな説明を組み合わせてSwarmプロットを設計するための青写真を提供する。
論文 参考訳（メタデータ） (2023-04-14T13:03:33Z) - Unboxing Tree Ensembles for interpretability: a hierarchical
visualization tool and a multivariate optimal re-built tree [0.34530027457862006]
我々は,木組モデルの解釈可能な表現を開発し,その振る舞いに関する貴重な洞察を提供する。
提案モデルは,木組決定関数を近似した浅い解釈可能な木を得るのに有効である。
論文 参考訳（メタデータ） (2023-02-15T10:43:31Z) - On the Generalization and Adaption Performance of Causal Models [99.64022680811281]
異なる因果発見は、データ生成プロセスを一連のモジュールに分解するために提案されている。
このようなモジュラニューラル因果モデルの一般化と適応性能について検討する。
我々の分析では、モジュラーニューラル因果モデルが、低データレギュレーションにおけるゼロおよび少数ショットの適応において、他のモデルよりも優れていることを示している。
論文 参考訳（メタデータ） (2022-06-09T17:12:32Z) - Distributional Gradient Boosting Machines [77.34726150561087]
私たちのフレームワークはXGBoostとLightGBMをベースにしています。
我々は,このフレームワークが最先端の予測精度を実現することを示す。
論文 参考訳（メタデータ） (2022-04-02T06:32:19Z) - Explaining random forest prediction through diverse rulesets [0.0]
Local Tree eXtractor (LTreeX)は、与えられたテストインスタンスのフォレスト予測を、いくつかの異なるルールで説明することができる。
提案手法は予測性能の点で他の説明可能な手法よりも大幅に優れていることを示す。
論文 参考訳（メタデータ） (2022-03-29T12:54:57Z) - Instance-Based Neural Dependency Parsing [56.63500180843504]
依存関係解析のための解釈可能な推論プロセスを持つニューラルモデルを開発する。
私たちのモデルはインスタンスベースの推論を採用しており、トレーニングセットのエッジと比較することで、依存関係のエッジを抽出し、ラベル付けします。
論文 参考訳（メタデータ） (2021-09-28T05:30:52Z) - Deducing neighborhoods of classes from a fitted model [68.8204255655161]
本稿では,新しいタイプの解釈可能な機械学習手法を提案する。
量子シフトを用いた分類モデルでは、特徴空間の予測クラスへの分割を理解するのに役立ちます。
基本的に、実際のデータポイント(または特定の関心点)を使用し、特定の特徴をわずかに引き上げたり減少させたりした後の予測の変化を観察する。
論文 参考訳（メタデータ） (2020-09-11T16:35:53Z) - Structural Causal Models Are (Solvable by) Credal Networks [70.45873402967297]
因果推論は、干潟網の更新のための標準的なアルゴリズムによって得ることができる。
この貢献は, 干潟ネットワークによる構造因果モデルを表現するための体系的なアプローチと見なされるべきである。
実験により, 実規模問題における因果推論には, クレーダルネットワークの近似アルゴリズムがすぐに利用できることがわかった。
論文 参考訳（メタデータ） (2020-08-02T11:19:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。