論文の概要: Interpretable Model-Aware Counterfactual Explanations for Random Forest

• arxiv url: http://arxiv.org/abs/2510.27397v1
• Date: Fri, 31 Oct 2025 11:35:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-03 17:52:16.086983
• Title: Interpretable Model-Aware Counterfactual Explanations for Random Forest
• Title（参考訳）: ランダム林の解釈可能なモデル-非現実的説明法
• Authors: Joshua S. Harvey, Guanchao Feng, Sai Anusha Meesala, Tina Zhao, Dhagash Mehta,
• Abstract要約: 機械学習モデルは金融などの規制産業の応用には適さないことが多い。 結果の変化を引き起こすために、どの状況が異なる必要があるかを個人に知らせる対実的なケースベースの説明は、より直感的で実用的なものになるかもしれない。 そこで我々は,ランダム森林予測モデル自体が学習した表現を利用して,類似性学習の観点から,対実探索と解釈の問題を提起する。 本手法はMNISTの手書きディジットデータセットとドイツのクレジットデータセットの両方で実証し,シェープリー値よりもスペーサーで有用な説明を生成することを発見した。
• 参考スコア（独自算出の注目度）: 2.5949557830663816
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Despite their enormous predictive power, machine learning models are often unsuitable for applications in regulated industries such as finance, due to their limited capacity to provide explanations. While model-agnostic frameworks such as Shapley values have proved to be convenient and popular, they rarely align with the kinds of causal explanations that are typically sought after. Counterfactual case-based explanations, where an individual is informed of which circumstances would need to be different to cause a change in outcome, may be more intuitive and actionable. However, finding appropriate counterfactual cases is an open challenge, as is interpreting which features are most critical for the change in outcome. Here, we pose the question of counterfactual search and interpretation in terms of similarity learning, exploiting the representation learned by the random forest predictive model itself. Once a counterfactual is found, the feature importance of the explanation is computed as a function of which random forest partitions are crossed in order to reach it from the original instance. We demonstrate this method on both the MNIST hand-drawn digit dataset and the German credit dataset, finding that it generates explanations that are sparser and more useful than Shapley values.
• Abstract（参考訳）: その膨大な予測力にもかかわらず、機械学習モデルは、説明を提供する能力が限られているため、金融などの規制された業界での応用には適さないことが多い。 Shapley値のようなモデルに依存しないフレームワークは便利で人気がある。 結果の変化を引き起こすために、どの状況が異なる必要があるかを個人に知らせる対実的なケースベースの説明は、より直感的で実用的なものになるかもしれない。 しかし、適切な対実的なケースを見つけることはオープンな課題であり、どの特徴が結果の変化に最も重要なのかを解釈する。 そこで我々は,ランダム森林予測モデル自体が学習した表現を利用して,類似性学習の観点から,対実探索と解釈の問題を提起する。 カウンターファクトが見つかると、説明の特徴的重要性は、元のインスタンスからそれに到達するために、ランダムな森林分割が交差する関数として計算される。 本手法はMNISTの手書きディジットデータセットとドイツのクレジットデータセットの両方で実証し,シェープリー値よりもスペーサーで有用な説明を生成することを発見した。

関連論文リスト

• Counterfactual Explanations as Plans [6.445239204595516]
  我々は、アクションシーケンスの観点で、対実的説明の正式な説明を提供する。 エージェントのモデルを修正したり、エージェントの計画にアクションを提案したりすることで、モデル和解の理由を自然に示します。
  論文  参考訳（メタデータ） (2025-02-13T11:45:54Z)
• QUITE: Quantifying Uncertainty in Natural Language Text in Bayesian Reasoning Scenarios [15.193544498311603]
  本稿では,カテゴリー的確率変数と複雑な関係を持つ実世界のベイズ推論シナリオのデータセットであるQUITEを提案する。 我々は幅広い実験を行い、論理ベースのモデルが全ての推論型において、アウト・オブ・ボックスの大規模言語モデルより優れていることを発見した。 以上の結果から,ニューロシンボリックモデルが複雑な推論を改善する上で有望な方向であることを示す。
  論文  参考訳（メタデータ） (2024-10-14T12:44:59Z)
• Explaining Probabilistic Models with Distributional Values [12.26389108393613]
  研究によると、ゲーム理論的な説明は誤解を招くか、解釈が難しい可能性がある。 SHAPのような現在の方法と説明したいものの間には、しばしば重大なミスマッチがある、と我々は主張する。 本稿では、協調ゲームや値演算子を一般化することで確率モデルに対するそのようなギャップを解消する。
  論文  参考訳（メタデータ） (2024-02-15T13:50:00Z)
• Shortcomings of Top-Down Randomization-Based Sanity Checks for Evaluations of Deep Neural Network Explanations [67.40641255908443]
  モデルランダム化に基づく正当性チェックの限界を,説明書の評価のために同定する。 トップダウンモデルランダム化は、フォワードパスアクティベーションのスケールを高い確率で保存する。
  論文  参考訳（メタデータ） (2022-11-22T18:52:38Z)
• Don't Explain Noise: Robust Counterfactuals for Randomized Ensembles [50.81061839052459]
  我々は確率論的問題として、堅牢な対実的説明の生成を定式化する。 アンサンブルモデルのロバスト性とベース学習者のロバスト性との関係を示す。 本手法は, 反実的説明から初期観測までの距離をわずかに増加させるだけで, 高いロバスト性を実現する。
  論文  参考訳（メタデータ） (2022-05-27T17:28:54Z)
• Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
  本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。 これは、説明に表される論理述語に基づいて、反実仮説を生成する。 そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
  論文  参考訳（メタデータ） (2022-05-25T03:40:59Z)
• Do not explain without context: addressing the blind spot of model explanations [2.280298858971133]
  本稿では,機械学習モデルの監視と監査においてしばしば見落とされがちな盲点について述べる。 モデル説明の多くは参照データ分布の選択に直接的または間接的に依存する。 分布の小さな変化が、傾向の変化や、注意深い結論などの説明に劇的な変化をもたらす例を示す。
  論文  参考訳（メタデータ） (2021-05-28T12:48:40Z)
• Beyond Trivial Counterfactual Explanations with Diverse Valuable Explanations [64.85696493596821]
  コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。 本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。 このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
  論文  参考訳（メタデータ） (2021-03-18T12:57:34Z)
• The Struggles of Feature-Based Explanations: Shapley Values vs. Minimal Sufficient Subsets [61.66584140190247]
  機能に基づく説明は、自明なモデルでも問題を引き起こすことを示す。 そこで本研究では,2つの一般的な説明書クラスであるシェープリー説明書と十分最小限の部分集合説明書が,基本的に異なる基底的説明書のタイプをターゲットにしていることを示す。
  論文  参考訳（メタデータ） (2020-09-23T09:45:23Z)
• Deducing neighborhoods of classes from a fitted model [68.8204255655161]
  本稿では,新しいタイプの解釈可能な機械学習手法を提案する。 量子シフトを用いた分類モデルでは、特徴空間の予測クラスへの分割を理解するのに役立ちます。 基本的に、実際のデータポイント(または特定の関心点)を使用し、特定の特徴をわずかに引き上げたり減少させたりした後の予測の変化を観察する。
  論文  参考訳（メタデータ） (2020-09-11T16:35:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。