論文の概要: All Explanations are Wrong, But Many Are Useful: Exploring the Rashomon Explanation Set with Large Language Models
- arxiv url: http://arxiv.org/abs/2607.09502v1
- Date: Fri, 10 Jul 2026 15:16:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-13 16:48:13.452046
- Title: All Explanations are Wrong, But Many Are Useful: Exploring the Rashomon Explanation Set with Large Language Models
- Title（参考訳）: すべての説明は誤りだが、多くの人が有用である:大規模言語モデルを用いた羅生門説明セットの探索
- Abstract要約: 既存のExplainable AIメソッドは、永続的な精度と説明可能性のトレードオフに悩まされている、と我々は主張する。
本稿では,一組の忠実で予測を導く説明を構築できる羅生門解説パラダイムを紹介する。
我々はRashomonLLMが最先端の予測とXAIベースラインを精度と説明品質の両方で著しく上回っていることを示す。
- 参考スコア（独自算出の注目度）: 9.173232861966595
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Explaining machine-learning models is increasingly important for decision-making and consumer trust, yet it is widely believed to come at a cost: existing Explainable AI (XAI) methods suffer from a persistent accuracy-explainability trade-off. We argue that this trade-off is not fundamental, but an artifact of treating explanation and prediction as separate objectives; when properly coupled, they become complementary, so that equipping a model to explain itself improves, rather than degrades, its accuracy. We introduce the Rashomon Explanation paradigm, which builds a set of faithful, prediction-guiding explanations rather than a single one, and prove that this set is generally non-empty and that explanation fidelity bounds the performance of the models it guides. To explore this set, we propose RashomonLLM, an Explanation-Prediction-Reflection agentic workflow that generates explanations in natural language by iteratively aligning them with predictions, and we prove it converges and recovers the full set. Across customer-churn classification, clinical survival regression, and industrial click-through prediction on large-scale live-streaming logs, RashomonLLM significantly outperforms state-of-the-art prediction and XAI baselines on both accuracy and explanation quality, with gains driven by explanation fidelity and robust to distribution shifts, temporal splits, and seeds. Our framework thus advances business performance while laying the groundwork for consumer trust.
- Abstract（参考訳）: マシンラーニングモデルの説明は、意思決定と消費者の信頼のためにますます重要になっているが、コストがかかると広く信じられている。
我々は、このトレードオフは基本的なものではなく、説明と予測を別個の目的として扱う成果物であり、適切に結合すると、それらが相補的になるので、その正確さを劣化させるのではなく、自己を説明するためのモデルが改良される。
本稿では,1つではなく,忠実で予測を導く一連の説明を構築できる羅生門解説パラダイムを紹介し,この集合が一般に空でないこと,説明の忠実さがそれらが導くモデルの性能に結びつくことを証明した。
この集合を探索するために,ラショモンLLMを提案する。これは自然言語による説明を反復的に予測と整合させて生成するエージェントワークフローであり,その集合が収束して完全集合が復元されることを示す。
RashomonLLMは大規模ライブストリーミングログ上での顧客時間分類、臨床生存率の回帰、産業クリックスルー予測において、精度と説明品質の両面で最先端の予測とXAIベースラインを著しく上回り、説明の忠実さと配当への頑健さ、時間分割、種子の獲得によって得られる。
当社の枠組みは,消費者信頼の基盤を築きつつ,ビジネスパフォーマンスを向上する。
関連論文リスト
- Right Predictions, Misleading Explanations: On the Vulnerability of Vision-Language Model Explanations [0.8594140167290097]
説明メカニズムは、視覚言語モデルにおける透明性と信頼をサポートするために、ますます利用されています。
モデル本来の予測を保ちながら,説明地図を体系的に操作可能であることを示す。
我々は、パッチレベルの視覚表現を摂動させ、説明熱マップをリダイレクトする新しいグレイボックス攻撃であるX-Shiftを紹介する。
論文 参考訳（メタデータ） (2026-05-15T21:44:16Z) - Pando: Do Interpretability Methods Work When Models Won't Explain Themselves? [53.07826484214082]
モデル・オーガニゼーションのベンチマークであるPandoを紹介します。
Pandoは、ラベル付きクエリ-レスポンスペアから、ホールドアウトモデル決定を予測する。
説明が忠実であれば、ブラックボックスの引用はすべてのホワイトボックスメソッドに一致するか、超える。
論文 参考訳（メタデータ） (2026-04-13T06:42:24Z) - Faithful and Interpretable Explanations for Complex Ensemble Time Series Forecasts using Surrogate Models and Forecastability Analysis [1.5751034894694789]
本稿では,精度と解釈可能性のギャップを埋めるサロゲートに基づく説明手法を開発する。
スペクトル予測可能性分析を統合し,各系列固有の予測可能性の定量化を行う。
結果として得られるフレームワークは、最先端のアンサンブル予測に対する解釈可能なインスタンスレベルの説明を提供する。
論文 参考訳（メタデータ） (2025-10-09T18:49:45Z) - I Predict Therefore I Am: Is Next Token Prediction Enough to Learn Human-Interpretable Concepts from Data? [76.15163242945813]
大規模言語モデル (LLM) は、多くの人が知能の形式を示すと結論づけている。
本稿では,潜在離散変数として表現される人間解釈可能な概念に基づいてトークンを生成する新しい生成モデルを提案する。
論文 参考訳（メタデータ） (2025-03-12T01:21:17Z) - Explaining Language Models' Predictions with High-Impact Concepts [11.47612457613113]
概念ベースの解釈可能性手法をNLPに拡張するための完全なフレームワークを提案する。
出力予測が大幅に変化する特徴を最適化する。
本手法は, ベースラインと比較して, 予測的影響, ユーザビリティ, 忠実度に関する優れた結果が得られる。
論文 参考訳（メタデータ） (2023-05-03T14:48:27Z) - VisFIS: Visual Feature Importance Supervision with
Right-for-the-Right-Reason Objectives [84.48039784446166]
モデルFI監督は、VQAモデルの精度と、Right-to-the-Right-Reasonメトリクスの性能を有意義に向上させることができることを示す。
我々の最高のパフォーマンス手法であるVisual Feature Importance Supervision (VisFIS)は、ベンチマークVQAデータセットで強いベースラインを上回ります。
説明が妥当で忠実な場合には予測がより正確になる。
論文 参考訳（メタデータ） (2022-06-22T17:02:01Z) - Counterfactual Explanations for Predictive Business Process Monitoring [0.90238471756546]
本稿では,予測プロセス監視のための対実的説明手法であるLORELEYを提案する。
LORELEYは平均忠実度97.69%の予測モデルを近似し、現実的な対実的な説明を生成する。
論文 参考訳（メタデータ） (2022-02-24T11:01:20Z) - Partial Order in Chaos: Consensus on Feature Attributions in the
Rashomon Set [50.67431815647126]
ポストホックなグローバル/ローカルな特徴属性法は、機械学習モデルを理解するために徐々に採用されている。
この手法により局所的・言語的特徴の半順序が生じることを示す。
これらの部分的な順序に現れる特徴間の関係は、既存のアプローチによって提供されたランクにも当てはまることを示す。
論文 参考訳（メタデータ） (2021-10-26T02:53:14Z) - Do not explain without context: addressing the blind spot of model
explanations [2.280298858971133]
本稿では,機械学習モデルの監視と監査においてしばしば見落とされがちな盲点について述べる。
モデル説明の多くは参照データ分布の選択に直接的または間接的に依存する。
分布の小さな変化が、傾向の変化や、注意深い結論などの説明に劇的な変化をもたらす例を示す。
論文 参考訳（メタデータ） (2021-05-28T12:48:40Z) - Beyond Trivial Counterfactual Explanations with Diverse Valuable
Explanations [64.85696493596821]
コンピュータビジョンの応用において、生成的対実法はモデルの入力を摂動させて予測を変更する方法を示す。
本稿では,多様性強化損失を用いて制約される不連続潜在空間における摂動を学習する反事実法を提案する。
このモデルは, 従来の最先端手法と比較して, 高品質な説明を生産する成功率を向上させる。
論文 参考訳（メタデータ） (2021-03-18T12:57:34Z) - Towards Interpretable Natural Language Understanding with Explanations
as Latent Variables [146.83882632854485]
そこで本研究では,人間に注釈付き説明文の小さなセットだけを必要とする自然言語理解の枠組みを構築した。
我々のフレームワークは、ニューラルネットワークの基本的な推論過程をモデル化する潜在変数として、自然言語の説明を扱う。
論文 参考訳（メタデータ） (2020-10-24T02:05:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。