論文の概要: Reliability, Faithfulness, and the Limits of Post-hoc Explanations of Opaque Scientific Models

• arxiv url: http://arxiv.org/abs/2606.29346v1
• Date: Sun, 28 Jun 2026 11:29:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.894025
• Title: Reliability, Faithfulness, and the Limits of Post-hoc Explanations of Opaque Scientific Models
• Title（参考訳）: 不透明な科学モデルにおけるポストホック説明の信頼性・信条・限界
• Authors: Nick Oh, Helen Jin,
• Abstract要約: ポストホックな説明法は科学的な機械学習モデルを解釈するために日常的に使用される。 モデルが十分に信頼性があり、説明が十分に忠実であれば、移行は安全であると判断されるかもしれない、と私たちは主張する。 信頼性は、モデルの予測が現象の結果と一致していることを確認し、忠実性は説明がモデルと一致することをチェックするが、そのモデルが現象が機能するかどうかは確認しない。
• 参考スコア（独自算出の注目度）: 0.6875312133832079
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post-hoc explanation methods are routinely used to interpret scientific machine learning models, with the deliverable understood to be insight into the phenomenon the model has been trained on. The transition may be taken to be secured once the model is reliable enough and the explanation faithful enough. We argue it is not. Reliability checks that the model's predictions match the phenomenon's outcomes, and faithfulness checks that the explanation matches the model, but neither checks whether the model works as the phenomenon works, which is what a claim about structure requires. The chain can support candidate hypotheses under external corroboration, but it cannot, on its own, support claims about how the phenomenon is in fact structured.
• Abstract（参考訳）: ポストホックな説明法は、科学的な機械学習モデルを解釈するために日常的に使われており、提供可能なものは、モデルが訓練された現象についての洞察であると理解されている。 モデルが十分に信頼性があり、説明が十分に忠実であれば、移行は確保される。 私たちはそうではないと論じている。 信頼性は、モデルの予測が現象の結果と一致していることを確認し、忠実性は説明がモデルと一致することをチェックするが、モデルが現象として機能するかどうかは確認しない。 この鎖は、外部の相関の下で仮説を支持できるが、それ自体は、この現象が実際にどのように構造化されているかについての主張を支持できない。

関連論文リスト

• Relational Structural Causal Models [52.818153111470394]
  我々は、関係構造因果モデルを開発し、対象とその関係が変化する設定まで構造因果モデルを拡張した。 シミュレーションされた交通シーンにおいて,非関係性ベースラインよりも高い精度で再現可能なモデルであるリレーショナルニューラル因果モデルを提案する。
  論文  参考訳（メタデータ） (2026-06-12T18:54:06Z)
• From Black-box to Causal-box: Towards Building More Interpretable Models [57.23201263629627]
  本稿では, 因果解釈可能性の概念を導入し, 特定のモデルのクラスから対実的クエリを評価できるときの形式化について述べる。 我々は、与えられたモデルアーキテクチャが与えられた偽物クエリをサポートするかどうかを決定する完全なグラフィカルな基準を導出する。
  論文  参考訳（メタデータ） (2025-10-24T20:03:18Z)
• When Counterfactual Reasoning Fails: Chaos and Real-World Complexity [1.9223856107206057]
  構造因果モデルの枠組みにおける反実的推論の限界について検討する。 低次モデル不確実性やカオス力学といった現実的な仮定は、直観に反する結果をもたらす。 この研究は、カオスと不確実性を特徴とする設定に反実的推論を適用する際に注意を促している。
  論文  参考訳（メタデータ） (2025-03-31T08:14:51Z)
• Interpretability Needs a New Paradigm [49.134097841837715]
  解釈可能性(英: Interpretability)とは、人間に理解可能な言葉でモデルを説明する研究である。 この議論の核心は、それぞれのパラダイムがその説明が忠実である、すなわちモデルの振舞いに忠実であることをいかに保証するかである。 この論文の立場は、信仰を警戒しながら新しいパラダイムを考えるべきだというものである。
  論文  参考訳（メタデータ） (2024-05-08T19:31:06Z)
• Faithful Model Explanations through Energy-Constrained Conformal Counterfactuals [16.67633872254042]
  ブラックボックスモデルを説明するための直感的で直感的な説明を提供する。 既存の作業は主に、入力データの分散方法を学ぶために代理モデルに依存しています。 そこで本研究では,モデルが許容する範囲でのみ有効な,エネルギー制約のあるコンフォーマル・カウンセリングを生成するための新しいアルゴリズムフレームワークを提案する。
  論文  参考訳（メタデータ） (2023-12-17T08:24:44Z)
• Discriminative Feature Attributions: Bridging Post Hoc Explainability and Inherent Interpretability [29.459228981179674]
  ポストホックの説明は、基礎となるタスクにとって重要でない、あるいは差別的でない機能に、誤って高い重要性がある。 一方、モデルアーキテクチャに説明を明示的にエンコードすることでこれらの問題を回避することができる。 本研究では,ディストラクタ消去に頑健なブラックボックスモデルを適応させる手法であるディストラクタ消去調整法(DiET)を提案する。
  論文  参考訳（メタデータ） (2023-07-27T17:06:02Z)
• Advancing Counterfactual Inference through Nonlinear Quantile Regression [77.28323341329461]
  ニューラルネットワークで実装された効率的かつ効果的な対実的推論のためのフレームワークを提案する。 提案手法は、推定された反事実結果から見つからないデータまでを一般化する能力を高める。 複数のデータセットで実施した実証実験の結果は、我々の理論的な主張に対する説得力のある支持を提供する。
  論文  参考訳（メタデータ） (2023-06-09T08:30:51Z)
• Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
  本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。 これは、説明に表される論理述語に基づいて、反実仮説を生成する。 そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
  論文  参考訳（メタデータ） (2022-05-25T03:40:59Z)
• Transport-based Counterfactual Models [0.0]
  反事実を計算するための最先端モデルは非現実的であるか、実現不可能である。 因果モデルがない場合、現実的で実現可能な偽物の設計の問題に対処する。 最適輸送理論は、関連する輸送に基づく対実モデルを定義する。
  論文  参考訳（メタデータ） (2021-08-30T07:28:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。