論文の概要: Navigating Disagreement Among Criteria for Evaluating Explanation Faithfulness
- arxiv url: http://arxiv.org/abs/2611.06846v1
- Date: Wed, 04 Nov 2026 18:03:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 03:25:58.227061
- Title: Navigating Disagreement Among Criteria for Evaluating Explanation Faithfulness
- Title(参考訳): 説明充実度評価のための基準値の相違点の探索
- Abstract要約: 評価基準間の不一致について検討し、説明の忠実さを評価するための実践的な道筋を提供する。
我々の研究は、監査人や実践者に対して、誠実さの評価に反する道をナビゲートする手段を与えます。
- 参考スコア(独自算出の注目度): 0.764671395172401
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Faithfulness requires that algorithmic explanations accurately reflect the model's behavior. Yet existing operationalizations of faithfulness can disagree about whether the same explanation is faithful, leaving developers and auditors to choose among conflicting evaluations. In this paper, we investigate disagreement among evaluation criteria and offer a practical path forward for evaluating explanation faithfulness. We first identify how operationalizations of faithfulness differ. We introduce a faithfulness functional that locates their disagreements in what an explanation claims about the model, which comparisons bear on that claim, and how agreement across those comparisons should be aggregated, and we reconstruct existing evaluation criteria within it. We argue these reconstructions support understanding faithfulness as a common though incompletely specified relation between the model and explanation, so the differences reflect choices left open by the general requirement. Justifying an operationalization then comes down to justifying these choices, which, on our view, draws on explanatory, institutional, and normative considerations. We support this argument with a case study of adverse action notices, reconstructing the evaluation implicit in an industry-proposed procedure and identifying which of its choices the setting justifies and which remain open. Our work gives auditors and practitioners a way to navigate disagreeing evaluations of faithfulness. It also explains why the literature should expect multiple operationalizations, while showing how concrete settings can narrow the choice among them. More broadly, our analysis shows how a shared requirement of faithfulness can support contextually justified evaluations despite disagreement among existing metrics.
- Abstract(参考訳): 忠実さは、アルゴリズムによる説明がモデルの振舞いを正確に反映することを要求する。
しかし、既存の忠実な運用は、同じ説明が忠実かどうかに異論があり、開発者と監査官は矛盾する評価の中から選ぶことになる。
本稿では,評価基準の相違について検討し,説明の忠実さを評価するための実践的な道筋を示す。
私たちはまず、誠実さの運用方法がどう違うかを特定する。
本論では, モデルが主張するもの, 比較対象とするもの, 比較対象間の合意がどのように集約されるべきかについて, それらの相違点を特定する忠実度関数を導入し, 既存の評価基準を再構築する。
これらの再構成は、モデルと説明の間に不完全な不完全な関係があるにもかかわらず、信頼感の理解を支援するため、一般的な要求によって残された選択を反映する。
運用の正当化は、これらの選択を正当化することに帰着し、私たちの見解では、説明、制度、規範的考察に重点を置いています。
本論は, 有害な行動通知のケーススタディ, 業界が提案する手続きで暗黙的に評価を再構築し, その設定がどの選択を正当化するか, どれがオープンかを特定することによって支持する。
我々の研究は、監査人や実践者に対して、誠実さの評価に反する道をナビゲートする手段を与えます。
また、文献が複数の操作を期待するべき理由を説明するとともに、具体的な設定がそれらの選択を狭める可能性を示している。
より広範に、我々の分析は、既存のメトリクスの相違にもかかわらず、信頼の共有要件が文脈的に正当化された評価をどのようにサポートできるかを示している。
関連論文リスト
- When Does an Interpretation Count as Established? The Formation, Evaluation, and Responsibility of Interpretation in Generative AI [0.0]
この論文は、社会技術プロセスの中でどのように解釈が認識されるのかを問うものである。
資料とバージョン、明確な役割、失敗、契約修正、責任に関する5つの公的な要件を提案している。
論文 参考訳(メタデータ) (2026-09-04T05:58:41Z) - A Contractualist Argumentation Framework for Moral Decision-Making [0.0]
我々は、スカンロンの契約主義に根ざした道徳的意思決定のための公式な枠組みを提案する。
構造化された議論フレームワークであるASPIC+を用いて、各エージェントの値が道徳的に関連がある理由をどのように決定するかをモデル化する。
論文 参考訳(メタデータ) (2026-08-03T09:10:22Z) - To Compare, or Not to Compare: On Methodological Practices in Evaluating Social Bias [61.40435736418359]
異質なベンチマークを標準化する統一的なフレームワークを導入し、孤立した人口統計評価と強制選択比較設定を対比する。
比較設定は、主に不特定文脈によって引き起こされる潜在識別のアグレッシブな触媒として機能することを示す。
最後に、この比較偏見はモデルサイズと正にスケールする一般化された現象であることを示す。
論文 参考訳(メタデータ) (2026-06-23T13:53:50Z) - Interactive Evaluation Requires a Design Science [90.62695599188204]
大規模言語モデル(LLM)は、ツールや環境、ユーザ、その他のエージェントを通じて、時間とともに機能するシステムとして、ますます多くデプロイされている。
フィールドはインタラクティブなベンチマークを構築し始めたが、その結果のランドスケープは断片化されている。
本論では,対話的評価は原則的評価パラダイムとして扱うべきであると論じる。
論文 参考訳(メタデータ) (2026-05-18T04:03:18Z) - Measuring AI Reasoning: A Guide for Researchers [19.301617369098135]
我々は、最終回答の精度のみではなく、適応的多段階探索の証拠によって推論を評価するべきであると論じている。
拡張性のあるアーキテクチャにおける単一のフォワードパスは、そのような可変深度計算を実現する能力において、構造的に制限されていることを示す。
プロセスベース評価へのシフトを議論し、中間的推論トレースの忠実度と妥当性を第一級評価対象として評価する。
論文 参考訳(メタデータ) (2026-05-04T10:42:26Z) - When Contextual Inference Fails: Cancelability in Interactive Instruction Following [51.2195840589474]
私たちは、コンテキスト意味構築のためのインタラクティブなベンチマークであるBuild What I Meanを紹介します。
BWIMでは、モデルは文脈推論を行うか、小さな通信コストで明確化を要求することによって曖昧さを解決しなければならない。
我々は,不確実性の下でのパートナーブラインド過度明確化や質問逆推定などの準最適戦略を観察する。
論文 参考訳(メタデータ) (2026-03-20T14:46:59Z) - FaithAct: Faithfulness Planning and Acting in MLLMs [12.08093899815684]
不信心は依然として、大きな言語モデルにとって永続的な課題である。
本稿では,各主張対象が視覚的に支持されているか否かを評価することによって,ステップレベルとチェーンレベルの忠実度を定量化するFithEvalを提案する。
我々は、すべての推論ステップにおいて明らかな根拠を強制する忠実第一の計画と行動の枠組みであるFaithActを提案する。
論文 参考訳(メタデータ) (2025-11-11T16:22:49Z) - Logical Satisfiability of Counterfactuals for Faithful Explanations in
NLI [60.142926537264714]
本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。
これは、説明に表される論理述語に基づいて、反実仮説を生成する。
そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
論文 参考訳(メタデータ) (2022-05-25T03:40:59Z) - Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
分析による特徴に基づく説明の新たな評価基準を確立する。
我々は、緩やかに必要であり、予測に十分である新しい説明を得る。
我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
論文 参考訳(メタデータ) (2020-05-31T05:52:05Z) - Towards Faithfully Interpretable NLP Systems: How should we define and
evaluate faithfulness? [58.13152510843004]
ディープラーニングベースのNLPモデルの普及に伴い、解釈可能なシステムの必要性が高まっている。
解釈可能性とは何か、そして高品質な解釈を構成するものは何か?
我々は、解釈が満たすべき異なる望ましい基準をより明確に区別し、忠実度基準に焦点を合わせることを求めている。
論文 参考訳(メタデータ) (2020-04-07T20:15:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。