論文の概要: Zero-Shot Faithful Textual Explanations via Directional-Derivative Influence on Predictions

• arxiv url: http://arxiv.org/abs/2605.16877v1
• Date: Sat, 16 May 2026 08:39:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:47.212918
• Title: Zero-Shot Faithful Textual Explanations via Directional-Derivative Influence on Predictions
• Title（参考訳）: 方向微分によるゼロショット忠実テキスト記述の予測への影響
• Abstract要約: テキストによる説明は、内部表現を探索することで、画像分類器をより透明にすることを目的としている。 FaithTraceは、説明によって誘導される表現が、どの程度クラスロジットを変更するかを測定する。 我々は、この影響スコアを定量的評価尺度に拡張し、テキスト説明の忠実度評価のギャップを埋める手助けをする。
• 参考スコア（独自算出の注目度）: 12.961180148172199
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Zero-shot textual explanations aim to make image classifiers more transparent by probing their internal representations, without relying on task-specific supervision or LVLMs. However, existing methods often miss the features that truly drive the prediction, resulting in limited \textit{faithfulness} to the evidence underlying the model's decision. To address this, we propose FaithTrace. Motivated by the idea that faithful explanations should describe concepts that strongly influence the prediction, FaithTrace directly measures how much the representation induced by the explanation changes the class logit. We introduce an influence score, computed as the directional derivative of the class logit along the text-induced direction in the classifier's feature space, and use it as a proxy for faithfulness. Moreover, we extend this influence score into quantitative evaluation metrics, helping fill the gap in faithfulness evaluation for textual explanations. Experiments show that FaithTrace yields more faithful explanations than baselines, facilitating a more accurate understanding of the model. The code will be publicly released.
• Abstract（参考訳）: ゼロショットテキストの説明は、タスク固有の監督やLVLMに頼ることなく、内部表現を探索することで、画像分類器をより透明にすることを目的としている。 しかし、既存のメソッドは予測を真に進める特徴を見逃しがちであり、結果としてモデルの判断を下す証拠に限定された「textit{faithfulness}」をもたらす。 この問題に対処するため、我々はFaithTraceを提案する。 忠実な説明が予測に強く影響を及ぼす概念を記述するべきだという考えに動機付けられ、FaithTrace は説明によって引き起こされる表現がどの程度クラスロジットを変更するかを直接測定する。 本稿では,クラスロジットの方向微分として計算されたインフルエンススコアを,分類者の特徴空間におけるテキスト誘導方向に沿って導入し,忠実性のプロキシとして利用する。 さらに、この影響スコアを定量的評価尺度に拡張し、テキスト説明に対する忠実度評価のギャップを埋める手助けをする。 実験により、FaithTraceはベースラインよりも忠実な説明をもたらし、モデルのより正確な理解を促進することが示されている。 コードは公開されます。

関連論文リスト

• Faithfulness Serum: Mitigating the Faithfulness Gap in Textual Explanations of LLM Decisions via Attribution Guidance [57.17102098930037]
  大規模言語モデル(LLM)は高い性能を達成し、NLPに革命をもたらした。 説明責任の欠如はブラックボックスとして扱われ、透明性と信頼を求めるドメインでの使用を制限する。 本研究では,注意レベルの介入を通じて説明生成を導くことにより,信頼感を高める訓練自由手法を提案する。
  論文  参考訳（メタデータ） (2026-04-15T18:32:32Z)
• I Predict Therefore I Am: Is Next Token Prediction Enough to Learn Human-Interpretable Concepts from Data? [76.15163242945813]
  大規模言語モデル (LLM) は、多くの人が知能の形式を示すと結論づけている。 本稿では,潜在離散変数として表現される人間解釈可能な概念に基づいてトークンを生成する新しい生成モデルを提案する。
  論文  参考訳（メタデータ） (2025-03-12T01:21:17Z)
• Towards Faithful Natural Language Explanations: A Study Using Activation Patching in Large Language Models [29.67884478799914]
  大きな言語モデル(LLM)は、その答えを正当化するために説得力のある自然言語説明(NLE)を生成することができる。 近年,NLEの忠実度を測定するための様々な手法が提案されている。 これらのアプローチは、確立された忠実性の定義に従って包括的でも正しくも設計されていない、と我々は主張する。
  論文  参考訳（メタデータ） (2024-10-18T03:45:42Z)
• Evaluating Human Alignment and Model Faithfulness of LLM Rationale [66.75309523854476]
  大規模言語モデル(LLM)が,その世代を理論的にどのように説明するかを考察する。 提案手法は帰属に基づく説明よりも「偽り」が少ないことを示す。
  論文  参考訳（メタデータ） (2024-06-28T20:06:30Z)
• On the Faithfulness of Vision Transformer Explanations [23.963269554498716]
  ポストホックの説明では、サリエンススコアを入力ピクセルに割り当て、人間の理解可能なヒートマップを提供する。 サリエンス誘導忠実度係数(SaCo)は,サリエンス分布の本質的情報を利用した新しい評価指標である。 我々のSaCoは、勾配と多層アグリゲーションを用いることで、注意に基づく説明の忠実さを著しく向上させることができることを示した。
  論文  参考訳（メタデータ） (2024-04-01T18:41:30Z)
• FaithLM: Towards Faithful Explanations for Large Language Models [60.45183469474916]
  大規模言語モデルの忠実度を評価し改善するモデルに依存しないフレームワークであるFaithLMを紹介した。 FaithLMは一貫して忠実度を高め、強い自己説明ベースラインよりも人間の合理性に整合した説明を生成する。
  論文  参考訳（メタデータ） (2024-02-07T09:09:14Z)
• Regressor-Segmenter Mutual Prompt Learning for Crowd Counting [70.49246560246736]
  本稿では,アノテーションの差によるバイアスや不正確性を解決するために,相互学習(mPrompt)を提案する。 実験により、mPromptは平均誤差(MAE)を著しく減少させることが示された。
  論文  参考訳（メタデータ） (2023-12-04T07:53:59Z)
• Counterfactuals of Counterfactuals: a back-translation-inspired approach to analyse counterfactual editors [3.4253416336476246]
  我々は、反事実的、対照的な説明の分析に焦点をあてる。 本稿では,新しい逆翻訳に基づく評価手法を提案する。 本研究では, 予測モデルと説明モデルの両方の振る舞いについて, 反事実を反復的に説明者に与えることで, 価値ある洞察を得ることができることを示す。
  論文  参考訳（メタデータ） (2023-05-26T16:04:28Z)
• Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
  本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。 これは、説明に表される論理述語に基づいて、反実仮説を生成する。 そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
  論文  参考訳（メタデータ） (2022-05-25T03:40:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。