Fugu-MT 論文翻訳(概要): Fixed Point Explainability

論文の概要: Fixed Point Explainability

arxiv url: http://arxiv.org/abs/2505.12421v2
Date: Sat, 14 Jun 2025 10:59:13 GMT
ステータス: 翻訳完了
システム内更新日: 2025-06-17 15:15:31.08556
Title: Fixed Point Explainability
Title（参考訳）: 固定点説明可能性
Authors: Emanuele La Malfa, Jon Vadillo, Marco Molinari, Michael Wooldridge,
Abstract要約: 本稿では「なぜ回帰」原理に着想を得た固定点説明の形式的概念を紹介する。固定点説明は極小性、安定性、忠実さなどの特性を満たすことを示し、隠れたモデル行動と説明的弱点を明らかにする。
参考スコア（独自算出の注目度）: 3.7023628947782
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: This paper introduces a formal notion of fixed point explanations, inspired by the "why regress" principle, to assess, through recursive applications, the stability of the interplay between a model and its explainer. Fixed point explanations satisfy properties like minimality, stability, and faithfulness, revealing hidden model behaviours and explanatory weaknesses. We define convergence conditions for several classes of explainers, from feature-based to mechanistic tools like Sparse AutoEncoders, and we report quantitative and qualitative results.
Abstract（参考訳）: 本稿では,「なぜ回帰」原理に着想を得た定点説明の形式的概念を紹介し,再帰的応用,モデルと説明器間の相互作用の安定性について検討する。固定点説明は極小性、安定性、忠実さなどの特性を満足し、隠れたモデル行動と説明的弱点を明らかにする。我々は,Sparse AutoEncodersのような機能ベースからメカニスティックツールに至るまで,いくつかのクラスの説明器の収束条件を定義し,定量的および定性的な結果を報告する。

関連論文リスト

On Generating Monolithic and Model Reconciling Explanations in Probabilistic Scenarios [46.752418052725126]
本稿では,確率論的モノリシックな説明とモデル整合的な説明を生成するための新しいフレームワークを提案する。モノリシックな説明のために,本手法は確率論的論理を利用して不確実性を統合し,説明の確率を増大させる。モデル整合性の説明のために,モデル整合性問題の論理に基づく変種を拡張し,確率的人間モデルを考慮したフレームワークを提案する。
論文参考訳（メタデータ） (2024-05-29T16:07:31Z)
Nonparametric Partial Disentanglement via Mechanism Sparsity: Sparse Actions, Interventions and Sparse Temporal Dependencies [58.179981892921056]
この研究は、メカニズムのスパーシティ正則化(英語版)と呼ばれる、アンタングルメントの新たな原理を導入する。本稿では,潜在要因を同時に学習することで,絡み合いを誘発する表現学習手法を提案する。学習した因果グラフをスパースに規則化することにより、潜伏因子を復元できることを示す。
論文参考訳（メタデータ） (2024-01-10T02:38:21Z)
On the stability, correctness and plausibility of visual explanation methods based on feature importance [0.0]
画像分類器の特徴的重要性に基づいて, 説明の安定性, 正確性, 妥当性の相違について検討した。これらの特性を評価するための既存の指標は必ずしも一致せず、説明のための優れた評価基準を構成するものの問題を提起する。
論文参考訳（メタデータ） (2023-10-25T08:59:21Z)
From Robustness to Explainability and Back Again [3.7950144463212134]
本稿では、形式的説明可能性のスケーラビリティの低さに対処し、形式的説明を計算するための新しい効率的なアルゴリズムを提案する。提案アルゴリズムは、代わりに複数のクエリに答えることによって説明を計算し、そのようなクエリの数は、機能数に対して最も線形であるように頑健である。
論文参考訳（メタデータ） (2023-06-05T17:21:05Z)
Towards Faithful Model Explanation in NLP: A Survey [48.690624266879155]
エンドツーエンドのニューラルネットワーク処理(NLP)モデルを理解するのは非常に難しい。モデル説明の一側面は忠実さであり、すなわち、説明はモデルの予測の背後にある推論過程を正確に表現すべきである。我々は,NLPにおける110以上のモデル説明法を忠実度レンズを用いてレビューした。
論文参考訳（メタデータ） (2022-09-22T21:40:51Z)
Logical Satisfiability of Counterfactuals for Faithful Explanations in NLI [60.142926537264714]
本稿では, 忠実度スルー・カウンタファクトの方法論について紹介する。これは、説明に表される論理述語に基づいて、反実仮説を生成する。そして、そのモデルが表現された論理と反ファクトの予測が一致しているかどうかを評価する。
論文参考訳（メタデータ） (2022-05-25T03:40:59Z)
Explainability in Process Outcome Prediction: Guidelines to Obtain Interpretable and Faithful Models [77.34726150561087]
本稿では、プロセス結果予測の分野における説明可能性モデルと説明可能性モデルの忠実性を通して、説明可能性を定義する。本稿では,イベントログの仕様に基づいて適切なモデルを選択することのできる,X-MOPというガイドラインのセットを提案する。
論文参考訳（メタデータ） (2022-03-30T05:59:50Z)
Rethinking Stability for Attribution-based Explanations [20.215505482157255]
説明の安定性を定量化するためにメトリクスを導入し、いくつかの一般的な説明方法が不安定であることを示す。特に、入力の変化、モデル表現、または基礎となる予測子の出力に関する出力説明の変化を測定するための新しい相対安定度指標を提案する。
論文参考訳（メタデータ） (2022-03-14T06:19:27Z)
Evaluations and Methods for Explanation through Robustness Analysis [117.7235152610957]
分析による特徴に基づく説明の新たな評価基準を確立する。我々は、緩やかに必要であり、予測に十分である新しい説明を得る。我々は、現在の予測をターゲットクラスに移動させる一連の特徴を抽出するために、説明を拡張します。
論文参考訳（メタデータ） (2020-05-31T05:52:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。