論文の概要: For Those Who Believe in Faithfulness: Optimizing the Area Under Insertion and Deletion Curves for Ranking Relative Feature Importance

• arxiv url: http://arxiv.org/abs/2610.09844v1
• Date: Wed, 07 Oct 2026 11:05:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.869428
• Title: For Those Who Believe in Faithfulness: Optimizing the Area Under Insertion and Deletion Curves for Ranking Relative Feature Importance
• Title（参考訳）: 信仰を信じている人々のために:相対的特徴重要度ランキングのための挿入・削除曲線によるエリアの最適化
• Abstract要約: 帰属法は、入出力関係が熱マップによって特徴づけられる一般的なXAI手法である。 本研究では、この忠実性の概念と、その勾配を近似する方法から目的関数を導出する。 実験により、Ra-NEMは正確な属性を安定かつ効率的に提供することが示された。
• 参考スコア（独自算出の注目度）: 17.621124043276392
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The adoption of machine learning for socially relevant tasks requires effective explainable artificial intelligence (XAI) methods to better understand the behavior of machine learning models. Attribution methods are a popular XAI approach in which input-output relationships are characterized by heat maps that reflect the relative importance of input features for a particular prediction. The quality of such maps is often assessed by measuring faithfulness based on the area under insertion and deletion curves, which measures changes in the model output as features are added and removed. In this study, we derive an objective function from this notion of faithfulness and a way to approximate its gradient. We establish the connection between insertion curves and top-$k$ feature selection, which leads to a loss function measuring the quality of attributions. Randomization of the loss allows us to efficiently approximate its gradient. To show the effectiveness of the general approach, we combine the loss function with the neural explanation mask framework. The resulting method, termed Ra-NEM, can be used with any differentiable model without affecting the model's performance. Experiments demonstrate that Ra-NEM provides accurate attributions robustly and efficiently. Compared to other algorithms, the attributions have not only higher faithfulness but also perform well in terms of other XAI metrics. The high inference speed of Ra-NEM makes the method suitable for online applications. The code is available online: https://github.com/baerminator/Ra_Nem
• Abstract（参考訳）: 社会的に関係のあるタスクに機械学習を採用するには、機械学習モデルの振る舞いをよりよく理解するために、効果的な説明可能な人工知能(XAI)手法が必要である。 属性法は、入力-出力関係が特定の予測に対する入力特徴の相対的重要性を反映したヒートマップによって特徴づけられる一般的なXAI手法である。 このような地図の品質は、挿入・削除曲線の下の領域に基づいて忠実度を測定することで評価されることが多い。 本研究では、この忠実性の概念と、その勾配を近似する方法から目的関数を導出する。 挿入曲線と上位$kの特徴選択の接続を確立することで,属性の質を測る損失関数を導出する。 損失のランダム化は、その勾配を効率的に近似することができる。 一般的なアプローチの有効性を示すために、損失関数とニューラルネットワークによる説明マスクの枠組みを組み合わせる。 結果の方法はRa-NEMと呼ばれ、モデルの性能に影響を与えることなく、任意の微分可能なモデルで使用することができる。 実験により、Ra-NEMは正確な属性を安定かつ効率的に提供することが示された。 他のアルゴリズムと比較して、属性は高い忠実性を持つだけでなく、他のXAIメトリクスの点でも良好に機能する。 Ra-NEMの推論速度は,オンラインアプリケーションに適した手法である。 コードはオンラインで入手できる。 https://github.com/baerminator/Ra_Nem

関連論文リスト

• Nonparametric Data Attribution for Diffusion Models [57.820618036556084]
  生成モデルのデータ属性は、個々のトレーニング例がモデル出力に与える影響を定量化する。 生成画像とトレーニング画像のパッチレベルの類似性によって影響を測定する非パラメトリック属性法を提案する。
  論文  参考訳（メタデータ） (2025-10-16T03:37:16Z)
• Understanding Data Influence with Differential Approximation [63.817689230826595]
  我々は,Diff-Inと呼ばれる連続学習ステップ間の影響の差を蓄積することにより,サンプルの影響を近似する新しい定式化を導入する。 2次近似を用いることで、これらの差分項を高精度に近似し、既存の手法で必要となるモデル凸性を排除した。 Diff-In は既存の影響推定器に比べて近似誤差が著しく低いことを示す。
  論文  参考訳（メタデータ） (2025-08-20T11:59:32Z)
• Efficient Machine Unlearning via Influence Approximation [75.31015485113993]
  インフルエンサーベースのアンラーニングは、個別のトレーニングサンプルがモデルパラメータに与える影響を再トレーニングせずに推定する顕著なアプローチとして現れてきた。 本稿では,暗記(増分学習)と忘れ(未学習)の理論的関連性を確立する。 本稿では、インフルエンス近似アンラーニングアルゴリズムを導入し、インクリメンタルな視点から効率的なマシンアンラーニングを行う。
  論文  参考訳（メタデータ） (2025-07-31T05:34:27Z)
• Re-Visiting Explainable AI Evaluation Metrics to Identify The Most Informative Features [0.0]
  関数性またはプロキシベースのアプローチは、人工知能手法の品質を評価するために使用されるアプローチの1つである。 その中では、選択性(Selectivity)やRemOve And Retrain(ROAR)、Permutation Importance(PI)が最も一般的に使用されるメトリクスである。 本稿では,ROAR や IP が実装された場合のモデルの上と下の境界を予測するための予測精度区間 (EAI) を提案する。
  論文  参考訳（メタデータ） (2025-01-31T17:18:43Z)
• F-Fidelity: A Robust Framework for Faithfulness Evaluation of Explainable AI [15.314388210699443]
  XAI技術は、ディープラーニングモデルから意味のある洞察を抽出することができる。 適切に評価する方法は、未解決の問題である。 我々は,XAIのための堅牢な評価フレームワークとして,F-Fidelity(F-Fidelity)を提案する。
  論文  参考訳（メタデータ） (2024-10-03T20:23:06Z)
• Feature graph construction with static features for malware detection [2.6148103955115043]
  アプリケーションを特徴付けるために,機能グラフに基づくマルウェア検出手法であるMFGraphを導入する。 マルウェア検出タスクにおいて,AUCスコア0.98756を達成し,他のベースラインモデルよりも優れていることを示す。 MFGraphのAUCスコアは1年でわずか5.884%減少し、コンセプトドリフトの影響を受けていないことを示している。
  論文  参考訳（メタデータ） (2024-04-25T06:54:32Z)
• Equation Discovery with Bayesian Spike-and-Slab Priors and Efficient Kernels [57.46832672991433]
  ケルネル学習とBayesian Spike-and-Slab pres (KBASS)に基づく新しい方程式探索法を提案する。 カーネルレグレッションを用いてターゲット関数を推定する。これはフレキシブルで表現力があり、データ空間やノイズに対してより堅牢である。 我々は,効率的な後部推論と関数推定のための予測伝搬予測最大化アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-10-09T03:55:09Z)
• Energy-based Out-of-Distribution Detection for Graph Neural Networks [76.0242218180483]
  我々は,GNNSafeと呼ばれるグラフ上での学習のための,シンプルで強力で効率的なOOD検出モデルを提案する。 GNNSafeは、最先端技術に対するAUROCの改善を最大17.0%で達成しており、そのような未開発領域では単純だが強力なベースラインとして機能する可能性がある。
  論文  参考訳（メタデータ） (2023-02-06T16:38:43Z)
• MACE: An Efficient Model-Agnostic Framework for Counterfactual Explanation [132.77005365032468]
  MACE(Model-Agnostic Counterfactual Explanation)の新たな枠組みを提案する。 MACE法では, 優れた反実例を見つけるための新しいRL法と, 近接性向上のための勾配のない降下法を提案する。 公開データセットの実験は、有効性、空間性、近接性を向上して検証する。
  論文  参考訳（メタデータ） (2022-05-31T04:57:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。