論文の概要: Rethinking Robustness: A New Approach to Evaluating Feature Attribution Methods
- arxiv url: http://arxiv.org/abs/2512.06665v1
- Date: Sun, 07 Dec 2025 05:29:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-09 22:03:54.459304
- Title: Rethinking Robustness: A New Approach to Evaluating Feature Attribution Methods
- Title（参考訳）: ロバストネスを再考する: 特徴帰属手法を評価する新しいアプローチ
- Authors: Panagiota Kiourti, Anu Singh, Preeti Duraipandian, Weichao Zhou, Wenchao Li,
- Abstract要約: 本稿では,モデル出力の違いを無視する帰属的堅牢性の概念に挑戦する。
本稿では, 類似入力の新たな定義, 新たなロバスト性指標, 生成的敵ネットワークに基づく新しい手法を提案する。
- 参考スコア（独自算出の注目度）: 9.184082996211517
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper studies the robustness of feature attribution methods for deep neural networks. It challenges the current notion of attributional robustness that largely ignores the difference in the model's outputs and introduces a new way of evaluating the robustness of attribution methods. Specifically, we propose a new definition of similar inputs, a new robustness metric, and a novel method based on generative adversarial networks to generate these inputs. In addition, we present a comprehensive evaluation with existing metrics and state-of-the-art attribution methods. Our findings highlight the need for a more objective metric that reveals the weaknesses of an attribution method rather than that of the neural network, thus providing a more accurate evaluation of the robustness of attribution methods.
- Abstract（参考訳）: 本稿では,ディープニューラルネットワークにおける特徴帰属手法のロバスト性について検討する。
これは、モデル出力の違いを無視する現在の帰属的堅牢性の概念に挑戦し、帰属的手法の堅牢性を評価する新しい方法を導入する。
具体的には、類似した入力の新たな定義、新しいロバスト性指標、およびこれらの入力を生成する生成逆ネットワークに基づく新しい方法を提案する。
さらに、既存のメトリクスと最先端の属性手法による総合的な評価を行う。
本研究は,ニューラルネットワークよりも属性手法の弱点を明らかにする客観的な指標の必要性を強調し,属性手法のロバスト性をより正確に評価する。
関連論文リスト
- Robustness quantification: a new method for assessing the reliability of the predictions of a classifier [0.14732811715354452]
本研究では、不正確な確率の分野における既存の考え方に基づいて、生成確率分類器の個人予測の信頼性を評価するための新しいアプローチを提案する。
我々は、このアプローチをロバストネス定量化と呼び、不確実性定量化と比較し、シフト分布からサンプリングされた小さなトレーニングセットから学習した分類器でさえもうまく機能し続けていることを示した。
論文 参考訳（メタデータ） (2025-03-28T13:32:10Z) - Advancing Attribution-Based Neural Network Explainability through Relative Absolute Magnitude Layer-Wise Relevance Propagation and Multi-Component Evaluation [0.0]
本稿では,レイヤワイド関連伝播による入力ニューロンの関連性を決定する新しい手法を提案する。
その結果,提案手法の利点が明らかとなった。
本研究では, 忠実性, 頑健性, コントラスト性の概念を組み合わせた新しい評価指標を提案する。
論文 参考訳（メタデータ） (2024-12-12T14:25:56Z) - Exploring Cross-model Neuronal Correlations in the Context of Predicting Model Performance and Generalizability [2.6708879445664584]
本稿では,新しいモデルを用いたモデルの性能評価手法を提案する。
提案手法は,1つのネットワーク内の各ニューロンに対して,類似の出力を生成する他のネットワークにニューロンが存在するかどうかを判定することにより相関性を評価する。
論文 参考訳（メタデータ） (2024-08-15T22:57:39Z) - Rigorous Probabilistic Guarantees for Robust Counterfactual Explanations [80.86128012438834]
モデルシフトに対する反ファクトの堅牢性を計算することはNP完全であることを示す。
本稿では,頑健性の厳密な推定を高い保証で実現する新しい確率論的手法を提案する。
論文 参考訳（メタデータ） (2024-07-10T09:13:11Z) - Towards Evaluating Transfer-based Attacks Systematically, Practically,
and Fairly [79.07074710460012]
ディープニューラルネットワーク(DNN)の敵対的脆弱性に大きな注目を集めている。
ブラックボックスDNNモデルを騙すための転送ベース手法が増えている。
30以上のメソッドを実装した転送ベースアタックベンチマーク(TA-Bench)を確立する。
論文 参考訳（メタデータ） (2023-11-02T15:35:58Z) - A Systematic Evaluation of Node Embedding Robustness [77.29026280120277]
本研究では,ノード埋め込みモデルのランダムおよび逆毒攻撃に対する経験的ロバスト性を評価する。
ネットワーク特性とノードラベルを用いて計算したエッジの追加,削除,再切り替えの戦略を比較した。
その結果,ノード分類はネットワーク再構成とは対照的に,高い性能劣化に悩まされていることがわかった。
論文 参考訳（メタデータ） (2022-09-16T17:20:23Z) - Residual Error: a New Performance Measure for Adversarial Robustness [85.0371352689919]
ディープラーニングの広く普及を制限する大きな課題は、敵の攻撃に対する脆弱さである。
本研究は,ディープニューラルネットワークの対角強靭性を評価するための新しい性能尺度である残留誤差の概念を提示する。
画像分類を用いた実験結果から,提案手法の有効性と有効性を示した。
論文 参考訳（メタデータ） (2021-06-18T16:34:23Z) - A general framework for defining and optimizing robustness [74.67016173858497]
分類器の様々な種類の堅牢性を定義するための厳密でフレキシブルなフレームワークを提案する。
我々の概念は、分類器の堅牢性は正確性とは無関係な性質と考えるべきであるという仮定に基づいている。
我々は,任意の分類モデルに適用可能な,非常に一般的なロバスト性フレームワークを開発する。
論文 参考訳（メタデータ） (2020-06-19T13:24:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。