Fugu-MT 論文翻訳(概要): A Fresh Look at Sanity Checks for Saliency Maps

論文の概要: A Fresh Look at Sanity Checks for Saliency Maps

arxiv url: http://arxiv.org/abs/2405.02383v1
Date: Fri, 3 May 2024 15:47:32 GMT
ステータス: 処理完了
システム内更新日: 2024-05-07 20:10:00.686484
Title: A Fresh Look at Sanity Checks for Saliency Maps
Title（参考訳）: 衛生マップの正当性チェック(動画)
Authors: Anna Hedström, Leander Weber, Sebastian Lapuschkin, Marina Höhne,
Abstract要約: モデルランダム化テスト(MPRT)の2つの修正を提案する。前者はサンプリングによる評価結果に対するノイズの影響を低減し、後者はバイアス付き類似度測定の必要性を回避する。実験の結果,これらの変更により計量信頼性が向上し,説明手法の信頼性向上が図られた。
参考スコア（独自算出の注目度）: 3.371877306561591
License: http://creativecommons.org/licenses/by-nc-sa/4.0/
Abstract: The Model Parameter Randomisation Test (MPRT) is highly recognised in the eXplainable Artificial Intelligence (XAI) community due to its fundamental evaluative criterion: explanations should be sensitive to the parameters of the model they seek to explain. However, recent studies have raised several methodological concerns for the empirical interpretation of MPRT. In response, we propose two modifications to the original test: Smooth MPRT and Efficient MPRT. The former reduces the impact of noise on evaluation outcomes via sampling, while the latter avoids the need for biased similarity measurements by re-interpreting the test through the increase in explanation complexity after full model randomisation. Our experiments show that these modifications enhance the metric reliability, facilitating a more trustworthy deployment of explanation methods.
Abstract（参考訳）: モデルパラメータランダム化テスト(MPRT)は、基本的な評価基準により、eXplainable Artificial Intelligence(XAI)コミュニティで高い評価を受けている。しかし、近年の研究では、MPRTの実証的な解釈に関して、いくつかの方法論的な懸念が提起されている。そこで本研究では,Smooth MPRTとEfficient MPRTの2つの改良点を提案する。前者はサンプリングによる評価結果に対するノイズの影響を低減し、後者は完全モデルランダム化後の説明複雑性の増加を通じて、テストを再解釈することにより、バイアス付き類似度測定の必要性を回避する。実験の結果,これらの変更により計量信頼性が向上し,説明手法の信頼性向上が図られた。

関連論文リスト

Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [55.17761802332469]
テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
論文参考訳（メタデータ） (2024-03-18T05:49:45Z)
Sanity Checks Revisited: An Exploration to Repair the Model Parameter Randomisation Test [2.4821303044292895]
モデルランダム化テスト(MPRT)に2つの適応を導入する。これらの適応は、サンプリングによる評価結果に対するノイズの影響を最小限にする。後者は、複雑性の増大によってテストを再解釈することで、バイアス付き類似度測定の必要性を回避する。
論文参考訳（メタデータ） (2024-01-12T09:21:18Z)
Projection Regret: Reducing Background Bias for Novelty Detection via Diffusion Models [72.07462371883501]
本研究では,非意味情報のバイアスを緩和する効率的な新規性検出手法であるemphProjection Regret(PR)を提案する。 PRは、テスト画像とその拡散ベースの投影の間の知覚距離を計算し、異常を検出する。拡張実験により、PRは生成モデルに基づく新規性検出手法の先行技術よりも有意なマージンで優れていることが示された。
論文参考訳（メタデータ） (2023-12-05T09:44:47Z)
SMRD: SURE-based Robust MRI Reconstruction with Diffusion Models [76.43625653814911]
拡散モデルは、高い試料品質のため、MRIの再生を加速するために人気を博している。推論時に柔軟にフォワードモデルを組み込んだまま、効果的にリッチなデータプリエントとして機能することができる。拡散モデル(SMRD)を用いたSUREに基づくMRI再構成を導入し,テスト時の堅牢性を向上する。
論文参考訳（メタデータ） (2023-10-03T05:05:35Z)
A Semi-Bayesian Nonparametric Estimator of the Maximum Mean Discrepancy Measure: Applications in Goodness-of-Fit Testing and Generative Adversarial Networks [3.623570119514559]
そこで我々は,GoF(Goness-of-fit)テストのための半ベイズ非パラメトリック(セミBNP)手順を提案する。提案手法は,最大平均誤差(MMD)測定のための新しいベイズ推定器を提案する。提案手法は, 誤り仮説の誤認率と受理率を低くすることで, 頻繁なMDD法よりも優れていることを示す。
論文参考訳（メタデータ） (2023-03-05T10:36:21Z)
Piecewise Deterministic Markov Processes for Bayesian Neural Networks [20.865775626533434]
現代のベイズニューラルネットワーク(BNN)の推論は、しばしば変分推論処理に依存し、独立性や後部の形態に反する仮定を示唆する。新しいPiecewise Deterministic Markov Process (PDMP) サンプリングはサブサンプリングを許容するが、サンプリングが難しい不均一なPoisson Process (IPP) モデルを導入する。本研究はIPPからのサンプリングのための新しい汎用的かつ適応的なスライニング手法を導入し、BNNにおける推論のためのPDMPの適用をいかに加速するかを示す。
論文参考訳（メタデータ） (2023-02-17T06:38:16Z)
Shortcomings of Top-Down Randomization-Based Sanity Checks for Evaluations of Deep Neural Network Explanations [67.40641255908443]
モデルランダム化に基づく正当性チェックの限界を,説明書の評価のために同定する。トップダウンモデルランダム化は、フォワードパスアクティベーションのスケールを高い確率で保存する。
論文参考訳（メタデータ） (2022-11-22T18:52:38Z)
Efficient Test-Time Model Adaptation without Forgetting [60.36499845014649]
テストタイム適応は、トレーニングとテストデータの間の潜在的な分散シフトに取り組むことを目指している。信頼性および非冗長なサンプルを同定するためのアクティブなサンプル選択基準を提案する。また、重要なモデルパラメータを劇的な変化から制約するFisher regularizerを導入します。
論文参考訳（メタデータ） (2022-04-06T06:39:40Z)
AdaPT-GMM: Powerful and robust covariate-assisted multiple testing [0.7614628596146599]
偽発見率(FDR)制御を用いた複数検定の実証的ベイズ法を提案する。本手法は,アダプティブp値しきい値法(AdaPT)をマスク方式の一般化により洗練する。我々は、AdaPT-GMMと呼ばれる新しい手法が一貫して高出力を実現することを、広範囲にわたるシミュレーションと実データ例で示す。
論文参考訳（メタデータ） (2021-06-30T05:06:18Z)
Bayesian Uncertainty Estimation of Learned Variational MRI Reconstruction [63.202627467245584]
我々は,モデル不連続な不確かさを定量化するベイズ変分フレームワークを提案する。提案手法はMRIのアンダーサンプを用いた再建術の術後成績を示す。
論文参考訳（メタデータ） (2021-02-12T18:08:14Z)
A Modified Perturbed Sampling Method for Local Interpretable Model-agnostic Explanation [35.281127405430674]
LIME(Local Interpretable Model-Agnostic Explanation)は、任意の分類器の予測を忠実に説明する手法である。本稿では,LIME (MPS-LIME) のための改良型摂動サンプリング操作を提案する。画像分類において、MPS-LIMEはスーパーピクセル画像を非方向グラフに変換する。
論文参考訳（メタデータ） (2020-02-18T09:03:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。