論文の概要: On the Disagreement in Perturbation-based xAI -- Benchmarking Perturbation Choices for Flood Detection from SAR Images
- arxiv url: http://arxiv.org/abs/2607.14743v1
- Date: Thu, 16 Jul 2026 09:12:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:33.052805
- Title: On the Disagreement in Perturbation-based xAI -- Benchmarking Perturbation Choices for Flood Detection from SAR Images
- Title（参考訳）: 摂動型xAIの劣化について --SAR画像からの洪水検出のための摂動選択のベンチマーク-
- Abstract要約: 摂動に基づくxAI法は、ディープラーニングモデルの振る舞いと予測を分析するために広く用いられている。
摂動パイプラインの2つの重要なパラメータに着目し,摂動領域のサイズと形状について検討した。
摂動戦略間の一貫性とモデルの推論に対する忠実性を評価する。
- 参考スコア（独自算出の注目度）: 8.85335952493336
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Perturbation-based xAI methods are widely used to analyze the behavior and predictions of deep learning models. By altering input regions and measuring the resulting changes in class probabilities with respect to the original image, they assign relevance scores and generate heatmaps that reflect each region's contribution to the prediction. Despite their apparent simplicity, however, perturbation-based methods are sensitive to parameter choices. In this work, we focus on two key parameters of the perturbation pipeline, namely the patch geometry, including the size and shape of the perturbed regions, and the perturbation type, defined by the replacement scheme. Grounded in the use case of flood detection from Synthetic Aperture Radar imagery, we conduct a comprehensive investigation of how relevance estimation changes under different perturbation settings. Beyond visual inspection of the resulting relevance maps, we evaluate their consistency across perturbation strategies and their faithfulness to the model's reasoning. We demonstrate how different perturbation choices can steer the resulting relevance maps, yielding ambiguous and even contradictory explanations. Our findings emphasize the importance of methodological settings in perturbation-based xAI. They underscore the need to carefully inspect and evaluate perturbation choices and to treat them as an integral part when interpreting explanations, ensuring a robust understanding of both the explanations and model predictions.
- Abstract（参考訳）: 摂動に基づくxAI法は、ディープラーニングモデルの振る舞いと予測を分析するために広く用いられている。
入力領域を変更して、元の画像に対するクラス確率の変化を計測することにより、関連するスコアを割り当て、各領域の予測への貢献を反映したヒートマップを生成する。
しかし、その明らかな単純さにもかかわらず、摂動に基づく手法はパラメータの選択に敏感である。
本研究では、摂動パイプラインの2つの重要なパラメータ、すなわち、摂動領域のサイズと形状を含むパッチ幾何学と、置換方式で定義された摂動型に焦点を当てる。
合成開口レーダ画像からの洪水検出のユースケースにおいて,異なる摂動条件下での相対性評価がどのように変化するかを包括的に調査する。
得られた関連マップの視覚的検査以外にも、摂動戦略間の一貫性とモデルの推論への忠実性を評価する。
我々は、異なる摂動選択が結果の関連マップを操り、曖昧で矛盾する説明をもたらすことを実証する。
本研究は,摂動型xAIにおける方法論的設定の重要性を強調した。
彼らは、摂動選択を慎重に検査し評価し、説明を解釈する際に不可欠な部分として扱う必要性を強調し、説明とモデル予測の両方の堅牢な理解を確保する。
関連論文リスト
- What Makes a Representation Good for Single-Cell Perturbation Prediction? [37.84894703250901]
PerturbedVAEは、この信号の不均衡を解決するために設計された一般的なフレームワークである。
摂動効果を確実に回復できる条件を特徴付ける識別可能性分析を提供する。
PerturbedVAEは、広く使われている複数の評価設定で最先端のパフォーマンスを達成する。
論文 参考訳（メタデータ） (2026-05-19T04:30:11Z) - K-Models: a Flexible and Interpretable Method for Ordinal Clustering with Application to Antigen-Antibody Interaction Profiles [65.21921642886367]
K-Modelsは、順序的制約を統合し、観察された機能プロファイルを生成するランダムプロセスの基本的な要素を推定する新しいフレームワークである。
提案手法はシミュレーションと実世界の応用を通して評価する。
論文 参考訳（メタデータ） (2026-05-14T13:35:44Z) - Investigating Anisotropy in Visual Grounding under Controlled Counterfactual Perturbations [1.423280626666929]
接地モデルは意味的にミスマッチしたキャプションで評価されることは滅多にない。
本研究は, 埋込異方性が反現実的失敗に寄与するかどうかを考察する。
論文 参考訳（メタデータ） (2026-05-09T17:54:31Z) - VIKING: Deep variational inference with stochastic projections [48.946143517489496]
変分平均場近似は、現代の過度にパラメータ化されたディープニューラルネットワークと競合する傾向がある。
パラメータ空間の2つの独立線型部分空間を考える単純な変分族を提案する。
これにより、オーバーパラメトリゼーションを反映した、完全に相関した近似後部を構築することができる。
論文 参考訳（メタデータ） (2025-10-27T15:38:35Z) - Introspection in Learned Semantic Scene Graph Localisation [7.222321327403328]
本研究は,セマンティックスが自己監督型コントラスト型セマンティックローカライゼーションフレームワークにおいて,セマンティックスがローカライズ性能とロバスト性にどのように影響するかを考察する。
本研究では, モデルが環境騒音をフィルタし, 特異なランドマークを日常的に乱雑に優先するかどうかを調査するために, 徹底的なポストホックイントロスペクション分析を行う。
以上の結果から,このモデルでは位置定義に関する意味論的に健全な関係を学習し,視覚的・構造的な難易度で説明可能な登録を可能にすることが示唆された。
論文 参考訳（メタデータ） (2025-10-08T14:21:45Z) - Unifying Perplexing Behaviors in Modified BP Attributions through Alignment Perspective [61.5509267439999]
GBP, RectGrad, LRP, DTD などの手法の統一理論フレームワークを提案する。
活性化ニューロンの重みを結合して入力アライメントを実現することを実証した。
このアライメントにより、可視化品質が向上し、重量ランダム化に対する感度が低下する。
論文 参考訳（メタデータ） (2025-03-14T07:58:26Z) - Geo-Localization Based on Dynamically Weighted Factor-Graph [74.75763142610717]
特徴に基づくジオローカライゼーションは、航空画像から抽出された特徴と車両のセンサーによって検出された特徴とを関連付けることに依存する。
これにより、ランドマークの種類は両方のソースから観測できなければならない。
車両軌道推定のための動的重み付き因子グラフモデルを提案する。
論文 参考訳（メタデータ） (2023-11-13T12:44:14Z) - Prediction under Latent Subgroup Shifts with High-Dimensional
Observations [30.433078066683848]
遅延シフト適応を用いたグラフィカルモデルにおける新しい予測手法を提案する。
RPMの新規な形態は、ソース環境における因果潜伏構造を特定し、ターゲットの予測に適切に適応する。
論文 参考訳（メタデータ） (2023-06-23T12:26:24Z) - Semantic Change Detection with Asymmetric Siamese Networks [71.28665116793138]
2つの空中画像が与えられた場合、セマンティックチェンジ検出は、土地被覆のバリエーションを特定し、それらの変化タイプをピクセルワイド境界で識別することを目的としている。
この問題は、正確な都市計画や天然資源管理など、多くの地球ビジョンに関連するタスクにおいて不可欠である。
本研究では, 広く異なる構造を持つモジュールから得られた特徴対を用いて意味変化を同定し, 同定するための非対称システマネットワーク(ASN)を提案する。
論文 参考訳（メタデータ） (2020-10-12T13:26:30Z) - Learning Disentangled Representations with Latent Variation
Predictability [102.4163768995288]
本稿では,潜在不整合表現の変動予測可能性について述べる。
逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。
本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
論文 参考訳（メタデータ） (2020-07-25T08:54:26Z) - DANCE: Enhancing saliency maps using decoys [35.46266461621123]
本稿では,2段階の手順に従うことで,サリエンシ手法の堅牢性を向上させる枠組みを提案する。
まず、中間表現を変更せずに入力サンプルを微妙に変化させる摂動機構を導入する。
第2に、摂動サンプルの塩分マップを計算し、塩分マップを集約する新しい方法を提案する。
論文 参考訳（メタデータ） (2020-02-03T01:21:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。