論文の概要: Feature Attribution Stability Suite: How Stable Are Post-Hoc Attributions?

• arxiv url: http://arxiv.org/abs/2604.02532v1
• Date: Thu, 02 Apr 2026 21:32:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-06 17:20:24.214697
• Title: Feature Attribution Stability Suite: How Stable Are Post-Hoc Attributions?
• Title（参考訳）: 機能属性安定性スイート: ポストホック属性はどの程度安定か?
• Abstract要約: ポストホック特徴属性法は、安全クリティカルな視覚システムに広く展開されている。 本稿では,予測不変フィルタのベンチマークであるFeature Stability Suite (FASS)を紹介する。 FASSは安定性を,構造的類似性,ランク相関,トップkのJaccardオーバーラップという,3つの相補的な指標に分解する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Post-hoc feature attribution methods are widely deployed in safety-critical vision systems, yet their stability under realistic input perturbations remains poorly characterized. Existing metrics evaluate explanations primarily under additive noise, collapse stability to a single scalar, and fail to condition on prediction preservation, conflating explanation fragility with model sensitivity. We introduce the Feature Attribution Stability Suite (FASS), a benchmark that enforces prediction-invariance filtering, decomposes stability into three complementary metrics: structural similarity, rank correlation, and top-k Jaccard overlap-and evaluates across geometric, photometric, and compression perturbations. Evaluating four attribution methods (Integrated Gradients, GradientSHAP, Grad-CAM, LIME) across four architectures and three datasets-ImageNet-1K, MS COCO, and CIFAR-10, FASS shows that stability estimates depend critically on perturbation family and prediction-invariance filtering. Geometric perturbations expose substantially greater attribution instability than photometric changes, and without conditioning on prediction preservation, up to 99% of evaluated pairs involve changed predictions. Under this controlled evaluation, we observe consistent method-level trends, with Grad-CAM achieving the highest stability across datasets.
• Abstract（参考訳）: ポストホック特徴帰属法は、安全クリティカルな視覚システムに広く展開されているが、現実的な入力摂動下での安定性はいまだに不十分である。 既存の指標では, 主に付加雑音下での説明評価, 単一スカラーの崩壊安定性, 予測保存の条件付けに失敗し, モデル感度と説明脆弱性を混同している。 本稿では,予測不変フィルタリングを施行するベンチマークであるFeature Attribution Stability Suite (FASS)を紹介し,安定性を3つの相補的指標(構造的類似性,ランク相関,トップkジャカード重なり合い)に分解し,幾何学的,測光的,圧縮的摂動にまたがって評価する。 Integrated Gradients, GradientSHAP, Grad-CAM, LIME) を4つのアーキテクチャと3つのデータセット (ImageNet-1K, MS COCO, CIFAR-10) で評価した結果, 安定性推定は摂動系と予測不変フィルタに大きく依存していることが判明した。 幾何学的摂動は、光度変化よりもかなり大きな帰属不安定を示し、予測保存を条件にしなければ、評価されたペアの99%は、変化した予測を含む。 この制御された評価の下では、Grad-CAMがデータセット間で最高の安定性を達成し、一貫したメソッドレベルのトレンドを観察する。

関連論文リスト

• The Road Taken: The Role of Optimizers at the Edge of Stability [53.81268610971847]
  安定性のエッジ(Edge of stability)とは、古典的な降下が不安定であると予測されるしきい値より上のヘッセンの固有値が安定である深層学習における現象を指す。 それまでの研究は、最大ヘッセン固有値と学習率に関して安定性の端を定式化していた。 我々は、勾配降下を含む多くの一階法が、これらの理論によって予測される安定性を21.1ドルという大きな因子で著しく破っていることを観察した。
  論文  参考訳（メタデータ） (2026-08-19T01:03:34Z)
• Conformal Changepoint Localization and Root Cause Analysis with Corrupted Observations [55.76952683833966]
  本稿では,データ破損時の信頼性設定サイズを低減するために,重み付きCONCH(W-CONCH)と重み付きCROC(W-CROC)を提案する。 画像ベースおよび実世界の変化点と根本原因ベンチマークの実験は、不確実性ベースの重み付けが信頼性セットのサイズを大幅に減少させることを示している。
  論文  参考訳（メタデータ） (2026-07-29T05:16:59Z)
• Reliability-Aware Prototype Calibration for Frozen Pose-Flow Video Anomaly Detection [7.276043252948729]
  単一の可能性スコアは、通常の行動を隠すことができ、ポーズ・オブザーブレーションノイズに敏感である。 本研究では,ポーズフローバックボーン,キャッシュされたスケルトントラック,評価パイプラインを固定した凍結検知器の設定について検討した。 Reliability-Aware Prototypeは、この設定のためのポストホックスコアキャリブレーション手法である。
  論文  参考訳（メタデータ） (2026-06-18T14:46:38Z)
• Link Prediction or Perdition: the Seeds of Instability in Knowledge Graph Embeddings [2.1174215880331766]
  埋め込みモデル(KGEMs)は知識グラフの完全化のための主要なリンク予測手法である。 標準評価プロトコルは、MRRやHits@$K$のようなランクベースのメトリクスを強調するが、通常、結果の安定性に対するランダムシードの影響を見落としている。 高性能モデルでは, 3次元空間と高変数空間において, 分岐予測が実際に発生する。
  論文  参考訳（メタデータ） (2026-06-02T09:13:50Z)
• Fortress: A Case Study in Stabilizing Search Recommendations via Temporal Data Augmentation and Feature Pruning [2.6494136490021387]
  Fortressは、時間の経過とともに一貫性のない予測スコアに寄与する特徴を特定し、誇張する。 Fortressを,大規模なアプリマーケットプレースにおけるクエリ・ツー・アプリ関連モデルで検証する。
  論文  参考訳（メタデータ） (2026-05-14T18:13:05Z)
• Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
  マルチモーダル学習は、しばしば低品質データの課題に悩まされる。 コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。 私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
  論文  参考訳（メタデータ） (2026-05-05T14:48:52Z)
• SAIF: A Stability-Aware Inference Framework for Medical Image Segmentation with Segment Anything Model [11.410993498576936]
  Segment Anything Model (SAM)は、スケーラブルな医療画像セグメンテーションを可能にするが、フリーズバックボーンとしてデプロイされた場合、推論時の不安定さに悩まされる。 本研究では,プロンプトとしきい値の不確実性を明示的にモデル化し,ロバスト性を向上させるためのトレーニングフリーかつプラグアンドプレイ型推論フレームワークであるStable-Aware Inference Framework (SAIF)を提案する。
  論文  参考訳（メタデータ） (2026-03-13T19:15:34Z)
• Measuring the Fragility of Trust: Devising Credibility Index via Explanation Stability (CIES) for Business Decision Support Systems [3.8615905456206256]
  本稿では,説明安定度(CIES)による信頼度指数(Credibility Index)について紹介する。 CIESは、予測自体だけでなく、予測の背後にある理由が一貫しているかどうかをキャプチャする。 その結果、モデル複雑性は説明信頼性に影響を与え、SMOTEによるクラス不均衡処理は予測性能だけでなく、説明安定性にも影響を及ぼすことが示された。
  論文  参考訳（メタデータ） (2026-03-05T10:11:55Z)
• On the Structural Non-Preservation of Epistemic Behaviour under Policy Transformation [51.56484100374058]
  このような情報条件の相互作用パターンを振る舞い依存として定式化する。 これにより、$$-behavioural equivalenceというプローブ相対的な概念と、政治内行動距離が導かれる。 その結果、共通政策変換の下でプローブ条件の挙動分離が保存されない構造条件が明らかになった。
  論文  参考訳（メタデータ） (2026-02-24T22:55:21Z)
• Not All Preferences Are Created Equal: Stability-Aware and Gradient-Efficient Alignment for Reasoning Models [52.48582333951919]
  ポリシー更新の信号対雑音比を最大化することにより、アライメントの信頼性を高めるために設計された動的フレームワークを提案する。 SAGE(Stability-Aware Gradient Efficiency)は、モデル能力に基づいて候補プールをリフレッシュする粗いきめ細かいカリキュラムメカニズムを統合する。 複数の数学的推論ベンチマークの実験により、SAGEは収束を著しく加速し、静的ベースラインを上回っていることが示された。
  論文  参考訳（メタデータ） (2026-02-01T12:56:10Z)
• Geometric Stability: The Missing Axis of Representations [0.0]
  我々は$geometric$ $stabilityを導入し、摂動下での表現幾何学の信頼性を定量化する。 7つの領域における2,463以上の構成から、安定性と類似性は実証的に非相関性を示す。 安全監視のため、安定性は機能的な幾何学的カナリアとして機能し、CKAよりも2ドル近い速度で構造的なドリフトを検出する。 モデル選択においては、安定性は転送可能性から解離し、転送最適化が生じる幾何学的税制を明らかにする。
  論文  参考訳（メタデータ） (2026-01-14T05:15:22Z)
• MaP: A Unified Framework for Reliable Evaluation of Pre-training Dynamics [72.00014675808228]
  大規模言語モデルの不安定性評価プロセスは、真の学習力学を曖昧にする。 textbfMaPは、アンダーラインMergingアンダーラインとアンダーラインPass@kメトリックを統合するフレームワークです。 実験により、MaPはよりスムーズな性能曲線を示し、ラン間分散を低減し、より一貫性のあるランキングを保証する。
  論文  参考訳（メタデータ） (2025-10-10T11:40:27Z)
• Stable Update of Regression Trees [0.0]
  本稿では,回帰木という,本質的に説明可能な機械学習手法の安定性に着目した。 本稿では,初期モデルの不確実性に基づいてデータポイントを重み付けする正規化手法を提案する。 その結果、提案手法は、類似またはより良い予測性能を達成しつつ、安定性の向上を図っている。
  論文  参考訳（メタデータ） (2024-02-21T09:41:56Z)
• Evaluating Probabilistic Classifiers: The Triptych [62.997667081978825]
  本稿では,予測性能の異なる相補的な側面に焦点をあてた診断グラフィックのトリチチを提案し,研究する。 信頼性図は校正に対処し、受信動作特性(ROC)曲線は識別能力を診断し、マーフィー図は全体的な予測性能と価値を視覚化する。
  論文  参考訳（メタデータ） (2023-01-25T19:35:23Z)
• Evaluating probabilistic classifiers: Reliability diagrams and score decompositions revisited [68.8204255655161]
  確率的に統計的に一貫性があり、最適に結合し、再現可能な信頼性図を自動生成するCORP手法を導入する。 コーパスは非パラメトリックアイソトニック回帰に基づいており、プール・アジャセント・ヴァイオレータ(PAV)アルゴリズムによって実装されている。
  論文  参考訳（メタデータ） (2020-08-07T08:22:26Z)
• Fine-Grained Analysis of Stability and Generalization for Stochastic Gradient Descent [55.85456985750134]
  我々は,SGDの反復的リスクによって制御される新しい境界を開発する,平均モデル安定性と呼ばれる新しい安定性尺度を導入する。 これにより、最良のモデルの振舞いによって一般化境界が得られ、低雑音環境における最初の既知の高速境界が導かれる。 我々の知る限りでは、このことはSGDの微分不能な損失関数でさえも初めて知られている安定性と一般化を与える。
  論文  参考訳（メタデータ） (2020-06-15T06:30:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。