論文の概要: Missingness Bias Calibration in Feature Attribution Explanations

• arxiv url: http://arxiv.org/abs/2603.04831v1
• Date: Thu, 05 Mar 2026 05:29:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-06 22:06:11.088446
• Title: Missingness Bias Calibration in Feature Attribution Explanations
• Title（参考訳）: 特徴属性説明における欠失バイアス校正
• Authors: Shailesh Sridhar, Anton Xue, Eric Wong,
• Abstract要約: モデルの出力空間の表層的アーティファクトとして,欠陥バイアスを扱えることを示す。 凍結ベースモデルの出力に単純な線形ヘッドを微調整することで、このバイアスを補正する軽量なポストホック法であるMCalを導入する。
• 参考スコア（独自算出の注目度）: 10.789973215750862
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Popular explanation methods often produce unreliable feature importance scores due to missingness bias, a systematic distortion that arises when models are probed with ablated, out-of-distribution inputs. Existing solutions treat this as a deep representational flaw that requires expensive retraining or architectural modifications. In this work, we challenge this assumption and show that missingness bias can be effectively treated as a superficial artifact of the model's output space. We introduce MCal, a lightweight post-hoc method that corrects this bias by fine-tuning a simple linear head on the outputs of a frozen base model. Surprisingly, we find this simple correction consistently reduces missingness bias and is competitive with, or even outperforms, prior heavyweight approaches across diverse medical benchmarks spanning vision, language, and tabular domains.
• Abstract（参考訳）: 一般的な説明法は、しばしば信頼性の低い特徴重要度スコアを生成する。 既存のソリューションは、これを、高価な再トレーニングやアーキテクチャの変更を必要とする、深い表現上の欠陥として扱う。 本研究では,この仮定に挑戦し,モデルの出力空間の表層的アーティファクトとして,欠損バイアスを効果的に扱うことができることを示す。 凍結ベースモデルの出力に単純な線形ヘッドを微調整することで、このバイアスを補正する軽量なポストホック法であるMCalを導入する。 驚くべきことに、この単純な修正は、視力、言語、そして表のドメインにまたがる様々な医学的ベンチマークにまたがる、欠落バイアスを一貫して減らし、それ以前の重み付けアプローチと競合する、あるいは、さらに優れています。

関連論文リスト

• Solving Inverse Problems with FLAIR [68.87167940623318]
  本稿では,フローベース生成モデルを逆問題に先立って活用する学習自由変分フレームワークFLAIRを提案する。 標準画像ベンチマークの結果、FLAIRは再現性やサンプルの多様性の観点から、既存の拡散法や流れ法よりも一貫して優れていることが示された。
  論文  参考訳（メタデータ） (2025-06-03T09:29:47Z)
• Single-weight Model Editing for Post-hoc Spurious Correlation Neutralization [54.8794775172033]
  ニューラルネットワークのトレーニングは、トレーニング損失を最小限に抑えるショートカットとして、最も単純な機能を利用する傾向がある。 これらの特徴のいくつかは、ターゲットラベルと急激な相関関係があり、モデルによる誤った予測につながる可能性がある。 本稿では,一重の修正を行なえる独特な厳密なクラス除去手法を提案する。
  論文  参考訳（メタデータ） (2025-01-24T02:22:42Z)
• Improving Predictor Reliability with Selective Recalibration [15.319277333431318]
  リカレーションは、事前訓練されたモデルで信頼性の高い信頼度を推定する最も効果的な方法の1つである。 そこで我々は,選択モデルがユーザの選択比率を下げることを学ぶテキスト選択的リカレーションを提案する。 以上の結果から,選択的再校正は幅広い選択基準と再校正基準よりも,キャリブレーション誤差が著しく低いことが示唆された。
  論文  参考訳（メタデータ） (2024-10-07T18:17:31Z)
• Looking at Model Debiasing through the Lens of Anomaly Detection [11.113718994341733]
  ディープニューラルネットワークはデータのバイアスに敏感である。 本研究は,偏りと偏りの一致したサンプルを正確に予測することの重要性を示す。 本稿では,異常検出に基づく新しいバイアス同定手法を提案する。
  論文  参考訳（メタデータ） (2024-07-24T17:30:21Z)
• Unmasking Bias in Diffusion Model Training [40.90066994983719]
  拡散モデルが画像生成の主流のアプローチとして登場した。 トレーニングの収束が遅く、サンプリングのカラーシフトの問題に悩まされている。 本稿では,これらの障害は,既定のトレーニングパラダイムに固有のバイアスや準最適性に大きく起因していると考えられる。
  論文  参考訳（メタデータ） (2023-10-12T16:04:41Z)
• Bias in Pruned Vision Models: In-Depth Analysis and Countermeasures [93.17009514112702]
  ニューラルネットワークのパラメータのかなりの部分集合をゼロに設定するプルーニングは、モデル圧縮の最も一般的な方法の1つである。 この現象の既存の証拠にもかかわらず、ニューラルネットワークのプルーニングと誘導バイアスの関係はよく理解されていない。
  論文  参考訳（メタデータ） (2023-04-25T07:42:06Z)
• Debiasing Vision-Language Models via Biased Prompts [79.04467131711775]
  本稿では,テキスト埋め込みにおけるバイアスのある方向を投影することで,視覚言語基盤モデルを疎外する一般的な手法を提案する。 偏平投影行列を組み込んだテキストのみをデバイアスすることで、ロバストな分類器と公正な生成モデルが得られることを示す。
  論文  参考訳（メタデータ） (2023-01-31T20:09:33Z)
• Kernel-Whitening: Overcome Dataset Bias with Isotropic Sentence Embedding [51.48582649050054]
  符号化文の特徴間の相関関係を解消する表現正規化手法を提案する。 またNystromカーネル近似法であるKernel-Whiteningを提案する。 実験により,Kernel-Whiteningは分布内精度を維持しつつ,分布外データセット上でのBERTの性能を著しく向上することが示された。
  論文  参考訳（メタデータ） (2022-10-14T05:56:38Z)
• Linear Adversarial Concept Erasure [108.37226654006153]
  与えられた概念に対応する線形部分空間の同定と消去の問題を定式化する。 提案手法は, トラクタビリティと解釈性を維持しつつ, 深い非線形分類器のバイアスを効果的に軽減し, 高い表現性を有することを示す。
  論文  参考訳（メタデータ） (2022-01-28T13:00:17Z)
• Model-agnostic bias mitigation methods with regressor distribution control for Wasserstein-based fairness metrics [0.6509758931804478]
  より公平な回帰分布を持つ後処理モデルの構築に基づくバイアス緩和手法を提案する。 提案手法は低次元空間において最適化を行い,コストのかかるモデル再訓練を回避する。
  論文  参考訳（メタデータ） (2021-11-19T17:31:22Z)
• Uncertainty Calibration for Ensemble-Based Debiasing Methods [27.800387167841972]
  本稿では,アンサンブルに基づくデバイアス法におけるバイアスのみのモデルに焦点をあてる。 バイアスのみのモデルの不正確な不確実性推定により, バイアス除去性能が損なわれることを示す。 そこで本研究では,バイアスのみのモデルでキャリブレーションを行い,三段階のアンサンブルに基づくデバイアス機構を実現することを提案する。
  論文  参考訳（メタデータ） (2021-11-07T15:13:32Z)
• Learning from others' mistakes: Avoiding dataset biases without modeling them [111.17078939377313]
  最先端自然言語処理(NLP)モデルは、意図したタスクをターゲットとする機能ではなく、データセットのバイアスや表面形状の相関をモデル化することを学ぶことが多い。 これまでの研究は、バイアスに関する知識が利用できる場合に、これらの問題を回避するための効果的な方法を示してきた。 本稿では,これらの問題点を無視する学習モデルについて述べる。
  論文  参考訳（メタデータ） (2020-12-02T16:10:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。