論文の概要: FMMO: Detecting the Divergence Between Local Attribution and Global Drift

• arxiv url: http://arxiv.org/abs/2609.06173v1
• Date: Sat, 05 Sep 2026 16:25:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.213051
• Title: FMMO: Detecting the Divergence Between Local Attribution and Global Drift
• Title（参考訳）: FMMO:ローカル属性とグローバルドリフトの差異を検出する
• Abstract要約: デプロイ後のドリフトは、アルゴリズム的な説明責任に重大なリスクをもたらす。 モデル信頼性が低下しても, 局所帰属法が誤導安定性を示すことを示す。 本研究では,局所的な説明安定とグローバルな分布シフトの相違を明らかにするために,FMMO(Model Monitoring and Observability)フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 2.007262412327553
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Post-deployment drift poses a critical risk to algorithmic accountability, particularly when ground truth labels are delayed and performance degradation becomes a "silent failure". While Explainable AI (XAI) is often relied upon to audit these shifts, we demonstrate that popular local attribution methods (e.g., TreeSHAP) can exhibit misleading stability even as model reliability collapses. In this paper, we propose a Framework for Model Monitoring and Observability (FMMO) designed to expose the divergence between local explanation stability and global distribution shifts. Using benchmark, synthetic, and real-world datasets, we show that local XAI methods fail to flag drift-induced disparate impact, specifically where False Positive Rates spike for protected groups while feature attributions remain unchanged. By integrating global surrogate models with model utilization measurements, FMMO mitigates this fairness blind spot, ensuring that stakeholders can detect discriminatory deterioration that standard local XAI tools overlook.
• Abstract（参考訳）: デプロイ後のドリフトは、特に地上の真理ラベルが遅延し、パフォーマンス劣化が「サイレントな失敗」になる場合、アルゴリズムのアカウンタビリティに重大なリスクをもたらす。 説明可能なAI(XAI)はしばしばこれらのシフトを監査するために頼られているが、一般的な局所帰属手法(例:TreeSHAP)はモデルの信頼性が崩壊しても誤解を招く安定性を示す。 本稿では,局所的な説明安定とグローバルな分布シフトの相違を明らかにするために,モデル監視と観測可能性のためのフレームワーク(FMMO)を提案する。 ベンチマーク, 合成, 実世界のデータセットを用いて, 局所的なXAI手法はドリフトによって引き起こされる異なる影響のフラグ付けに失敗することを示した。 グローバルサロゲートモデルとモデル利用の測定を統合することで、FMMOはこの公正な盲点を緩和し、標準のXAIツールが見落としている差別的劣化をステークホルダーが検出できるようにする。

関連論文リスト

• Where World Models Break: Natural-Input Failure Discovery [13.330611636170103]
  本研究では, 自然入力障害発見問題を定式化し, 重度の予測リスクを生じさせる環境変数条件と行動プレフィックスを求める。 本研究では,不確実性誘導型グローバルサーチと型付き局所置換器とのペアリングにより,有効な入力の基盤構造を利用するBassenLensを提案する。
  論文  参考訳（メタデータ） (2026-08-23T13:53:15Z)
• Localizing to Debias: A Patch-Level Benchmark and Baseline for Weakly Supervised Spatial Anomaly Detection [7.474723197425266]
  本研究では,時間的異常検出を微細な空間的局所化でブリッジするスパース時間的枠組みを提案する。 SST-WSDLVAは動的スパーシフィケーションを通して最も異常な時間領域に焦点を当てている。 我々は3つの公開データセットに対するフレームレベルの空間アノテーションとメソッドに依存しない評価を公開している。
  論文  参考訳（メタデータ） (2026-08-12T13:27:20Z)
• Are Tabular Foundation Models Robust to Realistic Query Distribution Shifts in Microbiome Data? [2.4513329242158512]
  タブラル基礎モデル (TFMs) は, マイクロバイオーム存在量データに対して高い性能を示すが, 現実的な分布シフト下でのロバスト性は乏しい。 我々は,4つの疾患コンテキストにまたがる6つの腸内マイクロバイオームデータセットにおける生物学的にインスパイアされた摂動に対するTFMの堅牢性を評価するベンチマークを導入する。
  論文  参考訳（メタデータ） (2026-06-23T15:52:35Z)
• Discovery of Hidden Miscalibration Regimes [52.452902154360565]
  モデルは何らかの入力を体系的に過信し、他人を過信することがある。 対応する誤校正分野を定義し,それを推定するための診断フレームワークを提案する。 提案手法は,入力空間のキャリブレーションを意識した表現を学習し,学習幾何学におけるカーネルの平滑化による符号付き局所的誤校正を推定する。
  論文  参考訳（メタデータ） (2026-05-13T13:07:50Z)
• Learning Stable Predictors from Weak Supervision under Distribution Shift [2.8410059035029955]
  基盤トラストラベルが利用できない場合には、弱さやプロキシの監視から学ぶことが一般的である。 我々はこれを監督ドリフトとして形式化し、文脈間でのP(y | x, c)の変化として定義される。 我々はCRISPR-Cas13d実験において、RNA-seq応答から誘導効果を間接的に推定する実験を行った。
  論文  参考訳（メタデータ） (2026-04-05T23:46:49Z)
• RISE: Interactive Visual Diagnosis of Fairness in Machine Learning Models [3.409008933025072]
  textitRISE(Residual Inspection through Sorted Evaluation)は,分類された残基を解釈可能なパターンに変換するインタラクティブな可視化ツールである。 残留曲線構造を形式的公正性の概念に結合することにより、RISEは局所的な不均一性診断、環境間の部分群比較、隠された公正性問題の検出を可能にする。
  論文  参考訳（メタデータ） (2026-02-04T09:01:21Z)
• Fair Deepfake Detectors Can Generalize [51.21167546843708]
  共同設立者(データ分散とモデルキャパシティ)の制御により,公正な介入による一般化が向上することを示す。 この知見を応用して, 逆正当性重み付けとサブグループワイド特徴正規化を併用し, 新たなアライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・アライメント・インセンティブ・インターベンション・インベンション・インテクション(DAID)を提案する。 DAIDは、いくつかの最先端技術と比較して、公平性と一般化の両方において一貫して優れた性能を達成する
  論文  参考訳（メタデータ） (2025-07-03T14:10:02Z)
• TrustLoRA: Low-Rank Adaptation for Failure Detection under Out-of-distribution Data [62.22804234013273]
  本稿では,共変量および意味的シフトの両条件下での拒絶による分類を統一し,促進する,単純な故障検出フレームワークを提案する。 キーとなる洞察は、障害固有の信頼性知識を低ランクアダプタで分離し、統合することにより、障害検出能力を効果的かつ柔軟に向上できるということです。
  論文  参考訳（メタデータ） (2025-04-20T09:20:55Z)
• Causal Disentanglement Hidden Markov Model for Fault Diagnosis [55.90917958154425]
  本研究では, 軸受破壊機構の因果性を学ぶために, 因果解離隠れマルコフモデル (CDHM) を提案する。 具体的には、時系列データをフル活用し、振動信号を断層関連要因と断層関連要因に段階的に分解する。 アプリケーションの範囲を広げるために、学習された非絡み合った表現を他の作業環境に転送するために、教師なしのドメイン適応を採用する。
  論文  参考訳（メタデータ） (2023-08-06T05:58:45Z)
• Change Detection for Local Explainability in Evolving Data Streams [72.4816340552763]
  局所的特徴帰属法はポストホックやモデルに依存しない説明法として人気がある。 ローカルな属性が、ストリーミングやオンラインアプリケーションのような、現実的で絶えず変化する設定でどのように振る舞うかは、しばしば不明である。 局所変化と概念ドリフトを検出するフレキシブルでモデルに依存しないCDLEEDSを提案する。
  論文  参考訳（メタデータ） (2022-09-06T18:38:34Z)
• Tracking the risk of a deployed model and detecting harmful distribution shifts [105.27463615756733]
  実際には、デプロイされたモデルのパフォーマンスが大幅に低下しないという、良心的なシフトを無視することは理にかなっている。 我々は,警告を発射する有効な方法は,(a)良性な警告を無視しながら有害なシフトを検知し,(b)誤報率を増大させることなく,モデル性能の連続的なモニタリングを可能にすることを論じる。
  論文  参考訳（メタデータ） (2021-10-12T17:21:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。