論文の概要: Does Explainability Survive Data Drift?

• arxiv url: http://arxiv.org/abs/2610.05379v1
• Date: Sun, 04 Oct 2026 17:12:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 14:15:47.136682
• Title: Does Explainability Survive Data Drift?
• Title（参考訳）: 説明責任はデータドリフトを救えるか?
• Abstract要約: 本稿では,データドリフト時に説明が崩壊するかどうかを考察する。 また、漂流前に生じた説明が、それらを置き換えるモデルの判断に忠実であるかどうかについても検討した。 その結果、事前の説明は、再訓練されたモデルに対する決定的な関係を保っているが、新しく生成された説明よりも一貫して忠実ではないことが明らかとなった。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Model performance monitoring is a standard practice in machine learning deployments. Detection performance is tracked continuously, and model decay is expected as the relationship between the feature and target variables degrades, a phenomenon known as concept drift. Explanation fidelity, however, is rarely monitored with the same discipline, even in domains such as financial systems, healthcare, and other regulated environments where explanations are required for governance purposes. This paper investigates whether explanations can decay under data drift, even when the feature-target relationship remains stable, and whether explanations produced before drift occurs remain faithful to the decisions of the model that replaces them. Using the IEEE-CIS Transaction Fraud Detection dataset, we find statistically significant covariate shift but no statistically significant evidence of concept drift under the implemented conditional-drift tests, thereby providing an empirical setting in which input distributional change can be studied separately from detectable changes in the feature-target relationship. Local explanations are generated with ExIFFI and evaluated at three levels: path validity, structural behaviour, and fidelity under controlled intervention. Results show that while prior explanations retain substantial decision relevance to a retrained model, they are consistently less faithful than newly generated explanations, with no evidence of a systematically widening gap across the evaluated windows. The study shows that explanation fidelity requires its own monitoring, that structural stability of explanations does not guarantee functional fidelity, and that explanations should be treated as artifacts tied to the model that produced them.
• Abstract（参考訳）: モデルパフォーマンス監視は、機械学習デプロイメントにおける標準的なプラクティスである。 検出性能は連続的に追跡され、特徴変数と対象変数の関係が劣化するとモデル崩壊が予想される。 しかし、金融システムや医療などの規制された環境においても、ガバナンスの目的のために説明が必要な場合であっても、説明の信条が同じ規律で監視されることは稀である。 本稿では,データドリフト下では,特徴-目標関係が安定していても,説明が崩壊するかどうか,ドリフト前の説明がそれに代わるモデルの判断に忠実であるかどうかを考察する。 IEEE-CIS Transaction Fraud Detection データセットを用いて、統計的に有意な共変量シフトを求めるが、実装された条件付きドリフトテストによる概念の漂流の統計的に有意な証拠は見つからず、特徴-対象関係における検出可能な変化から入力分布変化を別々に研究できる経験的設定を提供する。 局所的な説明はExIFFIを用いて生成され、経路の妥当性、構造的挙動、制御された介入下での忠実さの3つのレベルで評価される。 その結果、事前の説明は、再訓練されたモデルに対する決定的関連性を保っているが、新しく生成された説明よりも一貫して忠実ではないことが示され、評価されたウィンドウ間で体系的にギャップが広がる証拠は存在しない。 この研究は、説明の忠実さには独自のモニタリングが必要であり、説明の構造的安定性は機能的忠実さを保証せず、説明はそれらを生成したモデルに関連付けられたアーティファクトとして扱うべきであることを示している。

関連論文リスト

• Concept Drift from a Causal Perspective [8.847214834412396]
  コンセプトドリフトは、実世界のデータストリームでよく見られる現象である。 ほとんどの既存の定義では、ドリフトは共同分布の$P(mathbfx, y)$の変化として特徴づけられる。 本稿では,構造因果モデルに基づく概念漂流の因果的視点を紹介する。
  論文  参考訳（メタデータ） (2026-09-21T19:30:02Z)
• Certified Interventional Fidelity: Anytime-Valid, Adaptive Evaluation of Causal Claims in Mechanistic Interpretability [0.0]
  Certified Interventional Fidelity (CIF)は、介入解釈可能性評価のための統計層である。 CIFは、高忠実性クレームを認定し、明らかな方法の違いが統計的にサポートされていないことを示し、介入分布に対する感度を明示する。
  論文  参考訳（メタデータ） (2026-07-09T10:55:04Z)
• DriftScope: Measuring The Hidden Effects of Diffusion Model Adaptation [50.584834483403675]
  新しい視覚概念を学習するか、望ましくないものを消去するか、事前学習したテキスト・画像拡散モデルに適応させることは、意図した効果だけで日常的に評価される。 適応が意味論的に無関係な概念を、構造的にメトリクスを集約することができない方法で体系的に損なうことを実証する。 DriftScopeは、任意の2つのモデルチェックポイントを取り込み、視覚的概念が最も移行したトークンのランクリストを返す、プロンプトレベルの診断ツールである。
  論文  参考訳（メタデータ） (2026-06-30T20:57:51Z)
• Think Locally, Explain Globally: Graph-Guided LLM Investigations via Local Reasoning and Belief Propagation [5.191980417814362]
  LLMエージェントは、ほとんどの環境が静的で、必要な情報がモデルのコンテキストウインドウに適合する場合、排他的になる。 直腸型薬剤は、この体制では特に脆い。 本稿では,LLMが限定的な局所的エビデンスマイニングとラベリングを行うためのフレームワークであるEoGを提案する。
  論文  参考訳（メタデータ） (2026-01-25T17:27:19Z)
• Fair and Explainable Credit-Scoring under Concept Drift: Adaptive Explanation Frameworks for Evolving Populations [0.0]
  動的に進化する信用モデルにおいて,解釈可能性と公平性を再検討する適応的説明フレームワークを開発する。 その結果、適応的手法、特に再ベースラインと代理に基づく説明は、時間的安定性を著しく改善し、予測精度を低下させることなく、人口集団間で異なる影響を減少させることがわかった。 これらの知見は、データ駆動型信用システムにおいて、透明性、説明責任、倫理的信頼性を維持するための実践的なメカニズムとして適応的説明可能性を確立した。
  論文  参考訳（メタデータ） (2025-11-05T19:14:43Z)
• Revisiting Multivariate Time Series Forecasting with Missing Values [65.30332997607141]
  現実の時系列では欠落値が一般的である。 現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。 このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。 本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
  論文  参考訳（メタデータ） (2025-09-27T20:57:48Z)
• TrustLoRA: Low-Rank Adaptation for Failure Detection under Out-of-distribution Data [62.22804234013273]
  本稿では,共変量および意味的シフトの両条件下での拒絶による分類を統一し,促進する,単純な故障検出フレームワークを提案する。 キーとなる洞察は、障害固有の信頼性知識を低ランクアダプタで分離し、統合することにより、障害検出能力を効果的かつ柔軟に向上できるということです。
  論文  参考訳（メタデータ） (2025-04-20T09:20:55Z)
• Identifiable Latent Neural Causal Models [82.14087963690561]
  因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。 因果表現の識別可能性に寄与する分布シフトのタイプを決定する。 本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
  論文  参考訳（メタデータ） (2024-03-23T04:13:55Z)
• Change Detection for Local Explainability in Evolving Data Streams [72.4816340552763]
  局所的特徴帰属法はポストホックやモデルに依存しない説明法として人気がある。 ローカルな属性が、ストリーミングやオンラインアプリケーションのような、現実的で絶えず変化する設定でどのように振る舞うかは、しばしば不明である。 局所変化と概念ドリフトを検出するフレキシブルでモデルに依存しないCDLEEDSを提案する。
  論文  参考訳（メタデータ） (2022-09-06T18:38:34Z)
• CausalVAE: Structured Causal Disentanglement in Variational Autoencoder [52.139696854386976]
  変分オートエンコーダ(VAE)の枠組みは、観測から独立した因子をアンタングルするために一般的に用いられる。 本稿では, 因果内因性因子を因果内因性因子に変換する因果層を含むVOEベースの新しいフレームワークCausalVAEを提案する。 その結果、CausalVAEが学習した因果表現は意味論的に解釈可能であり、DAG(Directed Acyclic Graph)としての因果関係は精度良く同定された。
  論文  参考訳（メタデータ） (2020-04-18T20:09:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。