論文の概要: From Uncertainty to Failure Attribution: Self-Diagnosing Models for Failure Attribution under Distribution Shift

• arxiv url: http://arxiv.org/abs/2608.07953v1
• Date: Sat, 08 Aug 2026 06:32:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-11 19:16:36.584693
• Title: From Uncertainty to Failure Attribution: Self-Diagnosing Models for Failure Attribution under Distribution Shift
• Title（参考訳）: 不確かさから失敗への帰属:分散シフト下における失敗帰属の自己診断モデル
• Abstract要約: 分散シフト下での障害帰属に関する問題設定を導入する。 これにより、モデルがOODサンプルを検出するだけでなく、失敗の原因を見つけることもできる。 提案する手法は自己診断モデルと呼ばれ,予測出力,予測不確実性,障害帰属信号などを共同で学習することができる。
• 参考スコア（独自算出の注目度）: 0.3948325938742681
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Distribution shift poses a significant challenge to the robustness of machine learning models, but the current solutions only aim to detect out-of-distribution (OOD) samples and predict uncertainty levels. We introduce a problem setting for failure attribution under distribution shift, which enables the models not only to detect OOD samples, but also to find out the reason for their failure. The solution we propose is called self-diagnosing models, which are capable of jointly learning predictive output, predictive uncertainty, and a failure attribution signal. In particular, we use the failure attribution vector, produced by a neural network, which provides a structured representation of predictive unreliability by distinguishing four different types of failures: covariance shift, semantic shift, noise corruption, and adversarial perturbation. In other words, we move from scalar uncertainty towards failure identification. For training the model, we introduce a consistency regularizer that encourages consistency between uncertainty and failure attribution predictions. Moreover, to be able to evaluate the model on its ability to find the reasons for failure, we construct several distribution shift benchmarks with predefined mechanisms for generating distribution shifts.
• Abstract（参考訳）: 分散シフトは、機械学習モデルの堅牢性に重大な課題をもたらすが、現在のソリューションは、オフ・オブ・ディストリビューション(OOD)サンプルを検出し、不確実性レベルを予測することのみを目的としている。 そこで,本研究では,OODサンプルの検出だけでなく,故障原因の解明も可能な分散シフト下での障害帰属に関する問題設定を提案する。 提案する手法は自己診断モデルと呼ばれ,予測出力,予測不確実性,障害帰属信号などを共同で学習することができる。 特に,ニューラルネットワークが生成する障害帰属ベクトルを用いて,共分散シフト,セマンティックシフト,ノイズ破損,対向的摂動の4種類の障害を区別することにより,予測不能の構造化表現を提供する。 言い換えれば、スカラーの不確実性から失敗の識別へと移行する。 モデルをトレーニングするために、不確実性と障害帰属予測との整合性を促進する整合正則化器を導入する。 さらに, 故障の原因を見出す能力に基づいてモデルを評価するために, 予め定義された分散シフト生成機構を備えた分散シフトベンチマークを複数構築する。

関連論文リスト

• Perturbation-Based Uncertainty for Failure Detection in Vision-Language-Action Models [5.736588561666141]
  隠れ活性化摂動による推定時間不確実性推定のためのモデルに依存しないフレームワークを提案する。 摂動に基づく不確実性は、サンプリングに基づく不確実性と比較して、分布シフト時の故障検出を一貫して改善することを示す。
  論文  参考訳（メタデータ） (2026-06-18T05:41:45Z)
• TrustLoRA: Low-Rank Adaptation for Failure Detection under Out-of-distribution Data [62.22804234013273]
  本稿では,共変量および意味的シフトの両条件下での拒絶による分類を統一し,促進する,単純な故障検出フレームワークを提案する。 キーとなる洞察は、障害固有の信頼性知識を低ランクアダプタで分離し、統合することにより、障害検出能力を効果的かつ柔軟に向上できるということです。
  論文  参考訳（メタデータ） (2025-04-20T09:20:55Z)
• Uncertainty-Aware Artificial Intelligence for Gear Fault Diagnosis in Motor Drives [0.5325390073522079]
  本稿では,ベイジアンニューラルネットワーク(BNN)を用いたモータの故障診断の不確かさの定量化手法を提案する。 BNNはネットワーク重みを固定値ではなく確率分布として扱う。 ノイズの多いデータに対するロバスト性の改善、(b)モデル予測の解釈可能性の向上、(c)意思決定プロセスにおける不確実性を定量化する能力など、いくつかの利点がある。
  論文  参考訳（メタデータ） (2024-12-02T08:38:20Z)
• Explainability through uncertainty: Trustworthy decision-making with neural networks [1.104960878651584]
  不確実性は、あらゆる機械学習モデルの主要な特徴である。 ニューラルネットワークでは特に重要であり、過信されがちである。 XAIとしての不確実性は、下流の意思決定タスクにおけるモデルの信頼性を改善する。
  論文  参考訳（メタデータ） (2024-03-15T10:22:48Z)
• Training on Test Data with Bayesian Adaptation for Covariate Shift [96.3250517412545]
  ディープニューラルネットワークは、信頼できない不確実性推定で不正確な予測を行うことが多い。 分布シフトの下でのラベルなし入力とモデルパラメータとの明確に定義された関係を提供するベイズモデルを導出する。 本手法は精度と不確実性の両方を向上することを示す。
  論文  参考訳（メタデータ） (2021-09-27T01:09:08Z)
• Predicting with Confidence on Unseen Distributions [90.68414180153897]
  ドメイン適応と予測不確実性文学を結びつけて、挑戦的な未知分布のモデル精度を予測する。 分類器の予測における信頼度(DoC)の差は,様々な変化に対して,分類器の性能変化を推定することに成功した。 具体的には, 合成分布と自然分布の区別について検討し, その単純さにもかかわらず, DoCは分布差の定量化に優れることを示した。
  論文  参考訳（メタデータ） (2021-07-07T15:50:18Z)
• The Hidden Uncertainty in a Neural Networks Activations [105.4223982696279]
  ニューラルネットワークの潜在表現の分布は、アウト・オブ・ディストリビューション(OOD)データの検出に成功している。 本研究は、この分布が、モデルの不確実性と相関しているかどうかを考察し、新しい入力に一般化する能力を示す。
  論文  参考訳（メタデータ） (2020-12-05T17:30:35Z)
• Understanding Classifier Mistakes with Generative Models [88.20470690631372]
  ディープニューラルネットワークは教師付き学習タスクに有効であるが、脆弱であることが示されている。 本稿では、生成モデルを利用して、分類器が一般化に失敗するインスタンスを特定し、特徴付ける。 我々のアプローチは、トレーニングセットのクラスラベルに依存しないため、半教師付きでトレーニングされたモデルに適用できる。
  論文  参考訳（メタデータ） (2020-10-05T22:13:21Z)
• Estimating Generalization under Distribution Shifts via Domain-Invariant Representations [75.74928159249225]
  未知の真のターゲットラベルのプロキシとして、ドメイン不変の予測器のセットを使用します。 結果として生じるリスク見積の誤差は、プロキシモデルのターゲットリスクに依存する。
  論文  参考訳（メタデータ） (2020-07-06T17:21:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。