論文の概要: RADMI: Latent Information Aggregation as a Proxy for Model Uncertainty

• arxiv url: http://arxiv.org/abs/2605.01502v1
• Date: Sat, 02 May 2026 15:49:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-05 20:33:49.807589
• Title: RADMI: Latent Information Aggregation as a Proxy for Model Uncertainty
• Title（参考訳）: RADMI: モデル不確実性のプロキシとしての潜伏情報集約
• Authors: William Stevens, Mohit Prabhushankar, Ghassan AlRegib,
• Abstract要約: セグメンテーションネットワークにおけるデコーダ層間の相互情報を測定することにより,予測の不確かさを推定するシングルパス手法を提案する。 RADMIは,すべてのシングルパス方式において,深いアンサンブルの不確実性と高い相関を達成している。 この結果から,正規化情報フローの線形集約は,エンコーダ・デコーダアーキテクチャにおける予測の不確実性に対して,原理的かつ効率的なプロキシを提供する可能性が示唆された。
• 参考スコア（独自算出の注目度）: 12.261505821589452
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Epistemic uncertainty estimation is essential for identifying regions where deep learning system outputs may be unreliable. However, existing approaches require computationally expensive ensemble methods or multiple stochastic forward passes, limiting their scalability to dense prediction tasks like segmentation. We propose Resolution-Aggregated Decoder Mutual Information (RADMI), a single-pass method that estimates prediction uncertainty by measuring mutual information (MI) between consecutive decoder layers in segmentation networks. We observe that elevated inter-layer MI correlates with prediction uncertainty, as the network must integrate conflicting contextual information at ambiguous regions such as class boundaries. Evaluating on a seismic facies segmentation benchmark, RADMI achieves the highest correlation with deep ensemble uncertainty among all single-pass methods, outperforming the next-best baselines by 5.5% in Pearson and 10.7% in Spearman correlation coefficients. Compared to baselines that either lack spatial precision or demand significant computational overhead, RADMI yields sharp, boundary-localized uncertainty maps without architectural modifications. Our results suggest that linear aggregation of normalized information flow provides a principled and efficient proxy for prediction uncertainty in encoder-decoder architectures.
• Abstract（参考訳）: 深層学習システムの出力が信頼できない地域を特定するためには,疫学的不確実性評価が不可欠である。 しかし、既存のアプローチでは計算コストのかかるアンサンブル法や複数の確率フォワードパスが必要であり、そのスケーラビリティはセグメンテーションのような密集した予測タスクに制限される。 セグメンテーションネットワークにおいて,連続するデコーダ層間の相互情報(MI)を測定し,予測の不確実性を推定する単一パス手法として,レゾリューション・アグリゲーション・デコーダ・ミューチュアル・インフォメーション(RADMI)を提案する。 階層間MIの上昇は予測の不確実性と相関し,ネットワークはクラス境界などの曖昧な領域における競合するコンテキスト情報を統合しなければならない。 耐震フェーシのセグメンテーションのベンチマークに基づいて、RADMIは全てのシングルパス法の中で最も深いアンサンブルの不確実性に相関し、ピアソンの5.5%、スピアマンの相関係数の10.7%を上回っている。 空間精度の欠如や計算オーバーヘッドの大きいベースラインと比較して、RADMIは設計上の変更なしに、シャープで境界局所化された不確実性マップを生成する。 この結果から,正規化情報フローの線形集約は,エンコーダ・デコーダアーキテクチャにおける予測の不確実性に対して,原理的かつ効率的なプロキシを提供する可能性が示唆された。

関連論文リスト

• Extracting Uncertainty Estimates from Mixtures of Experts for Semantic Segmentation [9.817102014355617]
  アーキテクチャ変更を伴わない専門家(MoE)の混合から、よく校正された予測不確実性推定が抽出可能であることを示す。 以上の結果から,MoEsは条件付き正当性測定値において,アンサンブルよりも信頼性の高い不確実性推定値が得られることがわかった。 Cityscapesデータセットの実験では、専門家の数が増加することで不確実性の校正がさらに高められることが示唆された。
  論文  参考訳（メタデータ） (2025-09-05T05:30:53Z)
• Uncertainty Awareness on Unsupervised Domain Adaptation for Time Series Data [49.36938105983916]
  教師なし領域適応法は、ラベルのないテストデータに効果的に一般化しようとする。 本稿では,ドメイン間の一般化とロバスト性を改善するために,マルチスケールの特徴抽出と不確実性推定を導入することを提案する。
  論文  参考訳（メタデータ） (2025-08-26T03:13:08Z)
• A Deep Bayesian Nonparametric Framework for Robust Mutual Information Estimation [9.68824512279232]
  相互情報(MI)は、変数間の依存関係をキャプチャするための重要な手段である。 正規化を組み込むためにディリクレ過程後部の有限表現でMI損失を構成することでMI推定器を訓練するソリューションを提案する。 データ空間と変分オートエンコーダの潜時空間の間のMIを最大化するための推定器の適用について検討する。
  論文  参考訳（メタデータ） (2025-03-11T21:27:48Z)
• Information Leakage Detection through Approximate Bayes-optimal Prediction [22.04308347355652]
  情報漏洩(英: Information leakage, IL)とは、意図せず機密情報を無許可の当事者に漏らす情報である。 従来の統計手法は、ILを検出するために観測可能な情報と秘密情報の相互情報を推定することに依存している。 統計的学習理論と情報理論を用いて,ILの定量化と検出を正確に行う理論的枠組みを構築した。
  論文  参考訳（メタデータ） (2024-01-25T16:15:27Z)
• Uncertainty Estimation by Fisher Information-based Evidential Deep Learning [61.94125052118442]
  不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。 漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。 特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
  論文  参考訳（メタデータ） (2023-03-03T16:12:59Z)
• Uncertainty Estimation for Heatmap-based Landmark Localization [4.673063715963989]
  推定誤差境界を持つ不確実性によって予測を分類するデータ駆動手法であるQuantile Binningを提案する。 この枠組みは,3つの不確実性対策を比較し,対比することによって実証する。 我々は、Quantile Binsで捕捉された大まかな誤予測をフィルタリングすることで、許容可能なエラー閾値下での予測の割合を大幅に改善する、という結論を導いた。
  論文  参考訳（メタデータ） (2022-03-04T14:40:44Z)
• Meta Learning Low Rank Covariance Factors for Energy-Based Deterministic Uncertainty [58.144520501201995]
  ニューラルネットワーク層のBi-Lipschitz正規化は、各レイヤの特徴空間におけるデータインスタンス間の相対距離を保存する。 注意セットエンコーダを用いて,タスク固有の共分散行列を効率的に構築するために,対角的,対角的,低ランクな要素のメタ学習を提案する。 また,最終的な予測分布を達成するために,スケールしたエネルギーを利用する推論手法を提案する。
  論文  参考訳（メタデータ） (2021-10-12T22:04:19Z)
• Gradient-Based Quantification of Epistemic Uncertainty for Deep Object Detectors [8.029049649310213]
  本稿では,新しい勾配に基づく不確実性指標を導入し,異なる物体検出アーキテクチャについて検討する。 実験では、真の肯定的/偽の正の判別と、結合上の交叉の予測において顕著な改善が示された。 また,モンテカルロのドロップアウト不確実性指標に対する改善や,さまざまな不確実性指標のソースを集約することで,さらなる大幅な向上が期待できる。
  論文  参考訳（メタデータ） (2021-07-09T16:04:11Z)
• Amortized Conditional Normalized Maximum Likelihood: Reliable Out of Distribution Uncertainty Estimation [99.92568326314667]
  本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。 提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。 我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
  論文  参考訳（メタデータ） (2020-11-05T08:04:34Z)
• Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
  本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。 我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
  論文  参考訳（メタデータ） (2020-03-04T12:27:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。