論文の概要: Post-Hoc Split-Point Self-Consistency Verification for Efficient, Unified Quantification of Aleatoric and Epistemic Uncertainty in Deep Learning
- arxiv url: http://arxiv.org/abs/2509.13262v1
- Date: Tue, 16 Sep 2025 17:16:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-17 17:50:53.196651
- Title: Post-Hoc Split-Point Self-Consistency Verification for Efficient, Unified Quantification of Aleatoric and Epistemic Uncertainty in Deep Learning
- Title(参考訳): 深層学習におけるアラート的・てんかん的不確実性の効率的・統一的定量化のためのポストホックスプリットポイント自己整合性検証
- Authors: Zhizhong Zhao, Ke Chen,
- Abstract要約: 不確実性定量化(UQ)は、信頼できる深層学習には不可欠であるが、既存の手法は計算集約的であるか、タスク固有の部分的な見積もりのみを提供する。
本研究では,事前訓練したモデルの変更や再訓練を伴わずに,アレタリックおよびてんかんの不確実性を共同でキャプチャするポストホック・シングルフォワード・パス・フレームワークを提案する。
提案手法は,EmphSplit-Point Analysis (SPA) を用いて,予測残差を上下サブセットに分解し,各側でEmphMean Absolute Residuals (MAR) を演算する。
- 参考スコア(独自算出の注目度): 5.996056764788456
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Uncertainty quantification (UQ) is vital for trustworthy deep learning, yet existing methods are either computationally intensive, such as Bayesian or ensemble methods, or provide only partial, task-specific estimates, such as single-forward-pass techniques. In this paper, we propose a post-hoc single-forward-pass framework that jointly captures aleatoric and epistemic uncertainty without modifying or retraining pretrained models. Our method applies \emph{Split-Point Analysis} (SPA) to decompose predictive residuals into upper and lower subsets, computing \emph{Mean Absolute Residuals} (MARs) on each side. We prove that, under ideal conditions, the total MAR equals the harmonic mean of subset MARs; deviations define a novel \emph{Self-consistency Discrepancy Score} (SDS) for fine-grained epistemic estimation across regression and classification. For regression, side-specific quantile regression yields prediction intervals with improved empirical coverage, which are further calibrated via SDS. For classification, when calibration data are available, we apply SPA-based calibration identities to adjust the softmax outputs and then compute predictive entropy on these calibrated probabilities. Extensive experiments on diverse regression and classification benchmarks demonstrate that our framework matches or exceeds several state-of-the-art UQ methods while incurring minimal overhead. Our source code is available at https://github.com/zzz0527/SPC-UQ.
- Abstract(参考訳): 不確かさの定量化(UQ)は信頼できる深層学習には不可欠であるが、既存の手法はベイジアン法やアンサンブル法のような計算集約的な手法か、あるいはシングルフォワードパス法のような部分的なタスク固有推定のみを提供する。
本稿では,事前学習モデルの変更や再訓練を伴わずに,動脈とてんかんの不確かさを共同でキャプチャするポストホック・シングルフォワード・パス・フレームワークを提案する。
本手法は, 予測残差を上下サブセットに分解するために<emph{Split-Point Analysis} (SPA) を適用し, 各側で<emph{Mean Absolute Residuals} (MAR) を演算する。
理想的な条件下では、総 MAR は部分集合 MAR の調和平均と等しいことが証明され、偏差は、回帰と分類をまたいだ微粒なてんかん推定のための新規な \emph{Self-Consistency Discrepancy Score} (SDS) を定義する。
回帰について、サイド固有量回帰は、経験的カバレッジを改善した予測間隔を出力し、さらにSDSを介して校正する。
分類において、キャリブレーションデータが得られる場合、SPAに基づくキャリブレーションIDを適用してソフトマックス出力を調整し、これらのキャリブレーション確率の予測エントロピーを計算する。
多様な回帰と分類のベンチマークに関する大規模な実験は、我々のフレームワークがいくつかの最先端のUQ手法と一致するか、あるいは超えるかを示し、最小限のオーバーヘッドを発生させる。
ソースコードはhttps://github.com/zzz0527/SPC-UQ.comで公開されています。
関連論文リスト
- Approximating Full Conformal Prediction for Neural Network Regression with Gauss-Newton Influence [8.952347049759094]
我々は、保留データなしで、保留後のニューラルネットワーク回帰器の予測間隔を構築する。
ガウス・ニュートンの影響を利用して1回、局所摂動モデルパラメータを訓練する。
論文 参考訳(メタデータ) (2025-07-27T13:34:32Z) - Evaluating Uncertainty in Deep Gaussian Processes [0.0]
ディープ・ガウス・プロセス(DGP)とディープ・シグマ・ポイント・プロセス(DSPP)はGPを階層的に拡張し、ベイズ原理に根ざした不確実性のための有望な方法を提供する。
本研究は、回帰(CASPデータセット)および分類(ESRデータセット)タスクに関するこれらのモデルを評価し、予測性能(MAE、Accu-Racy)の評価、負対数類似度(NLL)とエラー(ECE)を用いた校正を行う。
GP法では, 測定値に特異的な感度を呈し, 測定値の精度が向上し, 測定値の精度が向上した。
論文 参考訳(メタデータ) (2025-04-24T16:31:55Z) - Feynman-Kac Correctors in Diffusion: Annealing, Guidance, and Product of Experts [64.34482582690927]
事前学習したスコアベースモデルから得られた熱処理, 幾何平均, 製品分布の配列から, 効率的かつ原理的に抽出する方法を提供する。
本稿では,サンプリング品質を向上させるために,推論時間スケーリングを利用する逐次モンテカルロ(SMC)再サンプリングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-03-04T17:46:51Z) - Epistemic Uncertainty in Conformal Scores: A Unified Approach [2.449909275410288]
等角予測法は、分布のない保証を持つ予測帯域を生成するが、不確実性を明示的に捉えることはできない。
モデルに依存しないアプローチである $texttEPICSCORE$ を導入する。
$texttEPICSCORE$は、限られたデータを持つ領域の予測間隔を適応的に拡張し、データが豊富であるコンパクト間隔を維持します。
論文 参考訳(メタデータ) (2025-02-10T19:42:54Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳(メタデータ) (2024-06-05T13:36:38Z) - Domain-adaptive and Subgroup-specific Cascaded Temperature Regression
for Out-of-distribution Calibration [16.930766717110053]
本稿では, メタセットをベースとした新しい温度回帰法を提案し, ポストホックキャリブレーション法を提案する。
予測されたカテゴリと信頼度に基づいて,各メタセットをサブグループに分割し,多様な不確実性を捉える。
回帰ネットワークは、カテゴリ特化および信頼レベル特化スケーリングを導出し、メタセット間のキャリブレーションを達成するように訓練される。
論文 参考訳(メタデータ) (2024-02-14T14:35:57Z) - Self-Certifying Classification by Linearized Deep Assignment [65.0100925582087]
そこで我々は,PAC-Bayesリスク認定パラダイム内で,グラフ上のメトリックデータを分類するための新しい深層予測器のクラスを提案する。
PAC-Bayesの最近の文献とデータに依存した先行研究に基づいて、この手法は仮説空間上の後続分布の学習を可能にする。
論文 参考訳(メタデータ) (2022-01-26T19:59:14Z) - Calibration of Neural Networks using Splines [51.42640515410253]
キャリブレーション誤差の測定は、2つの経験的分布を比較します。
古典的コルモゴロフ・スミルノフ統計テスト(KS)にインスパイアされたビンニングフリーキャリブレーション尺度を導入する。
提案手法は,KS誤差に対する既存の手法と,他の一般的なキャリブレーション手法とを一貫して比較する。
論文 参考訳(メタデータ) (2020-06-23T07:18:05Z) - Pre-training Is (Almost) All You Need: An Application to Commonsense
Reasoning [61.32992639292889]
事前学習されたトランスモデルの微調整は、一般的なNLPタスクを解決するための標準的なアプローチとなっている。
そこで本研究では,可視性ランキングタスクをフルテキスト形式でキャストする新たなスコアリング手法を提案する。
提案手法は, ランダム再起動にまたがって, より安定した学習段階を提供することを示す。
論文 参考訳(メタデータ) (2020-04-29T10:54:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。