論文の概要: Credal Ensemble Distillation for Uncertainty Quantification
- arxiv url: http://arxiv.org/abs/2511.13766v1
- Date: Fri, 14 Nov 2025 14:53:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-11-19 16:23:52.697475
- Title: Credal Ensemble Distillation for Uncertainty Quantification
- Title(参考訳): 不確かさ定量化のためのクレダルアンサンブル蒸留法
- Authors: Kaizheng Wang, Fabio Cuzzolin, David Moens, Hans Hallez,
- Abstract要約: 本研究では, 深部アンサンブルを1つのモデル CREDIT に圧縮し, 分類処理を行うフレームワークとして, クレダルアンサンブル蒸留法を提案する。
CEDは、いくつかの既存のベースラインよりも優れた、あるいは同等の不確実性推定を実現し、深いアンサンブルよりも推論オーバーヘッドを大幅に削減する。
- 参考スコア(独自算出の注目度): 12.36665123584814
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Deep ensembles (DE) have emerged as a powerful approach for quantifying predictive uncertainty and distinguishing its aleatoric and epistemic components, thereby enhancing model robustness and reliability. However, their high computational and memory costs during inference pose significant challenges for wide practical deployment. To overcome this issue, we propose credal ensemble distillation (CED), a novel framework that compresses a DE into a single model, CREDIT, for classification tasks. Instead of a single softmax probability distribution, CREDIT predicts class-wise probability intervals that define a credal set, a convex set of probability distributions, for uncertainty quantification. Empirical results on out-of-distribution detection benchmarks demonstrate that CED achieves superior or comparable uncertainty estimation compared to several existing baselines, while substantially reducing inference overhead compared to DE.
- Abstract(参考訳): 深層アンサンブル (DE) は予測の不確実性を定量化し, 動脈およびてんかんの成分を識別し, モデルの堅牢性と信頼性を高めるための強力なアプローチとして登場した。
しかし、推論中の高い計算とメモリコストは、広範囲の実践的展開に重大な課題をもたらす。
そこで本研究では,DECを単一モデル CREDIT に圧縮する新しいフレームワークであるCED(Credal ensemble distillation)を提案する。
単一のソフトマックス確率分布の代わりに、CREDITは不確実な定量化のために、クレダル集合、すなわち確率分布の凸集合を定義するクラスワイズ確率区間を予測する。
アウト・オブ・ディストリビューション検出ベンチマークの実験的結果は、CEDが既存のいくつかのベースラインよりも優れた、あるいは同等の不確実性推定を達成し、DEMと比較して推論オーバーヘッドを著しく低減していることを示している。
関連論文リスト
- Sharp Convergence Rates for Masked Diffusion Models [53.117058231393834]
制約を克服するオイラー法に対する全変分に基づく解析法を開発した。
その結果、スコア推定の仮定を緩和し、パラメータ依存性を改善し、収束保証を確立する。
全体としては,CTMC軌道に沿った直接テレビによる誤り分解と,FHSのためのデカップリングに基づく経路解析を導入している。
論文 参考訳(メタデータ) (2026-02-26T00:47:51Z) - Quantifying Epistemic Predictive Uncertainty in Conformal Prediction [11.09458914721516]
本研究では,複数の予測モデルが存在することにより,予測時に直面する不確実性を定量化する問題について検討する。
軽微な仮定の下で、任意の完全共形予測手順が閉かつ凸な予測分布の集合を誘導することを示す最近の結果に基づいて構築する。
本研究では,その不確かさを定量化するために,emphMaximum Mean Imprecisionに基づく計算効率が高く,解析的に抽出可能な不確実性尺度を提案する。
論文 参考訳(メタデータ) (2026-02-02T05:38:07Z) - ProbFM: Probabilistic Time Series Foundation Model with Uncertainty Decomposition [0.12489632787815884]
Time Series Foundation Models (TSFMs) はゼロショット財務予測のための有望なアプローチとして登場した。
現在のアプローチでは、制限的な分布仮定に依存したり、異なる不確実性の源を詳述したり、原則化された校正機構が欠如している。
本稿では,Deep Evidential Regression (DER) を利用した変圧器を用いた新しい確率的フレームワーク ProbFM を提案する。
論文 参考訳(メタデータ) (2026-01-15T17:02:06Z) - CCE: Confidence-Consistency Evaluation for Time Series Anomaly Detection [56.302586730134806]
本稿では,新しい評価指標である信頼性・一貫性評価(CCE)を紹介する。
CCEは同時に、予測の信頼性と不確実性を測定する。
RankEvalは、さまざまなメトリクスのランキング機能を比較するためのベンチマークです。
論文 参考訳(メタデータ) (2025-09-01T03:38:38Z) - COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。
COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。
リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
論文 参考訳(メタデータ) (2025-06-25T07:04:49Z) - SConU: Selective Conformal Uncertainty in Large Language Models [59.25881667640868]
SconU(Selective Conformal Uncertainity)と呼ばれる新しいアプローチを提案する。
我々は,特定の管理可能なリスクレベルで設定されたキャリブレーションの不確実性分布から,与えられたサンプルが逸脱するかどうかを決定するのに役立つ2つの共形p値を開発する。
我々のアプローチは、単一ドメインと学際的コンテキストの両方にわたる誤発見率の厳密な管理を促進するだけでなく、予測の効率を高める。
論文 参考訳(メタデータ) (2025-04-19T03:01:45Z) - Distilling Calibration via Conformalized Credal Inference [30.8135853479509]
信頼性を高める方法の1つは、ベイズ推定による不確実な定量化である。
本稿では,より複雑なモデルからキャリブレーション情報を抽出することにより,この問題に対処する低複雑さ手法を提案する。
視覚的および言語的タスクの実験により,提案手法はCD-CI (Conformalized Distillation for Credal Inference) と呼ばれ,校正性能が著しく向上することが示された。
論文 参考訳(メタデータ) (2025-01-10T15:57:23Z) - Uncertainty separation via ensemble quantile regression [23.667247644930708]
本稿では,不確実性推定と分離のための新しい,スケーラブルなフレームワークを提案する。
我々のフレームワークは大規模データセットにスケーラブルであり、合成ベンチマークで優れた性能を示す。
論文 参考訳(メタデータ) (2024-12-18T11:15:32Z) - Generative Conformal Prediction with Vectorized Non-Conformity Scores [6.059745771017814]
コンフォーマル予測は、保証されたカバレッジでモデルに依存しない不確実性定量化を提供する。
ベクトル化された非整合性スコアを持つ生成共形予測フレームワークを提案する。
我々は密度ランクの不確かさ球を用いた適応不確かさ集合を構築する。
論文 参考訳(メタデータ) (2024-10-17T16:37:03Z) - Uncertainty in Extreme Multi-label Classification [81.14232824864787]
eXtreme Multi-label Classification (XMC)は、Webスケールの機械学習アプリケーションにおいて、ビッグデータの時代において不可欠なタスクである。
本稿では,確率的アンサンブルに基づく木系XMCモデルの一般的な不確実性定量化手法について検討する。
特に,XMCにおけるラベルレベルおよびインスタンスレベルの不確実性を解析し,ビームサーチに基づく一般的な近似フレームワークを提案する。
論文 参考訳(メタデータ) (2022-10-18T20:54:33Z) - Dense Uncertainty Estimation via an Ensemble-based Conditional Latent
Variable Model [68.34559610536614]
我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。
そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。
以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
論文 参考訳(メタデータ) (2021-11-22T08:54:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。