論文の概要: Credal Ensemble Distillation for Uncertainty Quantification

• arxiv url: http://arxiv.org/abs/2511.13766v1
• Date: Fri, 14 Nov 2025 14:53:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-19 16:23:52.697475
• Title: Credal Ensemble Distillation for Uncertainty Quantification
• Title（参考訳）: 不確かさ定量化のためのクレダルアンサンブル蒸留法
• Authors: Kaizheng Wang, Fabio Cuzzolin, David Moens, Hans Hallez,
• Abstract要約: 本研究では, 深部アンサンブルを1つのモデル CREDIT に圧縮し, 分類処理を行うフレームワークとして, クレダルアンサンブル蒸留法を提案する。 CEDは、いくつかの既存のベースラインよりも優れた、あるいは同等の不確実性推定を実現し、深いアンサンブルよりも推論オーバーヘッドを大幅に削減する。
• 参考スコア（独自算出の注目度）: 12.36665123584814
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep ensembles (DE) have emerged as a powerful approach for quantifying predictive uncertainty and distinguishing its aleatoric and epistemic components, thereby enhancing model robustness and reliability. However, their high computational and memory costs during inference pose significant challenges for wide practical deployment. To overcome this issue, we propose credal ensemble distillation (CED), a novel framework that compresses a DE into a single model, CREDIT, for classification tasks. Instead of a single softmax probability distribution, CREDIT predicts class-wise probability intervals that define a credal set, a convex set of probability distributions, for uncertainty quantification. Empirical results on out-of-distribution detection benchmarks demonstrate that CED achieves superior or comparable uncertainty estimation compared to several existing baselines, while substantially reducing inference overhead compared to DE.
• Abstract（参考訳）: 深層アンサンブル (DE) は予測の不確実性を定量化し, 動脈およびてんかんの成分を識別し, モデルの堅牢性と信頼性を高めるための強力なアプローチとして登場した。 しかし、推論中の高い計算とメモリコストは、広範囲の実践的展開に重大な課題をもたらす。 そこで本研究では,DECを単一モデル CREDIT に圧縮する新しいフレームワークであるCED(Credal ensemble distillation)を提案する。 単一のソフトマックス確率分布の代わりに、CREDITは不確実な定量化のために、クレダル集合、すなわち確率分布の凸集合を定義するクラスワイズ確率区間を予測する。 アウト・オブ・ディストリビューション検出ベンチマークの実験的結果は、CEDが既存のいくつかのベースラインよりも優れた、あるいは同等の不確実性推定を達成し、DEMと比較して推論オーバーヘッドを著しく低減していることを示している。

関連論文リスト

• CCE: Confidence-Consistency Evaluation for Time Series Anomaly Detection [56.302586730134806]
  本稿では,新しい評価指標である信頼性・一貫性評価(CCE)を紹介する。 CCEは同時に、予測の信頼性と不確実性を測定する。 RankEvalは、さまざまなメトリクスのランキング機能を比較するためのベンチマークです。
  論文  参考訳（メタデータ） (2025-09-01T03:38:38Z)
• COIN: Uncertainty-Guarding Selective Question Answering for Foundation Models with Provable Risk Guarantees [51.5976496056012]
  COINは、統計的に有効な閾値を校正し、質問毎に1つの生成された回答をフィルタリングする不確実性保護選択フレームワークである。 COINはキャリブレーションセット上で経験的誤差率を推定し、信頼区間法を適用して真誤差率に高い確率上界を確立する。 リスク管理におけるCOINの堅牢性,許容回答を維持するための強いテストタイムパワー,キャリブレーションデータによる予測効率を実証する。
  論文  参考訳（メタデータ） (2025-06-25T07:04:49Z)
• SConU: Selective Conformal Uncertainty in Large Language Models [59.25881667640868]
  SconU(Selective Conformal Uncertainity)と呼ばれる新しいアプローチを提案する。 我々は,特定の管理可能なリスクレベルで設定されたキャリブレーションの不確実性分布から,与えられたサンプルが逸脱するかどうかを決定するのに役立つ2つの共形p値を開発する。 我々のアプローチは、単一ドメインと学際的コンテキストの両方にわたる誤発見率の厳密な管理を促進するだけでなく、予測の効率を高める。
  論文  参考訳（メタデータ） (2025-04-19T03:01:45Z)
• Distilling Calibration via Conformalized Credal Inference [30.8135853479509]
  信頼性を高める方法の1つは、ベイズ推定による不確実な定量化である。 本稿では,より複雑なモデルからキャリブレーション情報を抽出することにより,この問題に対処する低複雑さ手法を提案する。 視覚的および言語的タスクの実験により,提案手法はCD-CI (Conformalized Distillation for Credal Inference) と呼ばれ,校正性能が著しく向上することが示された。
  論文  参考訳（メタデータ） (2025-01-10T15:57:23Z)
• Uncertainty separation via ensemble quantile regression [23.667247644930708]
  本稿では,不確実性推定と分離のための新しい,スケーラブルなフレームワークを提案する。 我々のフレームワークは大規模データセットにスケーラブルであり、合成ベンチマークで優れた性能を示す。
  論文  参考訳（メタデータ） (2024-12-18T11:15:32Z)
• Generative Conformal Prediction with Vectorized Non-Conformity Scores [6.059745771017814]
  コンフォーマル予測は、保証されたカバレッジでモデルに依存しない不確実性定量化を提供する。 ベクトル化された非整合性スコアを持つ生成共形予測フレームワークを提案する。 我々は密度ランクの不確かさ球を用いた適応不確かさ集合を構築する。
  論文  参考訳（メタデータ） (2024-10-17T16:37:03Z)
• Uncertainty in Extreme Multi-label Classification [81.14232824864787]
  eXtreme Multi-label Classification (XMC)は、Webスケールの機械学習アプリケーションにおいて、ビッグデータの時代において不可欠なタスクである。 本稿では,確率的アンサンブルに基づく木系XMCモデルの一般的な不確実性定量化手法について検討する。 特に,XMCにおけるラベルレベルおよびインスタンスレベルの不確実性を解析し,ビームサーチに基づく一般的な近似フレームワークを提案する。
  論文  参考訳（メタデータ） (2022-10-18T20:54:33Z)
• Dense Uncertainty Estimation via an Ensemble-based Conditional Latent Variable Model [68.34559610536614]
  我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。 そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。 以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
  論文  参考訳（メタデータ） (2021-11-22T08:54:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。