論文の概要: VOLTA: The Surprising Ineffectiveness of Auxiliary Losses for Calibrated Deep Learning

• arxiv url: http://arxiv.org/abs/2604.08639v1
• Date: Thu, 09 Apr 2026 17:22:36 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-13 17:57:53.510971
• Title: VOLTA: The Surprising Ineffectiveness of Auxiliary Losses for Calibrated Deep Learning
• Title（参考訳）: VOLTA: 校正型ディープラーニングにおける補助的損失の予想外効果
• Authors: Rahul D Ray, Utkarsh Srivastava,
• Abstract要約: 不確実性定量化(UQ)は、ディープラーニングモデルを安全クリティカルなアプリケーションにデプロイするために不可欠である。 異なるデータモダリティや分散シフトに対して、UQ法が最善を尽くすコンセンサスはない。 本稿では,MC Dropout, SWAG, アンサンブル法, 温度スケーリング, エネルギーベースOOD, マハラノビス, 双曲型分類器, ENN, Taylor Sensus, スプリット共形予測を含む10種類のUQベースラインのベンチマークを示す。 以上の結果から,VOLTAはより複雑なUQアプローチに代わる,軽量で決定論的かつ十分に校正された代替手段として確立された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Uncertainty quantification (UQ) is essential for deploying deep learning models in safety critical applications, yet no consensus exists on which UQ method performs best across different data modalities and distribution shifts. This paper presents a comprehensive benchmark of ten widely used UQ baselines including MC Dropout, SWAG, ensemble methods, temperature scaling, energy based OOD, Mahalanobis, hyperbolic classifiers, ENN, Taylor Sensus, and split conformal prediction against a simplified yet highly effective variant of VOLTA that retains only a deep encoder, learnable prototypes, cross entropy loss, and post hoc temperature scaling. We evaluate all methods on CIFAR 10 (in distribution), CIFAR 100, SVHN, uniform noise (out of distribution), CIFAR 10 C (corruptions), and Tiny ImageNet features (tabular). VOLTA achieves competitive or superior accuracy (up to 0.864 on CIFAR 10), significantly lower expected calibration error (0.010 vs. 0.044 to 0.102 for baselines), and strong OOD detection (AUROC 0.802). Statistical testing over three random seeds shows that VOLTA matches or outperforms most baselines, with ablation studies confirming the importance of adaptive temperature and deep encoders. Our results establish VOLTA as a lightweight, deterministic, and well calibrated alternative to more complex UQ approaches.
• Abstract（参考訳）: 不確実性定量化(UQ)は、深層学習モデルを安全クリティカルなアプリケーションにデプロイするために不可欠であるが、UQ手法が様々なデータモダリティや分散シフトに対して最もよく機能するコンセンサスは存在しない。 本稿では,MC Dropout, SWAG, アンサンブル法, 温度スケーリング, エネルギーベースOOD, Mahalanobis, 双曲型分類器, ENN, Taylor Sensus, および深層エンコーダ, 学習可能なプロトタイプ, クロスエントロピー損失, ポストホック温度スケーリングのみを保持するVOLTAの簡易かつ高効率な変種に対するコンフォメーション予測を行う。 CIFAR 10(分布)、CIFAR 100、SVHN、均一ノイズ(分布外)、CIFAR 10 C(破壊)、Tiny ImageNet機能(タブラル)に関する全ての手法を評価する。 VOLTAは、競合的または優れた精度(CIFAR 10では0.864まで)、予測キャリブレーション誤差(ベースラインでは0.010対0.044対0.102)、強力なOOD検出(AUROC 0.802)を実現している。 3つのランダムな種子に対する統計的試験は、VOLTAがほとんどのベースラインと一致または上回っていることを示している。 以上の結果から,VOLTAはより複雑なUQアプローチに代わる,軽量で決定論的かつ十分に校正された代替手段として確立された。

関連論文リスト

• Mitigating the ID-OOD Tradeoff in Open-Set Test-Time Adaptation [52.620992698137236]
  オープンセットテスト時間適応(OSTTA)は、新しい環境にモデルを適用するという課題に対処する。 本稿では,OSTTAにおけるエントロピーの限界をまず解析し,次に特徴ノルム等級を規制する角損失を導入する。 高いID分類性能を維持しながら強力なOOD検出を実現する。
  論文  参考訳（メタデータ） (2026-04-02T04:00:57Z)
• Complex-Valued Unitary Representations as Classification Heads for Improved Uncertainty Quantification in Deep Neural Networks [1.932555230783329]
  現代のディープニューラルネットワークは高い予測精度を達成するが、キャリブレーションは不十分である。 本稿では、バックボーンの特徴を複素値空間に投影する量子インスピレーション付き分類ヘッドアーキテクチャを提案する。 CIFAR-10のアブレーション実験により, 統一等級ヘッド(カイリーユニタリ, マグニチュード, ソフトマックスで読み出す複雑な特徴)が0.0146の予測誤差(ECE)を達成し, 標準ソフトマックスヘッドの2.4倍の改善を示した。 驚くべきことに、ソフトマックスの読み出しをヒルベルト則測定層(量子力学的に動機づけられたアプローチ)に置き換えると、キャリブレーションは0.0819に低下する。
  論文  参考訳（メタデータ） (2026-02-17T00:45:27Z)
• Robust Fine-tuning of Zero-shot Models via Variance Reduction [56.360865951192324]
  微調整ゼロショットモデルの場合、このデシドラトゥムは細調整モデルで、分布内(ID)と分布外(OOD)の両方で優れる。 トレードオフを伴わずに最適なIDとOODの精度を同時に達成できるサンプルワイズアンサンブル手法を提案する。
  論文  参考訳（メタデータ） (2024-11-11T13:13:39Z)
• Typicalness-Aware Learning for Failure Detection [26.23185979968123]
  ディープニューラルネットワーク(DNN)は、しばしば自信過剰な問題に悩まされる。 そこで本研究では,本問題に対処し,故障検出性能を向上させるために,S typicalness-Aware Learning (TAL) と呼ばれる新しい手法を提案する。
  論文  参考訳（メタデータ） (2024-11-04T11:09:47Z)
• Few-Shot Image Quality Assessment via Adaptation of Vision-Language Models [93.91086467402323]
  Gradient-Regulated Meta-Prompt IQA Framework (GRMP-IQA) は、視覚言語事前学習モデルのCLIPをIQAタスクに効率よく適応させるように設計されている。 GRMP-IQAは、 (i) Meta-Prompt 事前学習モジュールと (ii) Quality-Aware Gradient Regularization の2つのコアモジュールから構成される。
  論文  参考訳（メタデータ） (2024-09-09T07:26:21Z)
• Test-Time Adaptation Induces Stronger Accuracy and Agreement-on-the-Line [65.14099135546594]
  最近のテスト時間適応 (TTA) 法は, モデルに非常に弱い相関関係を示すシフトであっても, ACL と AGL の傾向を大幅に強化する。 この結果から,TTAとAGLに基づく推定手法を組み合わせることで,より広い分布シフトの集合に対する高精度なモデルOOD性能を推定できることが示唆された。
  論文  参考訳（メタデータ） (2023-10-07T23:21:25Z)
• Approaching Test Time Augmentation in the Context of Uncertainty Calibration for Deep Neural Networks [2.112682368145474]
  画像分類のための深部モデルの不確実性校正を改善するため,M-ATTAとV-ATTAという新しい手法を提案する。 ナ適応重み付けシステムを利用することで、M/V-ATTAはモデルの精度に影響を与えることなく不確実性校正を改善する。
  論文  参考訳（メタデータ） (2023-04-11T10:01:39Z)
• Sample-dependent Adaptive Temperature Scaling for Improved Calibration [95.7477042886242]
  ニューラルネットワークの誤りを補うポストホックアプローチは、温度スケーリングを実行することだ。 入力毎に異なる温度値を予測し、信頼度と精度のミスマッチを調整することを提案する。 CIFAR10/100およびTiny-ImageNetデータセットを用いて,ResNet50およびWideResNet28-10アーキテクチャ上で本手法をテストする。
  論文  参考訳（メタデータ） (2022-07-13T14:13:49Z)
• Semantic Perturbations with Normalizing Flows for Improved Generalization [62.998818375912506]
  我々は、非教師付きデータ拡張を定義するために、潜在空間における摂動が利用できることを示す。 トレーニングを通して分類器に適応する潜伏性対向性摂動が最も効果的であることが判明した。
  論文  参考訳（メタデータ） (2021-08-18T03:20:00Z)
• Probabilistic Trust Intervals for Out of Distribution Detection [8.35564578781252]
  本稿では,従来のパラメータを変更することなく,事前学習ネットワークにおけるOOD検出を向上する手法を提案する。 提案手法は,各ネットワーク重みに対する確率的信頼区間を定義し,分布内データを用いて決定する。 我々は,MNIST,Fashion-MNIST,CIFAR-10,CIFAR-100,CIFAR-10-Cについて検討した。
  論文  参考訳（メタデータ） (2021-02-02T06:23:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。