論文の概要: Too Sharp, Too Sure: When Calibration Follows Curvature

• arxiv url: http://arxiv.org/abs/2604.20614v1
• Date: Wed, 22 Apr 2026 14:28:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-23 15:36:11.171777
• Title: Too Sharp, Too Sure: When Calibration Follows Curvature
• Title（参考訳）: シャープすぎる! キャリブレーションが曲率を下げる時
• Authors: Alessandro Morosini, Matea Gjika, Tomaso Poggio, Pierfrancesco Beneventano,
• Abstract要約: 実験的に、期待誤差(ECE)は最適化全体を通して曲率に基づくシャープネスを密に追跡する。 ECE と Gauss-Newton の曲率も,問題固有定数まで制御可能であることを示す。 我々は,頑健な雄の尾と局所的な滑らかさを明確に目標とする辺縁認識トレーニングの目標を導入する。
• 参考スコア（独自算出の注目度）: 39.687359662779826
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modern neural networks can achieve high accuracy while remaining poorly calibrated, producing confidence estimates that do not match empirical correctness. Yet calibration is often treated as a post-hoc attribute. We take a different perspective: we study calibration as a training-time phenomenon on small vision tasks, and ask whether calibrated solutions can be obtained reliably by intervening on the training procedure. We identify a tight coupling between calibration, curvature, and margins during training of deep networks under multiple gradient-based methods. Empirically, Expected Calibration Error (ECE) closely tracks curvature-based sharpness throughout optimization. Mathematically, we show that both ECE and Gauss--Newton curvature are controlled, up to problem-specific constants, by the same margin-dependent exponential tail functional along the trajectory. Guided by this mechanism, we introduce a margin-aware training objective that explicitly targets robust-margin tails and local smoothness, yielding improved out-of-sample calibration across optimizers without sacrificing accuracy.
• Abstract（参考訳）: 現代のニューラルネットワークは、キャリブレーションが不十分なまま高い精度を達成でき、経験的正確性にマッチしない信頼度推定を生成する。 しかし、キャリブレーションはしばしばポストホック属性として扱われる。 我々は、小さな視覚課題における訓練時間現象としての校正について検討し、訓練手順に介入することで、校正された解を確実に得ることができるかどうかを問う。 複数の勾配法に基づく深層ネットワークのトレーニングにおいて,キャリブレーション,曲率,マージンの密結合を同定する。 実証的に、期待校正誤差(ECE)は、最適化全体を通して曲率に基づくシャープさを綿密に追跡する。 数学的には、ECE と Gauss--Newton の曲率の制御は、問題固有の定数まで、軌道に沿って同じマージン依存指数的尾翼関数によって行われる。 本機構により,ロバストマージンテールと局所スムーズ性を明確に目標とし,精度を損なうことなく最適化器のアンサンブルキャリブレーションの改善を図った。

関連論文リスト

• Combining Priors with Experience: Confidence Calibration Based on Binomial Process Modeling [3.4580564656984736]
  既存の信頼性校正法は主に統計手法を用いてデータから校正曲線を推定する。 推定キャリブレーション曲線を利用して真のキャリブレーション誤差(TCE)を推定する新しいキャリブレーション計量(TCE_bpm$)を設計する。 実世界およびシミュレーションデータにおいて,キャリブレーション手法と測定値の有効性を検証した。
  論文  参考訳（メタデータ） (2024-12-14T03:04:05Z)
• Calibration by Distribution Matching: Trainable Kernel Calibration Metrics [56.629245030893685]
  カーネルベースのキャリブレーションメトリクスを導入し、分類と回帰の両方で一般的なキャリブレーションの形式を統一・一般化する。 これらの指標は、異なるサンプル推定を許容しており、キャリブレーションの目的を経験的リスク最小化に組み込むのが容易である。 決定タスクにキャリブレーションメトリクスを調整し、正確な損失推定を行ない、後悔しない決定を行うための直感的なメカニズムを提供する。
  論文  参考訳（メタデータ） (2023-10-31T06:19:40Z)
• Threshold-Consistent Margin Loss for Open-World Deep Metric Learning [42.03620337000911]
  画像検索にDeep Metric Learning (DML) で使われている既存の損失は、しばしば非均一なクラス内およびクラス間表現構造に繋がる。 不整合はしばしば、商用画像検索システムを展開する際のしきい値選択過程を複雑にする。 クラス間の動作特性の分散を定量化するOPIS(Operating-Point-Inconsistency-Score)と呼ばれる,新しい分散に基づく尺度を提案する。
  論文  参考訳（メタデータ） (2023-07-08T21:16:41Z)
• Sharp Calibrated Gaussian Processes [58.94710279601622]
  キャリブレーションされたモデルを設計するための最先端のアプローチは、ガウス過程の後方分散を膨らませることに依存している。 本稿では,バニラガウス過程の後方分散にインスパイアされた計算を用いて,予測量子化を生成するキャリブレーション手法を提案する。 我々のアプローチは合理的な仮定の下で校正されたモデルが得られることを示す。
  論文  参考訳（メタデータ） (2023-02-23T12:17:36Z)
• Calibrated and Sharp Uncertainties in Deep Learning via Density Estimation [10.209143402485406]
  本稿では, キャリブレーションが重要であり, 維持が容易であることを論じる。 校正されたモデルを生成する再校正に基づく簡単なトレーニング手順を導入し、全体的な性能を犠牲にしない。
  論文  参考訳（メタデータ） (2021-12-14T06:19:05Z)
• Parameterized Temperature Scaling for Boosting the Expressive Power in Post-Hoc Uncertainty Calibration [57.568461777747515]
  我々は新しいキャリブレーション手法であるパラメタライズド温度スケーリング(PTS)を導入する。 最新のポストホックキャリブレータの精度保持性能は、その本質的な表現力によって制限されることを実証します。 当社の新しい精度保存手法が,多数のモデルアーキテクチャやデータセット,メトリクスにおいて,既存のアルゴリズムを一貫して上回っていることを示す。
  論文  参考訳（メタデータ） (2021-02-24T10:18:30Z)
• Calibrating Deep Neural Networks using Focal Loss [77.92765139898906]
  ミススキャリブレーション(Miscalibration)は、モデルの信頼性と正しさのミスマッチである。 焦点損失は、既に十分に校正されたモデルを学ぶことができることを示す。 ほぼすべてのケースにおいて精度を損なうことなく,最先端のキャリブレーションを達成できることを示す。
  論文  参考訳（メタデータ） (2020-02-21T17:35:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。