論文の概要: FedLAS: Feature-Modulated Bidirectional Label Smoothing for Neural Network Calibration

• arxiv url: http://arxiv.org/abs/2606.28654v1
• Date: Fri, 26 Jun 2026 23:55:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.631684
• Title: FedLAS: Feature-Modulated Bidirectional Label Smoothing for Neural Network Calibration
• Title（参考訳）: FedLAS: ニューラルネットワークキャリブレーションのための特徴変調双方向ラベル平滑化
• Abstract要約: ディープニューラルネットワーク(DNN)分類器は、ソフトマックス出力が経験的可能性から逸脱した場合、キャリブレーションの低下に悩まされる。 FedLAS: Feature-Modulated Bidirectional Label Smoothing, a plug-and-play algorithm for label smoothing based loss。
• 参考スコア（独自算出の注目度）: 2.2346611200823934
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep Neural Network (DNN) classifiers suffer from poor calibration when their softmax outputs (predictive confidence) deviate from the empirical likelihoods. This manifests itself as either overconfident incorrect predictions or under-confident correct predictions. Label smoothing (LS) enhances model calibration by introducing entropy regularization during training through redistributing probability mass from the ground-truth label to the remaining classes. LS, including Margin-based LS (MbLS), have restrictive assumptions: they rely on predefined, uniform smoothing rules and only tackle overconfidence. In reality, samples exhibit diverse characteristics, such as difficulty/ambiguity, that interact with the evolving nature of the model being trained. In training, samples may have various degrees of under- or overconfidence. To overcome this, a mechanism that identifies the specific confidence state of each sample and determines the appropriate degree of smoothing in each training step is needed, tailoring the adjustment to the individual sample. We propose FedLAS: Feature-Modulated Bidirectional Label Smoothing, a plug-and-play algorithm for label smoothing-based losses. In FedLAS, we introduce a Feature Norm-based Confidence Indicator (NCI) to control smoothing and a Bidirectional Calibration Gating (BCG) module to detect both over and under-confidence. Our algorithm can be integrated with LS and MbLS based losses when applied to standard DNNs, enhancing performance. Extensive experiments on standard and fine-grained high-resolution vision benchmarks show that FedLAS consistently improves calibration compared to modern baselines, reducing Expected Calibration Error (ECE) and Adaptive ECE while maintaining Top-1 accuracy. Code: github.com/nadarasarbahavan/FEDLAS
• Abstract（参考訳）: ディープニューラルネットワーク(DNN)分類器は、ソフトマックス出力(予測信頼度)が経験的可能性から逸脱した場合、キャリブレーションの低下に悩まされる。 これは、過信の誤った予測または過信の正しい予測であることを示している。 ラベル平滑化 (LS) は, 実験中のエントロピー正則化を導入し, モデルキャリブレーションを向上させる。 Margin-based LS (MbLS) を含むLSは、事前定義された均一な平滑化規則に依存し、過信にのみ取り組むという制限的な仮定を持つ。 実際、サンプルは、訓練中のモデルの進化する性質と相互作用する難易度や曖昧さなどの様々な特性を示す。 トレーニングでは、サンプルは様々な不信または過信の度合いを持つことがある。 これを克服するためには、各サンプルの特定の信頼状態を識別し、各トレーニングステップにおける適切な平滑化度を決定するメカニズムが必要であり、個別のサンプルへの調整が調整される。 FedLAS: Feature-Modulated Bidirectional Label Smoothing, a plug-and-play algorithm for label smoothing based loss。 FedLASでは,スムージングを制御するためのFeature Norm-based Confidence Indicator (NCI) と,双方向校正ゲーティング (BCG) モジュールを用いて,オーバー・アンダー・信頼の両方を検出する。 我々のアルゴリズムは、標準DNNに適用した場合、LSとMbLSに基づく損失と統合でき、性能が向上する。 標準的な高精細度高精細度ビジョンベンチマークの広範な実験により、FedLASは最新のベースラインに比べてキャリブレーションを一貫して改善し、Top-1の精度を維持しつつ、期待されるキャリブレーションエラー(ECE)と適応ECEを低減した。 コード:github.com/nadarasarbahavan/FEDLAS

関連論文リスト

• Multimodal Learning on Low-Quality Data with Conformal Predictive Self-Calibration [72.0672328514289]
  マルチモーダル学習は、しばしば低品質データの課題に悩まされる。 コンフォーマル予測自己校正(Conformal Predictive Self-Calibration)と呼ばれる統合フレームワークを提案する。 私たちのフレームワークは、既存の最先端メソッドを一貫して上回ります。
  論文  参考訳（メタデータ） (2026-05-05T14:48:52Z)
• Calibratable Disambiguation Loss for Multi-Instance Partial-Label Learning [53.9713678229744]
  MIPL(Multi-instance partial-label Learning)は、インスタンス空間とラベル空間の両方において、不正確な監督の課題に対処する弱い教師付きフレームワークである。 既存のMIPLアプローチは、しばしばキャリブレーションが悪く、信頼性を損なう。 分類精度と校正性能を同時に向上するプラグアンドプレイ校正型曖昧さ損失(CDL)を提案する。
  論文  参考訳（メタデータ） (2025-12-19T16:58:31Z)
• CalibrateMix: Guided-Mixup Calibration of Image Semi-Supervised Models [49.588973929678765]
  CalibrateMixは、SSLモデルのキャリブレーションを改善することを目的とした、ミックスアップベースのアプローチである。 提案手法は,既存のSSL手法と比較して,期待校正誤差(ECE)の低減と精度の向上を実現している。
  論文  参考訳（メタデータ） (2025-11-17T04:43:53Z)
• Unsupervised Conformal Inference: Bootstrapping and Alignment to Control LLM Uncertainty [49.19257648205146]
  生成のための教師なし共形推論フレームワークを提案する。 我々のゲートは、分断されたUPPよりも厳密で安定した閾値を提供する。 その結果は、ラベルのない、API互換の、テスト時間フィルタリングのゲートになる。
  論文  参考訳（メタデータ） (2025-09-26T23:40:47Z)
• Guess-and-Learn (G&L): Measuring the Cumulative Error Cost of Cold-Start Adaptation [0.11102988539107704]
  機械学習モデルの評価は、スクラッチから学習中に発生する累積誤差の適応コストを見越して、最終的な精度を強調するのが一般的である。 Guess-and- Learn (G&L) v1.0は、コールドスタート適応性を測定することで、このギャップに対処する。
  論文  参考訳（メタデータ） (2025-08-29T00:13:02Z)
• Sample Margin-Aware Recalibration of Temperature Scaling [20.87493013833571]
  近年のディープラーニングの進歩は予測精度を大幅に改善した。 現代のニューラルネットワークは体系的に過信され、安全クリティカルなシナリオに展開するリスクを生じさせる。 本稿では,上位2つのロジット間のマージンに基づいて,ロジットを正確にスケールする軽量でデータ効率の高いリカバリ手法を提案する。
  論文  参考訳（メタデータ） (2025-06-30T03:35:05Z)
• Mind the Gap: Confidence Discrepancy Can Guide Federated Semi-Supervised Learning Across Pseudo-Mismatch [50.632535091877706]
  Federated Semi-Supervised Learning (FSSL)は、ラベル付きデータに制限のあるクライアント間でラベル付きデータを活用して、強力な一般化能力を持つグローバルモデルをトレーニングすることを目的としている。 ほとんどのFSSL手法は擬似ラベルによる整合正則化に依存しており、局所的またはグローバルなモデルからの予測を監督信号としてハード擬似ラベルに変換する。 擬似ラベルの品質は、フェデレーション学習の本質的な側面であるデータ不均一性によって大きく劣化していることを示す。
  論文  参考訳（メタデータ） (2025-03-17T14:41:51Z)
• Calibrating Deep Neural Network using Euclidean Distance [5.3612053942581275]
  機械学習では、Focal Lossは、サンプルの分類が難しいことを強調することで、誤分類率を減らすために一般的に使用される。 高校正誤差は予測確率と実際の結果との相違を示し、モデルの信頼性に影響を及ぼす。 本研究では,FCL (Focal Loss) と呼ばれる新しい損失関数を導入する。
  論文  参考訳（メタデータ） (2024-10-23T23:06:50Z)
• Semi-Supervised Class-Agnostic Motion Prediction with Pseudo Label Regeneration and BEVMix [59.55173022987071]
  クラス非依存動作予測のための半教師あり学習の可能性について検討する。 我々のフレームワークは一貫性に基づく自己学習パラダイムを採用しており、ラベルのないデータからモデルを学習することができる。 本手法は,弱さと完全教師付き手法に匹敵する性能を示す。
  論文  参考訳（メタデータ） (2023-12-13T09:32:50Z)
• Model Calibration in Dense Classification with Adaptive Label Perturbation [44.62722402349157]
  既存の密接な二分分類モデルは、過信される傾向がある。 本稿では,各トレーニング画像に対する独自のラベル摂動レベルを学習する適応ラベル摂動(ASLP)を提案する。 ASLPは、分布内および分布外の両方のデータに基づいて、密度の高い二分分類モデルの校正度を著しく改善することができる。
  論文  参考訳（メタデータ） (2023-07-25T14:40:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。