論文の概要: Slumbering to Precision: Enhancing Artificial Neural Network Calibration Through Sleep-like Processes
- arxiv url: http://arxiv.org/abs/2603.07867v1
- Date: Mon, 09 Mar 2026 00:43:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-10 15:13:15.330919
- Title: Slumbering to Precision: Enhancing Artificial Neural Network Calibration Through Sleep-like Processes
- Title(参考訳): 高精度スラベリング:スリープライクなプロセスによるニューラルネットワークキャリブレーションの強化
- Authors: Jean Erik Delanois, Aditya Ahuja, Giri P. Krishnan, Maxim Bazhenov,
- Abstract要約: 本研究では,新しいキャリブレーション手法であるSleep Replay Consolidation(SRC)を紹介する。
SRCはトレーニング後の睡眠に似たフェーズで、ネットワーク重みを更新するために内部表現を選択的に再生する。
これらの結果から,SRCはニューラルネットワークキャリブレーションの改善に根本的に新しいアプローチを提供することが示された。
- 参考スコア(独自算出の注目度): 5.127310126394387
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Artificial neural networks are often overconfident, undermining trust because their predicted probabilities do not match actual accuracy. Inspired by biological sleep and the role of spontaneous replay in memory and learning, we introduce Sleep Replay Consolidation (SRC), a novel calibration approach. SRC is a post-training, sleep-like phase that selectively replays internal representations to update network weights and improve calibration without supervised retraining. Across multiple experiments, SRC is competitive with and complementary to standard approaches such as temperature scaling. Combining SRC with temperature scaling achieves the best Brier score and entropy trade-offs for AlexNet and VGG19. These results show that SRC provides a fundamentally novel approach to improving neural network calibration. SRC-based calibration offers a practical path toward more trustworthy confidence estimates and narrows the gap between human-like uncertainty handling and modern deep networks.
- Abstract(参考訳): 人工ニューラルネットワークは、しばしば過信され、予測された確率が実際の精度に合わないため、信頼を損なう。
生体睡眠と記憶と学習における自然再生の役割に着想を得て,新しい校正手法であるSleep Replay Consolidation(SRC)を導入する。
SRCはトレーニング後の睡眠に似たフェーズで、内部表現を選択的に再生してネットワーク重みを更新し、リトレーニングを監督せずにキャリブレーションを改善する。
複数の実験において、SRCは温度スケーリングのような標準的なアプローチと競合し、補完する。
SRCと温度スケーリングを組み合わせることで、AlexNetとVGG19にとって、最高のブライアスコアとエントロピートレードオフが得られる。
これらの結果から,SRCはニューラルネットワークキャリブレーションの改善に根本的に新しいアプローチを提供することが示された。
SRCベースのキャリブレーションは、より信頼性の高い信頼度推定への実践的な経路を提供し、人間のような不確実性処理と現代のディープネットワークの間のギャップを狭める。
関連論文リスト
- Pretraining with random noise for uncertainty calibration [0.0]
多くのモデルは、誤った信頼のために幻覚(自信があるが不正確な反応)を示す。
発達神経科学にインスパイアされた本手法は,ランダムなノイズとラベルでネットワークを事前学習することでこの問題に対処する。
論文 参考訳(メタデータ) (2024-12-23T09:22:00Z) - Calibrating a Deep Neural Network with Its Predecessors [39.3413000646559]
ネットワークの早期停止の限界について検討し,各ブロックを考慮したオーバーフィッティング問題を解析する。
キャリブレーションを改善するために,新しい正規化手法である先行組合せ探索(PCS)を提案する。
PCSは、複数のデータセットとアーキテクチャ上で最先端のキャリブレーション性能を達成する。
論文 参考訳(メタデータ) (2023-02-13T10:33:55Z) - Neural Clamping: Joint Input Perturbation and Temperature Scaling for Neural Network Calibration [62.4971588282174]
我々はニューラルクランプ法と呼ばれる新しい後処理キャリブレーション法を提案する。
実験の結果,Neural Clampingは最先端の処理後のキャリブレーション法よりも優れていた。
論文 参考訳(メタデータ) (2022-09-23T14:18:39Z) - Can pruning improve certified robustness of neural networks? [106.03070538582222]
ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。
実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。
さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
論文 参考訳(メタデータ) (2022-06-15T05:48:51Z) - Uncertainty-Aware Deep Calibrated Salient Object Detection [74.58153220370527]
既存のディープニューラルネットワークに基づくサルエントオブジェクト検出(SOD)手法は主に高いネットワーク精度の追求に重点を置いている。
これらの手法は、信頼不均衡問題として知られるネットワーク精度と予測信頼の間のギャップを見落としている。
我々は,不確実性を考慮した深部SODネットワークを導入し,深部SODネットワークの過信を防止するための2つの戦略を提案する。
論文 参考訳(メタデータ) (2020-12-10T23:28:36Z) - Intra Order-preserving Functions for Calibration of Multi-Class Neural
Networks [54.23874144090228]
一般的なアプローチは、元のネットワークの出力をキャリブレーションされた信頼スコアに変換する、ポストホックキャリブレーション関数を学ぶことである。
以前のポストホックキャリブレーション技術は単純なキャリブレーション機能でしか機能しない。
本稿では,順序保存関数のクラスを表すニューラルネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2020-03-15T12:57:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。