論文の概要: Active Continual Learning with Metaplastic Binary Bayesian Neural Networks
- arxiv url: http://arxiv.org/abs/2605.30198v1
- Date: Thu, 28 May 2026 16:36:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-30 02:45:56.539656
- Title: Active Continual Learning with Metaplastic Binary Bayesian Neural Networks
- Title(参考訳): メタ可塑性二元ベイズニューラルネットワークによるアクティブ連続学習
- Authors: Kellian Cottart, Théo Ballet, Djohan Bonnet, Damien Querlioz,
- Abstract要約: BiMUは、安定性、可塑性、そして忘れをバランスさせる境界メモリの変動目標である。
1000タスクのPermuted-MNIST上での学習と強力なOOD検出を継続する。
- 参考スコア(独自算出の注目度): 0.34998703934432673
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Always-on edge systems must keep learning as conditions change under tight compute budgets and must detect unreliable predictions. Bayesian binary neural networks are attractive in this setting, but mean-field Bernoulli posteriors can saturate on long non-stationary streams, wiping out epistemic uncertainty and freezing plasticity. We propose BiMU, derived from a bounded-memory variational objective that balances stability, plasticity, and forgetting. BiMU combines a data term with controlled relaxation toward the prior and an uncertainty-dependent step size that prevents saturation and sustains informative uncertainty. This non-degenerate posterior enables fully online, buffer-free active querying via Monte Carlo disagreement, reducing label queries and backpropagation updates under imbalance. BiMU sustains learning and strong OOD detection on 1000-tasks Permuted-MNIST, and on OpenLORIS-Object achieves up to 32$\times$ label/update savings at matched accuracy under class imbalance and feature compression.
- Abstract(参考訳): 常にエッジシステムは、厳格な計算予算の下で条件が変わるにつれて学習を続け、信頼できない予測を検出する必要がある。
ベイズ系バイナリニューラルネットワークはこの環境では魅力的だが、平均野のベルヌーイ後部は長い非定常流で飽和し、てんかんの不確実性や凍った可塑性を除去することができる。
本稿では, 安定性, 可塑性, 忘れのバランスを保ちながら, メモリ境界の変動を考慮に入れたBiMUを提案する。
BiMUは、データ用語と、事前に調節された緩和と、飽和を防止し、情報的不確実性を維持する不確実性に依存したステップサイズを組み合わせる。
この非退化後処理は、モンテカルロの不一致による完全なオンラインバッファフリーなアクティブクエリを可能にし、ラベルクエリの削減と不均衡なバックプロパゲーション更新を可能にする。
BiMUは1000タスクのPermuted-MNISTでの学習と強力なOOD検出を継続し、OpenLORIS-Objectでは32$\times$ label/update savesをクラス不均衡と特徴圧縮の下で一致した精度で達成している。
関連論文リスト
- Evolving Robustness--Exploration Trade-off in Online Reinforcement Learning via Quantile Bayesian Risk MDPs [8.44570722529746]
オンライン強化学習では、データの不足は学習の初期段階において頑健さを重要視する不確実性を生み出し、真の環境最適政策を学ぶには十分な探索が必要である。
我々は、この時変ロバスト性--量的ベイズリスクを考慮したマルコフ決定過程(BR-MDP)を通してのトレードオフについて研究する。
本稿では,適応的な量子化スケジュールを持つオンラインベイズリスク認識アルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-05-23T02:12:00Z) - Statistical Roughness-Informed Machine Unlearning [3.8218584696400484]
機械学習の目的は、トレーニングされたモデルから指定された忘れ物セットの影響を取り除き、保持されたデータにユーティリティを保存することである。
本研究では,非学習更新を再配置するメカニズムファーストなアンラーニングアルゴリズムSRAGUを提案する。
論文 参考訳(メタデータ) (2026-02-10T00:40:36Z) - Network-Optimised Spiking Neural Network for Event-Driven Networking [2.5941336499463383]
スパイキングニューラルネットワークは、異常検出、ローカルルーティング制御、エッジでの混雑管理など、時間クリティカルなネットワークタスクに適したイベント駆動型計算を提供する。
本稿では,正規化された待ち行列の占有状態と回復資源を符号化したコンパクトな2変数ユニットであるNetwork-Optimized Spiking (NOS)を紹介する。
我々は、データ駆動初期化、リセットシャープネスに基づくホモトピーによる代理段階トレーニング、リソース制約されたデプロイメントのための境界のトポロジによる明確な安定性チェックのガイダンスを提供する。
論文 参考訳(メタデータ) (2025-09-27T22:31:24Z) - Revisiting Multivariate Time Series Forecasting with Missing Values [65.30332997607141]
現実の時系列では欠落値が一般的である。
現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。
このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。
本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
論文 参考訳(メタデータ) (2025-09-27T20:57:48Z) - Bayesian continual learning and forgetting in neural networks [0.8795040582681392]
シナプス不確実性(MESU)からメタ可塑性を導入する
MESUはベイジアンフレームワークであり、不確実性に応じてネットワークパラメータを更新する。
この結果は, メタ塑性, ベイズ推定, ヘッセン系正則化のアイデアを統一するものである。
論文 参考訳(メタデータ) (2025-04-18T09:11:34Z) - Bayesian optimized deep ensemble for uncertainty quantification of deep neural networks: a system safety case study on sodium fast reactor thermal stratification modeling [10.055838489452817]
ディープ・アンサンブルはディープ・ニューラルネットワーク(DNN)における不確実性定量化(UQ)のための効率的でスケーラブルな方法である
本稿では,ベイズ最適化(BO)とBODEと呼ばれるDDEを組み合わせることによって,予測精度とUQを両立させる手法を提案する。
計算流体力学(CFD)データに基づいて学習したDensely Connected Convolutional Neural Network (DCNN) のケーススタディにBODEを適用し, 高速炉熱成層モデルにおける渦粘度を予測する。
論文 参考訳(メタデータ) (2024-12-11T21:06:50Z) - Can pruning improve certified robustness of neural networks? [106.03070538582222]
ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。
実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。
さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
論文 参考訳(メタデータ) (2022-06-15T05:48:51Z) - Robust Implicit Networks via Non-Euclidean Contractions [63.91638306025768]
暗黙のニューラルネットワークは、精度の向上とメモリ消費の大幅な削減を示す。
彼らは不利な姿勢と収束の不安定さに悩まされる。
本論文は,ニューラルネットワークを高機能かつ頑健に設計するための新しい枠組みを提供する。
論文 参考訳(メタデータ) (2021-06-06T18:05:02Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。