論文の概要: RobustNCL: Robustifying Neuromorphic Continual Learning under Transient Faults with Lightweight Detect-and-Cure Strategy
- arxiv url: http://arxiv.org/abs/2610.31954v1
- Date: Thu, 22 Oct 2026 22:00:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 01:38:06.303209
- Title: RobustNCL: Robustifying Neuromorphic Continual Learning under Transient Faults with Lightweight Detect-and-Cure Strategy
- Title(参考訳): RobustNCL: 過渡断層下でのロバスト化ニューロモルフィック継続学習
- Abstract要約: ニューラルネットワークでは、継続学習(CL)は、実行時に見えないデータから効果的に学習することで、デプロイされたシステムが動的運用環境に適応できるようにするための顕著なアプローチである。
近年、ニューロモルフィック連続学習(NCL)の概念が、スパースイベントベースの操作を活用することで、CLのエネルギー効率の代替として登場した。
しかし、NCLの性能は、常に高エネルギー粒子衝突によって生じるハードウェアプラットフォームの過渡的欠陥によって損なわれる可能性がある。
本稿では,ハードウェアプラットフォームのDRAMベースオフチップメモリにおける過渡故障の存在下で,NCLの信頼性を向上させるための新しいロバストNCLフレームワークを提案する。
- 参考スコア(独自算出の注目度): 3.1061484260786014
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In neural networks, continual learning (CL) is a prominent approach for enabling deployed systems to adapt to dynamic operational environments by effectively learning from new unseen data at runtime. Recently, the neuromorphic continual learning (NCL) concept has emerged as an energy-efficient alternative to CL by leveraging sparse event-based operations. However, NCL performance can be undermined by transient faults in the hardware platforms, which may come from high-energy particle strikes at any time. Currently, NCL reliability under transient faults has not been studied, and hence the corresponding fault-tolerance techniques remain unexplored. To address this, we propose a novel RobustNCL framework to improve NCL reliability in the presence of transient faults in the DRAM-based off-chip memory of hardware platforms through a lightweight detect-and-cure strategy. Specifically, it first monitors the presence of faults during weight data access from off-chip memory, and then cures the accessed weights if anomalous signatures are detected. It provides three curing variants: replacement with zero, min/max value, and most-probable value from the original/clean weight distribution. To support this, the weight curing values are stored in the radiation-hardened memory. Experimental results show that, in the presence of high fault rates (e.g., 5x10^{-4} for memory replay), RobustNCL maintains high accuracy close to the accuracy of fault-free models (i.e., within -0.5% accuracy for the best RobustNCL variant) and significantly improves accuracy from the baseline without fault mitigation across different NCL methods and datasets (i.e., Split MNIST, Split Fashion-MNIST, Split CIFAR-10, and Split CIFAR-100), while incurring negligible latency and energy overheads. These results highlight that our RobustNCL framework is a promising approach for enabling reliable and energy-efficient NCL systems.
- Abstract(参考訳): ニューラルネットワークでは、継続学習(CL)は、実行時に新しい見えないデータから効果的に学習することで、デプロイされたシステムが動的運用環境に適応できるようにするための顕著なアプローチである。
近年、ニューロモルフィック連続学習(NCL)の概念が、スパースイベントベースの操作を活用することで、CLのエネルギー効率の代替として登場した。
しかし、NCLの性能は、常に高エネルギー粒子衝突によって生じるハードウェアプラットフォームの過渡的欠陥によって損なわれる可能性がある。
現在, 過渡断層下でのNCLの信頼性は研究されていないため, 対応する耐故障技術は未解明のままである。
そこで本研究では,ハードウェアプラットフォームのチップ外メモリにおける過渡的故障の存在下でのNCLの信頼性を,軽量な検出・計算戦略により向上する,新しいRobustNCLフレームワークを提案する。
具体的には、まずオフチップメモリからの重みデータアクセス中に障害をモニターし、異常なシグネチャが検出された場合、アクセスされた重みを治療する。
ゼロへの置換、min/max値、および元の/クリーンウェイト分布から最も期待できる値の3つのキュリング変種を提供する。
これを支持するために、重量硬化値を放射硬化メモリに記憶する。
実験結果によると、高故障率(メモリリプレイでは5x10^{-4})の存在下では、ロバストNCLはフォールトフリーモデルの精度(最高のロバストNCL変種では-0.5%の精度)に近い精度を維持し、異なるNCLメソッドやデータセット(スプリットMNIST、スプリットFashion-MNIST、スプリットCIFAR-10、スプリットCIFAR-100)で障害を緩和することなくベースラインからの精度を大幅に向上する。
これらの結果から,我々のRobustNCLフレームワークは信頼性とエネルギー効率のよいNCLシステムを実現するための有望なアプローチであることがわかった。
関連論文リスト
- ENCL: Enabling Efficient Neuromorphic Continual Learning with Local Learning Rule and Sub-Network Freezing Strategy [2.843343423777981]
ニューラルネットワークにおける連続学習(CL)は、デプロイされたシステムの知識を更新するための有望な学習アプローチである。
我々は,軽量なローカル学習ルールとサブネットワーク凍結戦略を用いて,効率的なNCLを実現する新しい手法であるENCLを提案する。
ENCLは、最先端の作業と比較して、さまざまなデータセットにわたる強力なパフォーマンスを一貫して達成している。
論文 参考訳(メタデータ) (2026-10-22T21:17:34Z) - Clipping Bottleneck: Stabilizing RLVR via Stochastic Recovery of Near-Boundary Signals [83.0127582612634]
Near-boundary Rescue (NSR) は最小限のプラグ・アンド・プレイの修正であり、失った信号を回復するために、アウト・オブ・バウンドトークンを保持する。
NSRはトレーニングの安定性を大幅に改善し、DAPOやGSPOといった強力なベースライン上で一貫したゲインを提供する。
論文 参考訳(メタデータ) (2026-05-21T16:45:31Z) - SpineContextResUNet: A Computationally Efficient Residual UNet for Spine CT Segmentation [0.21485350418225244]
SpineContextResUNetは高速な脊髄局在化のための計算効率の良い3次元残留U-Netである。
我々のアーキテクチャは、長距離解剖学的依存関係をキャプチャするために並列な多次元畳み込みを利用する軽量なContext Blockを統合している。
当社のモデルは、堅牢な推論を実行し、ポイント・オブ・ケアの診断とエッジプラットフォームへのデプロイに有効なソリューションとなる。
論文 参考訳(メタデータ) (2026-05-20T06:00:23Z) - On-Device Learning with Binary Neural Networks [2.7040098749051635]
我々は、最近のCL分野の進歩とBNN(Binary Neural Networks)の効率を取り入れたCLソリューションを提案する。
バックボーンとしてのバイナリネットワークの選択は、低消費電力デバイスの制約を満たすために不可欠である。
論文 参考訳(メタデータ) (2023-08-29T13:48:35Z) - Efficient Adversarial Contrastive Learning via Robustness-Aware Coreset
Selection [59.77647907277523]
敵対的コントラスト学習(ACL)は、高価なデータアノテーションを必要としないが、敵対的攻撃に耐える堅牢な表現を出力する。
ACLは、すべてのトレーニングデータの逆の変種を生成するのに、膨大な実行時間が必要です。
本稿では,ACLの高速化を目的としたロバストネス対応コアセット選択(RCS)手法を提案する。
論文 参考訳(メタデータ) (2023-02-08T03:20:14Z) - Improving Reliability of Spiking Neural Networks through Fault Aware
Threshold Voltage Optimization [0.0]
スパイキングニューラルネットワーク(SNN)は、ニューロモルフィックなハードウェアに自らを貸すことで、コンピュータビジョンを突破した。
Systolic-array SNNアクセラレータ(systolicSNN)が最近提案されているが、信頼性は依然として大きな懸念点である。
本稿では、リトレーニングにおける新しい故障軽減手法、すなわち、故障認識しきい値電圧の最適化について述べる(FalVolt)。
論文 参考訳(メタデータ) (2023-01-12T19:30:21Z) - Efficient Micro-Structured Weight Unification and Pruning for Neural
Network Compression [56.83861738731913]
ディープニューラルネットワーク(DNN)モデルは、特にリソース制限されたデバイスにおいて、実用的なアプリケーションに不可欠である。
既往の非構造的あるいは構造化された重量刈り法は、推論を真に加速することはほとんど不可能である。
ハードウェア互換のマイクロ構造レベルでの一般化された重み統一フレームワークを提案し,高い圧縮と加速度を実現する。
論文 参考訳(メタデータ) (2021-06-15T17:22:59Z) - Continual Learning in Recurrent Neural Networks [67.05499844830231]
リカレントニューラルネットワーク(RNN)を用いた逐次データ処理における連続学習手法の有効性を評価する。
RNNに弾性重み強化などの重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重み-重
そこで本研究では,重み付け手法の性能が処理シーケンスの長さに直接的な影響を受けず,むしろ高動作メモリ要求の影響を受けていることを示す。
論文 参考訳(メタデータ) (2020-06-22T10:05:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。