論文の概要: NeuMoSync: End-to-End Neuromodulatory Control for Plasticity and Adaptability in Continual Learning
- arxiv url: http://arxiv.org/abs/2608.04358v1
- Date: Wed, 05 Aug 2026 02:01:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-06 14:48:43.688848
- Title: NeuMoSync: End-to-End Neuromodulatory Control for Plasticity and Adaptability in Continual Learning
- Title（参考訳）: NeuMoSync:連続学習における可塑性と適応性のための終端から終端への神経調節制御
- Authors: Seyed Roozbeh Razavi Rohani, Khashayar Khajavi, Wesley Chung, Mandana Samiei, Mo Chen,
- Abstract要約: 連続学習(CL)は、タスクを逐次学習するモデルを必要とするが、深層ニューラルネットワークはしばしば可塑性損失と知識伝達不良に悩まされる。
我々はニューロ変調とシンクロナイゼーション(NeuMoSync)を導入する。これは、動的、ニューロン特異的な変調をディープニューラルネットワークに統合する新しいアーキテクチャである。
NeuMoSyncは、ネットワーク全体の履歴コンテキストを追跡するニューロン毎に学習可能な特徴ベクトルを使用して、標準的なニューラルネットワークアーキテクチャを拡張している。
- 参考スコア（独自算出の注目度）: 2.850721641556094
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Continual learning (CL) requires models to learn tasks sequentially, yet deep neural networks often suffer from plasticity loss and poor knowledge transfer, which can impede their long-term adaptability. Drawing high-level inspiration from global neuromodulatory mechanisms in the brain, we introduce Neuromodulation and Synchronization (NeuMoSync), a novel architecture that integrates dynamic, neuron-specific modulation into deep neural networks to enhance their adaptability and plasticity. NeuMoSync extends standard neural network architectures with learnable feature vectors for each neuron that track network-wide historical context and with a module operating at a higher level of abstraction. This module synthesizes neuron-specific signals, conditioned on both current inputs and the network's evolving state, to adaptively regulate activation dynamics and synaptic plasticity. Evaluated on diverse CL benchmarks, including memorization (Random Label CIFAR-10 and Random Label MNIST), concept drift (Shuffle CIFAR-10 and Shuffle Mini-ImageNet), class-incremental learning (Class Split ImageNet and Class Split CIFAR-100), and domain-incremental learning (Permuted MNIST), NeuMoSync demonstrates strong performance in retaining plasticity and achieves improvements in both forward and backward adaptation compared with existing methods. Ablation studies validate the necessity of each component, while analysis of the learned modulatory signals reveals interpretable coordination patterns across tasks. Our work underscores the potential of integrating global coordination mechanisms into deep learning systems to advance robust, adaptive continual learning. The code is publicly available at https://github.com/RoozbehRazavi/NeuMoSync.
- Abstract（参考訳）: 連続学習(CL)は、タスクを逐次学習するモデルを必要とするが、深層ニューラルネットワークは、しばしば可塑性損失と知識伝達の欠如に悩まされ、長期的適応性を阻害する可能性がある。
脳のグローバルな神経調節機構から高レベルなインスピレーションを得たNeuMoSyncは、動的でニューロン特異的な変調を深層神経ネットワークに統合し、適応性と可塑性を高める新しいアーキテクチャである。
NeuMoSyncは標準的なニューラルネットワークアーキテクチャを拡張し、ネットワーク全体の履歴をトラックする各ニューロンのための学習可能な特徴ベクトルと、より高い抽象化レベルで動作するモジュールを備える。
このモジュールは、現在の入力とネットワークの進化状態の両方に条件付けられたニューロン特異的信号を合成し、活性化ダイナミクスとシナプス可塑性を適応的に調節する。
メモリ化(Random Label CIFAR-10とRandom Label MNIST)、コンセプトドリフト(Shuffle CIFAR-10とShuffle Mini-ImageNet)、クラスインクリメンタルラーニング(Class Split ImageNetとClass Split CIFAR-100)、ドメインインクリメンタルラーニング(Permuted MNIST)など、さまざまなCLベンチマークで評価されたNeuMoSyncは、可塑性を維持する上での強力なパフォーマンスを示し、既存の方法と比較して前方および後方適応の改善を実現している。
アブレーション研究は各コンポーネントの必要性を検証し、学習された変調信号の解析はタスク間の解釈可能な協調パターンを明らかにする。
本研究は,グローバルコーディネート機構を深層学習システムに統合し,堅牢で適応的な継続的学習を促進する可能性を明らかにするものである。
コードはhttps://github.com/RoozbehRazavi/NeuMoSyncで公開されている。
関連論文リスト
- Topological Neural Dynamics: A Neuron-wise Framework for Sequence Modeling [55.07411490538404]
トポロジカル・ニューラル・ダイナミクス(TND)は、トポロジカル・ニューラル・ダイナミクス(英語版) (TND) が階層的からニューロン的へと変化するシーケンス・モデリング・フレームワークである。
TNDは神経系を、有向ニューロングラフ、相互作用演算子、局所力学関数として表す。
我々はTNDをシングルプレイヤーPongにおける行動クローニングタスクのケーススタディとして評価した。
論文 参考訳（メタデータ） (2026-06-19T10:18:24Z) - A feedback control optimizer for online and hardware-aware training of Spiking Neural Networks [0.5512626046125358]
本稿では、スパイクに基づく重み更新とフィードバック制御信号を統合する混合信号デバイス上でのスパイキングニューラルネットワーク(SNN)の新しい学習アルゴリズムを提案する。
我々のフレームワークでは、スパイキングコントローラがフィードバック信号を生成し、SNNアクティビティをガイドし、ウェイトアップデートを駆動し、スケーラブルでローカルなオンチップ学習を可能にする。
論文 参考訳（メタデータ） (2026-02-03T10:08:21Z) - Connectome-Guided Automatic Learning Rates for Deep Networks [3.2228025627337864]
本研究では,このコネクトーム再構成によって学習率をオンラインで調整するコネクトーム誘導自動学習率(CG-ALR)を提案する。
このコネクトロミクスにインスパイアされたメカニズムは、ネットワークの動的機能組織にステップサイズを適応させ、不安定な再構成中に学習を遅くし、安定した組織が出現するとそれを加速する。
脳コネクトームにインスパイアされた原理は、ディープラーニングにおける適応学習率の設計に役立ち、従来のSGDベースのスケジュールや最近の手法よりも優れていることを示す。
論文 参考訳（メタデータ） (2025-10-27T19:11:49Z) - Neuronal Group Communication for Efficient Neural representation [85.36421257648294]
本稿では, 効率的な, モジュラー, 解釈可能な表現を学習する, 大規模ニューラルシステムの構築方法に関する問題に対処する。
本稿では、ニューラルネットワークを相互作用する神経群の動的システムとして再認識する理論駆動型フレームワークである神経グループ通信(NGC)を提案する。
NGCは、重みを埋め込みのようなニューロン状態間の過渡的な相互作用として扱い、神経計算はニューロン群間の反復的なコミュニケーションを通じて展開する。
論文 参考訳（メタデータ） (2025-10-19T14:23:35Z) - Multi-Plasticity Synergy with Adaptive Mechanism Assignment for Training Spiking Neural Networks [10.519687559399623]
スパイキングニューラルネットワーク(SNN)は、低消費電力と時間的処理の優れた可能性で知られる脳にインスパイアされたモデルである。
より効果的なSNNトレーニングのために,複数の相乗的可塑性機構を組み込んだ,生物学的にインスパイアされたトレーニングフレームワークを提案する。
論文 参考訳（メタデータ） (2025-08-19T09:18:35Z) - Improving the adaptive and continuous learning capabilities of artificial neural networks: Lessons from multi-neuromodulatory dynamics [37.015600422825855]
生物学的生物は、動的環境に適応しながら知識を取得し、移動し、保持する。
本研究は,生物学習システムの基本的特徴である神経調節が,破滅的な忘れ込みなどの課題にどのように対処できるかを考察する。
マルチスケールの神経調節を統合することで,生物学習と人工システムとのギャップを埋めることを目指す。
論文 参考訳（メタデータ） (2025-01-12T10:10:01Z) - Contrastive Learning in Memristor-based Neuromorphic Systems [55.11642177631929]
スパイクニューラルネットワークは、現代のバックプロパゲーションによって訓練されたディープネットワークに直面する重要な制約の多くを横取りする、ニューロンベースのモデルの重要なファミリーとなっている。
本研究では,前向き・後向き学習のニューロモルフィック形式であるコントラッシブ・シグナル依存型塑性(CSDP)の概念実証を設計し,検討する。
論文 参考訳（メタデータ） (2024-09-17T04:48:45Z) - Contrastive-Signal-Dependent Plasticity: Self-Supervised Learning in Spiking Neural Circuits [61.94533459151743]
この研究は、スパイキングネットワークのシナプスを調整するための神経生物学的に動機づけられたスキームを設計することの課題に対処する。
我々の実験シミュレーションは、繰り返しスパイクネットワークを訓練する際、他の生物学的に証明可能なアプローチに対して一貫した優位性を示す。
論文 参考訳（メタデータ） (2023-03-30T02:40:28Z) - SpikePropamine: Differentiable Plasticity in Spiking Neural Networks [0.0]
スパイキングニューラルネットワーク(SNN)におけるシナプス可塑性と神経調節シナプス可塑性のダイナミクスを学習するための枠組みを導入する。
異なる可塑性で強化されたSNNは、時間的学習課題の集合を解決するのに十分であることを示す。
これらのネットワークは、高次元のロボット学習タスクで移動を生成できることも示されている。
論文 参考訳（メタデータ） (2021-06-04T19:29:07Z) - Incremental Training of a Recurrent Neural Network Exploiting a
Multi-Scale Dynamic Memory [79.42778415729475]
本稿では,マルチスケール学習を対象とする,漸進的に訓練された再帰的アーキテクチャを提案する。
隠れた状態を異なるモジュールに分割することで、シンプルなRNNのアーキテクチャを拡張する方法を示す。
新しいモジュールがモデルに反復的に追加され、徐々に長い依存関係を学習するトレーニングアルゴリズムについて議論する。
論文 参考訳（メタデータ） (2020-06-29T08:35:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。