論文の概要: Stagnant Neuron: Towards Understanding the Plasticity Loss in Multi-Agent Reinforcement Learning Value Factorization Methods

• arxiv url: http://arxiv.org/abs/2606.25335v1
• Date: Wed, 24 Jun 2026 03:00:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 17:05:30.199438
• Title: Stagnant Neuron: Towards Understanding the Plasticity Loss in Multi-Agent Reinforcement Learning Value Factorization Methods
• Title（参考訳）: 定常ニューロン:多エージェント強化学習値分解法における塑性損失の理解に向けて
• Abstract要約: MARL(Multi-Agent Reinforcement Learning)値分解法は可塑性の喪失に悩まされ、新しいタスクインスタンスに移行する際に徐々に適応に失敗する。 我々は、この問題を停滞したニューロンに遡り、勾配の更新が重みに対して無視できないほど小さくなり、学習を妨げる。 我々は,静止ニューロンを直接対象とする新しい手法であるKNIFE(Knowledge-retentive Neuron-level PlastIcity Focusing InjEction)を提案する。
• 参考スコア（独自算出の注目度）: 21.187846789919124
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multi-Agent Reinforcement Learning (MARL) value factorization methods can suffer from a loss of plasticity, gradually failing to adapt when transferring to new task instances. We trace this issue to stagnant neurons, units whose gradient updates become negligibly small relative to their weights, thereby hindering learning. While existing plasticity injection methods exist, they prove ineffective for such neurons. To address this, we propose Knowledge-retentive Neuron-level PlastIcity Focusing InjEction (KNIFE), a novel method that directly targets stagnant neurons. KNIFE replaces each stagnant neuron with a composite unit comprising three specialized components: a frozen knowledge neuron to preserve acquired knowledge, a re-initialized active neuron to restore learning capacity, and a compensation neuron to ensure the combined output matches the original, thus maintaining previous learned cooperation knowledge. Extensive experiments on SMACv2, predator-prey, and matrix games demonstrate that KNIFE significantly outperforms state-of-the-art plasticity injection methods.
• Abstract（参考訳）: MARL(Multi-Agent Reinforcement Learning)値分解法は可塑性の喪失に悩まされ、新しいタスクインスタンスに移行する際に徐々に適応に失敗する。 我々は、この問題を停滞したニューロンに遡り、勾配の更新が重みに対して無視できないほど小さくなり、学習を妨げる。 既存の可塑性注入法は存在するが、そのようなニューロンには効果がないことが証明されている。 そこで我々は,静止ニューロンを直接対象とする新しい手法であるKNIFE(Knowled-retentive Neuron-level PlastIcity Focusing InjEction)を提案する。 KNIFEは、獲得した知識を保存するための凍結した知識ニューロン、学習能力を回復するための再初期化した活動ニューロン、そして、組み合わせた出力が元のものと一致することを保証するための補償ニューロンの3つの特別な構成要素からなる複合ユニットに置換する。 SMACv2, predator-prey, および行列ゲームに対する大規模な実験により、KNIFEは最先端の塑性注入法よりも著しく優れていることが示された。

関連論文リスト

• Measure gradients, not activations! Enhancing neuronal activity in deep reinforcement learning [25.277730616459255]
  深部強化学習 (Deep reinforcement learning, RL) は、しばしば神経活動の喪失に悩まされる。 GraMa(Gradient Magnitude Neural Activity Metric)は、ニューロンレベルの学習能力を定量化するメトリクスである。 GraMaは多種多様なアーキテクチャで持続的なニューロン不活性を効果的に明らかにする。
  論文  参考訳（メタデータ） (2025-05-29T23:07:58Z)
• NeuRel-Attack: Neuron Relearning for Safety Disalignment in Large Language Models [14.630626774362606]
  大型言語モデル(LLM)の安全性アライメントは、有害な内容を抑えるためにニューロンの活性化を調節する微調整機構によって達成される。 本稿では,安全性の制約を負うニューロンを同定し,修正することにより,不整合を誘導する新しいアプローチを提案する。
  論文  参考訳（メタデータ） (2025-04-29T05:49:35Z)
• Neuron-level Balance between Stability and Plasticity in Deep Reinforcement Learning [47.023972617451044]
  安定度と塑性度(NBSP)のニューロンレベルバランスについて検討する。 N BSPは特定のニューロンがタスク関連スキルに強く関係しているという観察から着想を得ている。 N BSPは、安定性と可塑性のバランスをとる既存のアプローチを著しく上回っている。
  論文  参考訳（メタデータ） (2025-04-09T05:43:30Z)
• Growing Deep Neural Network Considering with Similarity between Neurons [4.32776344138537]
  我々は、訓練段階におけるコンパクトモデルにおいて、ニューロン数を漸進的に増加させる新しいアプローチを探求する。 本稿では,ニューロン類似性分布に基づく制約を導入することにより,特徴抽出バイアスと神経冗長性を低減する手法を提案する。 CIFAR-10とCIFAR-100データセットの結果、精度が向上した。
  論文  参考訳（メタデータ） (2024-08-23T11:16:37Z)
• Simple and Effective Transfer Learning for Neuro-Symbolic Integration [50.592338727912946]
  この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。 これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。 それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。 本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
  論文  参考訳（メタデータ） (2024-02-21T15:51:01Z)
• Hebbian Learning based Orthogonal Projection for Continual Learning of Spiking Neural Networks [74.3099028063756]
  我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。 我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。 我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
  論文  参考訳（メタデータ） (2024-02-19T09:29:37Z)
• Neuroscience inspired scientific machine learning (Part-1): Variable spiking neuron for regression [2.1756081703276]
  本稿では、VSN(Variable Spiking Neuron)と呼ばれる新しいスパイクニューロンを紹介する。 生物学的ニューロンによるLeaky Integrate and Fire Spiking Neurons(LIF-SN)の学習による冗長な発射の低減
  論文  参考訳（メタデータ） (2023-11-15T08:59:06Z)
• When, where, and how to add new neurons to ANNs [3.0969191504482243]
  ANNの神経新生は、プルーニングのような他の形態の構造学習と比較しても、未調査で難しい問題である。 神経新生の様々な側面、すなわち学習過程においてニューロンをいつ、どこで、どのように追加するかを研究するための枠組みを紹介する。
  論文  参考訳（メタデータ） (2022-02-17T09:32:08Z)
• Overcoming the Domain Gap in Contrastive Learning of Neural Action Representations [60.47807856873544]
  神経科学の基本的な目標は、神経活動と行動の関係を理解することである。 我々は,ハエが自然に生み出す行動からなる新しいマルチモーダルデータセットを作成した。 このデータセットと新しい拡張セットは、神経科学における自己教師あり学習手法の適用を加速することを約束します。
  論文  参考訳（メタデータ） (2021-11-29T15:27:51Z)
• Dynamic Neural Diversification: Path to Computationally Sustainable Neural Networks [68.8204255655161]
  訓練可能なパラメータが制限された小さなニューラルネットワークは、多くの単純なタスクに対してリソース効率の高い候補となる。 学習過程において隠れた層内のニューロンの多様性を探索する。 ニューロンの多様性がモデルの予測にどのように影響するかを分析する。
  論文  参考訳（メタデータ） (2021-09-20T15:12:16Z)
• Artificial Neural Variability for Deep Learning: On Overfitting, Noise Memorization, and Catastrophic Forgetting [135.0863818867184]
  人工ニューラルネットワーク(ANV)は、ニューラルネットワークが自然のニューラルネットワークからいくつかの利点を学ぶのに役立つ。 ANVは、トレーニングデータと学習モデルの間の相互情報の暗黙の正則化として機能する。 過度にフィットし、ノイズの記憶をラベル付けし、無視できるコストで破滅的な忘れを効果的に軽減することができる。
  論文  参考訳（メタデータ） (2020-11-12T06:06:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。