論文の概要: Shapley Neuron Values for Continual Learning: Which Neurons Matter Most?
- arxiv url: http://arxiv.org/abs/2605.15877v1
- Date: Fri, 15 May 2026 11:54:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-18 21:22:26.272109
- Title: Shapley Neuron Values for Continual Learning: Which Neurons Matter Most?
- Title（参考訳）: 連続学習における共有ニューロンの価値:どのニューロンが最も重要か?
- Authors: Mohammad Ali Vahedifar, Abhisek Ray, Qi Zhang,
- Abstract要約: 連続的な学習により、ニューラルネットワークは、以前取得した知識を忘れずに、連続的にタスクを学習することができる。
本稿では,連続学習におけるニューロンの重要性を定量化する原理的枠組みであるShapley Neuron Valuation(SNV)を提案する。
SNVは、重要なニューロンを選択的に凍結し、他のニューロンをプラスチックに保ち、アーキテクチャを拡張することなくバッファフリー連続学習を可能にする。
- 参考スコア（独自算出の注目度）: 9.775016467674094
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Continual learning enables neural networks to learn tasks sequentially without forgetting previously acquired knowledge. However, neural networks suffer from catastrophic forgetting, where learning new tasks degrades performance on earlier ones. We address this problem with Shapley Neuron Valuation (SNV), a principled framework that quantifies Neuron importance in continual learning, grounded in cooperative game theory. SNV selectively freezes important Neurons while keeping others plastic, enabling buffer-free continual learning without expanding architecture. Experiments on ImageNet-1k show that SNV consistently outperforms existing buffer-free methods. In particular, SNV improves accuracy by +2.88% in the class incremental learning and +6.46% in the task incremental learning scenarios compared to the second baseline.
- Abstract（参考訳）: 連続的な学習により、ニューラルネットワークは、以前取得した知識を忘れずに、連続的にタスクを学習することができる。
しかし、ニューラルネットワークは破滅的な忘れ込みに悩まされ、新しいタスクを学習することで、以前のタスクのパフォーマンスが低下する。
本稿では,協調ゲーム理論に基づく連続学習におけるニューロンの重要性を定量化する原理的枠組みであるShapley Neuron Valuation (SNV)を用いて,この問題に対処する。
SNVは、重要なニューロンを選択的に凍結し、他のニューロンをプラスチックに保ち、アーキテクチャを拡張することなくバッファフリー連続学習を可能にする。
ImageNet-1kの実験では、SNVは既存のバッファフリーメソッドよりも一貫して優れていた。
特にSNVは、クラスインクリメンタルラーニングの+2.88%、タスクインクリメンタルラーニングの+6.46%の精度を第2ベースラインと比較して改善している。
関連論文リスト
- Continual Learning with Columnar Spiking Neural Networks [0.0]
本研究では,コラム構造型スパイクニューラルネットワーク(SNN)と局所学習規則を併用した連続学習と破滅的忘れ込みを提案する。
CoLaNET(Columnar Layered Network)を用いて、従来の学習と共有構造が欠如している場合に、マイクロカラムが新しいタスクに最も効率的に適応できることを示す。
論文 参考訳（メタデータ） (2025-06-20T17:13:38Z) - Semi-parametric Memory Consolidation: Towards Brain-like Deep Continual Learning [59.35015431695172]
本稿では,半パラメトリックメモリと覚醒・睡眠統合機構を統合したバイオミメティック連続学習フレームワークを提案する。
提案手法は,実世界の挑戦的連続学習シナリオにおいて,先行知識を維持しつつ,新しいタスクにおけるディープニューラルネットワークの高性能維持を可能にする。
論文 参考訳（メタデータ） (2025-04-20T19:53:13Z) - IP$^{2}$-RSNN: Bi-level Intrinsic Plasticity Enables Learning-to-learn in Recurrent Spiking Neural Networks [20.88195975299024]
2レベル内在性可塑性を有する繰り返しスパイクニューラルネットワーク(IP$2$-RSNN)を開発した。
以上の結果から,RSNNにおけるL2Lの実現には,両レベルの内在性可塑性が重要な役割を担っていることが示唆された。
論文 参考訳（メタデータ） (2025-01-24T14:45:03Z) - Simple and Effective Transfer Learning for Neuro-Symbolic Integration [50.592338727912946]
この問題の潜在的な解決策はNeuro-Symbolic Integration (NeSy)であり、ニューラルアプローチとシンボリック推論を組み合わせる。
これらの手法のほとんどは、認識をシンボルにマッピングするニューラルネットワークと、下流タスクの出力を予測する論理的論理的推論を利用する。
それらは、緩やかな収束、複雑な知覚タスクの学習困難、局所的なミニマへの収束など、いくつかの問題に悩まされている。
本稿では,これらの問題を改善するための簡易かつ効果的な方法を提案する。
論文 参考訳（メタデータ） (2024-02-21T15:51:01Z) - Hebbian Learning based Orthogonal Projection for Continual Learning of
Spiking Neural Networks [74.3099028063756]
我々は,側方接続とヘビアン学習に基づくニューラル操作を用いた新しい手法を開発した。
我々は,反復する側方接続におけるヘビアン学習と反ヘビアン学習が,神経活動の主部分空間を効果的に抽出できることを示した。
我々の手法は、ほとんど忘れることなくニューラルネットワークをスパイクするために一貫して解決する。
論文 参考訳（メタデータ） (2024-02-19T09:29:37Z) - Curriculum Design Helps Spiking Neural Networks to Classify Time Series [16.402675046686834]
スパイキングニューラルネットワーク(SNN)は、ニューラルネットワーク(ANN)よりも時系列データをモデル化する可能性が大きい
この研究において、脳にインスパイアされた科学によって啓蒙され、構造だけでなく学習過程も人間に似ていなければならないことが判明した。
論文 参考訳（メタデータ） (2023-12-26T02:04:53Z) - Dynamic Neural Diversification: Path to Computationally Sustainable
Neural Networks [68.8204255655161]
訓練可能なパラメータが制限された小さなニューラルネットワークは、多くの単純なタスクに対してリソース効率の高い候補となる。
学習過程において隠れた層内のニューロンの多様性を探索する。
ニューロンの多様性がモデルの予測にどのように影響するかを分析する。
論文 参考訳（メタデータ） (2021-09-20T15:12:16Z) - Artificial Neural Variability for Deep Learning: On Overfitting, Noise
Memorization, and Catastrophic Forgetting [135.0863818867184]
人工ニューラルネットワーク(ANV)は、ニューラルネットワークが自然のニューラルネットワークからいくつかの利点を学ぶのに役立つ。
ANVは、トレーニングデータと学習モデルの間の相互情報の暗黙の正則化として機能する。
過度にフィットし、ノイズの記憶をラベル付けし、無視できるコストで破滅的な忘れを効果的に軽減することができる。
論文 参考訳（メタデータ） (2020-11-12T06:06:33Z) - Learning to Continually Learn [14.988129334830003]
ニューロ変調メタラーニングアルゴリズム(ANML)を提案する。
脳の神経調節過程にインスパイアされた我々は、神経変調メタラーニングアルゴリズム(ANML)を提案する。
ANMLは最先端の継続的学習性能を生成し、600以上のクラスを逐次学習する(9000以上のSGD更新)。
論文 参考訳（メタデータ） (2020-02-21T22:52:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。