論文の概要: Functional compatibility as a determinant of persistent neural learning
- arxiv url: http://arxiv.org/abs/2608.22462v2
- Date: Tue, 25 Aug 2026 15:55:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.08539
- Title: Functional compatibility as a determinant of persistent neural learning
- Title(参考訳): 永続的ニューラルラーニングの決定因子としての機能的整合性
- Authors: Hossein Javidnia,
- Abstract要約: 入力学習が保持しなければならない動作と共存する程度、機能的互換性を識別する。
同一のニューラル状態から、制約のない学習機会と共通の保持要件とを一致させながら、互換性が変化する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural networks can acquire new capabilities while damaging existing ones, but what determines whether new learning persists remains unclear. We identify functional compatibility, the extent to which incoming learning can coexist with behaviour that must be preserved, as an experimentally manipulable causal determinant of persistence. From identical neural states, we vary compatibility while matching unrestricted learning opportunity and imposing a common retention requirement. Persistent learning increases with compatibility across independent directions, convolutional and transformer architectures, vision and text, and a ten-seed replication. Learning rules and retention constraints determine how much compatible opportunity is retained, whereas nonlinear geometry limits the matched intervention at larger update norms. Functional compatibility therefore reframes stability-plasticity from preventing forgetting to determining which new learning can coexist with existing function and persist.
- Abstract(参考訳): ニューラルネットワークは、既存の能力にダメージを与えながら、新しい機能を取得することができるが、新しい学習が持続するかどうかは不明だ。
実験的に操作可能な持続性因果決定因子として,入力学習が保持しなければならない動作と共存する程度に機能的整合性を同定する。
同一のニューラル状態から、制約のない学習機会と共通の保持要件とを一致させながら、互換性が変化する。
永続的な学習は、独立した方向、畳み込みとトランスフォーマーアーキテクチャ、ビジョンとテキスト、そして10シードのレプリケーションによって増加する。
学習規則と保持制約は、どの程度互換性のある機会が保持されるかを決定するが、非線形幾何学はより大きな更新基準で一致する介入を制限する。
したがって、機能的な互換性は、安定性の可塑性を忘れることから、どの新しい学習が既存の機能と共存し、持続するかを決定するために再編成する。
関連論文リスト
- Multi-Scale Structural Features for Continual, Comprehensible Visual Recognition in a Developmental Learning Framework [0.0]
複数スケールにわたる形状構造をエンコードする新しい視覚特徴表現を提案する。
学習モデルから予測するために使用される学習力学と読み出しをさらに改善する。
この研究は、クラスインクリメンタルMNISTを制御、解釈可能なベンチマークとして、2次元形状を目標としている。
論文 参考訳(メタデータ) (2026-07-28T10:17:54Z) - Spectral Imbalance Causes Forgetting in Low-Rank Continual Adaptation [58.3773038915023]
継続的な学習は、事前訓練されたモデルを、以前取得した知識を忘れずにシーケンシャルなタスクに適応することを目的としている。
既存のほとんどのアプローチは、現在のタスク固有の更新が以前取得した知識を自然に保存するプロパティを考慮せずに、継続的な学習を過去の更新への干渉を避けるものとして扱う。
本稿では,視覚言語モデルで使用される標準深度ドットと互換性のある一階述語法を用いてこの問題に対処する。
論文 参考訳(メタデータ) (2026-01-31T13:27:02Z) - The Importance of Being Lazy: Scaling Limits of Continual Learning [60.97756735877614]
モデル幅の増大は,特徴学習の量を減らし,遅延度を高めた場合にのみ有益であることを示す。
特徴学習,タスク非定常性,および忘れることの複雑な関係について検討し,高い特徴学習が極めて類似したタスクにのみ有用であることを示す。
論文 参考訳(メタデータ) (2025-06-20T10:12:38Z) - Structured Knowledge Accumulation: The Principle of Entropic Least Action in Forward-Only Neural Learning [0.0]
ニューラルネットワークのネット関数と特性時間特性の2つの基本概念を紹介する。
学習を時間ベースのプロセスとして理解することで、効率的で堅牢で生物学的にインスパイアされたAIシステムを構築するための新たな方向性を開拓します。
論文 参考訳(メタデータ) (2025-04-04T07:00:27Z) - Keep Moving: identifying task-relevant subspaces to maximise plasticity for newly learned tasks [0.22499166814992438]
継続学習アルゴリズムは、事前情報を保持しながら、新しい知識を獲得しようとする。
これらのアルゴリズムは、しばしば安定性を強調し、新しいタスクを学習する際のネットワーク更新を制限する。
しかし、すべては有害か?
本稿では,ニューラルネットワークの活性化空間を2つの部分空間に分解できることを提案する。
論文 参考訳(メタデータ) (2023-10-07T08:54:43Z) - Incorporating Neuro-Inspired Adaptability for Continual Learning in
Artificial Intelligence [59.11038175596807]
継続的な学習は、現実世界に強い適応性を持つ人工知能を強化することを目的としている。
既存の進歩は主に、破滅的な忘れを克服するために記憶安定性を維持することに焦点を当てている。
本稿では,学習の可塑性を改善するため,パラメータ分布の古い記憶を適切に減衰させる汎用的手法を提案する。
論文 参考訳(メタデータ) (2023-08-29T02:43:58Z) - Continual learning under domain transfer with sparse synaptic bursting [2.314558204145174]
我々は、未確認のデータセットを逐次学習するシステムを、時間とともにほとんど忘れずに導入する。
本手法は,タスク間で再資源化される重みのスパースバーストを伴って,ドメイン転送下で連続的に学習する。
論文 参考訳(メタデータ) (2021-08-26T22:53:27Z) - Artificial Neural Variability for Deep Learning: On Overfitting, Noise
Memorization, and Catastrophic Forgetting [135.0863818867184]
人工ニューラルネットワーク(ANV)は、ニューラルネットワークが自然のニューラルネットワークからいくつかの利点を学ぶのに役立つ。
ANVは、トレーニングデータと学習モデルの間の相互情報の暗黙の正則化として機能する。
過度にフィットし、ノイズの記憶をラベル付けし、無視できるコストで破滅的な忘れを効果的に軽減することができる。
論文 参考訳(メタデータ) (2020-11-12T06:06:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。