論文の概要: Dimensionless Controls of Plasticity Under Alternating Tasks: From Evolutionary Biology to Continual Learning
- arxiv url: http://arxiv.org/abs/2608.23889v1
- Date: Mon, 24 Aug 2026 22:55:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-26 14:09:34.653998
- Title: Dimensionless Controls of Plasticity Under Alternating Tasks: From Evolutionary Biology to Continual Learning
- Title（参考訳）: 代替作業による塑性の次元制御:進化生物学から継続的な学習へ
- Abstract要約: 2つのBooleanラベルセット上でネットワークを交互に訓練する最小限のディープラーニングアナログについて検討する。
このシステムは2つの非次元制御に還元される:タスク不一致$r$、不一致ラベルの割合、リーチ$T$。
9,720の軌道で、ANOVAは$r$、$$、$T$が支配的であり、中性集合のサイズの影響は無視できる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Plasticity under changing environments is central to both evolutionary biology and continual learning. Motivated by recent work on genotype--phenotype maps, we study a minimal deep-learning analogue where a network is trained alternately on two Boolean label sets, and ask which biological controls of plasticity survive the translation to gradient descent. Reinterpreting four proposed biological factors as quantities of training dynamics, we find the system reduces to two dimensionless controls: the task disagreement $r$, the fraction of disagreeing labels, and the reach $ηT$, the product of learning rate and switching period. We derive two bounds on plasticity: $r$ alone fixes an extremal geometric floor on the utopia distance, while $r$ and $ηT$ jointly bound forgetting. Across 9,720 trajectories, an ANOVA confirms that $r$, $η$, and $T$ dominate, while the effect of neutral-set size (emphasized in the biological setting) is negligible. The optimal reach itself follows an approximate inverse power law $ηT^{*}\propto r^{-1.18}$, yielding a heuristic that sets the optimal reach $ηT^*$ from the task disagreement alone. The analogy that survives is therefore dynamical rather than geometric, and our setting enables a view of plasticity through the lens of other driven systems in physics and engineering.
- Abstract（参考訳）: 環境の変化による塑性は、進化生物学と継続的な学習の両方の中心である。
近年のジェノタイプ-フェノタイプマップの研究により,ネットワークを2つのBooleanラベルセットで交互にトレーニングする最小限のディープラーニングアナログについて検討し,塑性の生物学的制御が勾配降下への変換を生き残るか尋ねた。
提案する4つの生物学的要因をトレーニングダイナミクスの量として再解釈し,課題不一致$r$,ラベルの不一致分数$ηT$,学習率と切り替え期間の積であるリーチ$ηT$の2つの非次元制御に還元する。
可塑性に関して、$r$だけでユートピア距離の極端幾何学的床を固定し、$r$と$ηT$は共同有界な忘れ物である。
9,720の軌道で、ANOVAは$r$、$η$、$T$が支配的であり、中性集合のサイズ(生物学的な設定で強調される)の影響は無視可能であることを確認した。
最適リーチ自体はおよそ逆の法則である$ηT^{*}\propto r^{-1.18}$に従っており、タスクの不一致だけで最適リーチを$ηT^*$とするヒューリスティックを与える。
したがって、生き残るアナロジーは幾何学的ではなく動的であり、我々の設定は、物理学や工学における他の駆動系のレンズを通して可塑性の視認を可能にする。
関連論文リスト
- Bug or Feature$^2$: Weight Drift, Activation Sparsity and Spikes [53.726365933748134]
標準損失と正に偏りのある活性化関数の相互作用によって引き起こされる負の重みのドリフトを解析する。
79の構成にまたがるスパシティ・精度のトレードオフを特徴付けるとともに、$sim$70%のアクティベーション・スパシティよりも高い精度の崖を識別する。
論文 参考訳（メタデータ） (2026-05-17T21:29:20Z) - Non-Equilibrium Stochastic Dynamics as a Unified Framework for Insight and Repetitive Learning: A Kramers Escape Approach to Continual Learning [0.0]
ニューラルネットワークにおける連続学習は、安定性-塑性ジレンマによって根本的に制限される。
両問題が非平衡統計物理学における共通解であることを示す。
論文 参考訳（メタデータ） (2026-04-05T15:42:23Z) - Retina gap junctions support the robust perception by warping neural representational geometries along the visual hierarchy [49.52889244711062]
網膜間隙接合の防御性能と脳多様体への影響について検討した。
他の防御法と比較して、生物学的ハイブリッドモデルはより堅牢であり、訓練中にノイズを導入することで改善することができる。
以上の結果から, 生体ハイブリッドモデルは, 高い非線形性を持つユニークな2次元決定境界と, 多様体の決定境界の低い曲率を有することがわかった。
論文 参考訳（メタデータ） (2026-04-03T11:23:26Z) - Isomorphic Functionalities between Ant Colony and Ensemble Learning: Part III -- Gradient Descent, Neural Plasticity, and the Emergence of Deep Intelligence [0.0]
我々は,深層ニューラルネットワークの基礎となる学習アルゴリズムが,アリコロニーの世代的学習力学に数学的に同型であることを証明した。
神経可塑性機構はコロニーレベルの適応において直接的に類似していることを示す。
この最終同型は、機械学習の3つの主要なパラダイム ― 並列アンサンブル、シーケンシャルアンサンブル、勾配に基づくディープラーニング ― が、社会昆虫の集団的知性において直接的に類似していることを明らかにする。
論文 参考訳（メタデータ） (2026-04-03T00:59:49Z) - The Rank and Gradient Lost in Non-stationarity: Sample Weight Decay for Mitigating Plasticity Loss in Reinforcement Learning [62.72522261010872]
深部強化学習(RL)は、非定常性の性質により、可塑性の喪失に苦しむ。
ネットワーク最適化の理論的観点から, 可塑性損失問題について検討する。
勾配等級を復元する軽量な手法であるサンプル重み決定法を提案する。
論文 参考訳（メタデータ） (2026-04-02T11:29:46Z) - Balancing Centralized Learning and Distributed Self-Organization: A Hybrid Model for Embodied Morphogenesis [0.0]
本研究では,学習可能な脳様のコントローラを細胞様のグレースコット基質に結合して,最小限の努力でステアパターン形成を行う方法について検討する。
コンパクトな畳み込みポリシは、微分可能なPyTorch反応拡散シミュレータに埋め込まれる。
論文 参考訳（メタデータ） (2025-11-13T09:05:27Z) - Geometric Learning Dynamics [0.0]
物理・生物学的・機械学習システムにおける学習力学をモデリングするための統一的なフレームワークを提案する。
量子状態は$alpha = 1$に対応し、離散シフト対称性から現れるSchr"odinger-like dynamicsを記述する。
効率的な学習規則は$alpha = tfrac12$に対応し、非常に高速な機械学習アルゴリズムを記述する。
論文 参考訳（メタデータ） (2025-04-20T19:56:41Z) - Hamiltonian Mechanics of Feature Learning: Bottleneck Structure in Leaky ResNets [58.460298576330835]
ResNets と Fully-Connected Nets を相互接続する Leaky ResNets について「有効深度」に依存して検討する。
この直感を利用して、以前の研究で見られるように、ボトルネック構造の出現を説明する。
論文 参考訳（メタデータ） (2024-05-27T18:15:05Z) - Learning Physical Dynamics with Subequivariant Graph Neural Networks [99.41677381754678]
グラフニューラルネットワーク(GNN)は、物理力学を学習するための一般的なツールとなっている。
物理法則は、モデル一般化に必須な帰納バイアスである対称性に従属する。
本モデルは,RigidFall上でのPhysylonと2倍低ロールアウトMSEの8つのシナリオにおいて,平均3%以上の接触予測精度の向上を実現している。
論文 参考訳（メタデータ） (2022-10-13T10:00:30Z) - The Introspective Agent: Interdependence of Strategy, Physiology, and
Sensing for Embodied Agents [51.94554095091305]
本論では, 環境の文脈において, 自己能力を考慮した内省的エージェントについて論じる。
自然と同じように、私たちは戦略を1つのツールとして再編成して、環境において成功させたいと考えています。
論文 参考訳（メタデータ） (2022-01-02T20:14:01Z) - Locality defeats the curse of dimensionality in convolutional
teacher-student scenarios [69.2027612631023]
学習曲線指数$beta$を決定する上で,局所性が重要であることを示す。
我々は、自然の仮定を用いて、トレーニングセットのサイズに応じて減少するリッジでカーネルレグレッションを実行すると、リッジレスの場合と同じような学習曲線指数が得られることを証明して結論付けた。
論文 参考訳（メタデータ） (2021-06-16T08:27:31Z) - Meta-Learning through Hebbian Plasticity in Random Networks [12.433600693422235]
生涯学習と適応性は生物学的エージェントの2つの決定的な側面である。
この生物学的メカニズムに着想を得て,シナプス固有のヘビアン学習規則のみを探索する探索法を提案する。
完全にランダムな重みから始めると、発見されたヘビーンの規則により、エージェントは動的2Dピクセル環境をナビゲートできる。
論文 参考訳（メタデータ） (2020-07-06T14:32:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。