論文の概要: Provably Sub-Linear Two-Timescale NeuroEvolution with Online Plasticity
- arxiv url: http://arxiv.org/abs/2606.20817v1
- Date: Thu, 18 Jun 2026 18:06:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-26 12:45:48.221163
- Title: Provably Sub-Linear Two-Timescale NeuroEvolution with Online Plasticity
- Title（参考訳）: オンライン可塑性を用いた2時間下神経進化の可能性
- Authors: Shishen Lin, Yixin Chen,
- Abstract要約: 本稿では,NuroEvolutionary Online Learningフレームワークに対する最初の後悔の分析を行う。
軽度条件下では,NEOLがサブ線形後悔を実現することが証明された。
結果はWilcoxon rank-sum testおよびアブレーション研究によって支持される。
- 参考スコア（独自算出の注目度）: 11.39515371533126
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: NeuroEvolution of Augmenting Topologies (NEAT) is a widely used neuroevolution algorithm for learning neural network architectures and weights for control tasks. However, standard offline optimisation searches for connection strengths directly, which can scale poorly in high-dimensional weight spaces and more difficult continuous control problems. Hybrid methods that combine neuroevolution with online learning can address this challenge, but their theoretical properties remain underexplored. This paper gives the first regret analysis for a general NeuroEvolutionary Online Learning (NEOL) framework, which decouples learning into two timescales: an outer loop for architecture search and an inner loop for online weight adaptation via rewardmodulated plasticity. Under mild conditions, we prove that NEOL achieves sublinear regret. Empirically, under fixed interaction budgets on four standard control benchmarks, a NEAT-based NEOL implementation achieves higher final fitness and lower variance than pure NEAT, and is competitive with strong reinforcement learning (RL) baselines on several tasks. The results are supported byWilcoxon rank-sum tests and ablation studies. Overall, the findings show that online plasticity can improve the sample efficiency and robustness of two-timescale neuroevolution. Code is available at https://github.com/boobaa2001/NeuroEvolution Online Learning NEOL.
- Abstract（参考訳）: NeuroEvolution of Augmenting Topologies (NEAT)は、ニューラルネットワークアーキテクチャと制御タスクの重みを学習するための、広く使われている神経進化アルゴリズムである。
しかし、標準のオフライン最適化は接続強度を直接探索し、高次元の重み空間やより難しい連続制御問題ではスケールが悪くなる。
ニューロ進化とオンライン学習を組み合わせたハイブリッド手法はこの課題に対処できるが、その理論的性質は未解明のままである。
本稿では,ニューロ進化的オンライン学習(NEOL)フレームワークを2つの時間尺度に分解し,アーキテクチャ探索のための外ループと,報奨可塑性によるオンライン体重適応のための内ループに分割した。
軽度条件下では,NEOLがサブ線形後悔を実現することが証明された。
実験的に、4つの標準制御ベンチマーク上の固定された相互作用予算の下で、NEATベースのNEOL実装は、純粋なNEATよりも高い最終適合性と低い分散を実現し、複数のタスクにおいて強力な強化学習(RL)ベースラインと競合する。
結果はWilcoxon rank-sum testおよびアブレーション研究によって支持される。
全体として、オンラインの可塑性は2段階の神経進化の標本効率と堅牢性を向上させることが示されている。
コードはhttps://github.com/boobaa2001/NeuroEvolution Online Learning NEOLで公開されている。
関連論文リスト
- Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
レイヤワイドフィードバックフィードバック(LFP)は、ニューラルネットワークのような予測器のための新しいトレーニング原則である。
LFPはそれぞれの貢献に基づいて個々のニューロンに報酬を分解する。
提案手法は,ネットワークの有用な部分と有害な部分の弱体化を両立させる手法である。
論文 参考訳（メタデータ） (2023-08-23T10:48:28Z) - Neuromorphic Online Learning for Spatiotemporal Patterns with a
Forward-only Timeline [5.094970748243019]
スパイキングニューラルネットワーク(英: Spiking Neural Network、SNN)は、高エネルギー効率のバイオプレースブルコンピューティングモデルである。
BPTT(Back Proagation Through Time)は、伝統的にSNNのトレーニングに使用される。
SNNのオンライン学習に特化して設計されたSOLSA(Spatiotemporal Online Learning for Synaptic Adaptation)を提案する。
論文 参考訳（メタデータ） (2023-07-21T02:47:03Z) - Robust Learning with Progressive Data Expansion Against Spurious
Correlation [65.83104529677234]
本研究では,2層非線形畳み込みニューラルネットワークの学習過程について検討した。
分析の結果,不均衡なデータ群と学習容易なスプリアス特徴が学習過程におけるスプリアス特徴の優位性に繋がる可能性が示唆された。
本稿では,PDEと呼ばれる新たなトレーニングアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-06-08T05:44:06Z) - Neuroevolution of Physics-Informed Neural Nets: Benchmark Problems and
Comparative Results [25.12291688711645]
物理インフォームドニューラルネットワーク(PINN)は、最近の進歩の最前線にある重要な技術の一つである。
PINNのユニークな損失の定式化は、勾配降下に寄与しない高い複雑さと頑丈さをもたらす。
優れたグローバル検索能力を持つ神経進化アルゴリズムは、PINNにとってより良い選択であるかもしれない。
論文 参考訳（メタデータ） (2022-12-15T05:54:16Z) - Provable Regret Bounds for Deep Online Learning and Control [77.77295247296041]
我々は、損失関数がニューラルネットワークのパラメータを最適化するために適応できることを示し、後から最も優れたネットと競合することを示す。
オンライン設定におけるこれらの結果の適用として、オンライン制御コントローラの証明可能なバウンダリを得る。
論文 参考訳（メタデータ） (2021-10-15T02:13:48Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳（メタデータ） (2021-06-17T17:26:31Z) - EqSpike: Spike-driven Equilibrium Propagation for Neuromorphic
Implementations [9.952561670370804]
我々は、ニューロモルフィックシステムと互換性のあるEqSpikeと呼ばれるスパイクニューラルネットワークアルゴリズムを開発した。
シリコンニューロモルフィック技術に実装されたEqSpikeは,それぞれ推論とトレーニングのエネルギー消費を削減できることを示した。
論文 参考訳（メタデータ） (2020-10-15T16:25:29Z) - An Ode to an ODE [78.97367880223254]
我々は、O(d) 群上の行列フローに応じて主フローの時間依存パラメータが進化する ODEtoODE と呼ばれるニューラルODE アルゴリズムの新しいパラダイムを提案する。
この2つの流れのネストされたシステムは、訓練の安定性と有効性を提供し、勾配の消滅・爆発問題を確実に解決する。
論文 参考訳（メタデータ） (2020-06-19T22:05:19Z) - Adaptive Reinforcement Learning through Evolving Self-Modifying Neural
Networks [0.0]
強化学習(RL)の現在の手法は、特定の時間間隔で反射した後にのみ新しい相互作用に適応する。
最近の研究は、バックプロパゲーションを用いて訓練された単純なRLタスクの性能を向上させるために、ニューラルネットワークに神経修飾塑性を付与することでこの問題に対処している。
ここでは,四足歩行におけるメタラーニングの課題について検討する。
その結果、自己修飾プラスチックネットワークを用いて進化したエージェントは、複雑なメタ学習タスクに適応し、グラデーションを使って更新された同じネットワークよりも優れていることが示される。
論文 参考訳（メタデータ） (2020-05-22T02:24:44Z) - Evolving Neural Networks through a Reverse Encoding Tree [9.235550900581764]
本稿では,拡張性のあるニューラルネットワークを効率的に進化させる手法として,Reverse HANG Tree (RET) と呼ばれるトポロジカルエッジコーディングを取り入れた手法を提案する。
RETを用いた2種類のアプローチ - Binary search encoding (Bi-NEAT) のNEATとGolden-Section search encoding (GS-NEAT) のNEAT - は、連続学習環境のベンチマークにおける問題を解決するために設計された。
論文 参考訳（メタデータ） (2020-02-03T02:29:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。