論文の概要: The dynamical regime and its importance for evolvability, task
performance and generalization
- arxiv url: http://arxiv.org/abs/2103.12184v1
- Date: Mon, 22 Mar 2021 21:22:52 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-07 04:17:34.021283
- Title: The dynamical regime and its importance for evolvability, task
performance and generalization
- Title(参考訳): 動的体制と進化性・課題性能・一般化の重要性
- Authors: Jan Prosi, Sina Khajehabdollahi, Emmanouil Giannakakis, Georg Martius
and Anna Levina
- Abstract要約: 初期体制によらず、全ての人口は単純な作業において亜臨界状態に進化する。
我々は、サブクリティカルな体制は単純なタスクでは望ましいが、臨界性からの最適な逸脱はタスクの難易度に依存すると結論付けた。
- 参考スコア(独自算出の注目度): 14.059479351946386
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: It has long been hypothesized that operating close to the critical state is
beneficial for natural and artificial systems. We test this hypothesis by
evolving foraging agents controlled by neural networks that can change the
system's dynamical regime throughout evolution. Surprisingly, we find that all
populations, regardless of their initial regime, evolve to be subcritical in
simple tasks and even strongly subcritical populations can reach comparable
performance. We hypothesize that the moderately subcritical regime combines the
benefits of generalizability and adaptability brought by closeness to
criticality with the stability of the dynamics characteristic for subcritical
systems. By a resilience analysis, we find that initially critical agents
maintain their fitness level even under environmental changes and degrade
slowly with increasing perturbation strength. On the other hand, subcritical
agents originally evolved to the same fitness, were often rendered utterly
inadequate and degraded faster. We conclude that although the subcritical
regime is preferable for a simple task, the optimal deviation from criticality
depends on the task difficulty: for harder tasks, agents evolve closer to
criticality. Furthermore, subcritical populations cannot find the path to
decrease their distance to criticality. In summary, our study suggests that
initializing models near criticality is important to find an optimal and
flexible solution.
- Abstract(参考訳): クリティカルな状態に近い操作は、自然と人工のシステムにとって有益である、という仮説は以前からある。
進化を通じてシステムの動的状態を変えることができるニューラルネットワークによって制御される飼料エージェントを進化させることで、この仮説をテストする。
意外なことに、初期状態に関わらず、すべての人口は単純なタスクにおいてサブクリティカルに進化し、さらに強いサブクリティカルな人口も同等のパフォーマンスに到達できる。
我々は、中間臨界系における力学特性の安定性と臨界に近づいた一般化可能性と適応性の利点を、適度に亜臨界系が組み合わさっていると仮定する。
レジリエンス分析により, 初期臨界剤は環境変化においても運動レベルを維持し, 摂動強度の増加とともに緩やかに劣化することがわかった。
一方、亜臨界物質はもともと同じ適合性へと進化し、しばしば全く不十分でより早く劣化した。
結論として, サブクリティカルレジームは単純なタスクに望ましいが, 臨界からの最適偏差はタスクの難易度に依存する: 難しいタスクでは, エージェントは臨界に近づく。
さらに、亜臨界集団は臨界までの距離を縮める経路を見つけることができない。
要約すると、臨界に近いモデルの初期化が最適で柔軟な解を見つける上で重要であることを示唆する。
関連論文リスト
- Neural Contractive Dynamical Systems [13.046426079291376]
完全自律型ロボットが望ましくない、あるいは潜在的に有害な行動を起こさないためには、安定性の保証が不可欠である。
本稿では,ニューラルアーキテクチャが収縮を保証するニューラル収縮力学系を学習するための新しい手法を提案する。
提案手法は, 現状技術よりも所望の力学を正確に符号化し, 安定性の保証がより少ないことを示す。
論文 参考訳(メタデータ) (2024-01-17T17:18:21Z) - Agent Alignment in Evolving Social Norms [65.45423591744434]
本稿では,エージェント進化とアライメントのための進化的フレームワークであるEvolutionaryAgentを提案する。
社会規範が継続的に進化する環境では、エージェントは現在の社会規範に適応し、生存と増殖の確率が高くなる。
進化的エージェントは、一般的なタスクにおいてその能力を維持しながら、進化する社会規範と徐々に整合できることを示す。
論文 参考訳(メタデータ) (2024-01-09T15:44:44Z) - Revisiting Plasticity in Visual Reinforcement Learning: Data, Modules
and Training Stages [59.125309642351674]
ニューラルネットワークが新しいデータで進化する能力である塑性は、高性能でサンプル効率のよい視覚強化学習に不可欠である。
本稿では,批評家の可塑性レベルに基づいてリプレイ率を動的に調整するAdaptive RRを提案する。
論文 参考訳(メタデータ) (2023-10-11T12:05:34Z) - Understanding, Predicting and Better Resolving Q-Value Divergence in
Offline-RL [86.0987896274354]
まず、オフラインRLにおけるQ値推定のばらつきの主な原因として、基本パターン、自己励起を同定する。
そこで本研究では,Q-network の学習における進化特性を測定するために,SEEM(Self-Excite Eigen Value Measure)尺度を提案する。
われわれの理論では、訓練が早期に発散するかどうかを確実に決定できる。
論文 参考訳(メタデータ) (2023-10-06T17:57:44Z) - Towards Robust Continual Learning with Bayesian Adaptive Moment
Regularization [57.71118589124002]
継続的な学習は破滅的な忘れ込みという課題を克服しようと試み、そこでは新しいタスクを解くための学習が、モデルが以前に学習した情報を忘れる原因となる。
本稿では,パラメータ成長の制約を緩和し,破滅的な忘れ込みを抑える新しい事前手法を提案する。
以上の結果から, BAdamは, 単頭クラスインクリメンタル実験に挑戦する先行手法に対して, 最先端の性能を達成できることが示唆された。
論文 参考訳(メタデータ) (2023-09-15T17:10:51Z) - When to be critical? Performance and evolvability in different regimes
of neural Ising agents [18.536813548129878]
臨界状態に近い状態での操作は、自然、人工的およびそれらの進化システムにとって有益である、という仮説は長年にわたって仮説化されてきた。
我々はこの仮説を、ニューラルネットワークによって制御される進化的捕食エージェントのシステムでテストする。
驚くべきことに、ソリューションを発見するすべての人口は、亜臨界状態へと進化する。
論文 参考訳(メタデータ) (2023-03-28T17:57:57Z) - Achieving a Better Stability-Plasticity Trade-off via Auxiliary Networks
in Continual Learning [23.15206507040553]
本稿では、ニューラルネットワークに現在の課題を学習する能力を持たせるために、補助的ネットワーク継続学習(ANCL)を提案する。
ANCLは、主に安定性に焦点を当てた継続的な学習モデルに可塑性を促進する補助ネットワークを付加する。
より具体的には、提案するフレームワークは、可塑性と安定性を自然に補間する正規化器として実現されている。
論文 参考訳(メタデータ) (2023-03-16T17:00:42Z) - Stabilizing Dynamical Systems via Policy Gradient Methods [32.88312419270879]
完全に観察された力学系を安定化するためのモデルフリーなアルゴリズムを提案する。
本研究では,線形システムの安定化制御を効率よく行うことを証明する。
我々は,共通制御ベンチマークにおけるアプローチの有効性を実証的に評価した。
論文 参考訳(メタデータ) (2021-10-13T00:58:57Z) - Beyond Robustness: A Taxonomy of Approaches towards Resilient
Multi-Robot Systems [41.71459547415086]
我々はエージェントとマルチロボットシステムのネットワークにおけるレジリエンスの達成方法を分析する。
我々はレジリエンスがエンジニアリング設計の中心となる必要があると主張している。
論文 参考訳(メタデータ) (2021-09-25T11:25:02Z) - Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。
我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文 参考訳(メタデータ) (2021-02-23T20:59:30Z) - Efficient Empowerment Estimation for Unsupervised Stabilization [75.32013242448151]
エンパワーメント原理は 直立位置での 力学系の教師なし安定化を可能にする
本稿では,ガウスチャネルとして動的システムのトレーニング可能な表現に基づく代替解を提案する。
提案手法は, サンプルの複雑さが低く, 訓練時より安定であり, エンパワーメント機能の本質的特性を有し, 画像からエンパワーメントを推定できることを示す。
論文 参考訳(メタデータ) (2020-07-14T21:10:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。