論文の概要: The dynamical regime and its importance for evolvability, task
performance and generalization
- arxiv url: http://arxiv.org/abs/2103.12184v1
- Date: Mon, 22 Mar 2021 21:22:52 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-07 04:17:34.021283
- Title: The dynamical regime and its importance for evolvability, task
performance and generalization
- Title(参考訳): 動的体制と進化性・課題性能・一般化の重要性
- Authors: Jan Prosi, Sina Khajehabdollahi, Emmanouil Giannakakis, Georg Martius
and Anna Levina
- Abstract要約: 初期体制によらず、全ての人口は単純な作業において亜臨界状態に進化する。
我々は、サブクリティカルな体制は単純なタスクでは望ましいが、臨界性からの最適な逸脱はタスクの難易度に依存すると結論付けた。
- 参考スコア(独自算出の注目度): 14.059479351946386
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: It has long been hypothesized that operating close to the critical state is
beneficial for natural and artificial systems. We test this hypothesis by
evolving foraging agents controlled by neural networks that can change the
system's dynamical regime throughout evolution. Surprisingly, we find that all
populations, regardless of their initial regime, evolve to be subcritical in
simple tasks and even strongly subcritical populations can reach comparable
performance. We hypothesize that the moderately subcritical regime combines the
benefits of generalizability and adaptability brought by closeness to
criticality with the stability of the dynamics characteristic for subcritical
systems. By a resilience analysis, we find that initially critical agents
maintain their fitness level even under environmental changes and degrade
slowly with increasing perturbation strength. On the other hand, subcritical
agents originally evolved to the same fitness, were often rendered utterly
inadequate and degraded faster. We conclude that although the subcritical
regime is preferable for a simple task, the optimal deviation from criticality
depends on the task difficulty: for harder tasks, agents evolve closer to
criticality. Furthermore, subcritical populations cannot find the path to
decrease their distance to criticality. In summary, our study suggests that
initializing models near criticality is important to find an optimal and
flexible solution.
- Abstract(参考訳): クリティカルな状態に近い操作は、自然と人工のシステムにとって有益である、という仮説は以前からある。
進化を通じてシステムの動的状態を変えることができるニューラルネットワークによって制御される飼料エージェントを進化させることで、この仮説をテストする。
意外なことに、初期状態に関わらず、すべての人口は単純なタスクにおいてサブクリティカルに進化し、さらに強いサブクリティカルな人口も同等のパフォーマンスに到達できる。
我々は、中間臨界系における力学特性の安定性と臨界に近づいた一般化可能性と適応性の利点を、適度に亜臨界系が組み合わさっていると仮定する。
レジリエンス分析により, 初期臨界剤は環境変化においても運動レベルを維持し, 摂動強度の増加とともに緩やかに劣化することがわかった。
一方、亜臨界物質はもともと同じ適合性へと進化し、しばしば全く不十分でより早く劣化した。
結論として, サブクリティカルレジームは単純なタスクに望ましいが, 臨界からの最適偏差はタスクの難易度に依存する: 難しいタスクでは, エージェントは臨界に近づく。
さらに、亜臨界集団は臨界までの距離を縮める経路を見つけることができない。
要約すると、臨界に近いモデルの初期化が最適で柔軟な解を見つける上で重要であることを示唆する。
関連論文リスト
- Improving Domain Generalization in Self-supervised Monocular Depth Estimation via Stabilized Adversarial Training [61.35809887986553]
我々は、SCAT(stabilized Conflict-Optimization Adversarial Training)という、汎用的な敵訓練フレームワークを提案する。
SCATは、安定性と一般化のバランスを達成するために、敵データ拡張を自己教師付きMDE手法に統合する。
5つのベンチマーク実験により、SCATは最先端の性能を達成でき、既存の自己監督型MDE法の一般化能力を大幅に向上できることが示された。
論文 参考訳(メタデータ) (2024-11-04T15:06:57Z) - Learning Deep Dissipative Dynamics [5.862431328401459]
分散性は、安定性と入出力安定性を一般化する力学系にとって重要な指標である。
本稿では,ニューラルネットワークで表現される任意のダイナミクスを散逸型プロジェクションに変換する微分可能プロジェクションを提案する。
本手法は, 訓練された力学系の安定性, 入力出力安定性, エネルギー保存を厳密に保証する。
論文 参考訳(メタデータ) (2024-08-21T09:44:43Z) - Neural Contractive Dynamical Systems [13.046426079291376]
完全自律型ロボットが望ましくない、あるいは潜在的に有害な行動を起こさないためには、安定性の保証が不可欠である。
本稿では,ニューラルアーキテクチャが収縮を保証するニューラル収縮力学系を学習するための新しい手法を提案する。
提案手法は, 現状技術よりも所望の力学を正確に符号化し, 安定性の保証がより少ないことを示す。
論文 参考訳(メタデータ) (2024-01-17T17:18:21Z) - Agent Alignment in Evolving Social Norms [65.45423591744434]
本稿では,エージェント進化とアライメントのための進化的フレームワークであるEvolutionaryAgentを提案する。
社会規範が継続的に進化する環境では、エージェントは現在の社会規範に適応し、生存と増殖の確率が高くなる。
進化的エージェントは、一般的なタスクにおいてその能力を維持しながら、進化する社会規範と徐々に整合できることを示す。
論文 参考訳(メタデータ) (2024-01-09T15:44:44Z) - Revisiting Plasticity in Visual Reinforcement Learning: Data, Modules and Training Stages [56.98243487769916]
ニューラルネットワークが新しいデータで進化する能力である塑性は、高性能でサンプル効率のよい視覚強化学習に不可欠である。
本稿では,批評家の可塑性レベルに基づいてリプレイ率を動的に調整するAdaptive RRを提案する。
論文 参考訳(メタデータ) (2023-10-11T12:05:34Z) - Understanding, Predicting and Better Resolving Q-Value Divergence in
Offline-RL [86.0987896274354]
まず、オフラインRLにおけるQ値推定のばらつきの主な原因として、基本パターン、自己励起を同定する。
そこで本研究では,Q-network の学習における進化特性を測定するために,SEEM(Self-Excite Eigen Value Measure)尺度を提案する。
われわれの理論では、訓練が早期に発散するかどうかを確実に決定できる。
論文 参考訳(メタデータ) (2023-10-06T17:57:44Z) - When to be critical? Performance and evolvability in different regimes
of neural Ising agents [18.536813548129878]
臨界状態に近い状態での操作は、自然、人工的およびそれらの進化システムにとって有益である、という仮説は長年にわたって仮説化されてきた。
我々はこの仮説を、ニューラルネットワークによって制御される進化的捕食エージェントのシステムでテストする。
驚くべきことに、ソリューションを発見するすべての人口は、亜臨界状態へと進化する。
論文 参考訳(メタデータ) (2023-03-28T17:57:57Z) - Achieving a Better Stability-Plasticity Trade-off via Auxiliary Networks
in Continual Learning [23.15206507040553]
本稿では、ニューラルネットワークに現在の課題を学習する能力を持たせるために、補助的ネットワーク継続学習(ANCL)を提案する。
ANCLは、主に安定性に焦点を当てた継続的な学習モデルに可塑性を促進する補助ネットワークを付加する。
より具体的には、提案するフレームワークは、可塑性と安定性を自然に補間する正規化器として実現されている。
論文 参考訳(メタデータ) (2023-03-16T17:00:42Z) - Beyond Robustness: A Taxonomy of Approaches towards Resilient
Multi-Robot Systems [41.71459547415086]
我々はエージェントとマルチロボットシステムのネットワークにおけるレジリエンスの達成方法を分析する。
我々はレジリエンスがエンジニアリング設計の中心となる必要があると主張している。
論文 参考訳(メタデータ) (2021-09-25T11:25:02Z) - Non-Singular Adversarial Robustness of Neural Networks [58.731070632586594]
小さな入力摂動に対する過敏性のため、アドリヤルロバスト性はニューラルネットワークにとって新たな課題となっている。
我々は,データ入力とモデル重みの共振レンズを用いて,ニューラルネットワークの非特異な対角性の概念を定式化する。
論文 参考訳(メタデータ) (2021-02-23T20:59:30Z) - Efficient Empowerment Estimation for Unsupervised Stabilization [75.32013242448151]
エンパワーメント原理は 直立位置での 力学系の教師なし安定化を可能にする
本稿では,ガウスチャネルとして動的システムのトレーニング可能な表現に基づく代替解を提案する。
提案手法は, サンプルの複雑さが低く, 訓練時より安定であり, エンパワーメント機能の本質的特性を有し, 画像からエンパワーメントを推定できることを示す。
論文 参考訳(メタデータ) (2020-07-14T21:10:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。