論文の概要: Momentum Accelerates Evolutionary Dynamics

• arxiv url: http://arxiv.org/abs/2007.02449v1
• Date: Sun, 5 Jul 2020 21:09:30 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-13 08:13:21.829957
• Title: Momentum Accelerates Evolutionary Dynamics
• Title（参考訳）: Momentumは進化のダイナミクスを加速する
• Authors: Marc Harper and Joshua Safyan
• Abstract要約: 運動量によって、レプリカータ方程式やユークリッド勾配降下を含む進化力学の収束が促進されることを示す。 また, これらの力学の収束特性は, 例えば, 岩壁・筋の地形に付随するサイクリングを破ることによって, 運動量によって変化させることができることを示す。
• 参考スコア（独自算出の注目度）: 4.061135251278187
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We combine momentum from machine learning with evolutionary dynamics, where momentum can be viewed as a simple mechanism of intergenerational memory. Using information divergences as Lyapunov functions, we show that momentum accelerates the convergence of evolutionary dynamics including the replicator equation and Euclidean gradient descent on populations. When evolutionarily stable states are present, these methods prove convergence for small learning rates or small momentum, and yield an analytic determination of the relative decrease in time to converge that agrees well with computations. The main results apply even when the evolutionary dynamic is not a gradient flow. We also show that momentum can alter the convergence properties of these dynamics, for example by breaking the cycling associated to the rock-paper-scissors landscape, leading to either convergence to the ordinarily non-absorbing equilibrium, or divergence, depending on the value and mechanism of momentum.
• Abstract（参考訳）: 機械学習のモーメントと進化のダイナミクスを組み合わせることで、モーメントは世代間記憶の単純なメカニズムと見なすことができる。 情報ダイバージェンスをリアプノフ関数として、運動量はレプリケータ方程式や集団のユークリッド勾配降下を含む進化力学の収束を加速することを示した。 進化的に安定な状態が存在する場合、これらの手法は小さな学習率や小さな運動量に対する収束を証明し、計算とよく一致する収束時間における相対的な減少を解析的に決定する。 主な結果は、進化力学が勾配流でない場合でも適用される。 また, モーメントは, 通常の非吸収平衡に収束する, あるいは, モーメントの値や機構によって, サイクリングを破ることによって, それらのダイナミクスの収束特性を変化させることも示している。

関連論文リスト

• Artificial Kuramoto Oscillatory Neurons [65.16453738828672]
  しきい値単位の動的代替として人工内蔵ニューロン(AKOrN)を導入する。 このアイデアは、幅広いタスクにまたがってパフォーマンス改善をもたらすことを示しています。 これらの経験的結果は、神経表現の最も基本的なレベルにおいて、私たちの仮定の重要性を示していると信じている。
  論文  参考訳（メタデータ） (2024-10-17T17:47:54Z)
• Nested replicator dynamics, nested logit choice, and similarity-based learning [56.98352103321524]
  我々は,分割型類似性構造を持つアクションセットを持つゲームにおいて,学習と進化のモデルを考える。 このモデルでは、修正エージェントは現在の戦略と類似とみなす他の戦略を比較する確率が高い。 同様の戦略に対するこの暗黙の偏見のため、結果として生じる力学は模倣ゲーム力学の標準的な単調性合理性のいずれかを満たすことができない。
  論文  参考訳（メタデータ） (2024-07-25T07:09:53Z)
• Dynamics of inhomogeneous spin ensembles with all-to-all interactions: breaking permutational invariance [49.1574468325115]
  スピンアンサンブルのダイナミクスにおける非一様初期条件の導入の結果について検討する。 スピンアンサンブルのダイナミクスは、より拡張性のあるヒルベルト空間にまたがっていることが分かる。
  論文  参考訳（メタデータ） (2023-09-19T16:44:14Z)
• Speed limits to fluctuation dynamics [0.0]
  実験的に測定された可観測物のゆらぎ力学は、非平衡系に対する一次信号を与える。 変動成長速度に対する厳密な限界に関する理論を発展させる。 この結果は、様々な非平衡系における変動力学の定量的理論への道を開く。
  論文  参考訳（メタデータ） (2023-09-13T20:49:48Z)
• Hyper-acceleration of quantum thermalization dynamics by bypassing long-lived coherences: An analytical treatment [0.0]
  我々はマルコフ量子散逸ダイナミクスを解くための摂動的手法を開発した。 長寿命コヒーレント力学をバイパスし, 熱平衡緩和を超指数的に促進する方法を示す。
  論文  参考訳（メタデータ） (2023-01-15T16:34:02Z)
• Feedback-induced interactive dynamics: unitary but dissipative evolution [0.0]
  測定フィードバックと時間的離散化は、ユニタリだが散逸的な進化を特徴とする新しいタイプの量子力学を生み出す可能性があることを示す。 自発対称性の破れを持つ非平衡定常状態は、ゼロ次元(単量子)系で明らかにされる。
  論文  参考訳（メタデータ） (2022-11-17T02:05:10Z)
• Entanglement and correlations in fast collective neutrino flavor oscillations [68.8204255655161]
  集合ニュートリノ振動は、天体物理学的な設定においてレプトンのフレーバーを輸送する上で重要な役割を担っている。 高速振動を呈する単純多角ジオメトリーにおける平衡外フレーバーのフルダイナミクスについて検討した。 我々はこれらの高速集団モードが同じ動的相転移によって生成されることを示す。
  論文  参考訳（メタデータ） (2022-03-05T17:00:06Z)
• Discovering Latent Causal Variables via Mechanism Sparsity: A New Principle for Nonlinear ICA [81.4991350761909]
  ICA(Independent component analysis)は、この目的を定式化し、実用的な応用のための推定手順を提供する手法の集合を指す。 潜伏変数は、潜伏機構をスパースに正則化すれば、置換まで復元可能であることを示す。
  論文  参考訳（メタデータ） (2021-07-21T14:22:14Z)
• Engineered dissipation induced entanglement transition in quantum spin chains: from logarithmic growth to area law [0.0]
  最近の理論的研究により、コヒーレントなユニタリ力学と測定の競合が絡み合いのスケーリングの遷移を引き起こすことが示されている。 我々は、量子スピンの絡み合った位相を$-1/2$鎖で安定化させる工学的な散逸を考える。 対数的成長から地域法則への絡み合いは, ユニタリ進化と非ユニタリダイナミクスの競合比が増加するときに生じる。
  論文  参考訳（メタデータ） (2021-06-18T12:41:01Z)
• Exponentially accelerated approach to stationarity in Markovian open quantum systems through the Mpemba effect [0.0]
  マルコフ開量子系の緩和ダイナミクスは、最適なユニタリ変換を考案することによって指数関数的に加速できることを示す。 この初期の「回転」は、量子系の状態が最も遅く崩壊する動的モードになるように設計される。 我々は、ディックモデルにおける定常性への収束において指数的なスピードアップを達成する方法を示すことによって、我々の考えを説明する。
  論文  参考訳（メタデータ） (2021-03-08T19:02:31Z)
• Gradient Starvation: A Learning Proclivity in Neural Networks [97.02382916372594]
  グラディエント・スターベーションは、タスクに関連する機能のサブセットのみをキャプチャすることで、クロスエントロピー損失を最小化するときに発生する。 この研究は、ニューラルネットワークにおけるそのような特徴不均衡の出現に関する理論的説明を提供する。
  論文  参考訳（メタデータ） (2020-11-18T18:52:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。