論文の概要: From Mean-Field Limits to Semiclassical Concentration: Global Convergence of the Canonical Evolutionary Strategy
- arxiv url: http://arxiv.org/abs/2605.30371v1
- Date: Tue, 19 May 2026 08:25:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-07 20:42:22.508018
- Title: From Mean-Field Limits to Semiclassical Concentration: Global Convergence of the Canonical Evolutionary Strategy
- Title(参考訳): 平均場限界から半古典的濃度:カノニカル進化戦略のグローバル収束
- Authors: Matías Neto, Nicolás Garay, Luis Martí, Nayat Sanchez-Pi,
- Abstract要約: 我々は、シュルディンガー型複製子-ミュータ方程式の半古典的極限により、進化アルゴリズムのグローバル収束を分析する。
離散的な個人ベースの力学から決定論的平均場限界までの厳密な階層を提供する。
グローバル・ミニマライザが初期サポート外に存在する場合、早期に分散崩壊する傾向にあるコンセンサス駆動の手法とは異なり、CESのレプリカータ・ミューテータのダイナミクスは固有の質量輸送を促進する。
- 参考スコア(独自算出の注目度): 0.602842844173992
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We address the issue of global convergence in stochastic continuous optimization. For that purpose, we formulate the Canonical Evolutionary Strategy (CES) as a controlled mathematical framework to analyze global convergence in evolutionary algorithms via the semiclassical limit of a Schr{ö}dinger-type replicator-mutator equation. We provide a rigorous hierarchy from a discrete individual-based dynamics to a deterministic mean-field limit, demonstrating that global convergence is governed by the principal eigenfunction of the underlying operator. This property, defined as Geometric Selection, naturally prioritizes robust, flat optima over narrow local traps, offering a mathematical justification for the ''survival of the flattest'' phenomenon. Moreover, unlike consensus-driven methods that are prone to premature variance collapse when the global minimizer resides outside the initial support, the replicator-mutator dynamics of CES facilitate intrinsic mass transport. High-dimensional benchmarks (d = 30) confirm this advantage, showing that CES achieves lower residual errors in shifted initialization scenarios where standard consensus-driven and gradient-based methods fail to migrate effectively. By shifting the focus from point-wise consensus to spectral concentration, our framework provides a robust theoretical foundation for global convergence in Evolution Strategies (ES) without the need for additional numerical heuristics.
- Abstract(参考訳): 確率的連続最適化におけるグローバル収束の問題に対処する。
その目的のために、我々は、Schr{ö}dinger-type replicator-mutator equation の半古典的極限を通して進化アルゴリズムのグローバル収束を分析するための制御された数学的枠組みとして、Canonical Evolutionary Strategy (CES) を定式化する。
我々は、離散的な個別基底力学から決定論的平均場極限への厳密な階層を提供し、大域収束が下層の作用素の主固有関数によって支配されることを示す。
幾何学的選択(Geometric Selection)として定義されたこの性質は、局所的な狭いトラップよりも頑丈で平坦な最適化を自然に優先し、「最も平坦な」現象の数学的正当化を提供する。
さらに、大域最小化器が初期サポート外に存在する場合、早期に分散崩壊する傾向にあるコンセンサス駆動の手法とは異なり、CESのレプリカータ・ミューテータのダイナミクスは固有の質量輸送を促進する。
高次元ベンチマーク(d = 30)は、標準コンセンサス駆動および勾配に基づく手法が効果的に移行できないシフト初期化シナリオにおいて、CESが低い残差誤差を達成することを示す。
我々のフレームワークは、ポイントワイズコンセンサスからスペクトル集中に焦点を移すことによって、さらなる数値ヒューリスティックを必要とせずに、進化戦略(ES)のグローバル収束のための堅牢な理論的基盤を提供する。
関連論文リスト
- Exploring the non-convexity in machine learning using quantum-inspired optimization [0.0]
機械学習のエスカレートする複雑さは、非次元ロバストネス最適化問題を克服する必要がある。
従来のアプローチは、オンザフライの検索方式に依存しており、これらの問題を克服することができないことが多い。
我々は,非機械学習の本質的抽出をグローバルに統一的に探索することを提案する。
以上の結果から,a-Mの導入は,非機械学習の難問をグローバルに検索する上で有効であることが示唆された。
論文 参考訳(メタデータ) (2026-05-08T16:15:56Z) - Beyond Semantic Priors: Mitigating Optimization Collapse for Generalizable Visual Forensics [12.973951916863989]
我々は,非セマンティックなフォージェリーのランダムな推測にデジェネレーションを施した「最適化崩壊」と呼ばれる故障モードを同定する。
計算効率の良いCGP(Contrastive Gradient Proxy)と3つのトレーニングフリー戦略を統合したContrastive Regional Injection Transformer(CoRIT)を提案する。
CoRITは最適化の崩壊を緩和し、クロスドメインおよびユニバーサルフォージェリーベンチマーク間の最先端の一般化を実現する。
論文 参考訳(メタデータ) (2026-03-25T08:03:30Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - MAESTRO: Meta-learning Adaptive Estimation of Scalarization Trade-offs for Reward Optimization [56.074760766965085]
大規模言語モデル(LLM)の整合性のための効率的なパラダイムとしてグループ相対政策最適化が登場している。
我々は,報酬スカラー化を動的潜在ポリシーとして扱い,モデルの終端隠蔽状態を意味的ボトルネックとして活用するMAESTROを提案する。
本稿では,軽量コンダクタネットワークがメタリワード信号としてグループ相対的優位性を生かしてポリシと共進化する,双方向最適化フレームワークにおけるコンテキスト的帯域幅問題としてこれを定式化する。
論文 参考訳(メタデータ) (2026-01-12T05:02:48Z) - Towards a Unified Analysis of Neural Networks in Nonparametric Instrumental Variable Regression: Optimization and Generalization [66.08522228989634]
非パラメトリックインスツルメンタル変数回帰(NPIV)における2段階最小二乗法(2SLS)アプローチのためのニューラルネットワークの最初の大域収束結果を確立する。
これは平均場ランゲヴィンダイナミクス(MFLD)を通して持ち上げられた視点を採用することで達成される。
論文 参考訳(メタデータ) (2025-11-18T17:51:17Z) - Truncated Kernel Stochastic Gradient Descent with General Losses and Spherical Radial Basis Functions [3.308257914042897]
本稿では,大規模教師あり学習のための新しいカーネル勾配統合下降アルゴリズムを提案する。
従来のカーネルSGDと比較して,我々のアルゴリズムは革新的な正規化戦略によって効率とスケーラビリティを向上させる。
我々のフレームワークは、最小二乗、ハマー、ロジスティック損失など、古典的損失関数の幅広いクラスに対応している。
論文 参考訳(メタデータ) (2025-10-05T15:04:03Z) - Graph-based Clustering Revisited: A Relaxation of Kernel $k$-Means Perspective [73.18641268511318]
本稿では,クラスタリング結果を導出するための正規制約のみを緩和するグラフベースのクラスタリングアルゴリズムを提案する。
二重制約を勾配に変換するために、非負の制約をクラス確率パラメータに変換する。
論文 参考訳(メタデータ) (2025-09-23T09:14:39Z) - Spectral Algorithms in Misspecified Regression: Convergence under Covariate Shift [0.2578242050187029]
スペクトルアルゴリズムは逆問題から派生した正則化手法のクラスである。
本稿では,共変量シフトの下でのスペクトルアルゴリズムの収束特性について検討する。
我々は、ターゲット関数がヒルベルト空間(RKHS)を再現するカーネルに属さない、より困難な不特定ケースの理論解析を提供する。
論文 参考訳(メタデータ) (2025-09-05T13:42:27Z) - Stability and Generalization of the Decentralized Stochastic Gradient
Descent Ascent Algorithm [80.94861441583275]
本稿では,分散勾配勾配(D-SGDA)アルゴリズムの一般化境界の複雑さについて検討する。
本研究は,D-SGDAの一般化における各因子の影響を解析した。
また、最適凸凹設定を得るために一般化とバランスをとる。
論文 参考訳(メタデータ) (2023-10-31T11:27:01Z) - Convergence of mean-field Langevin dynamics: Time and space
discretization, stochastic gradient, and variance reduction [49.66486092259376]
平均場ランゲヴィンダイナミクス(英: mean-field Langevin dynamics、MFLD)は、分布依存のドリフトを含むランゲヴィン力学の非線形一般化である。
近年の研究では、MFLDは測度空間で機能するエントロピー規則化された凸関数を地球規模で最小化することが示されている。
有限粒子近似,時間分散,勾配近似による誤差を考慮し,MFLDのカオスの均一時間伝播を示す枠組みを提供する。
論文 参考訳(メタデータ) (2023-06-12T16:28:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。