論文の概要: Center-of-Mass Interpretation of Evolution Strategies
- arxiv url: http://arxiv.org/abs/2610.35865v1
- Date: Mon, 26 Oct 2026 17:59:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:14.141092
- Title: Center-of-Mass Interpretation of Evolution Strategies
- Title(参考訳): 進化戦略の中心的解釈
- Abstract要約: 進化戦略(ES)は、摂動コピーの集団をサンプリングし、各コピーをスコアし、摂動の報酬重み付け方向に移動してモデルを更新する。
平均減算ES更新は、まさにこの変位であり、スカラー因子によってスケールされていることを示す。
私たちの貢献は、ES更新を視覚化する直感的で幾何学的な方法です。
- 参考スコア(独自算出の注目度): 11.308569535121718
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Evolution strategies (ES) update a model by sampling a population of perturbed copies, scoring each one, and moving in the reward-weighted direction of the perturbations. This update is usually presented as an estimate of a smoothed gradient. We present a geometrical interpretation of this update instead. Treat each perturbed model as a particle and its reward as the particle's mass. Before scoring, every particle has the same mass and the population balances at its centroid. Once rewards are assigned, it balances at its reward-weighted center of mass instead. We show that the mean-subtracted ES update is exactly this displacement, scaled by a scalar factor that depends on the mean reward, for any finite population. The physical reading needs nonnegative rewards, which can always be arranged by adding a constant to every reward without changing the update. In the limit of a large population or under antithetic sampling, the centroid sits on the model itself, so ES has an even simpler geometric interpretation: from its current location, the model moves towards the reward-weighted center of mass of its own population. The same picture explains what subtracting the mean reward does: it changes the point from which the displacement is measured, from the model to the sampled centroid. Our contribution is an intuitive, geometric way to visualize an ES update, exact for any finite population.
- Abstract(参考訳): 進化戦略(ES)は、摂動コピーの集団をサンプリングし、各コピーをスコアし、摂動の報酬重み付け方向に移動してモデルを更新する。
この更新は通常、スムーズな勾配の見積もりとして提示される。
代わりに、この更新を幾何学的に解釈する。
各摂動モデルを粒子として扱い、その報酬を粒子の質量として扱う。
スコアを付ける前に、全ての粒子は同じ質量を持ち、人口はセントロイドでバランスをとる。
一度報酬が割り当てられると、報酬の重み付けされた質量の中心でバランスをとる。
平均減算ES更新は, 平均報酬に依存するスカラー因子によってスケールされた, まさにこの変位であることを示す。
物理読み取りには非負の報酬が必要で、更新を変更することなく、すべての報酬に一定値を加えることで、常にアレンジできる。
多数の集団の限界や対義的なサンプリングの下では、セントロイドはモデルそのものの上に置かれるので、ESはより単純な幾何学的解釈を持つ:現在の位置から、モデルは自身の集団の報酬重み付けされた質量の中心に向かう。
同じ写真では、平均報酬を減算すると何をするかが説明されています。
私たちの貢献は、ES更新を視覚化する直感的で幾何学的な方法です。
関連論文リスト
- Improving Neural Network Training by Decoupling the Magnitude and Direction of Weight Vectors [110.10775872372047]
EmphMagnitude-Direction-Direction (MD) Decouplingを提案する。
これは、各重量をハイパースフィア上の固定ノルム方向に分解し、学習可能な1ローとカラムごとのマグニチュードゲインを、別々の学習速度で更新する。
アダムとムーンの双方で、MD Decouplingはよく調整されたベースラインを改善し、モデルの幅を調整せずに最適なLRを転送し、大規模なMixture-of-Expertsモデルのスケールに役立っている。
論文 参考訳(メタデータ) (2026-06-24T15:40:26Z) - Entanglement structure of the dynamical phases in the sub-Ohmic spin-boson model [0.3186130813218338]
固定スピンエンタングルメントエントロピー$S_mathrmspin(t)$が偏光緩和よりも短い時間スケールで定常台地に達することを示す。
これらの結果は、静止スピンエンタングルメントエントロピーを物理的に情報的観測可能なものとして確立する。
論文 参考訳(メタデータ) (2026-06-18T14:47:16Z) - Global Convergence of Gradient Descent for Score Matching in Gaussian Mixtures via Reverse Fisher Divergence [67.12978375116599]
そこで本研究では,学生分布に対する期待値の逆のフィッシャー発散(Fisher divergence)について検討する。
我々は、目標平均に対して$widetilde(1)$-separationの仮定の下で、大域収束保証を証明した。
我々はリアプノフに基づく勾配勾配勾配の動的解析を頼りにしており、逆のフィッシャー発散は前方のフィッシャー発散よりもはるかに良い最適化環境を持つことが示されている。
論文 参考訳(メタデータ) (2026-06-18T07:34:33Z) - Amortized mean-shift interacting particles [3.0012917600071156]
本研究では,観測から重み付きノードを出力する学習マップと,後部サンプルを1回の前方通過で生成するアモルト化平均シフト相互作用粒子を紹介する。
任意のノード予算で観測や積分が見えないように一般化し、独立したサンプルを2つの方法で改善する。
クローズドフォーム、サンプル化、学習、物理ベースの後部まで、あらゆる予算で同じサンプルの数よりも正確に統合される。
論文 参考訳(メタデータ) (2026-06-14T15:44:53Z) - MARBLE: Multi-Aspect Reward Balance for Diffusion RL [71.6241143519038]
強化学習は、拡散モデルと人間の嗜好を整合させる主要なアプローチとなっている。
既存のプラクティスは、報酬ごとに1つのスペシャリストモデルをトレーニングすることで、複数の報酬を処理します。
我々は,各報酬に対する独立な優位推定器を維持する勾配空間最適化フレームワークMARBLEを提案する。
論文 参考訳(メタデータ) (2026-05-07T16:20:42Z) - The Blessing of Dimensionality in LLM Fine-tuning: A Variance-Curvature Perspective [19.4447760660162]
重量摂動進化戦略は驚くほど人口が少ない言語モデルを微調整できることを示す。
また、細調整報酬がしばしば上昇し、ピークが上昇し、ESとGRPOの両方で劣化するのを観察する。
論文 参考訳(メタデータ) (2026-01-30T00:26:35Z) - Unveiling the Sampling Density in Non-Uniform Geometric Graphs [69.93864101024639]
グラフを幾何学グラフとみなす: ノードは基礎となる計量空間からランダムにサンプリングされ、その距離が指定された近傍半径以下であれば任意のノードが接続される。
ソーシャルネットワークでは、コミュニティは密集したサンプル領域としてモデル化でき、ハブはより大きな近傍半径を持つノードとしてモデル化できる。
我々は,未知のサンプリング密度を自己監督的に推定する手法を開発した。
論文 参考訳(メタデータ) (2022-10-15T08:01:08Z) - Filling an empty lattice by local injection of quantum particles [0.0]
空の格子をL$で満たす量子力学を, 局所的に平衡熱浴と結合することによって検討した。
我々は、4つの異なるアプローチ、すなわち (i) 直接完全数値、 (ii) レッドフィールド方程式、 (iii) リンドブラッド方程式、 (iv) 量子ランゲヴィン方程式を採用する。
論文 参考訳(メタデータ) (2022-09-16T15:55:14Z) - JKOnet: Proximal Optimal Transport Modeling of Population Dynamics [69.89192135800143]
入力凸ニューラルネットワーク(ICNN)を用いて解いた(小さな)最適変位と測定値のエネルギーモデルを組み合わせたニューラルアーキテクチャを提案する。
人口動態の説明と予測のためのモデルの適用性を実証する。
論文 参考訳(メタデータ) (2021-06-11T12:30:43Z) - Continuous-time quantum walks in the presence of a quadratic
perturbation [55.41644538483948]
連続時間量子ウォークの特性を、$mathcalH=L + lambda L2$という形のハミルトン群で解決する。
低/高接続性および/または対称性を持つパラダイムモデルであるため、サイクル、完全、およびスターグラフを考える。
論文 参考訳(メタデータ) (2020-05-13T14:53:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。