論文の概要: Mirror Descent Beyond Euclidean Stability: An Exponential Separation in Initialization Sensitivity
- arxiv url: http://arxiv.org/abs/2606.11431v1
- Date: Tue, 09 Jun 2026 20:33:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-11 16:42:38.173118
- Title: Mirror Descent Beyond Euclidean Stability: An Exponential Separation in Initialization Sensitivity
- Title（参考訳）: ユークリッド安定性を超える鏡の輝き-初期化感度の指数分離
- Authors: Shira Vansover-Hager, Matan Schliserman, Ofir Schlisselberg, Tomer Koren,
- Abstract要約: Mirror Descent (MD) はユークリッド幾何学を超越したグラディエント・Descent (GD) を拡張している。
MDダイナミクスは入力にどの程度敏感か?
シンプレックス上の標準KL正規化MDの場合、線形目的でさえ初期$varepsilon$摂動を指数関数的に高速に増幅できることが示される。
- 参考スコア（独自算出の注目度）: 23.519129043938758
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Mirror Descent (MD) extends Gradient Descent (GD) beyond Euclidean geometry and has recently reappeared as a lens for KL-regularized policy optimization in reinforcement learning and LLM post-training. This raises a basic robustness question, crucial to reproducibility and reliability: how sensitive are MD dynamics to their inputs? We focus on initialization, often itself a pretrained or previously aligned model. Quadratic-regularized MD, including GD and Mahalanobis geometries, is well-known to be stable for convex smooth objectives. We show a sharp contrast: once the regularizer is non-quadratic, MD can be exponentially more sensitive to initialization than GD, even with a well-conditioned regularizer in Euclidean norm. We give a three-dimensional construction with a convex, smooth objective and a strongly convex, smooth, well-conditioned regularizer where an initial $\varepsilon$ perturbation is quickly amplified to $\min\{\text{polylog}^{-1}(1/\varepsilon), \varepsilon e^{Ω(ηT)}\}$ after $T$ iterations of MD with step size $η$. For canonical KL-regularized MD on the simplex, we show that even linear objectives can amplify an initial $\varepsilon$ perturbation exponentially fast in high-dimensional or near-boundary regimes. Finally, we show that adding a Bregman regularization term toward an anchor point can stabilize the dynamics while largely preserving the optimization guarantees, and that the choice of anchor is crucial: anchoring at the initialization only partially mitigates the instability, whereas anchoring at a fixed point yields a more stable mechanism.
- Abstract（参考訳）: Mirror Descent (MD) はユークリッド幾何学を超えてグラディエントDescent (GD) を拡張し、最近、強化学習とLLMポストトレーニングにおけるKL正規化ポリシー最適化のためのレンズとして再登場した。
これにより、再現性と信頼性に不可欠な基本的な堅牢性に関する疑問が提起される。
私たちは初期化に重点を置いています。
GDやマハラノビス測地を含む準正則MDは、凸滑らかな対象に対して安定であることが知られている。
我々は鋭いコントラストを示す: 正則化器が非四角形となると、MDはユークリッドノルムのよく条件付けられた正則化器であっても、GDよりも指数関数的に初期化に敏感になる。
ここでは、初期$\varepsilon$摂動をすぐに$\min\{\text{polylog}^{-1}(1/\varepsilon), \varepsilon e^{Ω(ηT)}\} に増幅する。
単純体上の標準KL正規化MDに対して、線形目的でさえ、高次元あるいは近有界な状態において指数関数的に高速な初期$\varepsilon$摂動を増幅できることが示される。
最後に、アンカー点へのブレグマン正規化項の追加は、最適化保証を大きく保ちながら力学を安定化させ、アンカーの選択が重要であることを示し、初期化でのアンカーは不安定性を部分的に緩和する一方、固定点でのアンカーはより安定した機構をもたらす。
関連論文リスト
- MoSSP: A Momentum-Based Single-Loop Stochastic Penalty Method for Nonconvex Constrained DC-Regularized Optimization [6.024178662558234]
本稿では,DC正則化を用いた非制約問題のクラスを示す。
証明可能な複雑性保証を伴う問題に対してMomentum Mo Mo Penalty法を提案する。
論文 参考訳（メタデータ） (2026-05-28T09:06:26Z) - Regularized Online RLHF with Generalized Bilinear Preferences [68.44113000390544]
一般的な嗜好を伴う文脈的オンラインRLHFの問題を考える。
一般化された双線形選好モデルを用いて、低ランクなスキュー対称行列による選好を捉える。
グリーディポリシーの双対ギャップは推定誤差の正方形によって有界であることを示す。
論文 参考訳（メタデータ） (2026-02-26T15:27:53Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳（メタデータ） (2026-02-24T05:32:03Z) - Majorization-Minimization Networks for Inverse Problems: An Application to EEG Imaging [4.063392865490957]
逆問題はしばしば誤りを犯し、強い安定性と収束を保証する最適化スキームを必要とする。
本稿では,二段階最適化設定における逆問題に対する学習されたMajorization-Minimization(MM)フレームワークを提案する。
我々は,古典的MM降下保証を保ちながら,各MMステップを管理する構造化曲率行列を学習する。
論文 参考訳（メタデータ） (2026-01-23T10:33:45Z) - Precise Bayesian Neural Networks [0.0]
我々は,現代的な正規化アーキテクチャに適合し,精度を犠牲にすることなくキャリブレーションを改善する軽量で実装可能な変分ユニットを開発した。
簡単に言えば、変分後部をネットワーク固有の幾何学と整合させることで、BNNは同時に原理化され、実用的で、正確である。
論文 参考訳（メタデータ） (2025-06-24T15:42:00Z) - Revisiting Glorot Initialization for Long-Range Linear Recurrences [35.51491162256673]
Glorotは安定した信号伝搬を保証するように設計されている。
スペクトル半径の小さな正の偏差は時間を通して増幅され、隠れた状態が爆発する。
本稿では,Grorotのスペクトル半径をわずかに下方へシフトさせる簡易な次元認識再スケーリングを提案する。
論文 参考訳（メタデータ） (2025-05-26T11:04:59Z) - Euclidean Distance Matrix Completion via Asymmetric Projected Gradient Descent [25.846262685970164]
本稿では,Burer-Monteiro因子化に基づく勾配型アルゴリズムの提案と解析を行う。
部分ユークリッド距離測定から点集合構成を再構成する。
論文 参考訳（メタデータ） (2025-04-28T07:13:23Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳（メタデータ） (2024-04-29T15:04:07Z) - Improved Convergence Rate of Stochastic Gradient Langevin Dynamics with
Variance Reduction and its Application to Optimization [50.83356836818667]
勾配ランゲヴィン・ダイナミクスは非エプス最適化問題を解くための最も基本的なアルゴリズムの1つである。
本稿では、このタイプの2つの変種、すなわち、分散還元ランジュバンダイナミクスと再帰勾配ランジュバンダイナミクスを示す。
論文 参考訳（メタデータ） (2022-03-30T11:39:00Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳（メタデータ） (2021-03-23T17:15:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。