論文の概要: Establishing Boundary KKT Convergence of Mirror Descent through Reparameterization
- arxiv url: http://arxiv.org/abs/2608.07248v2
- Date: Mon, 10 Aug 2026 15:53:10 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 13:55:18.821075
- Title: Establishing Boundary KKT Convergence of Mirror Descent through Reparameterization
- Title(参考訳): リパラメトリゼーションによるミラーのKKT収束の確立
- Abstract要約: Karush--Kuhn-Tucker (KKT) 点への収束は、ルジャンドル核を持つ非ミラー降下に対して、長い間不明なままである。
最近の研究は、KKT(Karush--Kuhn-Tucker)点でミラー降下が非励起点を蓄積できることを示している。
- 参考スコア(独自算出の注目度): 6.110024414173389
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Sequence convergence to a boundary Karush--Kuhn--Tucker (KKT) point has long remained unclear for nonconvex mirror descent with Legendre kernels. The difficulty arises from the blow-up of the gradient of the Legendre kernel at the boundary. Recent work~\cite{dingtoh2026nonkkt} shows that mirror descent can accumulate at non-KKT boundary points despite decreasing objective values, precluding a convergence guarantee to KKT points in general. Despite this negative result, mirror descent remains effective in many real applications. Motivated by this contrast, we address the boundary difficulty directly and establish KKT convergence of mirror descent for a broad class of structured nonconvex problems. We analyze mirror descent in reparameterized variables, where the Hessian metric is flattened and remains nondegenerate as the boundary is approached. Under extension and definability conditions jointly coupling the objective, the Legendre kernel, and the feasible region, the reparameterized sequence has finite length and converges, thereby recovering convergence to a KKT point of the original sequence. Our general framework applies to some concrete instances: Shannon entropy, Fermi--Dirac entropy, and power kernels on polyhedron.
- Abstract(参考訳): 境界のKarush--Kuhn--Tucker (KKT) 点への系列収束は、ルジャンドル核との非凸ミラー降下について、長い間不明なままである。
この困難は、境界におけるルジャンドル核の勾配の爆発によって生じる。
最近の研究から、KKT点に対する収束保証を前提として、対象値の減少にもかかわらず、ミラー降下は非KKT境界点で蓄積可能であることが示されている。
この否定的な結果にもかかわらず、ミラー降下は多くの実応用で有効である。
この対照的に、我々は境界の難しさに直接対処し、広範に構造化された非凸問題に対するミラー降下のKKT収束を確立する。
我々は、ヘッセン計量が平坦であり、境界が近づくにつれて非退化状態にある再パラメータ化変数のミラー降下を分析する。
目的、ルジャンドル核、実現可能な領域を結合する拡張および定義可能性条件の下では、再パラメータ化されたシーケンスは有限長で収束し、元のシーケンスのKKT点への収束を回復する。
我々の一般的な枠組みは、シャノンエントロピー、フェルミ-ディラックエントロピー、ポリヘドロン上のパワーカーネルなど、いくつかの具体例に適用できる。
関連論文リスト
- Non-KKT Accumulation in Entropic Mirror Descent [6.110024414173389]
ルジャンドル核が生成するミラー降下に対して、すべての累積点は適切なステップサイズの下でカルーシュ-クーン-タッカー定常でなければならないか?
私たちはその答えがノーであることを示す。
我々は、シャノン-エントロピックミラー降下によって生成される目的と有界列を、非負のorthant$R_+n$に対して、すべての$ngeq 3$に対して、確率単純度$_n$で、各$ngeq 4$に対して、それぞれの場合において、累積点の集合は、比較的空でない円を含む滑らかな境界円であるように構成する。
論文 参考訳(メタデータ) (2026-08-03T03:47:30Z) - Second-Order KKT Guarantees for Bregman ADMM in Nonconvex and Non-Lipschitz Optimization [20.87701856262044]
非線型制約問題に対するBregman ADMMを両側の相対的滑らかさの下で解析する。
分散最適化のためのマルチブロック星コンセンサス定式化に解析を拡張した。
論文 参考訳(メタデータ) (2026-06-26T17:52:39Z) - Topological Charge of Causality at a PT-Symmetric Exceptional Point [1.8867357521563244]
PT対称開二量体では、代わりに位相電荷を持つことを示す。
ゲインロスパラメータが例外点を横切ると、反射係数の単一極が上半平面に移動する。
我々は、正確な反射係数を導出し、残差補正分散関係を検証し、THz時間領域分光プロトコルを提案する。
論文 参考訳(メタデータ) (2026-04-30T18:17:35Z) - Shuffling the Stochastic Mirror Descent via Dual Lipschitz Continuity and Kernel Conditioning [13.169947576695456]
局所的な相対的カーネル関数を制御するために、デュアルカーネル条件付け(DK)を導入する。
我々は、制約付き非複雑性相対滑らかな問題に対して、最初のランダム境界と、最初のリシャッフルミラー収束を確立する。
論文 参考訳(メタデータ) (2026-03-17T01:00:40Z) - From Tail Universality to Bernstein-von Mises: A Unified Statistical Theory of Semi-Implicit Variational Inference [0.12183405753834557]
半単純変分推論 (SIVI) は$q() = int k(| z) r(dz)$ という形の近似後部を構成する
本稿では,このような家族に対する「近似最適化統計学」を統一的に展開する。
論文 参考訳(メタデータ) (2025-12-05T19:26:25Z) - Graph-based Clustering Revisited: A Relaxation of Kernel $k$-Means Perspective [73.18641268511318]
本稿では,クラスタリング結果を導出するための正規制約のみを緩和するグラフベースのクラスタリングアルゴリズムを提案する。
二重制約を勾配に変換するために、非負の制約をクラス確率パラメータに変換する。
論文 参考訳(メタデータ) (2025-09-23T09:14:39Z) - Near-Optimal Clustering in Mixture of Markov Chains [74.3828414695655]
我々は、長さ$H$の軌跡を、大きさ$S$の有限状態空間上の未知のエルゴードマルコフ鎖の1つによって生成される、$T$ trajectories of length $H$の問題を研究する。
我々は、連鎖の遷移核間の重み付きKL分散によって支配されるクラスタリングエラー率に基づいて、インスタンス依存で高い確率の低い境界を導出する。
次に,新しい2段階クラスタリングアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-06-02T05:10:40Z) - Entropic Mirror Descent for Linear Systems: Polyak's Stepsize and Implicit Bias [55.72269695392027]
本稿では,線形系を解くためにエントロピックミラー降下を適用することに焦点を当てる。
収束解析の主な課題は、領域の非有界性に起因する。
制限的な仮定を課さずにこれを克服するために、Polyak型階段の変種を導入する。
論文 参考訳(メタデータ) (2025-05-05T12:33:18Z) - Intrinsic Bayesian Cramér-Rao Bound with an Application to Covariance Matrix Estimation [49.67011673289242]
本稿では, 推定パラメータが滑らかな多様体内にある推定問題に対して, 新たな性能境界を提案する。
これはパラメータ多様体の幾何学と推定誤差測度の本質的な概念を誘導する。
論文 参考訳(メタデータ) (2023-11-08T15:17:13Z) - Last-Iterate Convergence of Adaptive Riemannian Gradient Descent for Equilibrium Computation [52.73824786627612]
本稿では,テクスト幾何学的強単調ゲームに対する新たな収束結果を確立する。
我々のキーとなる結果は、RGDがテクスト幾何学的手法で最終定位線形収束を実現することを示しています。
全体として、ユークリッド設定を超えるゲームに対して、幾何学的に非依存な最終点収束解析を初めて提示する。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Convergence of Random Reshuffling Under The Kurdyka-{\L}ojasiewicz
Inequality [3.960041987749073]
我々はクルディカ・ロジャシエヴィチ(KL)の不等式に基づくステップサイズを小さくした非輝化RRの収束解析を行う。
我々は、KL指数と好適に選択された減少ステップサイズに応じて、対応する収束率を導出する。
また、近位点法に対して同様の強い極限点収束結果を確立する。
論文 参考訳(メタデータ) (2021-10-10T23:20:04Z) - Stochastic Gradient Descent-Ascent and Consensus Optimization for Smooth
Games: Convergence Analysis under Expected Co-coercivity [49.66890309455787]
本稿では,SGDA と SCO の最終的な収束保証として,期待されるコヒーレンシティ条件を導入し,その利点を説明する。
定常的なステップサイズを用いた場合、両手法の線形収束性を解の近傍に証明する。
我々の収束保証は任意のサンプリングパラダイムの下で保たれ、ミニバッチの複雑さに関する洞察を与える。
論文 参考訳(メタデータ) (2021-06-30T18:32:46Z) - Spectral clustering under degree heterogeneity: a case for the random
walk Laplacian [83.79286663107845]
本稿では,ランダムウォークラプラシアンを用いたグラフスペクトル埋め込みが,ノード次数に対して完全に補正されたベクトル表現を生成することを示す。
次数補正ブロックモデルの特別な場合、埋め込みはK個の異なる点に集中し、コミュニティを表す。
論文 参考訳(メタデータ) (2021-05-03T16:36:27Z) - Proximal Gradient Descent-Ascent: Variable Convergence under K{\L}
Geometry [49.65455534654459]
有限降下指数パラメータ (GDA) はミニマックス最適化問題の解法として広く応用されている。
本稿では、KL-L型幾何学の収束を研究することにより、そのようなギャップを埋める。
論文 参考訳(メタデータ) (2021-02-09T05:35:53Z) - Convergence of Gradient Algorithms for Nonconvex $C^{1+\alpha}$ Cost
Functions [2.538209532048867]
勾配が収束する副生成物を示し、収束率に明示的な上限を与える。
これにより、ドオブマルティンの超ガレ収束定理によるほぼ確実な収束を証明できる。
論文 参考訳(メタデータ) (2020-12-01T16:48:59Z) - Metrizing Weak Convergence with Maximum Mean Discrepancies [88.54422104669078]
本稿では、幅広い種類のカーネルに対する確率測度の弱収束を測る最大平均誤差(MMD)を特徴付ける。
我々は、局所コンパクトで非コンパクトなハウスドルフ空間において、有界連続ボレル可測核 k の MMD が確率測度の弱収束を測ることを証明する。
論文 参考訳(メタデータ) (2020-06-16T15:49:33Z) - The Convergence Indicator: Improved and completely characterized
parameter bounds for actual convergence of Particle Swarm Optimization [68.8204255655161]
我々は、粒子が最終的に単一点に収束するか、分岐するかを計算するのに使用できる新しい収束指標を導入する。
この収束指標を用いて、収束群につながるパラメータ領域を完全に特徴づける実際の境界を提供する。
論文 参考訳(メタデータ) (2020-06-06T19:08:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。