論文の概要: Spingarn's Method and Progressive Decoupling Beyond Elicitable Monotonicity
- arxiv url: http://arxiv.org/abs/2504.00836v1
- Date: Tue, 01 Apr 2025 14:26:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-04-03 13:18:29.845298
- Title: Spingarn's Method and Progressive Decoupling Beyond Elicitable Monotonicity
- Title(参考訳): スピンガーンの方法と解離性モノトニック性を超えたプログレッシブデカップリング
- Authors: Brecht Evens, Puya Latafat, Panagiotis Patrinos,
- Abstract要約: 我々は、ある非単調な環境下での一般局所収束解析を開発する。
緩和パラメータを各部分空間の非単調性に結びつける条件下で収束性を証明する。
- 参考スコア(独自算出の注目度): 4.307128674848627
- License:
- Abstract: Spingarn's method of partial inverses and the progressive decoupling algorithm address inclusion problems involving the sum of an operator and the normal cone of a linear subspace, known as linkage problems. Despite their success, existing convergence results are limited to the so-called elicitable monotone setting, where nonmonotonicity is allowed only on the orthogonal complement of the linkage subspace. In this paper, we introduce progressive decoupling+, a generalized version of standard progressive decoupling that incorporates separate relaxation parameters for the linkage subspace and its orthogonal complement. We prove convergence under conditions that link the relaxation parameters to the nonmonotonicity of their respective subspaces and show that the special cases of Spingarn's method and standard progressive decoupling also extend beyond the elicitable monotone setting. Our analysis hinges upon an equivalence between progressive decoupling+ and the preconditioned proximal point algorithm, for which we develop a general local convergence analysis in a certain nonmonotone setting.
- Abstract(参考訳): スピンガーンの部分逆法とプログレッシブデカップリングアルゴリズムは、作用素の和と線形部分空間の正規錐を含む包含問題(リンク問題)に対処する。
その成功にもかかわらず、既存の収束結果は、連結部分空間の直交補空間にのみ非単調性が許されるいわゆる単調な単調設定に限られる。
本稿では、連鎖部分空間とその直交補空間に対する分離緩和パラメータを含む標準プログレッシブデカップリングの一般化版であるプログレッシブデカップリング+を紹介する。
緩和パラメータを各部分空間の非単調性にリンクする条件下で収束を証明し、スピンガーンの方法と標準プログレッシブデカップリングの特別な場合が、単調な単調設定を超えても拡張可能であることを示す。
我々の分析は、プログレッシブデカップリング+と事前条件付き近位点アルゴリズムの等価性に基づき、ある非単調な環境下での一般局所収束解析を開発する。
関連論文リスト
- Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - The rate of convergence of Bregman proximal methods: Local geometry vs. regularity vs. sharpness [29.642830843568525]
与えられた手法の収束率は、関連するルジャンドル指数に大きく依存することを示す。
特に、境界解はゼロとノンゼロのルジャンドル指数を持つ手法の分離を示すことを示す。
論文 参考訳(メタデータ) (2022-11-15T10:49:04Z) - Semi-Supervised Subspace Clustering via Tensor Low-Rank Representation [64.49871502193477]
本稿では,初期監視情報を同時に拡張し,識別親和性行列を構築することのできる,新しい半教師付きサブスペースクラスタリング手法を提案する。
6つの一般的なベンチマークデータセットの総合的な実験結果から,本手法が最先端手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-05-21T01:47:17Z) - Polynomial convergence of iterations of certain random operators in
Hilbert space [2.732936573198251]
本稿では,SGDアルゴリズムにインスパイアされた無限次元空間上の演算子の族におけるランダム反復列の収束について検討する。
収束率は初期状態に依存するが、ランダム性は最適定数係数の選択においてのみ役割を果たすことを示す。
論文 参考訳(メタデータ) (2022-02-04T17:48:29Z) - On Asymptotic Linear Convergence of Projected Gradient Descent for
Constrained Least Squares [22.851500417035947]
この写本は、制約最小二乗の文脈における射影勾配降下の解析のための統一的な枠組みを提示する。
本稿では,PGDの収束解析のレシピを提示し,このレシピを4つの基本的な問題に応用して実証する。
論文 参考訳(メタデータ) (2021-12-22T09:49:51Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z) - Towards Understanding Generalization via Decomposing Excess Risk
Dynamics [13.4379473119565]
一般化力学を解析してアルゴリズム依存境界(安定性など)を導出する。
ニューラルネットは、ノイズの嵌合時に緩やかな収束率を示すという観測から着想を得て、余剰リスクダイナミクスを分解することを提案する。
分解の枠組みの下では、新しい境界は安定性に基づく境界と一様収束境界よりも理論的および経験的証拠とよく一致している。
論文 参考訳(メタデータ) (2021-06-11T03:42:45Z) - Random extrapolation for primal-dual coordinate descent [61.55967255151027]
本稿では,データ行列の疎度と目的関数の好適な構造に適応する,ランダムに外挿した原始-双対座標降下法を提案する。
一般凸凹の場合, 主対差と目的値に対するシーケンスのほぼ確実に収束と最適サブ線形収束率を示す。
論文 参考訳(メタデータ) (2020-07-13T17:39:35Z) - A Relaxed Inertial Forward-Backward-Forward Algorithm for Solving
Monotone Inclusions with Application to GANs [0.0]
最大単調演算子と単価単調演算子とリプシッツ連続演算子の和の零点集合に近づくための緩和慣性前方分割アルゴリズム(RIFBF)を導入する。
本稿では, 線形サドル点問題への応用による提案手法について, 慣性パラメータと緩和パラメータの相互作用も強調する。
論文 参考訳(メタデータ) (2020-03-17T18:52:54Z) - Operator-algebraic renormalization and wavelets [62.997667081978825]
我々はウェーブレット理論を用いてハミルトン格子系のスケーリング極限として連続体自由場を構築する。
格子観測可能な格子を、コンパクトに支持されたウェーブレットでスミアリングされた連続体と同定するスケーリング方程式により、正規化群ステップを決定する。
論文 参考訳(メタデータ) (2020-02-04T18:04:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。