論文の概要: A Unifying View of Anchoring via Operator-Side Tikhonov Regularization
- arxiv url: http://arxiv.org/abs/2605.30905v1
- Date: Fri, 29 May 2026 06:41:23 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-01 20:56:50.429393
- Title: A Unifying View of Anchoring via Operator-Side Tikhonov Regularization
- Title(参考訳): 演算子側チコノフ正則化によるアンコリングの一考察
- Abstract要約: アンカリングは単一の演算子側構造を持つことを示す。
Picardのイテレーションを適用すると、このレシピはHalpernのイテレーションを再現する。
前段階のインスタンス化は、新しい残留収束を保証する。
EGおよびPEGインスタンスは、新しい正規化された変種を与える。
- 参考スコア(独自算出の注目度): 10.06508859865892
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Anchored fixed point and monotone equation methods, including Halpern iteration, extra anchored gradient, and their relatives, add a vanishing pull toward a reference point to obtain last-iterate guarantees. Existing anchored variants often achieve sharp last-iterate guarantees, but from the update-level perspective the placement of the anchor can be algorithm-specific and conceptually opaque. We show that anchoring admits a single operator-side construction: regularize the operator queried by the base method with a vanishing Tikhonov term, then run the unmodified base method. Applied to the Picard iteration, this recipe reproduces the Halpern iteration; applied to the forward step, extragradient (EG), and past extragradient (PEG, also known as Popov's method), it yields three variants whose anchor placements inherit the base method's query pattern. The forward-step instantiation gives a new residual convergence guarantee, while the EG and PEG instantiations give new regularized variants. The four analyses share a residual recurrence, recovering the $O(1/k)$ Halpern residual-norm convergence rate, giving $O(1/\sqrt{k})$ for the regularized forward step, and giving $O(1/k)$ for the regularized EG and PEG variants in the unconstrained monotone Lipschitz setting.
- Abstract(参考訳): アンコールされた固定点と単調な方程式法、例えばハルパーン反復、余剰なアンカー付き勾配、およびそれらの親類は、最後の保証を得るために基準点に向かって消える引力を加える。
既存のアンカー付き変種は、しばしば急激なラストイテレート保証を実現するが、更新レベルでは、アンカーの配置はアルゴリズム固有の概念上不透明である。
アンカリングは単一の演算子側構造を許容することを示す: 基本メソッドでクエリされた演算子を消滅したTikhonov項で正規化し、修正されていない基本メソッドを実行する。
Picard のイテレーションに適用すると、このレシピは Halpern のイテレーションを再現し、前ステップ、外段階(EG)、過去の外段階(PEG、Popov のメソッドとしても知られる)に適用し、アンカー配置がベースメソッドのクエリパターンを継承する3つの変種を生成する。
前段のインスタンス化は、新しい残留収束を保証する一方、EGおよびPEGインスタンス化は、新しい正規化された変種を与える。
4つの分析は残余再帰を共有し、非拘束な単調なリプシッツ集合の正規化 EG および PEG 変種に対して$O(1/k)$$O(1/\sqrt{k})$を与えられる。
関連論文リスト
- Provable Parameter-Free Fixed-Point Algorithms with Linear Convergence Rates [3.2919103562171865]
本研究では, パラメータフリーかつ適応的不動点アルゴリズムを開発した。
固定点残差と一意な固定点の距離の両方に対して、明示的な線形収束率を確立する。
いくつかの例における数値実験により、提案アルゴリズムは既存の適応的不動点法と競合し、しばしば優れることを示した。
論文 参考訳(メタデータ) (2026-08-10T02:25:00Z) - Accelerated and Stable Convergence with Anchored Optimistic Method [39.242061448272615]
min-max最適化における単調変分不等式の一次解法について検討した。
本稿では,2段階の楽観的更新とHalpern反復にインスパイアされたアンカリング項を組み合わせた一般化最適化手法(GOMA)のファミリーを提案する。
論文 参考訳(メタデータ) (2026-06-19T15:26:10Z) - Fast Rates for Offline Contextual Bandits with Forward-KL Regularization under Single-Policy Concentrability [54.40598524756038]
emphKullback-Leibler (KL) 正規化は強化学習アルゴリズムにおいてユビキタスである。
近年の研究では、KLの逆正則化の下での意思決定において、$1$型高速速度が示されている。
我々は、この問題を解決するための第一歩として、フォワードKL正規化オフラインCBの合理化分析を行う。
論文 参考訳(メタデータ) (2026-05-09T23:17:46Z) - Last-Iterate Convergence of Randomized Kaczmarz and SGD with Greedy Step Size [4.3761172849639705]
本研究では,SGDの2次スムーズなステップサイズにおける最終点収束について検討した。
我々は、ある決定論的固有値方程式の進化によって記述できる、離散収縮過程の族を紹介する。
論文 参考訳(メタデータ) (2026-04-10T21:09:52Z) - Stabilizing Fixed-Point Iteration for Markov Chain Poisson Equations [49.702772230127465]
有限状態マルコフ鎖を$n$状態と遷移行列$P$で研究する。
すべての非退化モードが実周辺不変部分空間 $mathcalK(P)$ によってキャプチャされ、商空間 $mathbbRn/mathcalK(P) 上の誘導作用素が厳密に収縮し、ユニークな商解が得られることを示す。
論文 参考訳(メタデータ) (2026-01-31T02:57:01Z) - From Continual Learning to SGD and Back: Better Rates for Continual Linear Models [50.11453013647086]
以前見られたタスクの損失を、$k$の繰り返しの後、忘れること、すなわち、分析する。
実現可能な最小二乗の設定において、新しい最上界を創出する。
我々は、タスクを繰り返しないランダム化だけで、十分に長いタスクシーケンスで破滅的な事態を防げることを初めて証明した。
論文 参考訳(メタデータ) (2025-04-06T18:39:45Z) - Accelerated Extragradient-Type Methods -- Part 2: Generalization and Sublinear Convergence Rates under Co-Hypomonotonicity [6.78476672849813]
本稿では,アンカード・エクストラグラディエントとネステロフのアクセルド・エクストラグラディエントという,2種類のエクストラグラディエント・ベースの手法について検討する。
我々は、より広い範囲のスキームにモノトン包摂を包含するアンカー付き指数関数のクラスを統一し、一般化する。
我々は、包含性を解決するために、Nesterovの高速化された指数関数の新たなクラスを提案する。
論文 参考訳(メタデータ) (2025-01-08T16:06:15Z) - Extragradient-Type Methods with $\mathcal{O} (1/k)$ Last-Iterate
Convergence Rates for Co-Hypomonotone Inclusions [8.0153031008486]
我々は、コヒポモノトン包摂の解を近似するために、よく知られた過次法(英語版)の2つの「ネステロフ加速」変種を開発した。
我々の結果は、ルートフィリング問題に対する最近のハルパーン型手法の代替と見なすことができる。
論文 参考訳(メタデータ) (2023-02-08T14:47:34Z) - A Primal-Dual Approach to Solving Variational Inequalities with General Constraints [54.62996442406718]
Yang et al. (2023) は最近、一般的な変分不等式を解決するために一階勾配法を使う方法を示した。
この方法の収束性を証明し、演算子が$L$-Lipschitz と monotone である場合、この手法の最後の繰り返しのギャップ関数が$O(frac1sqrtK)$で減少することを示す。
論文 参考訳(メタデータ) (2022-10-27T17:59:09Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - Stochastic Gradient Descent-Ascent and Consensus Optimization for Smooth
Games: Convergence Analysis under Expected Co-coercivity [49.66890309455787]
本稿では,SGDA と SCO の最終的な収束保証として,期待されるコヒーレンシティ条件を導入し,その利点を説明する。
定常的なステップサイズを用いた場合、両手法の線形収束性を解の近傍に証明する。
我々の収束保証は任意のサンプリングパラダイムの下で保たれ、ミニバッチの複雑さに関する洞察を与える。
論文 参考訳(メタデータ) (2021-06-30T18:32:46Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。