論文の概要: Shuffling Heuristic in Variational Inequalities: Establishing New Convergence Guarantees
- arxiv url: http://arxiv.org/abs/2509.04133v1
- Date: Thu, 04 Sep 2025 12:00:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-05 20:21:10.150607
- Title: Shuffling Heuristic in Variational Inequalities: Establishing New Convergence Guarantees
- Title(参考訳): 変分不等式におけるシャッフルヒューリスティック:新しい収束保証を確立する
- Authors: Daniil Medyakov, Gleb Molodtsov, Grigoriy Evseev, Egor Petrov, Aleksandr Beznosikov,
- Abstract要約: シャッフル戦略は変分不等式問題を解決するのに有効であることを示す。
この文脈におけるシャッフル法に対する最初の理論的収束推定を提供する。
多様なベンチマーク変動不等式問題に関する広範な実験により,本研究の成果を検証した。
- 参考スコア(独自算出の注目度): 42.99716861039235
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Variational inequalities have gained significant attention in machine learning and optimization research. While stochastic methods for solving these problems typically assume independent data sampling, we investigate an alternative approach -- the shuffling heuristic. This strategy involves permuting the dataset before sequential processing, ensuring equal consideration of all data points. Despite its practical utility, theoretical guarantees for shuffling in variational inequalities remain unexplored. We address this gap by providing the first theoretical convergence estimates for shuffling methods in this context. Our analysis establishes rigorous bounds and convergence rates, extending the theoretical framework for this important class of algorithms. We validate our findings through extensive experiments on diverse benchmark variational inequality problems, demonstrating faster convergence of shuffling methods compared to independent sampling approaches.
- Abstract(参考訳): 変分不等式は機械学習と最適化研究において大きな注目を集めている。
これらの問題を解決する確率論的手法は、通常独立したデータサンプリングを前提としますが、別のアプローチであるシャッフル・ヒューリスティック(shuffling heuristic)を調査します。
この戦略では、シーケンシャルな処理の前にデータセットを置換し、すべてのデータポイントを均等に考慮する。
その実用性にもかかわらず、変分不等式におけるシャッフルの理論的保証は未解明のままである。
この文脈におけるシャッフル法に対する最初の理論的収束推定を提供することにより、このギャップに対処する。
我々の分析は厳密な境界と収束率を確立し、この重要なアルゴリズムの理論的枠組みを拡張している。
本研究は,様々なベンチマークの不等式問題に対する広範な実験を通じて検証し,独立したサンプリング手法と比較してシャッフル法がより高速に収束することを実証した。
関連論文リスト
- A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳(メタデータ) (2024-05-24T21:09:19Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳(メタデータ) (2024-01-29T02:08:40Z) - Distributed Stochastic Optimization under a General Variance Condition [13.911633636387059]
分散最適化は最近、大規模な機械学習問題の解決に効果があるとして、大きな注目を集めている。
我々は、古典的フェデレーション平均化(Avg)を再考し、滑らかな非対象関数に対して、緩やかな分散しか持たない収束結果を確立する。
ほぼ1つの定常収束点も勾配条件の下で成立する。
論文 参考訳(メタデータ) (2023-01-30T05:48:09Z) - SARAH-based Variance-reduced Algorithm for Stochastic Finite-sum
Cocoercive Variational Inequalities [137.6408511310322]
有限サムコヒーレンシブ変分不等式の問題を考える。
強い単調な問題に対しては、この方法を用いて解への線形収束を達成することができる。
論文 参考訳(メタデータ) (2022-10-12T08:04:48Z) - Optimal Algorithms for Decentralized Stochastic Variational Inequalities [113.43047601775453]
この作業は、ますます重要になるが十分に理解されていない分散的な設定に集中する。
通信と局所的な繰り返しの両方の下位境界を示し、これらの下位境界に一致する最適なアルゴリズムを構築する。
我々のアルゴリズムは、分散化されたケースだけでなく、決定論的で非分散的な文献でも利用できる。
論文 参考訳(メタデータ) (2022-02-06T13:14:02Z) - Statistical optimality and stability of tangent transform algorithms in
logit models [6.9827388859232045]
我々は,データ生成過程の条件として,ロジカルオプティマによって引き起こされるリスクに対して,非漸近上界を導出する。
特に,データ生成過程の仮定なしにアルゴリズムの局所的変動を確立する。
我々は,大域収束が得られる半直交設計を含む特別な場合について検討する。
論文 参考訳(メタデータ) (2020-10-25T05:15:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。