論文の概要: Quantized Stochastic Primal-Dual Methods for Distributed Optimization under Relaxed Global Geometry
- arxiv url: http://arxiv.org/abs/2606.11339v1
- Date: Tue, 09 Jun 2026 18:18:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-11 16:42:38.132333
- Title: Quantized Stochastic Primal-Dual Methods for Distributed Optimization under Relaxed Global Geometry
- Title(参考訳): リラクシドグローバル幾何による分散最適化のための量子確率的原始双対法
- Authors: Susmit Sarkar, Abhinav Raghuvanshi, Kushal Chakrabarti, Mayank Baranwal,
- Abstract要約: ランダムな(偏りのない)量子化によってモデル化された勾配と有限ビット通信を用いた分散最適化について検討する。
制限されたセカント不等式 (RSI) の下では、勾配ノイズ、量子化歪み、ネットワーク接続性によって決定される明示的な近傍への線形の縮約が得られる。
PolyakLojasiewicz (PL) の不等式では、同じ量子化環境で線形-近傍収束が得られる。
- 参考スコア(独自算出の注目度): 2.15242029196761
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We study distributed optimization with stochastic gradients and finite-bit communication modeled by random (unbiased) quantization. We propose q-PDGD, a quantized stochastic primal-dual method, and analyze it under relaxed global geometry. Under restricted secant inequality (RSI), a constant step-size yields linear contraction to an explicit neighborhood determined by gradient noise, quantization distortion, and network connectivity, while a diminishing step-size achieves O(1/k) convergence without shared-minimizer assumptions. Under Polyak-Lojasiewicz (PL) inequality, we obtain linear-to-neighborhood convergence in the same stochastic quantized setting. Our results match the best-known centralized stochastic rates in oracle complexity, and are supported by experiments demonstrating the predicted tradeoffs between quantization level, step-size choice, and graph structure.
- Abstract(参考訳): 確率勾配とランダムな(偏りのない)量子化をモデルとした有限ビット通信を用いた分散最適化について検討する。
我々は、量子化された確率的原始双対法であるq-PDGDを提案し、それを緩和された大域幾何学の下で解析する。
制限されたセカント不等式(RSI)の下では、定数ステップサイズは勾配ノイズ、量子化歪み、ネットワーク接続によって決定される明示的な近傍に線形収縮し、減少するステップサイズは共有最小化仮定なしでO(1/k)収束する。
Polyak-Lojasiewicz (PL) の不等式の下では、同じ確率的量子化環境で線形-近傍収束が得られる。
この結果はオラクルの複雑性における最もよく知られた集中確率速度と一致し、量子化レベル、ステップサイズ選択、グラフ構造の間の予測トレードオフを実証する実験によって支持される。
関連論文リスト
- Geometric Analysis of Variational Quantum Eigensolver [8.743290038942542]
変分量子固有解法(VQE)は量子コンピューティングの基本的なアルゴリズムである。
本稿では,最適化ランドスケープ,初期化保証,ノイズロバスト性の観点から,VQEの幾何学的解析を確立する。
論文 参考訳(メタデータ) (2026-05-27T00:31:18Z) - Decentralized Proximal Stochastic Gradient Langevin Dynamics [4.385194124090593]
凸領域に制約された対数凹面確率分布からのサンプリングのための分散近位ランゲヴィンダイナミクス(DE-PSGLD)。
制約領域に対する最初の分散化アプローチとして、アルゴリズムは高速な後部濃度と高い予測精度を示す。
論文 参考訳(メタデータ) (2026-05-01T15:11:06Z) - Total Variation Guarantees for Sampling with Stochastic Localization [0.0]
本稿では,局所化に基づくサンプリングアルゴリズムSLIPSの厳密な収束解析について述べる。
SLIPSを全変動距離で保証する。
さらに,離散化点の最適選択を経験的に観測した理論的な洞察を与える。
論文 参考訳(メタデータ) (2026-03-31T10:34:42Z) - Stability and Generalization of Push-Sum Based Decentralized Optimization over Directed Graphs [55.77845440440496]
プッシュベースの分散通信は、情報交換が非対称である可能性のある通信ネットワークの最適化を可能にする。
我々は、グラディエント・プッシュ(SGP)アルゴリズムのための統一的な一様安定性フレームワークを開発する。
重要な技術的要素は、2つの量に束縛された不均衡認識の一般化である。
論文 参考訳(メタデータ) (2026-02-24T05:32:03Z) - Neural Optimal Transport Meets Multivariate Conformal Prediction [58.43397908730771]
条件付きベクトル回帰(CVQR)のためのフレームワークを提案する。
CVQRは、ニューラルネットワークの最適輸送と量子化された最適化を組み合わせて、予測に適用する。
論文 参考訳(メタデータ) (2025-09-29T19:50:19Z) - Learning Overspecified Gaussian Mixtures Exponentially Fast with the EM Algorithm [5.625796693054093]
過特定ガウス混合モデルに適用した場合のEMアルゴリズムの収束特性について検討する。
集団EMアルゴリズムはクルバック・リーブラー距離(KL)において指数関数的に高速に収束することを示した。
論文 参考訳(メタデータ) (2025-06-13T14:57:57Z) - A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳(メタデータ) (2024-05-24T21:09:19Z) - Nonconvex Stochastic Scaled-Gradient Descent and Generalized Eigenvector
Problems [98.34292831923335]
オンライン相関解析の問題から,emphStochastic Scaled-Gradient Descent (SSD)アルゴリズムを提案する。
我々はこれらのアイデアをオンライン相関解析に適用し、局所収束率を正規性に比例した最適な1時間スケールのアルゴリズムを初めて導いた。
論文 参考訳(メタデータ) (2021-12-29T18:46:52Z) - A Stochastic Newton Algorithm for Distributed Convex Optimization [62.20732134991661]
均質な分散凸最適化のためのNewtonアルゴリズムを解析し、各マシンが同じ人口目標の勾配を計算する。
提案手法は,既存の手法と比較して,性能を損なうことなく,必要な通信ラウンドの数,頻度を低減できることを示す。
論文 参考訳(メタデータ) (2021-10-07T17:51:10Z) - On the Convergence of Stochastic Extragradient for Bilinear Games with
Restarted Iteration Averaging [96.13485146617322]
本稿では, ステップサイズが一定であるSEG法の解析を行い, 良好な収束をもたらす手法のバリエーションを示す。
平均化で拡張した場合、SEGはナッシュ平衡に確実に収束し、スケジュールされた再起動手順を組み込むことで、その速度が確実に加速されることを証明した。
論文 参考訳(メタデータ) (2021-06-30T17:51:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。