論文の概要: Nesterov acceleration in optimizing over probability measures
- arxiv url: http://arxiv.org/abs/2607.23008v1
- Date: Sat, 25 Jul 2026 02:53:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:14.965494
- Title: Nesterov acceleration in optimizing over probability measures
- Title（参考訳）: 確率測度の最適化におけるネステロフ加速
- Abstract要約: ユークリッド空間におけるネステロフの加速法により、確率測度空間上のヘビーボールおよびネステロフ加速度法を開発する。
我々は、ユークリッドと一致する非漸近収束を保証する。
- 参考スコア（独自算出の注目度）: 2.1838525584229362
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Optimization over probability measures has become an increasingly important paradigm in modern machine learning, scientific computing, and uncertainty quantification. Motivated by Nesterov's accelerated gradient method in Euclidean space, we develop Heavy-ball and Nesterov acceleration methods over the probability measure space $\mathcal{P}_2$ and establish non-asymptotic convergence guarantees that match their Euclidean counterparts. In particular, we derive convergence rates with respect to both the number of iterations and the number of particles used to represent the underlying probability distributions. Extending accelerated optimization from Euclidean space to probability measures is challenging. The natural notion of momentum requires concepts such as tangent bundles of the set of probability space and they are hard to operate numerically. To overcome these difficulties, we introduce two complementary lifting procedures. The first lifts probability measures to phase space through a Hamiltonian formulation, introducing momentum variables into the dynamics. The second lifts probability measures to a common Hilbert space, restoring the linear structure required for convergence analysis while simultaneously yielding executable particle dynamics. Together, these two complementary lifting procedures provide a systematic methodology for designing, analyzing, and implementing momentum-based accelerated optimization methods over probability measure spaces.
- Abstract（参考訳）: 確率測度に対する最適化は、現代の機械学習、科学計算、不確実性定量化において、ますます重要なパラダイムとなっている。
ユークリッド空間におけるネステロフの加速勾配法により、確率測度空間$\mathcal{P}_2$上で重ボールおよびネステロフ加速度法を開発し、ユークリッド空間と一致する非漸近収束保証を確立する。
特に、反復数と基礎となる確率分布を表すために用いられる粒子数の両方について収束率を導出する。
ユークリッド空間から確率測度への高速化最適化は困難である。
運動量の自然な概念は確率空間の集合の接束のような概念を必要とし、数値的な操作は困難である。
これらの課題を克服するために,2つの補完的昇降手順を導入する。
第一に、ハミルトニアンの定式化を通じて位相空間への確率測度を持ち上げ、運動量変数を力学に導入する。
2つ目はヒルベルト空間への確率測度を持ち上げ、収束解析に必要な線形構造を復元し、同時に実行可能な粒子動力学を生成する。
これら2つの相補的な昇降手順は、確率測度空間上の運動量に基づく加速最適化手法を設計、解析、実装するための体系的な方法論を提供する。
関連論文リスト
- Fitting Unknown Number of Hyperplanes with Manifold Optimization [57.48093263119306]
未知数の線形平面をデータに適合させることは、機械学習の根本的な課題である。
既存のアプローチはしばしば最適な最適化に苦しむか、幾何的整合性に欠ける。
論文 参考訳（メタデータ） (2026-05-27T14:02:20Z) - Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。
以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
論文 参考訳（メタデータ） (2025-10-22T19:06:39Z) - Hamiltonian Simulation for Advection-Diffusion Equation with arbitrary transport field [0.6608945629704324]
量子インスパイアされたハミルトニアンシミュレーションのための「シュロディンジェライゼーション」手法を用いて、任意の輸送場下での対流拡散方程式の解法を提案する。
このポテンシャルに基づいて、我々の量子アルゴリズムは、非自明で空間的に変化する輸送体に対応するように設計されている。
本研究では,2次元および3次元の回転,せん断,拡散輸送を含むベンチマークシナリオにおけるアルゴリズムの有効性を示す。
論文 参考訳（メタデータ） (2025-08-22T18:02:08Z) - Learning from Samples: Inverse Problems over measures via Sharpened Fenchel-Young Losses [20.246040671823557]
確率測度空間上の最適化問題の準最適差を測る,シャープ化フェンシェル・ヤング損失と呼ばれる,新たな損失関数のクラスを導入する。
最適輸送の文脈における2つの関連する設定に対して、明確な安定性を保証する。
本稿では,iUOTとiJKOの問題を効率的に解ける最適化アルゴリズムを提案する。
論文 参考訳（メタデータ） (2025-05-11T21:26:44Z) - A Unified Theory of Stochastic Proximal Point Methods without Smoothness [52.30944052987393]
近点法はその数値的安定性と不完全なチューニングに対する頑健性からかなりの関心を集めている。
本稿では,近位点法(SPPM)の幅広いバリエーションの包括的解析について述べる。
論文 参考訳（メタデータ） (2024-05-24T21:09:19Z) - Momentum Particle Maximum Likelihood [2.4561590439700076]
自由エネルギー関数を最小化するための類似の力学系に基づくアプローチを提案する。
システムを離散化することにより、潜在変数モデルにおける最大推定のための実用的なアルゴリズムを得る。
このアルゴリズムは既存の粒子法を数値実験で上回り、他のMLEアルゴリズムと比較する。
論文 参考訳（メタデータ） (2023-12-12T14:53:18Z) - Accelerating optimization over the space of probability measures [17.32262527237843]
ユークリッド空間における運動量に基づくアプローチに類似したハミルトン流アプローチを導入する。
我々は、連続的な時間設定において、このアプローチに基づくアルゴリズムが任意に高次収束率を達成できることを実証した。
論文 参考訳（メタデータ） (2023-10-06T04:32:15Z) - Probabilistic deconstruction of a theory of gravity, Part I: flat space [0.0]
アインシュタインの理論の方程式は、その過程の下での確率の量子進化の半古典的極限に現れることを示す。
特に、平坦なジャッキー・タイテルボイム重力では、アインシュタインの方程式によって解かれたコンパクト化された空間の面積はマルコフ過程の下で進化する確率密度として同定できる。
論文 参考訳（メタデータ） (2021-08-24T18:52:31Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳（メタデータ） (2021-06-07T17:44:49Z) - Accelerated Jarzynski Estimator with Deterministic Virtual Trajectories [5.482532589225552]
ジャージンスキー推定器は非平衡統計物理学を用いて確率分布の分配関数を数値的に得る強力なツールである。
ハミルトン力学の下で拡張状態空間で生成された決定論的仮想軌道により収束を著しく加速する手法を提案する。
論文 参考訳（メタデータ） (2021-02-28T14:59:03Z) - Bernstein-Greene-Kruskal approach for the quantum Vlasov equation [91.3755431537592]
一次元定常量子ブラソフ方程式は、エネルギーを力学変数の1つとして分析する。
量子トンネル効果が小さい半古典的な場合、無限級数解が開発される。
論文 参考訳（メタデータ） (2021-02-18T20:55:04Z) - Acceleration Methods [57.202881673406324]
まず2次最適化問題を用いて加速法を2つ導入する。
我々は、ネステロフの精巧な研究から始まる運動量法を詳細に論じる。
我々は、ほぼ最適な収束率に達するための一連の簡単な手法である再起動スキームを議論することで結論付ける。
論文 参考訳（メタデータ） (2021-01-23T17:58:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。