論文の概要: Beyond Propagation of Chaos: A Stochastic Algorithm for Mean Field Optimization

• arxiv url: http://arxiv.org/abs/2503.13115v1
• Date: Mon, 17 Mar 2025 12:37:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-18 16:00:50.223511
• Title: Beyond Propagation of Chaos: A Stochastic Algorithm for Mean Field Optimization
• Title（参考訳）: カオスの伝播を超えて - 平均場最適化のための確率的アルゴリズム
• Authors: Chandan Tankala, Dheeraj M. Nagaraj, Anant Raj,
• Abstract要約: 2-ワッサーシュタイン空間の勾配流は、確率分布よりも関数を最適化するために広く用いられている。 アルゴリズムの出力は、無限粒子極限に類似した条件下での最適分布に収束することを示す。
• 参考スコア（独自算出の注目度）: 5.656933370626669
• License:
• Abstract: Gradient flow in the 2-Wasserstein space is widely used to optimize functionals over probability distributions and is typically implemented using an interacting particle system with $n$ particles. Analyzing these algorithms requires showing (a) that the finite-particle system converges and/or (b) that the resultant empirical distribution of the particles closely approximates the optimal distribution (i.e., propagation of chaos). However, establishing efficient sufficient conditions can be challenging, as the finite particle system may produce heavily dependent random variables. In this work, we study the virtual particle stochastic approximation, originally introduced for Stein Variational Gradient Descent. This method can be viewed as a form of stochastic gradient descent in the Wasserstein space and can be implemented efficiently. In popular settings, we demonstrate that our algorithm's output converges to the optimal distribution under conditions similar to those for the infinite particle limit, and it produces i.i.d. samples without the need to explicitly establish propagation of chaos bounds.
• Abstract（参考訳）: 2-ワッサーシュタイン空間の勾配流は、確率分布よりも関数を最適化するために広く使われ、典型的には$n$の粒子を持つ相互作用粒子系を用いて実装される。 これらのアルゴリズムを解析するには a)有限粒子系が収束または/または収束するさま b) 粒子の結果として生じる経験的分布は最適分布(カオスの伝播)を近似する。 しかし、有限粒子系は強い依存的確率変数を生成できるため、効率的な十分条件の確立は困難である。 本研究では,Stein Variational Gradient Descentのために導入された仮想粒子確率近似について検討する。 この方法はワッサーシュタイン空間における確率勾配勾配の形式と見なすことができ、効率的に実装することができる。 一般的な設定では、我々のアルゴリズムの出力は無限粒子極限に類似した条件下で最適分布に収束し、カオス境界の伝播を明示的に確立する必要のないサンプルを生成する。

関連論文リスト

• Closed-form Filtering for Non-linear Systems [83.91296397912218]
  我々は密度近似と計算効率の面でいくつかの利点を提供するガウスPSDモデルに基づく新しいフィルタのクラスを提案する。 本研究では,遷移や観測がガウスPSDモデルである場合,フィルタリングを効率的にクローズド形式で行うことができることを示す。 提案する推定器は, 近似の精度に依存し, 遷移確率の正則性に適応する推定誤差を伴って, 高い理論的保証を享受する。
  論文  参考訳（メタデータ） (2024-02-15T08:51:49Z)
• Noise-Free Sampling Algorithms via Regularized Wasserstein Proximals [3.4240632942024685]
  ポテンシャル関数が支配する分布からサンプリングする問題を考察する。 本研究は, 決定論的な楽譜に基づくMCMC法を提案し, 粒子に対する決定論的進化をもたらす。
  論文  参考訳（メタデータ） (2023-08-28T23:51:33Z)
• Learning Unnormalized Statistical Models via Compositional Optimization [73.30514599338407]
  実データと人工雑音のロジスティックな損失として目的を定式化することにより, ノイズコントラスト推定(NCE)を提案する。 本稿では,非正規化モデルの負の対数類似度を最適化するための直接的アプローチについて検討する。
  論文  参考訳（メタデータ） (2023-06-13T01:18:16Z)
• Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation [59.45669299295436]
  教師なしニューラルソルバのトレーニングのためのモンテカルロPDEソルバを提案する。 我々は、マクロ現象をランダム粒子のアンサンブルとみなすPDEの確率的表現を用いる。 対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
  論文  参考訳（メタデータ） (2023-02-10T08:05:19Z)
• Efficient displacement convex optimization with particle gradient descent [57.88860627977882]
  粒子勾配降下は確率測度の関数の最適化に広く用いられている。 本稿では, 有限個の粒子による粒子勾配降下について考察し, その理論的保証を定式化して, 測度に置換凸となる関数を最適化する。
  論文  参考訳（メタデータ） (2023-02-09T16:35:59Z)
• A blob method method for inhomogeneous diffusion with applications to multi-agent control and sampling [0.6562256987706128]
  重み付き多孔質媒質方程式(WPME)に対する決定論的粒子法を開発し,その収束性を時間間隔で証明する。 提案手法は,マルチエージェントカバレッジアルゴリズムや確率測定のサンプリングに自然に応用できる。
  論文  参考訳（メタデータ） (2022-02-25T19:49:05Z)
• Large-Scale Wasserstein Gradient Flows [84.73670288608025]
  ワッサーシュタイン勾配流を近似するスケーラブルなスキームを導入する。 我々のアプローチは、JKOステップを識別するために、入力ニューラルネットワーク(ICNN)に依存しています。 その結果、勾配拡散の各ステップで測定値からサンプリングし、その密度を計算することができる。
  論文  参考訳（メタデータ） (2021-06-01T19:21:48Z)
• Variational Transport: A Convergent Particle-BasedAlgorithm for Distributional Optimization [106.70006655990176]
  分散最適化問題は機械学習や統計学で広く発生する。 本稿では,変分輸送と呼ばれる粒子に基づく新しいアルゴリズムを提案する。 目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
  論文  参考訳（メタデータ） (2020-12-21T18:33:13Z)
• Multiplicative Gaussian Particle Filter [18.615555573235987]
  フィルタ問題における近似推論のためのサンプリングに基づく新しい手法を提案する。 有限個の状態からなる条件分布を粒子フィルタで近似するのではなく、連続関数の集合から重み付けされた関数の和で分布を近似する。
  論文  参考訳（メタデータ） (2020-02-29T09:19:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。