論文の概要: On propagation of chaos for the Fisher-Rao gradient flow in entropic mean-field optimization

• arxiv url: http://arxiv.org/abs/2602.15094v1
• Date: Mon, 16 Feb 2026 18:34:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-18 16:03:17.870649
• Title: On propagation of chaos for the Fisher-Rao gradient flow in entropic mean-field optimization
• Title（参考訳）: エントロピー平均場最適化におけるフィッシャー・ラオ勾配流のカオス伝播について
• Authors: Petra Lazić, Linshan Liu, Mateusz B. Majka,
• Abstract要約: ニューラルネットワークの研究における平均場アプローチによる最適化問題の一類を考察する。 検討中のエネルギー関数の最小値に収束する連続時間勾配流を構築する。 流れを平均場限界として近似する相互作用粒子系を構築する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We consider a class of optimization problems on the space of probability measures motivated by the mean-field approach to studying neural networks. Such problems can be solved by constructing continuous-time gradient flows that converge to the minimizer of the energy function under consideration, and then implementing discrete-time algorithms that approximate the flow. In this work, we focus on the Fisher-Rao gradient flow and we construct an interacting particle system that approximates the flow as its mean-field limit. We discuss the connection between the energy function, the gradient flow and the particle system and explain different approaches to smoothing out the energy function with an appropriate kernel in a way that allows for the particle system to be well-defined. We provide a rigorous proof of the existence and uniqueness of thus obtained kernelized flows, as well as a propagation of chaos result that provides a theoretical justification for using the corresponding kernelized particle systems as approximation algorithms in entropic mean-field optimization.
• Abstract（参考訳）: 本稿では,ニューラルネットワーク研究における平均場アプローチによる確率測度空間の最適化問題について考察する。 このような問題は、考慮されたエネルギー関数の最小値に収束する連続時間勾配流を構築し、フローを近似する離散時間アルゴリズムを実装することで解決できる。 本研究では,フィッシャー-ラオ勾配流に着目し,その平均場限界を近似する相互作用粒子系を構築する。 エネルギー関数, 勾配流, 粒子系の関係を論じ, 粒子系を適切に定義できるように, 適切なカーネルでエネルギー関数を平滑化するための様々なアプローチを解説する。 エントロピック平均場最適化における近似アルゴリズムとして対応する粒子系を用いるための理論的正当性を提供するカオス結果の伝播とともに,得られた核流動の存在と特異性の厳密な証明を提供する。

関連論文リスト

• Kernel Approximation of Fisher-Rao Gradient Flows [52.154685604660465]
  本稿では,フィッシャー・ラオ型およびワッサーシュタイン型勾配流の勾配構造,流れ方程式,および核近似に関する厳密な研究を行う。 具体的には、フィッシャー・ラオ幾何学とその様々なカーネルに基づく近似に注目し、原理的な理論的枠組みを開発する。
  論文  参考訳（メタデータ） (2024-10-27T22:52:08Z)
• Semi-Implicit Functional Gradient Flow for Efficient Sampling [30.32233517392456]
  本稿では,ガウス雑音を近似系とする摂動粒子を用いた関数勾配ParVI法を提案する。 ニューラルネットワークと一致するスコアをデノナイズすることで推定できる機能的勾配流は,強い理論的収束保証を示す。 さらに,サンプリング中の適切な雑音の大きさを自動的に選択する適応バージョンを提案する。
  論文  参考訳（メタデータ） (2024-10-23T15:00:30Z)
• Gaussian Interpolation Flows [11.340847429991525]
  本研究は,ガウス分極上に構築されたシミュレーションフリー連続正規化流れの健全性について検討する。 我々は,流れ速度場のリプシッツ正則性,流れの存在と特異性,流れマップの連続性を確立する。 また、2次ワッサーシュタイン距離を計量として、これらの流れの震源分布と速度場の摂動の安定性についても検討した。
  論文  参考訳（メタデータ） (2023-11-20T00:59:20Z)
• Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
  平均場ランゲヴィン力学の収束速度解析について述べる。 ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
  論文  参考訳（メタデータ） (2022-01-25T17:13:56Z)
• Large-Scale Wasserstein Gradient Flows [84.73670288608025]
  ワッサーシュタイン勾配流を近似するスケーラブルなスキームを導入する。 我々のアプローチは、JKOステップを識別するために、入力ニューラルネットワーク(ICNN)に依存しています。 その結果、勾配拡散の各ステップで測定値からサンプリングし、その密度を計算することができる。
  論文  参考訳（メタデータ） (2021-06-01T19:21:48Z)
• Variational Transport: A Convergent Particle-BasedAlgorithm for Distributional Optimization [106.70006655990176]
  分散最適化問題は機械学習や統計学で広く発生する。 本稿では,変分輸送と呼ばれる粒子に基づく新しいアルゴリズムを提案する。 目的関数がpolyak-Lojasiewicz (PL) (Polyak, 1963) の機能バージョンと滑らかな条件を満たすとき、変分輸送は線形に収束することを示す。
  論文  参考訳（メタデータ） (2020-12-21T18:33:13Z)
• On The Convergence of Euler Discretization of Finite-Time Convergent Gradient Flows [4.401622714202886]
  本稿では,RGF (Rescaled-gradient Flow) とSGF (Signed-gradient Flow) の2つの新しい一階最適化アルゴリズムの性能について検討する。 これらのアルゴリズムは、勾配線型関数のミニマに局所収束する非リプシッツ力学系からなる有限時間収束流の前方離散化から導かれる。
  論文  参考訳（メタデータ） (2020-10-06T19:28:00Z)
• A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
  学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。 フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。 既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
  論文  参考訳（メタデータ） (2019-10-31T02:26:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。