論文の概要: Hellinger-Kantorovich Gradient Flows: Global Exponential Decay of Entropy Functionals
- arxiv url: http://arxiv.org/abs/2501.17049v1
- Date: Tue, 28 Jan 2025 16:17:09 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-29 16:42:11.861122
- Title: Hellinger-Kantorovich Gradient Flows: Global Exponential Decay of Entropy Functionals
- Title(参考訳): Hellinger-Kantorovich勾配流:エントロピー関数の大域指数減衰
- Authors: Alexander Mielke, Jia-Jie Zhu,
- Abstract要約: 本稿では,Heringer-Kantorovich(HK)幾何に着目し,正測度と確率測度の勾配流の族について検討する。
中心的な寄与は、オットー・ワッサーシュタインおよびヘルリンガー型勾配流の下でのエントロピー汎函数の大域的指数減衰挙動の完全な特徴づけである。
- 参考スコア(独自算出の注目度): 52.154685604660465
- License:
- Abstract: We investigate a family of gradient flows of positive and probability measures, focusing on the Hellinger-Kantorovich (HK) geometry, which unifies transport mechanism of Otto-Wasserstein, and the birth-death mechanism of Hellinger (or Fisher-Rao). A central contribution is a complete characterization of global exponential decay behaviors of entropy functionals (e.g. KL, $\chi^2$) under Otto-Wasserstein and Hellinger-type gradient flows. In particular, for the more challenging analysis of HK gradient flows on positive measures -- where the typical log-Sobolev arguments fail -- we develop a specialized shape-mass decomposition that enables new analysis results. Our approach also leverages the (Polyak-)\L{}ojasiewicz-type functional inequalities and a careful extension of classical dissipation estimates. These findings provide a unified and complete theoretical framework for gradient flows and underpin applications in computational algorithms for statistical inference, optimization, and machine learning.
- Abstract(参考訳): 我々は,オットー・ワッサーシュタインの輸送機構を統一するヘリンジャー・カントロビッチ(HK)幾何と,ヘリンジャー(もしくはフィッシャー・ラオ)の生死機構に着目し,正および確率測度の勾配流の族について検討する。
中心的な寄与は、エントロピー汎函数(例えば KL, $\chi^2$)のオットー・ヴァッサーシュタインとヘルリンガー型勾配流の下での大域的指数減衰挙動の完全な特徴づけである。
特に、一般的な対数ソボレフの議論が失敗する正の測度に基づくHK勾配のより困難な解析のために、我々は新しい分析結果を可能にする特別な形状と質量の分解を開発する。
我々のアプローチは (Polyak-)\L{}ojasiewicz 型の機能的不等式と古典的な散逸推定の注意深い拡張も活用する。
これらの知見は、統計的推論、最適化、機械学習のための計算アルゴリズムにおける勾配流と基盤となる、統一的で完全な理論的枠組みを提供する。
関連論文リスト
- Designing a Linearized Potential Function in Neural Network Optimization Using Csiszár Type of Tsallis Entropy [0.0]
本稿では,Csisz'ar型Tsallisエントロピーを用いた線形化ポテンシャル関数を利用する枠組みを確立する。
新しい枠組みによって指数収束結果が導出できることが示される。
論文 参考訳(メタデータ) (2024-11-06T02:12:41Z) - Kernel Approximation of Fisher-Rao Gradient Flows [52.154685604660465]
本稿では,フィッシャー・ラオ型およびワッサーシュタイン型勾配流の勾配構造,流れ方程式,および核近似に関する厳密な研究を行う。
具体的には、フィッシャー・ラオ幾何学とその様々なカーネルに基づく近似に注目し、原理的な理論的枠組みを開発する。
論文 参考訳(メタデータ) (2024-10-27T22:52:08Z) - Fisher-Rao Gradient Flow: Geodesic Convexity and Functional Inequalities [7.099783891532113]
最小仮定下でのフィッシャー・ラオ勾配流の関数的不等式とそれに関連する測地的凸性について検討する。
得られた機能的不等式の特徴は、ターゲット分布の対数凹度や対数ソボレフ定数に依存しない点である。
論文 参考訳(メタデータ) (2024-07-22T15:00:14Z) - Curvature-Independent Last-Iterate Convergence for Games on Riemannian
Manifolds [77.4346324549323]
本研究では, 多様体の曲率に依存しないステップサイズが, 曲率非依存かつ直線的最終点収束率を達成することを示す。
我々の知る限りでは、曲率非依存率や/または最終点収束の可能性はこれまでに検討されていない。
論文 参考訳(メタデータ) (2023-06-29T01:20:44Z) - Gradient is All You Need? [0.0]
本稿では、コンセンサスに基づく勾配最適化(CBO)の解釈による学習アルゴリズムの理論的理解に関する新しい分析的視点を提供する。
本研究は,非局所景観関数の複雑さを軽減するため,CBOの本質的な能力を証明するものである。
論文 参考訳(メタデータ) (2023-06-16T11:30:55Z) - Large-Scale Wasserstein Gradient Flows [84.73670288608025]
ワッサーシュタイン勾配流を近似するスケーラブルなスキームを導入する。
我々のアプローチは、JKOステップを識別するために、入力ニューラルネットワーク(ICNN)に依存しています。
その結果、勾配拡散の各ステップで測定値からサンプリングし、その密度を計算することができる。
論文 参考訳(メタデータ) (2021-06-01T19:21:48Z) - On dissipative symplectic integration with applications to
gradient-based optimization [77.34726150561087]
本稿では,離散化を体系的に実現する幾何学的枠組みを提案する。
我々は、シンプレクティックな非保守的、特に散逸的なハミルトン系への一般化が、制御された誤差まで収束率を維持することができることを示す。
論文 参考訳(メタデータ) (2020-04-15T00:36:49Z) - A Near-Optimal Gradient Flow for Learning Neural Energy-Based Models [93.24030378630175]
学習エネルギーベースモデル(EBM)の勾配流を最適化する新しい数値スキームを提案する。
フォッカー・プランク方程式から大域相対エントロピーの2階ワッサーシュタイン勾配流を導出する。
既存のスキームと比較して、ワッサーシュタイン勾配流は実データ密度を近似するより滑らかで近似的な数値スキームである。
論文 参考訳(メタデータ) (2019-10-31T02:26:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。