論文の概要: Implicit geometric regularization in flow matching via density weighted Stein operators

• arxiv url: http://arxiv.org/abs/2512.23956v1
• Date: Tue, 30 Dec 2025 03:08:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-01-01 23:27:28.265897
• Title: Implicit geometric regularization in flow matching via density weighted Stein operators
• Title（参考訳）: 密度重み付きスタイン作用素による流れマッチングにおける暗黙幾何学的正則化
• Authors: Shinto Eguchi,
• Abstract要約: フローマッチング(FM)は、フローを連続的に正規化するための強力なパラダイムとして登場した。 標準FMは、非重み付き$L2$レグレッションを周囲空間全体に暗黙的に実行する。 回帰幾何学を基礎となる確率フローと整合させる密度重み付き変種である$-Flow Matching($-FM)を提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Flow Matching (FM) has emerged as a powerful paradigm for continuous normalizing flows, yet standard FM implicitly performs an unweighted $L^2$ regression over the entire ambient space. In high dimensions, this leads to a fundamental inefficiency: the vast majority of the integration domain consists of low-density ``void'' regions where the target velocity fields are often chaotic or ill-defined. In this paper, we propose {$γ$-Flow Matching ($γ$-FM)}, a density-weighted variant that aligns the regression geometry with the underlying probability flow. While density weighting is desirable, naive implementations would require evaluating the intractable target density. We circumvent this by introducing a Dynamic Density-Weighting strategy that estimates the \emph{target} density directly from training particles. This approach allows us to dynamically downweight the regression loss in void regions without compromising the simulation-free nature of FM. Theoretically, we establish that $γ$-FM minimizes the transport cost on a statistical manifold endowed with the $γ$-Stein metric. Spectral analysis further suggests that this geometry induces an implicit Sobolev regularization, effectively damping high-frequency oscillations in void regions. Empirically, $γ$-FM significantly improves vector field smoothness and sampling efficiency on high-dimensional latent datasets, while demonstrating intrinsic robustness to outliers.
• Abstract（参考訳）: フローマッチング(FM)はフローを連続的に正規化するための強力なパラダイムとして登場しているが、標準FMは非重み付き$L^2$レグレッションを周囲空間全体に暗黙的に実行している。 高次元において、これは基本的な非効率性をもたらす: 積分領域の大多数は低密度の ``void'' 領域から成り、対象の速度場はしばしばカオス的または不定義である。 本稿では、回帰幾何学を基礎となる確率フローと整合させる密度重み付き変種である {$γ$-Flow Matching ("γ$-FM") を提案する。 密度重み付けは望ましいが、単純実装には難解な目標密度を評価する必要がある。 本研究では, トレーニング粒子から直接<emph{target}密度を推定する動的密度重み付け戦略を導入することでこれを回避した。 提案手法により,FMの非シミュレーション特性を損なうことなく,空洞領域の回帰損失を動的に低減することができる。 理論的には、$γ$-FMは、$γ$-ステイン計量によって与えられる統計多様体上の輸送コストを最小化する。 スペクトル分析により、この幾何学は暗黙のソボレフ正則化を誘導し、ヴォイド領域における高周波の振動を効果的に減衰させることが示唆された。 実験的に、$γ$-FMはベクトル場の滑らかさと高次元潜在データセットのサンプリング効率を著しく向上させ、外周に固有の堅牢性を示す。

関連論文リスト

• Flatness-Aware Stochastic Gradient Langevin Dynamics [8.884140046635268]
  ディープラーニングアルゴリズムの一般化は、ロスランドスケープにおける平坦なミニマの追求に収束する。 グラディエント・ランゲヴィン・ダイナミクス(SGLD)は、そのような低トレース正規化目標を確立するバイアスを与えないことを示す。
  論文  参考訳（メタデータ） (2025-10-02T16:24:46Z)
• Flow matching achieves almost minimax optimal convergence [50.38891696297888]
  フローマッチング (FM) は, シミュレーションのない生成モデルとして注目されている。 本稿では,大試料径のFMの収束特性を$p$-Wasserstein 距離で論じる。 我々は、FMが1leq p leq 2$でほぼ最小の収束率を達成できることを確立し、FMが拡散モデルに匹敵する収束率に達するという最初の理論的証拠を示す。
  論文  参考訳（メタデータ） (2024-05-31T14:54:51Z)
• E$^2$M: Double Bounded $α$-Divergence Optimization for Tensor-based Discrete Density Estimation [3.9633191508712398]
  本稿では、E$2Mアルゴリズムと呼ばれる予測最大化(EM)アルゴリズムの一般化を提案する。 Kullback-Leibler (KL) の発散に基づく代理対象の最小化に最適化を緩和することでこの問題を回避する。 このアプローチは、CP、Tucker、Trainフォーマットなど、さまざまな低ランク構造に対してフレキシブルなモデリングを提供します。
  論文  参考訳（メタデータ） (2024-05-28T14:28:28Z)
• Geometry-Aware Normalizing Wasserstein Flows for Optimal Causal Inference [0.0]
  本稿では,パラメトリックサブモデルと連続正規化フローを統合することにより,因果推論に対する画期的なアプローチを提案する。 我々は、最適輸送とワッサーシュタイン勾配流を利用して、有限サンプル設定における最小分散の因果推論手法を開発する。 予備実験では, 従来の流れに比べて平均二乗誤差が低い。
  論文  参考訳（メタデータ） (2023-11-30T18:59:05Z)
• Sobolev Space Regularised Pre Density Models [51.558848491038916]
  本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。 この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
  論文  参考訳（メタデータ） (2023-07-25T18:47:53Z)
• Wasserstein Distributional Learning [5.830831796910439]
  Wasserstein Distributional Learning (WDL)はフレキシブルな密度オンスカラー回帰モデリングフレームワークである。 WDLは, 条件密度の非線形依存性をよりよく特徴付け, 明らかにする。 シミュレーションと実世界の応用を通してWDLフレームワークの有効性を実証する。
  論文  参考訳（メタデータ） (2022-09-12T02:32:17Z)
• Optimizing Information-theoretical Generalization Bounds via Anisotropic Noise in SGLD [73.55632827932101]
  SGLDにおけるノイズ構造を操作することにより,情報理論の一般化を最適化する。 低経験的リスクを保証するために制約を課すことで、最適なノイズ共分散が期待される勾配共分散の平方根であることを証明する。
  論文  参考訳（メタデータ） (2021-10-26T15:02:27Z)
• Moser Flow: Divergence-based Generative Modeling on Manifolds [49.04974733536027]
  Moser Flow (MF) は連続正規化フロー(CNF)ファミリーにおける新しい生成モデルのクラスである MFは、訓練中にODEソルバを介して呼び出しやバックプロパゲートを必要としない。 一般曲面からのサンプリングにおけるフローモデルの利用を初めて実演する。
  論文  参考訳（メタデータ） (2021-08-18T09:00:24Z)
• Sparse Identification of Nonlinear Dynamical Systems via Reweighted $\ell_1$-regularized Least Squares [62.997667081978825]
  本研究は, 非線形系の制御方程式をノイズ状態測定から復元するための繰り返しスパース規則化回帰法を提案する。 本研究の目的は、状態測定ノイズの存在下での手法の精度とロバスト性を改善することである。
  論文  参考訳（メタデータ） (2020-05-27T08:30:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。