論文の概要: Force Matching with Relativistic Constraints: A Physics-Inspired Approach to Stable and Efficient Generative Modeling
- arxiv url: http://arxiv.org/abs/2502.08150v1
- Date: Wed, 12 Feb 2025 06:30:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-13 13:51:00.808617
- Title: Force Matching with Relativistic Constraints: A Physics-Inspired Approach to Stable and Efficient Generative Modeling
- Title(参考訳): 相対論的制約による力のマッチング:安定かつ効率的な生成モデルへの物理に着想を得たアプローチ
- Authors: Yang Cao, Bo Chen, Xiaoyu Li, Yingyu Liang, Zhizhou Sha, Zhenmei Shi, Zhao Song, Mingda Wan,
- Abstract要約: 本稿では,特殊相対論的力学を取り入れた生成モデリングフレームワークForMを紹介する。
ForM は速度制約を課し、サンプル速度が一定限の範囲内にあることを保証する。
ForMは, 安定, 効率的, 柔軟な生成プロセスを実現するための, 有望な経路を提供する。
- 参考スコア(独自算出の注目度): 26.145559807686706
- License:
- Abstract: This paper introduces Force Matching (ForM), a novel framework for generative modeling that represents an initial exploration into leveraging special relativistic mechanics to enhance the stability of the sampling process. By incorporating the Lorentz factor, ForM imposes a velocity constraint, ensuring that sample velocities remain bounded within a constant limit. This constraint serves as a fundamental mechanism for stabilizing the generative dynamics, leading to a more robust and controlled sampling process. We provide a rigorous theoretical analysis demonstrating that the velocity constraint is preserved throughout the sampling procedure within the ForM framework. To validate the effectiveness of our approach, we conduct extensive empirical evaluations. On the \textit{half-moons} dataset, ForM significantly outperforms baseline methods, achieving the lowest Euclidean distance loss of \textbf{0.714}, in contrast to vanilla first-order flow matching (5.853) and first- and second-order flow matching (5.793). Additionally, we perform an ablation study to further investigate the impact of our velocity constraint, reaffirming the superiority of ForM in stabilizing the generative process. The theoretical guarantees and empirical results underscore the potential of integrating special relativity principles into generative modeling. Our findings suggest that ForM provides a promising pathway toward achieving stable, efficient, and flexible generative processes. This work lays the foundation for future advancements in high-dimensional generative modeling, opening new avenues for the application of physical principles in machine learning.
- Abstract(参考訳): 本稿では、サンプリングプロセスの安定性を高めるために、特殊相対論的力学を活用するための最初の探索を表現した、生成モデリングのための新しいフレームワークである力マッチング(ForM)を紹介する。
ローレンツ因子を組み込むことで、ForM は速度制約を課し、サンプル速度が一定限の範囲内にあることを保証している。
この制約は生成力学を安定化するための基本的なメカニズムとして機能し、より堅牢で制御されたサンプリングプロセスをもたらす。
本稿では,ForMフレームワーク内のサンプリング手順を通して,速度制約が維持されていることを示す厳密な理論的解析を行う。
提案手法の有効性を検証するため,広範囲な実験評価を行った。
ForMは、textit{half-moons}データセットにおいて、バニラの1次フローマッチング(5.853)と1次と2次フローマッチング(5.793)とは対照的に、最低のユークリッド距離損失であるtextbf{0.714}を達成し、ベースライン法を著しく上回っている。
さらに, 速度制約の影響について検討し, 生成過程の安定化におけるForMの優位性を再確認した。
理論的な保証と経験的な結果は、特殊相対性理論を生成モデルに組み込む可能性を示している。
以上の結果から,ForMは安定した,効率的な,柔軟な生成プロセスを実現するための,有望な経路を提供する可能性が示唆された。
この研究は、高次元生成モデリングにおける将来の発展の基礎を築き、機械学習に物理原理を適用するための新たな道を開いた。
関連論文リスト
- Stochastic Control for Fine-tuning Diffusion Models: Optimality, Regularity, and Convergence [11.400431211239958]
拡散モデルは生成モデリングの強力なツールとして登場してきた。
微調整拡散モデルのための制御フレームワークを提案する。
PI-FTは線形速度で大域収束することを示す。
論文 参考訳(メタデータ) (2024-12-24T04:55:46Z) - Conditional Lagrangian Wasserstein Flow for Time Series Imputation [3.914746375834628]
本研究では,条件付きラグランジアンワッサースタイン流という時系列計算法を提案する。
提案手法は(条件付き)最適輸送理論を利用して,シミュレーションのない方法で確率流を学習する。
実単語データセットを用いた実験結果から,提案手法は時系列計算における競合性能を実現することが示された。
論文 参考訳(メタデータ) (2024-10-10T02:46:28Z) - Partially Observed Trajectory Inference using Optimal Transport and a Dynamics Prior [2.7255073299359154]
軌道推論は、時間的限界のスナップショットから集団の時間的ダイナミクスを回復しようとする。
先行研究は、観測空間に勾配駆動ドリフトを持つ微分方程式(SDE)モデルの下で行われる。
本稿では,この潜在軌道推定問題の解法としてPO-MFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-06-11T17:21:15Z) - Generative Modeling with Phase Stochastic Bridges [49.4474628881673]
拡散モデル(DM)は、連続入力のための最先端の生成モデルを表す。
我々はtextbfphase space dynamics に基づく新しい生成モデリングフレームワークを提案する。
我々のフレームワークは、動的伝播の初期段階において、現実的なデータポイントを生成する能力を示す。
論文 参考訳(メタデータ) (2023-10-11T18:38:28Z) - Learning Energy-Based Prior Model with Diffusion-Amortized MCMC [89.95629196907082]
非収束短距離MCMCを用いた事前及び後方サンプリングによる潜時空間EMM学習の一般的な実践は、さらなる進歩を妨げている。
本稿では,MCMCサンプリングのための単純だが効果的な拡散型アモータイズ手法を導入し,それに基づく潜時空間EMMのための新しい学習アルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-10-05T00:23:34Z) - Provable Guarantees for Generative Behavior Cloning: Bridging Low-Level
Stability and High-Level Behavior [51.60683890503293]
生成モデルを用いた複雑な専門家による実演の行動クローニングに関する理論的枠組みを提案する。
任意の専門的軌跡の時間ごとのステップ分布に一致するトラジェクトリを生成することができることを示す。
論文 参考訳(メタデータ) (2023-07-27T04:27:26Z) - Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。
MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する
我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文 参考訳(メタデータ) (2022-10-24T16:54:18Z) - When to Update Your Model: Constrained Model-based Reinforcement
Learning [50.74369835934703]
モデルベースRL(MBRL)の非遅延性能保証のための新規で一般的な理論スキームを提案する。
続いて導いた境界は、モデルシフトとパフォーマンス改善の関係を明らかにします。
さらなる例では、動的に変化する探索からの学習モデルが、最終的なリターンの恩恵をもたらすことが示されている。
論文 参考訳(メタデータ) (2022-10-15T17:57:43Z) - Guaranteed Conservation of Momentum for Learning Particle-based Fluid
Dynamics [96.9177297872723]
本稿では,学習物理シミュレーションにおける線形運動量を保証する新しい手法を提案する。
我々は、強い制約で運動量の保存を強制し、反対称的な連続的な畳み込み層を通して実現する。
提案手法により,学習シミュレータの物理的精度を大幅に向上させることができる。
論文 参考訳(メタデータ) (2022-10-12T09:12:59Z) - Optimal transport for causal discovery [13.38095181298957]
機能因果モデル(FCM)の新しい動的システムビューを提供する。
次に,両変数の場合の因果方向を同定する新しい枠組みを提案する。
提案手法は, 合成および因果探索ベンチマークを用いて, 最新の結果を示した。
論文 参考訳(メタデータ) (2022-01-23T21:09:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。