論文の概要: Hessian-Informed Flow Matching
- arxiv url: http://arxiv.org/abs/2410.11433v1
- Date: Tue, 15 Oct 2024 09:34:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-10-16 14:00:21.847158
- Title: Hessian-Informed Flow Matching
- Title（参考訳）: ヘシアンインフォームドフローマッチング
- Authors: Christopher Iliffe Sprague, Arne Elofsson, Hossein Azizpour,
- Abstract要約: Hessian-Informed Flow Matchingは、エネルギー関数のHessianを条件流に統合する新しいアプローチである。
この積分により、HI-FMは局所曲率と異方性共分散構造を考慮できる。
MNIST と Lennard-Jones 粒子のデータセットに関する実証的な評価は、HI-FM が試験サンプルの可能性を改善していることを示している。
- 参考スコア（独自算出の注目度）: 4.542719108171107
- License:
- Abstract: Modeling complex systems that evolve toward equilibrium distributions is important in various physical applications, including molecular dynamics and robotic control. These systems often follow the stochastic gradient descent of an underlying energy function, converging to stationary distributions around energy minima. The local covariance of these distributions is shaped by the energy landscape's curvature, often resulting in anisotropic characteristics. While flow-based generative models have gained traction in generating samples from equilibrium distributions in such applications, they predominately employ isotropic conditional probability paths, limiting their ability to capture such covariance structures. In this paper, we introduce Hessian-Informed Flow Matching (HI-FM), a novel approach that integrates the Hessian of an energy function into conditional flows within the flow matching framework. This integration allows HI-FM to account for local curvature and anisotropic covariance structures. Our approach leverages the linearization theorem from dynamical systems and incorporates additional considerations such as time transformations and equivariance. Empirical evaluations on the MNIST and Lennard-Jones particles datasets demonstrate that HI-FM improves the likelihood of test samples.
- Abstract（参考訳）: 平衡分布に進化する複雑なシステムをモデル化することは、分子動力学やロボット制御など様々な物理応用において重要である。
これらの系は、しばしば基礎となるエネルギー関数の確率勾配の降下に従っており、エネルギーミニマの周りの定常分布に収束する。
これらの分布の局所的な共分散は、エネルギーランドスケープの曲率によって形成され、しばしば異方性特性をもたらす。
フローベース生成モデルは、そのような応用における平衡分布からサンプルを生成する際に牽引力を得てきたが、それらは主に等方的条件付き確率パスを採用し、そのような共分散構造を捕捉する能力を制限する。
本稿では,Hessian-Informed Flow Matching (HI-FM)を導入し,エネルギー関数のHessianをフローマッチングフレームワーク内の条件流に統合する手法を提案する。
この積分により、HI-FMは局所曲率と異方性共分散構造を考慮できる。
我々のアプローチは、力学系からの線形化定理を活用し、時間変換や等分散といった追加の考察を取り入れている。
MNIST と Lennard-Jones 粒子のデータセットに関する実証的な評価は、HI-FM が試験サンプルの可能性を改善していることを示している。
関連論文リスト
- Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian
Mixture Models [59.331993845831946]
拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。
本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
論文 参考訳（メタデータ） (2024-03-03T23:15:48Z) - Extended Flow Matching: a Method of Conditional Generation with Generalized Continuity Equation [19.71452214879951]
条件生成は 生成モデルの最も重要な応用の1つです
行列場を通して条件生成に帰納バイアスを導入することができることを示す。
条件生成におけるEMFの競争性を支持する実験結果とともに,本理論を提示する。
論文 参考訳（メタデータ） (2024-02-29T04:12:32Z) - Equivariant flow matching [0.9208007322096533]
等変連続正規化流(CNF)の新しい訓練目標である等変フローマッチングを導入する。
等変流マッチングは、標的エネルギーの物理対称性を利用して、同変CNFの効率的でシミュレーションなしな訓練を行う。
この結果から,同変フローマッチングの対象は,従来の手法に比べて,より短い積分経路,サンプリング効率の向上,スケーラビリティの向上を図っている。
論文 参考訳（メタデータ） (2023-06-26T19:40:10Z) - Towards Predicting Equilibrium Distributions for Molecular Systems with
Deep Learning [60.02391969049972]
本稿では,分子系の平衡分布を予測するために,分散グラフマー(DiG)と呼ばれる新しいディープラーニングフレームワークを導入する。
DiGはディープニューラルネットワークを用いて分子系の記述子に条件付き平衡分布に単純な分布を変換する。
論文 参考訳（メタデータ） (2023-06-08T17:12:08Z) - Machine learning in and out of equilibrium [58.88325379746631]
我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。
我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。
本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
論文 参考訳（メタデータ） (2023-06-06T09:12:49Z) - GANs and Closures: Micro-Macro Consistency in Multiscale Modeling [0.0]
本稿では,物理シミュレーションとバイアス法を併用して,条件分布をサンプリングする手法を提案する。
このフレームワークは, マルチスケールSDE動的システムサンプリングを改善することができることを示すとともに, 複雑性が増大するシステムにも期待できることを示す。
論文 参考訳（メタデータ） (2022-08-23T03:45:39Z) - GeoDiff: a Geometric Diffusion Model for Molecular Conformation
Generation [102.85440102147267]
分子配座予測のための新しい生成モデルGeoDiffを提案する。
GeoDiffは、既存の最先端のアプローチよりも優れているか、あるいは同等であることを示す。
論文 参考訳（メタデータ） (2022-03-06T09:47:01Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳（メタデータ） (2022-02-23T06:11:49Z) - Equivariant Flows: Exact Likelihood Generative Learning for Symmetric
Densities [1.7188280334580197]
正規化フローは、単純な事前分布から興味の確率分布のサンプルに変換する、正確に類似した生成ニューラルネットワークである。
近年の研究では、このような生成モデルは統計力学において、物理学や化学における多体系の平衡状態のサンプリングに利用できることが示されている。
論文 参考訳（メタデータ） (2020-06-03T17:54:26Z) - AI Giving Back to Statistics? Discovery of the Coordinate System of
Univariate Distributions by Beta Variational Autoencoder [0.0]
本稿では、単変量経験分布を分類し、累積分布関数(CDF)の入力に基づいて2次元の潜伏空間で表現するためのニューラルネットワークのトレーニング経験について論じる。
潜在2次元座標系上の表現は、CDFの形状、基礎となる理論分布とそのパラメータの分類確率、情報エントロピー、歪みなど、重要な分布特性を乱す実世界のデータの付加メタデータと見なすことができる。
論文 参考訳（メタデータ） (2020-04-06T14:11:13Z) - Training Deep Energy-Based Models with f-Divergence Minimization [113.97274898282343]
深部エネルギーベースモデル(EBM)は分布パラメトリゼーションにおいて非常に柔軟であるが、計算的に困難である。
所望のf偏差を用いてEMMを訓練するための、f-EBMと呼ばれる一般的な変分フレームワークを提案する。
実験の結果,F-EBMは対照的なばらつきよりも優れており,KL以外のf-divergencesを用いたEBMの訓練の利点も示された。
論文 参考訳（メタデータ） (2020-03-06T23:11:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。