論文の概要: A Fokker-Planck-Based Loss Function that Bridges Dynamics with Density Estimation
- arxiv url: http://arxiv.org/abs/2502.17690v1
- Date: Mon, 24 Feb 2025 22:27:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-26 15:21:03.484320
- Title: A Fokker-Planck-Based Loss Function that Bridges Dynamics with Density Estimation
- Title(参考訳): 密度推定によるダイナミクスをブリッジするFokker-Planck型損失関数
- Authors: Zhixin Lu, Łukasz Kuśmierz, Stefan Mihalas,
- Abstract要約: 力学系モデルと確率密度関数を結びつけるフォッカー・プランク方程式から新しい損失関数を導出する。
密度推定のために,正規化フローモデルとガウス混合モデルを統合する密度推定器を提案する。
これは、最大可能性とスコアマッチングを含む、さまざまなデータベースのトレーニング手法と互換性がある。
- 参考スコア(独自算出の注目度): 1.8434042562191815
- License:
- Abstract: We have derived a novel loss function from the Fokker-Planck equation that links dynamical system models with their probability density functions, demonstrating its utility in model identification and density estimation. In the first application, we show that this loss function can enable the extraction of dynamical parameters from non-temporal datasets, including timestamp-free measurements from steady non-equilibrium systems such as noisy Lorenz systems and gene regulatory networks. In the second application, when coupled with a density estimator, this loss facilitates density estimation when the dynamic equations are known. For density estimation, we propose a density estimator that integrates a Gaussian Mixture Model with a normalizing flow model. It simultaneously estimates normalized density, energy, and score functions from both empirical data and dynamics. It is compatible with a variety of data-based training methodologies, including maximum likelihood and score matching. It features a latent space akin to a modern Hopfield network, where the inherent Hopfield energy effectively assigns low densities to sparsely populated data regions, addressing common challenges in neural density estimators. Additionally, this Hopfield-like energy enables direct and rapid data manipulation through the Concave-Convex Procedure (CCCP) rule, facilitating tasks such as denoising and clustering. Our work demonstrates a principled framework for leveraging the complex interdependencies between dynamics and density estimation, as illustrated through synthetic examples that clarify the underlying theoretical intuitions.
- Abstract(参考訳): 我々は、力学系モデルと確率密度関数を結びつけるフォッカー・プランク方程式から新しい損失関数を導出し、モデル同定と密度推定におけるその有用性を実証した。
第1の応用では、この損失関数は、ノイズローレンツ系や遺伝子制御ネットワークのような定常的非平衡系からタイムスタンプのない測定を含む、非時間的データセットから動的パラメータを抽出できることを示す。
第2の応用では、密度推定器と組み合わせると、この損失は動的方程式が知られているときに密度推定を容易にする。
密度推定のために,正規化フローモデルとガウス混合モデルを統合する密度推定器を提案する。
経験的データと力学の両方から正規化密度、エネルギー、スコア関数を同時に推定する。
これは、最大可能性とスコアマッチングを含む、さまざまなデータベースのトレーニング手法と互換性がある。
これは、現在のホップフィールドネットワークに似た潜在空間で、固有のホップフィールドエネルギーは、人口密度の少ないデータ領域に効果的に低密度を割り当て、ニューラル密度推定器における一般的な課題に対処する。
さらに、このホップフィールドのようなエネルギーは、Concave-Convex procedure (CCCP)ルールによる直接的および迅速なデータ操作を可能にし、デノナイズやクラスタリングといったタスクを容易にする。
本研究は, 力学と密度推定の複雑な相互依存性を利用するための原理的枠組みを, 基礎となる理論的直観を明らかにするための合成例を通して示す。
関連論文リスト
- Density Estimation via Binless Multidimensional Integration [45.21975243399607]
非パラメトリック、ロバスト、およびデータ効率の高い密度推定のためのBinless Multidimensional Thermodynamic Integration (BMTI)法を提案する。
BMTIは、近隣のデータポイント間の対数密度差を計算し、その密度の対数を推定する。
この方法は様々な複雑な合成高次元データセットでテストされ、化学物理学の文献から現実的なデータセットでベンチマークされる。
論文 参考訳(メタデータ) (2024-07-10T23:45:20Z) - Dynamical Measure Transport and Neural PDE Solvers for Sampling [77.38204731939273]
本研究では, 対象物へのトラクタブル密度関数の移動として, 確率密度からサンプリングする作業に取り組む。
物理インフォームドニューラルネットワーク(PINN)を用いて各偏微分方程式(PDE)の解を近似する。
PINNはシミュレーションと離散化のない最適化を可能にし、非常に効率的に訓練することができる。
論文 参考訳(メタデータ) (2024-07-10T17:39:50Z) - Regulating Model Reliance on Non-Robust Features by Smoothing Input Marginal Density [93.32594873253534]
信頼できる機械学習は、非ロバストな特徴に依存するモデルの厳密な規制を必要とする。
本稿では,モデル予測を入力に関連付けることによって,そのような特徴を記述・規制するフレームワークを提案する。
論文 参考訳(メタデータ) (2024-07-05T09:16:56Z) - On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。
本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
論文 参考訳(メタデータ) (2024-05-18T15:59:41Z) - Adaptive deep density approximation for stochastic dynamical systems [0.5120567378386615]
状態変数の確率密度関数(PDF)の反復を近似するために、新しい時間的KRnetを提案する。
tKRnetを効率的に訓練するために、対応する残留損失関数のコロケーションポイントを生成する適応手順を開発した。
時間分解技術は、長期統合を改善するためにも用いられる。
論文 参考訳(メタデータ) (2024-05-05T04:29:22Z) - Topological Detection of Phenomenological Bifurcations with Unreliable
Kernel Densities [0.5874142059884521]
現象論的(P型)分岐は力学系の定性的変化である。
これらの分岐を検出する技術の現状は、システム実現のアンサンブルから計算される信頼性の高いカーネル密度推定を必要とする。
本研究では, 信頼できない密度推定を用いたP型分岐の検出手法を提案する。
論文 参考訳(メタデータ) (2024-01-29T20:59:25Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳(メタデータ) (2023-04-08T07:55:36Z) - Convex Analysis of the Mean Field Langevin Dynamics [49.66486092259375]
平均場ランゲヴィン力学の収束速度解析について述べる。
ダイナミックスに付随する$p_q$により、凸最適化において古典的な結果と平行な収束理論を開発できる。
論文 参考訳(メタデータ) (2022-01-25T17:13:56Z) - Density-Based Clustering with Kernel Diffusion [59.4179549482505]
単位$d$次元ユークリッド球のインジケータ関数に対応するナイーブ密度は、密度に基づくクラスタリングアルゴリズムで一般的に使用される。
局所分布特性と滑らかさの異なるデータに適応する新しいカーネル拡散密度関数を提案する。
論文 参考訳(メタデータ) (2021-10-11T09:00:33Z) - A data-driven peridynamic continuum model for upscaling molecular
dynamics [3.1196544696082613]
分子動力学データから最適線形ペリダイナミックソリッドモデルを抽出する学習フレームワークを提案する。
我々は,符号変化の影響関数を持つ離散化LPSモデルに対して,十分な適切な正当性条件を提供する。
このフレームワークは、結果のモデルが数学的に適切であり、物理的に一貫したものであり、トレーニング中に使用するものと異なる設定によく当てはまることを保証します。
論文 参考訳(メタデータ) (2021-08-04T07:07:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。