論文の概要: Diffusion-PINN Sampler

• arxiv url: http://arxiv.org/abs/2410.15336v1
• Date: Sun, 20 Oct 2024 09:02:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-10-22 13:20:57.425294
• Title: Diffusion-PINN Sampler
• Title（参考訳）: 拡散-PINNサンプリング装置
• Authors: Zhekun Shi, Longlin Yu, Tianyu Xie, Cheng Zhang,
• Abstract要約: 物理インフォームドニューラルネットワーク(PINN)を用いて,基礎となるSDEの対数密度の制御偏微分方程式を解くことにより,ドリフト項を推定する新しい拡散型サンプリングアルゴリズムを提案する。 DPSの収束保証を確立するために、PINN残差損失によって対数密度近似の誤差を制御できることを証明した。
• 参考スコア（独自算出の注目度）: 6.656265182236135
• License:
• Abstract: Recent success of diffusion models has inspired a surge of interest in developing sampling techniques using reverse diffusion processes. However, accurately estimating the drift term in the reverse stochastic differential equation (SDE) solely from the unnormalized target density poses significant challenges, hindering existing methods from achieving state-of-the-art performance. In this paper, we introduce the Diffusion-PINN Sampler (DPS), a novel diffusion-based sampling algorithm that estimates the drift term by solving the governing partial differential equation of the log-density of the underlying SDE marginals via physics-informed neural networks (PINN). We prove that the error of log-density approximation can be controlled by the PINN residual loss, enabling us to establish convergence guarantees of DPS. Experiments on a variety of sampling tasks demonstrate the effectiveness of our approach, particularly in accurately identifying mixing proportions when the target contains isolated components.
• Abstract（参考訳）: 近年の拡散モデルの成功は、逆拡散法を用いたサンプリング技術開発への関心の高まりにインスピレーションを与えている。 しかし、非正規化対象密度のみから逆確率微分方程式(SDE)のドリフト項を正確に推定することは、既存の手法が最先端の性能を達成するのを妨げる重要な課題となる。 本稿では、物理インフォームドニューラルネットワーク(PINN)を用いて、基礎となるSDEの対数密度の制御偏微分方程式を解くことにより、ドリフト項を推定する新しい拡散型サンプリングアルゴリズムであるDiffusion-PINNサアンプ(DPS)を紹介する。 DPSの収束保証を確立するために、PINN残差損失によって対数密度近似の誤差を制御できることを証明した。 種々のサンプリングタスクの実験は、特に、ターゲットが孤立成分を含む場合の混合比率を正確に同定する上で、我々のアプローチの有効性を実証している。

関連論文リスト

• A hybrid FEM-PINN method for time-dependent partial differential equations [9.631238071993282]
  本稿では、時間有限要素法とディープニューラルネットワークを融合させることにより、進化微分方程式(PDE)を解くためのハイブリッド数値計算法を提案する。 このようなハイブリッドな定式化の利点は2つある: 統計誤差は時間方向の積分に対して回避され、ニューラルネットワークの出力は縮小された空間基底関数の集合と見なすことができる。
  論文  参考訳（メタデータ） (2024-09-04T15:28:25Z)
• Total Uncertainty Quantification in Inverse PDE Solutions Obtained with Reduced-Order Deep Learning Surrogate Models [50.90868087591973]
  機械学習サロゲートモデルを用いて得られた逆PDE解の総不確かさを近似したベイズ近似法を提案する。 非線型拡散方程式に対する反復的アンサンブルスムーズおよび深層アンサンブル法との比較により,提案手法を検証した。
  論文  参考訳（メタデータ） (2024-08-20T19:06:02Z)
• Sparse Inducing Points in Deep Gaussian Processes: Enhancing Modeling with Denoising Diffusion Variational Inference [6.37512592611305]
  深いガウス過程(DGP)では、モデルの後部分布を近似するために誘導点と呼ばれるスパース積分位置が選択される。 後部近似に対する従来の変分推論アプローチは、しばしば大きなバイアスを引き起こす。 本稿では、微分微分方程式(SDE)を用いて誘導変数の後続サンプルを生成するDDVI(Denoising Diffusion Variational Inference)という方法を提案する。
  論文  参考訳（メタデータ） (2024-07-24T06:39:58Z)
• Repulsive Latent Score Distillation for Solving Inverse Problems [31.255943277671893]
  SDS(Score Distillation Sampling)は,逆問題などの下流タスクにおいて,事前学習した拡散モデルを活用する上で重要である。 モード崩壊と遅延空間逆転に対処するために, 後方サンプリングのための新しい変分フレームワークを提案する。 我々は、このフレームワークを拡張して、潜伏者とデータをアンタングルする拡張された変分分布を拡張します。
  論文  参考訳（メタデータ） (2024-06-24T14:43:02Z)
• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
  本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。 画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
  論文  参考訳（メタデータ） (2023-11-02T02:05:38Z)
• Semi-Implicit Denoising Diffusion Models (SIDDMs) [50.30163684539586]
  Denoising Diffusion Probabilistic Models (DDPM)のような既存のモデルは、高品質で多様なサンプルを提供するが、本質的に多くの反復的なステップによって遅くなる。 暗黙的要因と明示的要因を一致させることにより、この問題に対処する新しいアプローチを導入する。 提案手法は拡散モデルに匹敵する生成性能と,少数のサンプリングステップを持つモデルに比較して非常に優れた結果が得られることを示す。
  論文  参考訳（メタデータ） (2023-06-21T18:49:22Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)
• ERA-Solver: Error-Robust Adams Solver for Fast Sampling of Diffusion Probabilistic Models [25.468628820118564]
  拡散確率モデル(DDPM)の低サンプリング効率は、さらなる応用を制限する。 我々はエラーロストなAdamsソルバ(ERA-r)を構築する。 Cifar10, LSUN-Church, LSUN-Bedroomの実験では, 画像生成のためのERA-r 5.14, 9.42, 9.69 Fenchel Inception Distance(FID)を提案し, ネットワーク評価は10であった。
  論文  参考訳（メタデータ） (2023-01-30T14:32:47Z)
• Stationary Density Estimation of It\^o Diffusions Using Deep Learning [6.8342505943533345]
  離散時間系列からのエルゴード的伊藤拡散の定常測度に関連する密度推定問題を考察する。 我々は深層ニューラルネットワークを用いてSDEのドリフトと拡散の項を近似する。 我々は、適切な数学的仮定の下で提案されたスキームの収束を確立する。
  論文  参考訳（メタデータ） (2021-09-09T01:57:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。