論文の概要: Score Matching via Differentiable Physics
- arxiv url: http://arxiv.org/abs/2301.10250v1
- Date: Tue, 24 Jan 2023 19:00:00 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-26 16:42:31.610667
- Title: Score Matching via Differentiable Physics
- Title(参考訳): 微分物理学によるスコアマッチング
- Authors: Benjamin J. Holzschuh, Simona Vegetti, Nils Thuerey
- Abstract要約: ニューラルネットワークは、スコア $nabla_mathbfx log p_t(mathbfx)$ at time $t$ を近似するように訓練される。
従来の手法と決定的な違いは、我々のアプローチの根底にあるSDEが、物理系の状態を後から別の状態に変換することである。
- 参考スコア(独自算出の注目度): 22.435002906710803
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Diffusion models based on stochastic differential equations (SDEs) gradually
perturb a data distribution $p(\mathbf{x})$ over time by adding noise to it. A
neural network is trained to approximate the score $\nabla_\mathbf{x} \log
p_t(\mathbf{x})$ at time $t$, which can be used to reverse the corruption
process. In this paper, we focus on learning the score field that is associated
with the time evolution according to a physics operator in the presence of
natural non-deterministic physical processes like diffusion. A decisive
difference to previous methods is that the SDE underlying our approach
transforms the state of a physical system to another state at a later time. For
that purpose, we replace the drift of the underlying SDE formulation with a
differentiable simulator or a neural network approximation of the physics. We
propose different training strategies based on the so-called probability flow
ODE to fit a training set of simulation trajectories and discuss their relation
to the score matching objective. For inference, we sample plausible
trajectories that evolve towards a given end state using the reverse-time SDE
and demonstrate the competitiveness of our approach for different challenging
inverse problems.
- Abstract(参考訳): 確率微分方程式(sdes)に基づく拡散モデルは、ノイズを加えることによって、時間とともにデータ分布 $p(\mathbf{x})$ を徐々に摂動させる。
ニューラルネットワークは、スコア $\nabla_\mathbf{x} \log p_t(\mathbf{x})$ at time $t$ を近似するように訓練される。
本稿では,拡散のような自然非決定論的物理過程の存在下での物理操作者による時間発展に関連するスコアフィールドの学習に焦点をあてる。
従来の手法と決定的な違いは、我々のアプローチの根底にあるSDEが、物理系の状態を後から別の状態に変換することである。
その目的のために、基礎となるSDE定式化のドリフトを微分可能シミュレータやニューラルネットワークによる物理近似に置き換える。
そこで我々は,確率フローODE(prosistal flow ODE)に基づく異なるトレーニング戦略を提案し,シミュレーショントラジェクトリのトレーニングセットに適合させ,スコアマッチングの目的との関係を議論する。
推定のために、逆時間SDEを用いて与えられた終状態に向かって進化する可塑性軌道をサンプリングし、異なる挑戦的逆問題に対するアプローチの競合性を実証する。
関連論文リスト
- A Guide to Stochastic Optimisation for Large-Scale Inverse Problems [4.926711494319977]
最適化アルゴリズムは、大量のデータを持つ機械学習のデファクトスタンダードです。
我々は、逆問題の観点から、最適化における最先端の総合的な説明を提供する。
私たちは、機械学習で一般的に遭遇しない、ユニークな最適化の課題に焦点を合わせています。
論文 参考訳(メタデータ) (2024-06-10T15:02:30Z) - Improving Diffusion Models for Inverse Problems Using Optimal Posterior Covariance [52.093434664236014]
近年の拡散モデルは、特定の逆問題に対して再訓練することなく、ノイズの多い線形逆問題に対する有望なゼロショット解を提供する。
この発見に触発されて、我々は、最大推定値から決定されるより原理化された共分散を用いて、最近の手法を改善することを提案する。
論文 参考訳(メタデータ) (2024-02-03T13:35:39Z) - Adaptive operator learning for infinite-dimensional Bayesian inverse problems [7.716833952167609]
本研究では,局所的に精度の高いサロゲートを強制することによって,モデリングエラーを段階的に低減できる適応型演算子学習フレームワークを開発した。
UKIフレームワークを用いて線形の場合において厳密な収束を保証する。
その結果,逆精度を維持しながら計算コストを大幅に削減できることがわかった。
論文 参考訳(メタデータ) (2023-10-27T01:50:33Z) - Learning Iterative Robust Transformation Synchronization [71.73273007900717]
グラフニューラルネットワーク(GNN)を用いて変換同期を学習することを提案する。
本研究では、ロバストな損失関数のハンドクラフトを回避するとともに、グラフニューラルネットワーク(GNN)を用いて変換同期を学習することを提案する。
論文 参考訳(メタデータ) (2021-11-01T07:03:14Z) - Deep Feedback Inverse Problem Solver [141.26041463617963]
逆問題に対する効率的で効果的で汎用的なアプローチを提案する。
我々は、フォワードプロセスが提供するフィードバック信号を活用し、反復的な更新モデルを学ぶ。
私たちのアプローチは前もってのプロセスに制限がなく、事前の知識も必要ありません。
論文 参考訳(メタデータ) (2021-01-19T16:49:06Z) - Total Deep Variation: A Stable Regularizer for Inverse Problems [71.90933869570914]
本稿では,データ駆動型汎用全深度変動正規化器について紹介する。
コアでは、畳み込みニューラルネットワークが複数のスケールや連続したブロックで局所的な特徴を抽出する。
我々は多数の画像処理タスクに対して最先端の結果を得る。
論文 参考訳(メタデータ) (2020-06-15T21:54:15Z) - Sparse recovery by reduced variance stochastic approximation [5.672132510411465]
雑音観測によるスパース信号回復問題に対する反復2次最適化ルーチンの適用について論じる。
本稿では,Median-of-Meansのような手法を用いて,対応するソリューションの信頼性を向上する方法について述べる。
論文 参考訳(メタデータ) (2020-06-11T12:31:20Z) - Joint learning of variational representations and solvers for inverse
problems with partially-observed data [13.984814587222811]
本稿では,教師付き環境において,逆問題に対する実際の変分フレームワークを学習するためのエンドツーエンドフレームワークを設計する。
変動コストと勾配に基づく解法はどちらも、後者の自動微分を用いたニューラルネットワークとして記述される。
これにより、データ駆動による変分モデルの発見につながる。
論文 参考訳(メタデータ) (2020-06-05T19:53:34Z) - Neural Control Variates [71.42768823631918]
ニューラルネットワークの集合が、積分のよい近似を見つけるという課題に直面していることを示す。
理論的に最適な分散最小化損失関数を導出し、実際に安定したオンライントレーニングを行うための代替の複合損失を提案する。
具体的には、学習した光場近似が高次バウンスに十分な品質であることを示し、誤差補正を省略し、無視可能な可視バイアスのコストでノイズを劇的に低減できることを示した。
論文 参考訳(メタデータ) (2020-06-02T11:17:55Z) - Solving Inverse Problems with a Flow-based Noise Model [100.18560761392692]
本研究では,従来の正規化フローを用いた画像逆問題について検討する。
我々の定式化は、この解を測定値に条件付けされた画像の最大後値推定とみなす。
提案手法の様々な逆問題に対する有効性について実験的に検証した。
論文 参考訳(メタデータ) (2020-03-18T08:33:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。