論文の概要: Stochastic quantization and diffusion models

• arxiv url: http://arxiv.org/abs/2411.11297v1
• Date: Mon, 18 Nov 2024 05:47:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-19 14:32:11.021917
• Title: Stochastic quantization and diffusion models
• Title（参考訳）: 確率量子化と拡散モデル
• Authors: Kenji Fukushima, Syo Kamata,
• Abstract要約: 本稿では,物理学における量子化と機械学習における拡散モデルとの関係について概説する。 機械学習の応用においては、デノナイジング拡散モデルが成功技術として確立されている。 本稿では,スコアベース生成モデルにおけるSDE手法について述べる。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: This is a pedagogical review of the possible connection between the stochastic quantization in physics and the diffusion models in machine learning. For machine-learning applications, the denoising diffusion model has been established as a successful technique, which is formulated in terms of the stochastic differential equation (SDE). In this review, we focus on an SDE approach used in the score-based generative modeling. Interestingly, the evolution of the probability distribution is equivalently described by a particular class of SDEs, and in a particular limit, the stochastic noises can be eliminated. Then, we turn to a similar mathematical formulation in quantum physics, that is, the stochastic quantization. We make a brief overview on the stochastic quantization using a simple toy model of the one-dimensional integration. The analogy between the diffusion model and the stochastic quantization is clearly seen in this concrete example. Finally, we discuss how the sign problem arises in the toy model with complex parameters. The origin of the difficulty is understood based on the Lefschetz thimble analysis. We point out that the SDE is not invariant under the variable change which induces a kernel and a special choice of the kernel guided by the Lefschetz thimble analysis can reduce the sign problem.
• Abstract（参考訳）: これは、物理学における確率量子化と機械学習における拡散モデルとの関連性について、教育学的に考察したものである。 機械学習の応用においては,確率微分方程式(SDE)を用いて定式化する手法として,デノナイズ拡散モデルが確立されている。 本稿では,スコアベース生成モデルにおけるSDE手法について述べる。 興味深いことに、確率分布の進化はSDEの特定のクラスによって等価に記述され、特定の極限では確率ノイズを排除できる。 そして、量子物理学における同様の数学的定式化、すなわち確率量子化に目を向ける。 一次元積分の単純な玩具モデルを用いて確率量子化の簡単な概要を述べる。 拡散モデルと確率量子化の類似性はこの具体的な例で明らかである。 最後に、複雑なパラメータを持つ玩具モデルにおいて、サイン問題がどのように生じるかについて議論する。 難易度の起源はレフシェッツ・ティンブル解析に基づいて理解されている。 我々は、SDEは、カーネルを誘導する変数変化の下では不変ではなく、Lefschetz thimble解析によって導かれるカーネルの特別な選択は、符号問題を減少させる可能性があることを指摘する。

関連論文リスト

• Understanding Diffusion Models by Feynman's Path Integral [2.4373900721120285]
  ファインマン積分経路を用いた拡散モデルの新しい定式化を導入する。 この定式化はスコアベース生成モデルの包括的記述を提供する。 また、後方微分方程式と損失関数の導出を示す。
  論文  参考訳（メタデータ） (2024-03-17T16:24:29Z)
• Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
  本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。 画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
  論文  参考訳（メタデータ） (2023-11-02T02:05:38Z)
• Causal Modeling with Stationary Diffusions [89.94899196106223]
  定常密度が干渉下でのシステムの挙動をモデル化する微分方程式を学習する。 古典的アプローチよりもよく、変数に対する見当たらない介入を一般化することを示します。 提案手法は,再生カーネルヒルベルト空間における拡散発生器の定常状態を表す新しい理論結果に基づく。
  論文  参考訳（メタデータ） (2023-10-26T14:01:17Z)
• Geometric Neural Diffusion Processes [55.891428654434634]
  拡散モデルの枠組みを拡張して、無限次元モデリングに一連の幾何学的先行を組み込む。 これらの条件で、生成関数モデルが同じ対称性を持つことを示す。
  論文  参考訳（メタデータ） (2023-07-11T16:51:38Z)
• Latent SDEs on Homogeneous Spaces [9.361372513858043]
  偏微分方程式(SDE)の解によって観測された幾何学的過程が支配される潜在変数モデルにおける変分ベイズ推論の問題を考察する。 実験により,提案型の潜伏SDEを既存の一段階のオイラー・丸山スキームを用いて効率的に学習できることが示されている。
  論文  参考訳（メタデータ） (2023-06-28T14:18:52Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Score-based Generative Modeling Through Backward Stochastic Differential Equations: Inversion and Generation [6.2255027793924285]
  提案したBSDEベースの拡散モデルは、機械学習における微分方程式(SDE)の適用を拡大する拡散モデリングの新しいアプローチを示す。 モデルの理論的保証、スコアマッチングにリプシッツネットワークを用いることの利点、および拡散反転、条件拡散、不確実性定量化など様々な分野への応用の可能性を示す。
  論文  参考訳（メタデータ） (2023-04-26T01:15:35Z)
• Capturing dynamical correlations using implicit neural representations [85.66456606776552]
  実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。 そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
  論文  参考訳（メタデータ） (2023-04-08T07:55:36Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)
• Stochastic Differential Equations with Variational Wishart Diffusions [18.590352916158093]
  回帰タスクと連続時間力学モデリングの両方に対して微分方程式を推論する非パラメトリックな方法を提案する。 この研究は微分方程式の一部(拡散とも呼ばれる)に重点を置いており、ウィッシュアート過程を用いてモデル化している。
  論文  参考訳（メタデータ） (2020-06-26T10:21:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。