論文の概要: MAD: Manifold Attracted Diffusion
- arxiv url: http://arxiv.org/abs/2509.24710v1
- Date: Mon, 29 Sep 2025 12:40:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-30 22:32:19.980635
- Title: MAD: Manifold Attracted Diffusion
- Title(参考訳): MAD: Manifold Atracted Diffusion
- Authors: Dennis Elbrächter, Giovanni S. Alberti, Matteo Santacesaria,
- Abstract要約: 拡張スコアの概念を導入し、単純化された設定では、小さな変動をゼロに減らすことができることを示す。
本稿では,その近似を標準スコアへの近似から効率的に計算し,玩具問題,合成データ,実データに対する有効性を示す。
- 参考スコア(独自算出の注目度): 2.3322477552758234
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Score-based diffusion models are a highly effective method for generating samples from a distribution of images. We consider scenarios where the training data comes from a noisy version of the target distribution, and present an efficiently implementable modification of the inference procedure to generate noiseless samples. Our approach is motivated by the manifold hypothesis, according to which meaningful data is concentrated around some low-dimensional manifold of a high-dimensional ambient space. The central idea is that noise manifests as low magnitude variation in off-manifold directions in contrast to the relevant variation of the desired distribution which is mostly confined to on-manifold directions. We introduce the notion of an extended score and show that, in a simplified setting, it can be used to reduce small variations to zero, while leaving large variations mostly unchanged. We describe how its approximation can be computed efficiently from an approximation to the standard score and demonstrate its efficacy on toy problems, synthetic data, and real data.
- Abstract(参考訳): スコアベース拡散モデルは、画像の分布からサンプルを生成するのに非常に効果的な方法である。
本研究では,目標分布のノイズバージョンからトレーニングデータが得られたシナリオを考察し,ノイズのないサンプルを生成するための推論手順を効率的に実装可能な修正法を提案する。
我々のアプローチは、高次元の周囲空間の低次元多様体の周りに有意なデータが集中する多様体仮説によって動機付けられている。
中心的な考え方は、ノイズはオフマンフォールド方向の低等級変動として、主にオンマンフォールド方向に限定される所望の分布の関連する変動と対照的に現れるということである。
拡張スコアの概念を導入し、単純化された設定では、小さな変分をゼロに減らし、大きな変分をほとんど変わらないままにすることができることを示す。
本稿では,その近似を標準スコアへの近似から効率的に計算し,玩具問題,合成データ,実データに対する有効性を示す。
関連論文リスト
- Stochastic Variational Inference with Tuneable Stochastic Annealing [1.6385815610837167]
本稿では,大小両方のデータセットに適用可能な修正変分推論(SVI)手法を提案する。
我々は、SVI において、バッチサイズが大きいほど、ガウス的ノイズはより略式になるが、その分散は小さくなるという事実に動機づけられている。
そこで本研究では,局所最適解を回避し,より正確な勾配を求めるためのデータ情報を得るため,より大きな分散雑音の両目標を達成するための簡単な手法を提案する。
論文 参考訳(メタデータ) (2025-04-04T19:46:10Z) - Diffusion Attribution Score: Evaluating Training Data Influence in Diffusion Models [22.39558434131574]
拡散モデルに対する既存のデータ帰属法は、典型的にはトレーニングサンプルの寄与を定量化する。
拡散損失の直接的利用は,拡散損失の計算により,そのような貢献を正確に表すことはできない。
本研究では,予測分布と属性スコアとの直接比較を行うために拡散属性スコア(textitDAS)を提案する。
論文 参考訳(メタデータ) (2024-10-24T10:58:17Z) - Improving Probabilistic Diffusion Models With Optimal Diagonal Covariance Matching [27.2761325416843]
本稿では,最近提案された共分散モーメントマッチング手法を活用し,対角的共分散を学習するための新しい手法を提案する。
提案手法は, 一般的な拡散モデルのサンプリング効率, リコール率, 可能性を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2024-06-16T05:47:12Z) - Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian
Mixture Models [59.331993845831946]
拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。
本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
論文 参考訳(メタデータ) (2024-03-03T23:15:48Z) - Semi-Implicit Denoising Diffusion Models (SIDDMs) [50.30163684539586]
Denoising Diffusion Probabilistic Models (DDPM)のような既存のモデルは、高品質で多様なサンプルを提供するが、本質的に多くの反復的なステップによって遅くなる。
暗黙的要因と明示的要因を一致させることにより、この問題に対処する新しいアプローチを導入する。
提案手法は拡散モデルに匹敵する生成性能と,少数のサンプリングステップを持つモデルに比較して非常に優れた結果が得られることを示す。
論文 参考訳(メタデータ) (2023-06-21T18:49:22Z) - Reflected Diffusion Models [93.26107023470979]
本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。
提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
論文 参考訳(メタデータ) (2023-04-10T17:54:38Z) - How Much is Enough? A Study on Diffusion Times in Score-based Generative
Models [76.76860707897413]
現在のベストプラクティスは、フォワードダイナミクスが既知の単純なノイズ分布に十分に近づくことを確実にするために大きなTを提唱している。
本稿では, 理想とシミュレーションされたフォワードダイナミクスのギャップを埋めるために補助モデルを用いて, 標準的な逆拡散過程を導出する方法について述べる。
論文 参考訳(メタデータ) (2022-06-10T15:09:46Z) - A Variational Perspective on Diffusion-Based Generative Models and Score
Matching [8.93483643820767]
連続時間生成拡散の確率推定のための変分フレームワークを導出する。
本研究は,プラグイン逆SDEの可能性の低い境界を最大化することと,スコアマッチング損失の最小化が等価であることを示す。
論文 参考訳(メタデータ) (2021-06-05T05:50:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。