論文の概要: Risk-Sensitive Diffusion: Learning the Underlying Distribution from
Noisy Samples
- arxiv url: http://arxiv.org/abs/2402.02081v1
- Date: Sat, 3 Feb 2024 08:41:51 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-06 22:14:42.309245
- Title: Risk-Sensitive Diffusion: Learning the Underlying Distribution from
Noisy Samples
- Title(参考訳): リスク感性拡散:ノイズサンプルから下位分布を学習する
- Authors: Yangming Li, Max Ruiz Luyten, Mihaela van der Schaar
- Abstract要約: 拡散モデルはノイズのあるサンプルの存在に対して脆弱であることを示す。
ノイズサンプルの分布を調整するために,リスク感応性SDEを導入する。
本モデルでは,ノイズのあるサンプルからクリーンなデータ分布を効果的に回収することを示す。
- 参考スコア(独自算出の注目度): 65.95306174480034
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While achieving remarkable performances, we show that diffusion models are
fragile to the presence of noisy samples, limiting their potential in the vast
amount of settings where, unlike image synthesis, we are not blessed with clean
data. Motivated by our finding that such fragility originates from the
distribution gaps between noisy and clean samples along the diffusion process,
we introduce risk-sensitive SDE, a stochastic differential equation that is
parameterized by the risk (i.e., data "dirtiness") to adjust the distributions
of noisy samples, reducing misguidance while benefiting from their contained
information. The optimal expression for risk-sensitive SDE depends on the
specific noise distribution, and we derive its parameterizations that minimize
the misguidance of noisy samples for both Gaussian and general non-Gaussian
perturbations. We conduct extensive experiments on both synthetic and
real-world datasets (e.g., medical time series), showing that our model
effectively recovers the clean data distribution from noisy samples,
significantly outperforming conditional generation baselines.
- Abstract(参考訳): その結果, 画像合成と異なり, 清潔なデータに富んでいない膨大な環境において, 拡散モデルがノイズサンプルの存在に対して脆弱であることを示し, その可能性を制限することができた。
拡散過程に沿うノイズとクリーンなサンプルの分布ギャップから,このような不安定性が生じたことの動機として,リスク(すなわち,データ「多様性」)によってパラメータ化される確率微分方程式sdeを導入し,ノイズサンプルの分布を調整し,その情報から利益を得ながら誤用を低減した。
リスクに敏感なsdeの最適表現は、特定の雑音分布に依存し、ガウスおよび一般非ガウス摂動のノイズサンプルの誤動作を最小化するパラメータ化を導出する。
我々は,合成データセットと実世界のデータセット(例えば医療時系列)について広範な実験を行い,ノイズの多いサンプルからクリーンなデータ分布を効果的に回収し,条件付き生成ベースラインを著しく上回ることを示す。
関連論文リスト
- Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian
Mixture Models [59.331993845831946]
拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。
本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
論文 参考訳(メタデータ) (2024-03-03T23:15:48Z) - Semi-Implicit Denoising Diffusion Models (SIDDMs) [50.30163684539586]
Denoising Diffusion Probabilistic Models (DDPM)のような既存のモデルは、高品質で多様なサンプルを提供するが、本質的に多くの反復的なステップによって遅くなる。
暗黙的要因と明示的要因を一致させることにより、この問題に対処する新しいアプローチを導入する。
提案手法は拡散モデルに匹敵する生成性能と,少数のサンプリングステップを持つモデルに比較して非常に優れた結果が得られることを示す。
論文 参考訳(メタデータ) (2023-06-21T18:49:22Z) - Solving Diffusion ODEs with Optimal Boundary Conditions for Better Image
Super-Resolution [88.51204784850272]
拡散モデルのランダム性は非効率性と不安定性をもたらすため、SR結果の品質を保証することは困難である。
本稿では,一連の拡散型SR手法の恩恵を受ける可能性を持つプラグアンドプレイサンプリング手法を提案する。
提案手法によりサンプリングされたSR結果の質は, 学習前の拡散ベースSRモデルと同一のランダム性を有する現在の手法でサンプリングされた結果の質より優れる。
論文 参考訳(メタデータ) (2023-05-24T17:09:54Z) - Denoising Diffusion Samplers [41.796349001299156]
拡散モデルの認知は、多くの領域で最先端の結果を提供する生成モデルの一般的なクラスである。
我々は、非正規化確率密度関数から大まかにサンプリングし、それらの正規化定数を推定する類似のアイデアを探求する。
この文脈ではスコアマッチングは適用できないが、モンテカルロサンプリングのために生成的モデリングで導入された多くのアイデアを利用することができる。
論文 参考訳(メタデータ) (2023-02-27T14:37:16Z) - ManiFlow: Implicitly Representing Manifolds with Normalizing Flows [145.9820993054072]
正規化フロー(NF)は、複雑な実世界のデータ分布を正確にモデル化することが示されているフレキシブルな明示的な生成モデルである。
摂動分布から標本を与えられた多様体上の最も可能性の高い点を復元する最適化目的を提案する。
最後に、NFsの明示的な性質、すなわち、ログのような勾配とログのような勾配から抽出された表面正規化を利用する3次元点雲に焦点を当てる。
論文 参考訳(メタデータ) (2022-08-18T16:07:59Z) - Selectively increasing the diversity of GAN-generated samples [8.980453507536017]
本稿では,GAN生成サンプルの多様性を選択的に向上する手法を提案する。
本研究では,CERN における ALICE 実験のZero Degree Calorimeter から得られたデータをシミュレーションする実生活シナリオとともに,本手法の優位性を示す。
論文 参考訳(メタデータ) (2022-07-04T16:27:06Z) - Learning Energy-Based Models by Diffusion Recovery Likelihood [61.069760183331745]
本稿では,エネルギーベースモデルから気軽に学習・サンプルできる拡散回復可能性法を提案する。
学習後、ガウスの白色雑音分布から初期化するサンプリングプロセスにより合成画像を生成することができる。
非条件 CIFAR-10 では,本手法は FID 9.58 と開始スコア 8.30 を達成する。
論文 参考訳(メタデータ) (2020-12-15T07:09:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。