論文の概要: Stable generative modeling using diffusion maps

• arxiv url: http://arxiv.org/abs/2401.04372v1
• Date: Tue, 9 Jan 2024 06:15:45 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-10 16:41:22.954725
• Title: Stable generative modeling using diffusion maps
• Title（参考訳）: 拡散写像を用いた安定生成モデリング
• Authors: Georg Gottwald, Fengyi Li, Youssef Marzouk, Sebastian Reich
• Abstract要約: 拡散写像とランゲヴィン力学を組み合わせた生成モデルを提案する。 拡散マップは、利用可能なトレーニングサンプルからのドリフト項を近似するために使用される。 トレーニングサンプルの凸部内に生成したサンプルが残ることを保証し, 新たな分割ステップ方式を導入する。
• 参考スコア（独自算出の注目度）: 0.24578723416255752
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We consider the problem of sampling from an unknown distribution for which only a sufficiently large number of training samples are available. Such settings have recently drawn considerable interest in the context of generative modelling. In this paper, we propose a generative model combining diffusion maps and Langevin dynamics. Diffusion maps are used to approximate the drift term from the available training samples, which is then implemented in a discrete-time Langevin sampler to generate new samples. By setting the kernel bandwidth to match the time step size used in the unadjusted Langevin algorithm, our method effectively circumvents any stability issues typically associated with time-stepping stiff stochastic differential equations. More precisely, we introduce a novel split-step scheme, ensuring that the generated samples remain within the convex hull of the training samples. Our framework can be naturally extended to generate conditional samples. We demonstrate the performance of our proposed scheme through experiments on synthetic datasets with increasing dimensions and on a stochastic subgrid-scale parametrization conditional sampling problem.
• Abstract（参考訳）: 十分な数のトレーニングサンプルしか入手できない未知の分布からのサンプリングの問題を考える。 このような設定は、最近生成モデリングの文脈にかなりの関心を寄せている。 本稿では,拡散写像とランゲヴィンダイナミクスを組み合わせた生成モデルを提案する。 拡散マップは、利用可能なトレーニングサンプルからドリフト項を近似するために使用され、新しいサンプルを生成するために離散時間ランゲヴィンサンプリング器で実装される。 カーネル帯域幅を未調整のランゲヴィンアルゴリズムで使用する時間ステップサイズに合わせることで、時間ステッピングの剛性確率微分方程式に典型的な安定性問題を効果的に回避する。 より正確には、新しい分割ステップスキームを導入し、生成されたサンプルがトレーニングサンプルの凸包内に留まることを保証する。 我々のフレームワークは自然に拡張して条件付きサンプルを生成することができる。 提案手法は,次元の増大を伴う合成データセットと,確率的サブグリッドスケールパラメトリゼーション条件付きサンプリング問題を用いて提案手法の性能を示す。

関連論文リスト

• Localized Schrödinger Bridge Sampler [0.276240219662896]
  Schr"odinger ブリッジと Plug & play Langevin サンプルを併用した以前の作業の上に構築します。 これらのアプローチの重要なボトルネックは、必要なトレーニングサンプルの指数的依存である。 条件付き期待値の条件付き独立性を利用した局所化戦略を提案する。
  論文  参考訳（メタデータ） (2024-09-12T12:02:51Z)
• Score-based Generative Models with Adaptive Momentum [40.84399531998246]
  変換過程を高速化する適応運動量サンプリング法を提案する。 提案手法は,2倍から5倍の速度で,より忠実な画像/グラフを小さなサンプリングステップで作成できることを示す。
  論文  参考訳（メタデータ） (2024-05-22T15:20:27Z)
• On the Trajectory Regularity of ODE-based Diffusion Sampling [79.17334230868693]
  拡散に基づく生成モデルは微分方程式を用いて、複素データ分布と抽出可能な事前分布の間の滑らかな接続を確立する。 本稿では,拡散モデルのODEに基づくサンプリングプロセスにおいて,いくつかの興味深い軌道特性を同定する。
  論文  参考訳（メタデータ） (2024-05-18T15:59:41Z)
• DiffuSeq-v2: Bridging Discrete and Continuous Text Spaces for Accelerated Seq2Seq Diffusion Models [58.450152413700586]
  ガウス空間に基づく離散突然変異を再構成する学習において拡散モデルを容易にする軟吸収状態を導入する。 我々は、サンプリングプロセスの高速化のために、連続空間内で最先端のODEソルバを用いている。 提案手法は, トレーニング収束率を4倍に向上させ, 類似品質のサンプルを800倍高速に生成する。
  論文  参考訳（メタデータ） (2023-10-09T15:29:10Z)
• A Geometric Perspective on Diffusion Models [57.27857591493788]
  本稿では,人気のある分散拡散型SDEのODEに基づくサンプリングについて検討する。 我々は、最適なODEベースのサンプリングと古典的な平均シフト(モード探索)アルゴリズムの理論的関係を確立する。
  論文  参考訳（メタデータ） (2023-05-31T15:33:16Z)
• Generative modeling for time series via Schr{\"o}dinger bridge [0.0]
  本稿では,SB (Schr'dinger Bridge) に基づく時系列生成モデルを提案する。 これは、経路空間上の基準確率測度と、時系列の合同データ分布と整合した目標測度との間の最適輸送によるエントロピックから構成される。
  論文  参考訳（メタデータ） (2023-04-11T09:45:06Z)
• Restoration-Degradation Beyond Linear Diffusions: A Non-Asymptotic Analysis For DDIM-Type Samplers [90.45898746733397]
  本研究では拡散生成モデルに用いる決定論的サンプリング器の非漸近解析のためのフレームワークを開発する。 確率フローODEに沿った1ステップは,1) 条件付き対数線上を無限に先行して上昇する回復ステップ,2) 雑音を現在の勾配に向けて前向きに進行する劣化ステップの2段階で表すことができる。
  論文  参考訳（メタデータ） (2023-03-06T18:59:19Z)
• Example-Based Sampling with Diffusion Models [7.943023838493658]
  画像生成のための拡散モデルは、例から点集合を生成する方法を学ぶのに適している。 拡散モデルを用いて既存のサンプルを模した2次元点集合を観測点集合から生成する方法を提案する。 我々は、我々のアプローチの微分可能性を用いて、特性を強制する点集合を最適化する方法を実証する。
  論文  参考訳（メタデータ） (2023-02-10T08:35:17Z)
• Conditioning Normalizing Flows for Rare Event Sampling [61.005334495264194]
  本稿では,ニューラルネットワーク生成構成に基づく遷移経路サンプリング手法を提案する。 本手法は遷移領域の熱力学と運動学の両方の解法を可能にすることを示す。
  論文  参考訳（メタデータ） (2022-07-29T07:56:10Z)
• Selectively increasing the diversity of GAN-generated samples [8.980453507536017]
  本稿では,GAN生成サンプルの多様性を選択的に向上する手法を提案する。 本研究では,CERN における ALICE 実験のZero Degree Calorimeter から得られたデータをシミュレーションする実生活シナリオとともに,本手法の優位性を示す。
  論文  参考訳（メタデータ） (2022-07-04T16:27:06Z)
• Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
  高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。 分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
  論文  参考訳（メタデータ） (2020-02-21T14:03:16Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。