論文の概要: Optimal Transport-Guided Conditional Score-Based Diffusion Models
- arxiv url: http://arxiv.org/abs/2311.01226v1
- Date: Thu, 2 Nov 2023 13:28:44 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-03 13:22:25.770771
- Title: Optimal Transport-Guided Conditional Score-Based Diffusion Models
- Title(参考訳): 最適輸送誘導条件付きスコアベース拡散モデル
- Authors: Xiang Gu, Liwei Yang, Jian Sun, Zongben Xu
- Abstract要約: 条件付きスコアベース拡散モデル(SBDM)は、条件付きデータを条件としてターゲットデータの条件付き生成を行い、画像翻訳において大きな成功を収めた。
本稿では, 最適輸送誘導条件付きスコアベース拡散モデル(OTCS)を提案する。
- 参考スコア(独自算出の注目度): 63.14903268958398
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Conditional score-based diffusion model (SBDM) is for conditional generation
of target data with paired data as condition, and has achieved great success in
image translation. However, it requires the paired data as condition, and there
would be insufficient paired data provided in real-world applications. To
tackle the applications with partially paired or even unpaired dataset, we
propose a novel Optimal Transport-guided Conditional Score-based diffusion
model (OTCS) in this paper. We build the coupling relationship for the unpaired
or partially paired dataset based on $L_2$-regularized unsupervised or
semi-supervised optimal transport, respectively. Based on the coupling
relationship, we develop the objective for training the conditional score-based
model for unpaired or partially paired settings, which is based on a
reformulation and generalization of the conditional SBDM for paired setting.
With the estimated coupling relationship, we effectively train the conditional
score-based model by designing a ``resampling-by-compatibility'' strategy to
choose the sampled data with high compatibility as guidance. Extensive
experiments on unpaired super-resolution and semi-paired image-to-image
translation demonstrated the effectiveness of the proposed OTCS model. From the
viewpoint of optimal transport, OTCS provides an approach to transport data
across distributions, which is a challenge for OT on large-scale datasets. We
theoretically prove that OTCS realizes the data transport in OT with a
theoretical bound. Code is available at \url{https://github.com/XJTU-XGU/OTCS}.
- Abstract(参考訳): 条件付きスコアベース拡散モデル(SBDM)は、条件付きデータを条件としてターゲットデータの条件付き生成を行い、画像翻訳において大きな成功を収めた。
しかし、条件としてペアデータが必要であり、現実世界のアプリケーションで提供されるペアデータには不十分である。
本稿では, 部分ペアあるいは非ペアデータセットを用いたアプリケーションに対して, 最適トランスポート誘導条件付スコアベース拡散モデル(otcs)を提案する。
我々は、それぞれ$l_2$-regularized unsupervised または semi-supervised optimal transport に基づいて、非ペアまたは部分ペアのデータセットの結合関係を構築する。
結合関係に基づいて,条件付きsbdmの修正と一般化に基づいて,条件付きスコアベースモデルを非ペアまたは部分ペア設定でトレーニングする目標を開発した。
推定結合関係を用いて,サンプルデータを高整合性で選択するための 'resampling-by-compatibility'' 戦略を設計し,条件付きスコアベースモデルを効果的に訓練する。
超解像および半対像画像変換の広汎な実験により,提案したOTCSモデルの有効性が示された。
最適なトランスポートの観点から、OTCSは分散をまたいでデータを転送するアプローチを提供する。
理論的には、OTCSは理論的境界を持つOT内のデータ転送を実現する。
コードは \url{https://github.com/XJTU-XGU/OTCS} で入手できる。
関連論文リスト
- Efficient adjustment for complex covariates: Gaining efficiency with
DOPE [56.537164957672715]
共変量によって表現される情報のサブセットを調整可能なフレームワークを提案する。
理論的な結果に基づいて,平均処理効果(ATE)の効率的な評価を目的とした,デバイアスドアウトカム適応確率推定器(DOPE)を提案する。
その結果,DOPE は様々な観測環境において ATE 推定のための効率的かつ堅牢な手法を提供することがわかった。
論文 参考訳(メタデータ) (2024-02-20T13:02:51Z) - Consistent Optimal Transport with Empirical Conditional Measures [0.716879432974126]
共振器における2つの関節分布間の最適輸送(OT)の問題点を考察する。
我々は、共同サンプル上で計算されたカーネル化された最小二乗項を使用し、輸送計画の条件的目的に暗黙的に一致する。
本手法は, 治療に対する細胞応答予測の文脈において, 短時間の分類のための即時学習や条件生成などの応用に適用する場合, 最先端の手法を改良する。
論文 参考訳(メタデータ) (2023-05-25T10:01:57Z) - Generative Modeling through the Semi-dual Formulation of Unbalanced
Optimal Transport [9.980822222343921]
非平衡最適輸送(UOT)の半二重定式化に基づく新しい生成モデルを提案する。
OTとは異なり、UOTは分散マッチングの厳しい制約を緩和する。このアプローチは、外れ値に対する堅牢性、トレーニング中の安定性、より高速な収束を提供する。
CIFAR-10ではFIDスコアが2.97、CelebA-HQ-256では6.36である。
論文 参考訳(メタデータ) (2023-05-24T06:31:05Z) - Consistent Diffusion Models: Mitigating Sampling Drift by Learning to be
Consistent [97.64313409741614]
本稿では, モデルが生成したデータ上での予測が時間とともに一定であることを示す, 両立性特性を強制することを提案する。
CIFAR-10の条件および非条件生成とAFHQとFFHQのベースライン改良について,本研究の新たな訓練目標が得られた。
論文 参考訳(メタデータ) (2023-02-17T18:45:04Z) - Learning the joint distribution of two sequences using little or no
paired data [16.189575655434844]
本稿では,2つのシーケンス,例えばテキストと音声のノイズチャネル生成モデルを提案する。
ペア化されたデータの少ないデータでも、大量の未ペアデータが存在する場合の2つのモダリティを関連付けるのに十分であることを示す。
論文 参考訳(メタデータ) (2022-12-06T18:56:15Z) - Comparing Probability Distributions with Conditional Transport [63.11403041984197]
新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。
ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。
さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
論文 参考訳(メタデータ) (2020-12-28T05:14:22Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z) - Robust Optimal Transport with Applications in Generative Modeling and
Domain Adaptation [120.69747175899421]
ワッサーシュタインのような最適輸送(OT)距離は、GANやドメイン適応のようないくつかの領域で使用されている。
本稿では,現代のディープラーニングアプリケーションに適用可能な,ロバストなOT最適化の計算効率のよい2つの形式を提案する。
提案手法では, ノイズの多いデータセット上で, 外部分布で劣化したGANモデルをトレーニングすることができる。
論文 参考訳(メタデータ) (2020-10-12T17:13:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。