論文の概要: Hierarchically branched diffusion models for class-conditional
generation
- arxiv url: http://arxiv.org/abs/2212.10777v3
- Date: Tue, 16 May 2023 18:14:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-18 20:38:00.449222
- Title: Hierarchically branched diffusion models for class-conditional
generation
- Title（参考訳）: 階層的分岐拡散モデルによるクラス条件生成
- Authors: Alex M. Tseng, Max Shen, Tommaso Biancalani, Gabriele Scalia
- Abstract要約: 現在のクラス条件拡散モデルは、フラットな方法で全てのクラス上の拡散過程を暗黙的にモデル化する。
クラス条件生成のための新しいフレームワークとして階層的分岐拡散モデルを提案する。
いくつかのベンチマークと大規模実世界の科学データセット上で分岐拡散モデルを広範囲に評価した。
- 参考スコア（独自算出の注目度）: 0.8602553195689513
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models have attained state-of-the-art performance in generating
realistic objects, including when conditioning generation on class labels.
Current class-conditional diffusion models, however, implicitly model the
diffusion process on all classes in a flat fashion, ignoring any known
relationships between classes. Class-labeled datasets, including those common
in scientific domains, are rife with internal structure. To take advantage of
this structure, we propose hierarchically branched diffusion models as a novel
framework for class-conditional generation. Branched diffusion models
explicitly leverage the inherent relationships between distinct classes in the
dataset to learn the underlying diffusion process in a hierarchical manner. We
highlight several advantages of branched diffusion models over the current
state-of-the-art methods for class-conditional diffusion. Firstly, they can be
easily extended to novel classes in a continual-learning setting at scale.
Secondly, they enable more sophisticated forms of conditional generation, such
as analogy-based conditional generation (i.e. transmutation). Finally, they
offer a novel interpretability into the class-conditional generation process.
We extensively evaluate branched diffusion models on several benchmark and
large real-world scientific datasets, spanning different data modalities
(images, tabular data, and graphs). In particular, we showcase the advantages
of branched diffusion models on a real-world single-cell RNA-seq dataset, where
our branched model leverages the intrinsic hierarchical structure between human
cell types.
- Abstract（参考訳）: 拡散モデルは、クラスラベルの条件付けを含む現実的なオブジェクトを生成する際に、最先端のパフォーマンスを達成した。
しかし、現在のクラス条件拡散モデルは、クラス間の既知の関係を無視し、フラットな方法で全てのクラス上の拡散過程を暗黙的にモデル化する。
科学的領域に共通するデータを含むクラスラベルデータセットは、内部構造を持つ。
この構造を利用するために,クラス条件生成のための新しい枠組みとして階層分岐拡散モデルを提案する。
分岐拡散モデルは、データセット内の異なるクラス間の固有の関係を明示的に活用し、下位の拡散プロセスを階層的に学習する。
クラス条件拡散の最先端手法に対する分岐拡散モデルのいくつかの利点を強調した。
まず、連続的な学習環境において、新しいクラスに容易に拡張できる。
第二に、類似に基づく条件生成(すなわち変換)のようなより洗練された条件生成を可能にする。
最後に、クラス条件生成プロセスに新しい解釈性を提供する。
複数のベンチマークおよび大規模実世界の科学データセット上で分岐拡散モデルを広範囲に評価し、異なるデータモダリティ(画像、表データ、グラフ)にまたがる。
特に本研究では,ヒト細胞タイプ間の内在的な階層構造を利用した分岐拡散モデルを用いて,実世界のrna-seqデータセット上での分岐拡散モデルの利点を示す。
関連論文リスト
- Unveil Conditional Diffusion Models with Classifier-free Guidance: A Sharp Statistical Theory [87.00653989457834]
条件付き拡散モデルは現代の画像合成の基礎となり、計算生物学や強化学習などの分野に広く応用されている。
経験的成功にもかかわらず、条件拡散モデルの理論はほとんど欠落している。
本稿では,条件拡散モデルを用いた分布推定の急激な統計的理論を提示することにより,ギャップを埋める。
論文 参考訳（メタデータ） (2024-03-18T17:08:24Z) - A Phase Transition in Diffusion Models Reveals the Hierarchical Nature
of Data [55.748186000425996]
最近の進歩は、拡散モデルが高品質な画像を生成することを示している。
我々はこの現象を階層的なデータ生成モデルで研究する。
本分析は拡散モデルにおける時間とスケールの関係を特徴付ける。
論文 参考訳（メタデータ） (2024-02-26T19:52:33Z) - Training Class-Imbalanced Diffusion Model Via Overlap Optimization [55.96820607533968]
実世界のデータセットで訓練された拡散モデルは、尾クラスの忠実度が劣ることが多い。
拡散モデルを含む深い生成モデルは、豊富な訓練画像を持つクラスに偏りがある。
本研究では,異なるクラスに対する合成画像の分布の重複を最小限に抑えるために,コントラスト学習に基づく手法を提案する。
論文 参考訳（メタデータ） (2024-02-16T16:47:21Z) - Navigating the Structured What-If Spaces: Counterfactual Generation via
Structured Diffusion [20.20945739504847]
本稿では,構造データ中の反現実的説明を生成するために拡散を利用した最初のプラグアンドプレイフレームワークであるStructured Counterfactual diffuser(SCD)を紹介する。
実験の結果, 既存の最先端技術と比較して高い妥当性を示すだけでなく, 近接性や多様性も著しく向上していることがわかった。
論文 参考訳（メタデータ） (2023-12-21T07:05:21Z) - Guided Diffusion from Self-Supervised Diffusion Features [49.78673164423208]
ガイダンスは拡散モデルにおいて重要な概念として機能するが、その効果は追加のデータアノテーションや事前学習の必要性によって制限されることが多い。
本稿では,拡散モデルからガイダンスを抽出するフレームワークを提案する。
論文 参考訳（メタデータ） (2023-12-14T11:19:11Z) - The Emergence of Reproducibility and Generalizability in Diffusion Models [10.188731323681575]
同じスタートノイズ入力と決定論的サンプリングが与えられた場合、異なる拡散モデルはしばしば驚くほど類似した出力が得られる。
拡散モデルはトレーニングデータサイズの影響を受けやすい分布を学習していることを示す。
この価値ある性質は、条件付き使用、逆問題解決、モデル微調整など、拡散モデルの多くの変種に一般化される。
論文 参考訳（メタデータ） (2023-10-08T19:02:46Z) - Renormalizing Diffusion Models [0.7252027234425334]
拡散モデルを用いて、統計および量子場理論の逆再正規化群フローを学習する。
我々の研究は、多スケール拡散モデルの解釈を提供し、新しい性質を持つべき拡散モデルに対する物理的に着想を得た提案を与える。
論文 参考訳（メタデータ） (2023-08-23T18:02:31Z) - A Survey of Diffusion Models in Natural Language Processing [11.233768932957771]
拡散モデルは、ネットワークや多様体にまたがる情報や信号の拡散を捉える。
本稿は,NLPで使用される拡散モデルの異なる定式化,その強度と限界,それらの応用について論じる。
論文 参考訳（メタデータ） (2023-05-24T03:25:32Z) - Diffusion Models in Vision: A Survey [80.82832715884597]
拡散モデルは、前方拡散段階と逆拡散段階の2つの段階に基づく深層生成モデルである。
拡散モデルは、既知の計算負荷にもかかわらず、生成したサンプルの品質と多様性に対して広く評価されている。
論文 参考訳（メタデータ） (2022-09-10T22:00:30Z) - A Survey on Generative Diffusion Model [75.93774014861978]
拡散モデルは、深層生成モデルの新たなクラスである。
時間を要する反復生成過程や高次元ユークリッド空間への閉じ込めなど、いくつかの制限がある。
本調査では,拡散モデルの向上を目的とした高度な手法を多数提示する。
論文 参考訳（メタデータ） (2022-09-06T16:56:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。