論文の概要: Complex Preferences for Different Convergent Priors in Discrete Graph
Diffusion
- arxiv url: http://arxiv.org/abs/2306.02957v2
- Date: Wed, 21 Jun 2023 23:09:58 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-23 17:01:49.685192
- Title: Complex Preferences for Different Convergent Priors in Discrete Graph
Diffusion
- Title(参考訳): 離散グラフ拡散における異なる収束前駆体の複素選好
- Authors: Alex M. Tseng, Nathaniel Diamant, Tommaso Biancalani, Gabriele Scalia
- Abstract要約: 我々は、異なるベルヌーイ先行群に収束するように容易に調整可能な離散拡散核の族を新たに定式化する。
生成したグラフの品質は、以前使用したグラフに敏感であり、最適な選択は統計やメトリクスでは説明できないことを示す。
- 参考スコア(独自算出の注目度): 0.8602553195689513
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion models have achieved state-of-the-art performance in generating
many different kinds of data, including images, text, and videos. Despite their
success, there has been limited research on how the underlying diffusion
process and the final convergent prior can affect generative performance; this
research has also been limited to continuous data types and a score-based
diffusion framework. To fill this gap, we explore how different discrete
diffusion kernels (which converge to different prior distributions) affect the
performance of diffusion models for graphs. To this end, we developed a novel
formulation of a family of discrete diffusion kernels which are easily
adjustable to converge to different Bernoulli priors, and we study the effect
of these different kernels on generative performance. We show that the quality
of generated graphs is sensitive to the prior used, and that the optimal choice
cannot be explained by obvious statistics or metrics, which challenges the
intuitions which previous works have suggested.
- Abstract(参考訳): 拡散モデルは、画像、テキスト、ビデオなど、さまざまな種類のデータを生成することで、最先端のパフォーマンスを達成した。
それらの成功にもかかわらず、基礎となる拡散過程と最終収束前の収束が生成性能に与える影響についての研究は限られており、この研究は連続データ型やスコアベースの拡散フレームワークにも制限されている。
このギャップを埋めるために、異なる離散拡散核(先行分布に収束する)がグラフの拡散モデルの性能にどのように影響するかを考察する。
そこで我々は,異なるベルヌーイ前駆体に収束し易い離散拡散核群を新規に定式化し,これら異なる核群が生成性能に及ぼす影響について検討した。
生成したグラフの品質は、以前使用したグラフに敏感であり、その最適な選択は、過去の研究が示唆した直観に挑戦する明らかな統計やメトリクスによって説明できないことを示す。
関連論文リスト
- Theoretical Insights for Diffusion Guidance: A Case Study for Gaussian
Mixture Models [59.331993845831946]
拡散モデルは、所望の特性に向けてサンプル生成を操るために、スコア関数にタスク固有の情報を注入することの恩恵を受ける。
本稿では,ガウス混合モデルの文脈における拡散モデルに対する誘導の影響を理解するための最初の理論的研究を提供する。
論文 参考訳(メタデータ) (2024-03-03T23:15:48Z) - Diffusion-based graph generative methods [54.76520536632757]
拡散に基づくグラフ生成法について,系統的,包括的に検討した。
まず,拡散モデル,スコアベース生成モデル,微分方程式の3つの主流パラダイムについて概説する。
最後に,現在の研究の限界と今後の探査の方向性を指摘する。
論文 参考訳(メタデータ) (2024-01-28T10:09:05Z) - Guided Diffusion from Self-Supervised Diffusion Features [49.78673164423208]
ガイダンスは拡散モデルにおいて重要な概念として機能するが、その効果は追加のデータアノテーションや事前学習の必要性によって制限されることが多い。
本稿では,拡散モデルからガイダンスを抽出するフレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-14T11:19:11Z) - Directional diffusion models for graph representation learning [9.457273750874357]
我々は方向拡散モデルと呼ばれる新しいモデルのクラスを提案する。
これらのモデルは前方拡散過程にデータ依存、異方性、指向性ノイズを含む。
我々は,2つのグラフ表現学習タスクに焦点をあてて,12の公開データセットに関する広範な実験を行った。
論文 参考訳(メタデータ) (2023-06-22T21:27:48Z) - Eliminating Lipschitz Singularities in Diffusion Models [51.806899946775076]
拡散モデルは、時間ステップの零点付近で無限のリプシッツをしばしば表すことを示す。
これは、積分演算に依存する拡散過程の安定性と精度に脅威をもたらす。
我々はE-TSDMと呼ばれる新しい手法を提案し、これは0に近い拡散モデルのリプシッツを除去する。
論文 参考訳(メタデータ) (2023-06-20T03:05:28Z) - Structural Pruning for Diffusion Models [65.02607075556742]
Diff-Pruningは、既存のものから軽量拡散モデルの学習に適した効率的な圧縮手法である。
複数のデータセットにまたがって実施した経験的評価は,提案手法の2つの利点を浮き彫りにしている。
論文 参考訳(メタデータ) (2023-05-18T12:38:21Z) - Diffusion Models for Time Series Applications: A Survey [23.003273147019446]
拡散モデルは現在、画像、ビデオ、テキスト合成に使われている。
我々は,時系列予測,計算,生成のための拡散に基づく手法に着目する。
拡散型手法の共通限界を結論し,今後の研究の方向性を明らかにする。
論文 参考訳(メタデータ) (2023-05-01T02:06:46Z) - Diffusion Models are Minimax Optimal Distribution Estimators [49.47503258639454]
拡散モデリングの近似と一般化能力について、初めて厳密な分析を行った。
実密度関数がベソフ空間に属し、経験値整合損失が適切に最小化されている場合、生成したデータ分布は、ほぼ最小の最適推定値が得られることを示す。
論文 参考訳(メタデータ) (2023-03-03T11:31:55Z) - Where to Diffuse, How to Diffuse, and How to Get Back: Automated
Learning for Multivariate Diffusions [22.04182099405728]
拡散に基づく生成モデル(DBGM)は、ターゲット雑音分布に摂動データを変換し、この推論拡散過程を逆にしてサンプルを生成する。
補助変数の数に対して、低いバウンドを最大化する方法を示す。
次に,特定対象雑音分布の拡散をパラメータ化する方法を示す。
論文 参考訳(メタデータ) (2023-02-14T18:57:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。