論文の概要: Unsupervised Discovery of Steerable Factors When Graph Deep Generative
Models Are Entangled
- arxiv url: http://arxiv.org/abs/2401.17123v1
- Date: Mon, 29 Jan 2024 18:53:34 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-31 14:18:06.246182
- Title: Unsupervised Discovery of Steerable Factors When Graph Deep Generative
Models Are Entangled
- Title(参考訳): グラフ深部生成モデルが絡み合った場合の安定因子の教師なし発見
- Authors: Shengchao Liu, Chengpeng Wang, Jiarui Lu, Weili Nie, Hanchen Wang,
Zhuoxinran Li, Bolei Zhou, Jian Tang
- Abstract要約: GraphCGは、事前訓練されたグラフDGMの潜伏空間におけるステアブル因子の教師なし発見方法である。
この観察に動機づけられたグラフCGは、意味豊かな方向の相互情報を最大化することで、評価可能な要素を学習する。
2つの分子データセットで事前学習した2つのグラフDGMにおいて、グラフCGが4つの競合ベースラインを上回ることを定量的に検証する。
- 参考スコア(独自算出の注目度): 65.19908606519125
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep generative models (DGMs) have been widely developed for graph data.
However, much less investigation has been carried out on understanding the
latent space of such pretrained graph DGMs. These understandings possess the
potential to provide constructive guidelines for crucial tasks, such as graph
controllable generation. Thus in this work, we are interested in studying this
problem and propose GraphCG, a method for the unsupervised discovery of
steerable factors in the latent space of pretrained graph DGMs. We first
examine the representation space of three pretrained graph DGMs with six
disentanglement metrics, and we observe that the pretrained representation
space is entangled. Motivated by this observation, GraphCG learns the steerable
factors via maximizing the mutual information between semantic-rich directions,
where the controlled graph moving along the same direction will share the same
steerable factors. We quantitatively verify that GraphCG outperforms four
competitive baselines on two graph DGMs pretrained on two molecule datasets.
Additionally, we qualitatively illustrate seven steerable factors learned by
GraphCG on five pretrained DGMs over five graph datasets, including two for
molecules and three for point clouds.
- Abstract(参考訳): グラフデータのための深部生成モデル (DGM) が広く開発されている。
しかし、そのような事前訓練されたグラフDGMの潜伏空間の理解について、はるかに少ない研究がなされている。
これらの理解はグラフ制御生成のような重要なタスクに対して建設的なガイドラインを提供する可能性を秘めている。
そこで本研究では,この問題を研究し,事前学習したグラフDGMの潜伏空間におけるステアブル因子の教師なし発見法であるGraphCGを提案する。
まず,6つの非交叉距離を持つ3つの事前学習グラフDGMの表現空間について検討し,事前学習された表現空間が絡み合っていることを観察する。
この観察により、GraphCGは、同じ方向に移動する制御グラフが同じ操舵因子を共有する意味豊かな方向間の相互情報を最大化することで、操舵因子を学習する。
2つの分子データセットで事前学習した2つのグラフDGMにおいて、グラフCGが4つの競合ベースラインを上回ることを定量的に検証する。
さらに,5つのグラフデータセット上で事前トレーニングされた5つのdgmに対して,graphcgが学習した7つのステアブル因子を定性的に示す。
関連論文リスト
- InstructG2I: Synthesizing Images from Multimodal Attributed Graphs [50.852150521561676]
InstructG2Iと呼ばれるグラフ文脈条件拡散モデルを提案する。
InstructG2Iはまずグラフ構造とマルチモーダル情報を利用して情報的隣人サンプリングを行う。
Graph-QFormerエンコーダは、グラフノードをグラフプロンプトの補助セットに適応的に符号化し、デノナイジングプロセスを導く。
論文 参考訳(メタデータ) (2024-10-09T17:56:15Z) - Does Graph Prompt Work? A Data Operation Perspective with Theoretical Analysis [7.309233340654514]
本稿では,データ操作の観点からグラフのプロンプトを厳密に解析する理論的枠組みを提案する。
グラフ変換演算子に近似する能力を示す形式的保証定理を提供する。
グラフプロンプトによってこれらのデータ操作の誤差の上限を導出し、この議論をグラフのバッチに拡張する。
論文 参考訳(メタデータ) (2024-10-02T15:07:13Z) - From Cluster Assumption to Graph Convolution: Graph-based Semi-Supervised Learning Revisited [51.24526202984846]
グラフベースの半教師付き学習(GSSL)は、長い間ホットな研究トピックだった。
グラフ畳み込みネットワーク (GCN) は, 有望な性能を示す主要な技術となっている。
論文 参考訳(メタデータ) (2023-09-24T10:10:21Z) - GraphCoCo: Graph Complementary Contrastive Learning [65.89743197355722]
グラフコントラスト学習(GCL)は、手作業によるアノテーションの監督なしに、グラフ表現学習(GRL)において有望な性能を示した。
本稿では,この課題に対処するため,グラフココというグラフ補完型コントラスト学習手法を提案する。
論文 参考訳(メタデータ) (2022-03-24T02:58:36Z) - A Survey of Pretraining on Graphs: Taxonomy, Methods, and Applications [38.57023440288189]
我々は、事前学習グラフモデル(PGM)に関する最初の包括的調査を提供する。
まず、グラフ表現学習の限界を示し、グラフ事前学習のモチベーションを導入する。
次に,PGMのソーシャルレコメンデーションおよび薬物発見への応用について述べる。
論文 参考訳(メタデータ) (2022-02-16T07:00:52Z) - Towards Graph Self-Supervised Learning with Contrastive Adjusted Zooming [48.99614465020678]
本稿では,グラフコントラスト適応ズームによる自己教師付きグラフ表現学習アルゴリズムを提案する。
このメカニズムにより、G-Zoomはグラフから複数のスケールから自己超越信号を探索して抽出することができる。
我々は,実世界のデータセットに関する広範な実験を行い,提案したモデルが常に最先端の手法より優れていることを示す。
論文 参考訳(メタデータ) (2021-11-20T22:45:53Z) - Graph Contrastive Learning with Augmentations [109.23158429991298]
グラフデータの教師なし表現を学習するためのグラフコントラスト学習(GraphCL)フレームワークを提案する。
我々のフレームワークは、最先端の手法と比較して、類似またはより良い一般化可能性、転送可能性、堅牢性のグラフ表現を作成できることを示す。
論文 参考訳(メタデータ) (2020-10-22T20:13:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。