論文の概要: Let There Be Order: Rethinking Ordering in Autoregressive Graph Generation

• arxiv url: http://arxiv.org/abs/2305.15562v1
• Date: Wed, 24 May 2023 20:52:34 GMT
• ステータス: 処理完了
• システム内更新日: 2023-05-26 18:43:42.413572
• Title: Let There Be Order: Rethinking Ordering in Autoregressive Graph Generation
• Title（参考訳）: 秩序にしよう - 自己回帰グラフ生成における秩序の再考
• Authors: Jie Bu, Kazi Sajeed Mehrab, Anuj Karpatne
• Abstract要約: 条件付きグラフ生成タスクは、入力条件のセットが与えられたグラフを生成するためにモデルを訓練する。 従来の多くの研究では、ノードやエッジなどのグラフコンポーネントを漸進的に生成するために自己回帰モデルを用いていた。 グラフは通常、コンポーネント間で自然な順序付けを欠いているため、グラフをトークンの列に変換することは簡単ではない。
• 参考スコア（独自算出の注目度）: 6.422073551199993
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Conditional graph generation tasks involve training a model to generate a graph given a set of input conditions. Many previous studies employ autoregressive models to incrementally generate graph components such as nodes and edges. However, as graphs typically lack a natural ordering among their components, converting a graph into a sequence of tokens is not straightforward. While prior works mostly rely on conventional heuristics or graph traversal methods like breadth-first search (BFS) or depth-first search (DFS) to convert graphs to sequences, the impact of ordering on graph generation has largely been unexplored. This paper contributes to this problem by: (1) highlighting the crucial role of ordering in autoregressive graph generation models, (2) proposing a novel theoretical framework that perceives ordering as a dimensionality reduction problem, thereby facilitating a deeper understanding of the relationship between orderings and generated graph accuracy, and (3) introducing "latent sort," a learning-based ordering scheme to perform dimensionality reduction of graph tokens. Our experimental results showcase the effectiveness of latent sort across a wide range of graph generation tasks, encouraging future works to further explore and develop learning-based ordering schemes for autoregressive graph generation.
• Abstract（参考訳）: 条件付きグラフ生成タスクは、入力条件のセットが与えられたグラフを生成するためにモデルを訓練する。 従来の研究の多くは、ノードやエッジなどのグラフコンポーネントを漸進的に生成するために自己回帰モデルを用いていた。 しかしながら、グラフは通常、コンポーネント間の自然な順序付けを欠いているため、グラフをトークン列に変換するのは簡単ではない。 先行研究は、グラフをシーケンスに変換するために、従来のヒューリスティックやBFS(Broadth-first Search)やDFS(Deep-first Search)といったグラフトラバーサル手法に大きく依存していたが、グラフ生成に対する順序付けの影響はほとんど調査されていない。 本稿では,(1)自己回帰型グラフ生成モデルにおける順序付けの重要な役割を強調する,(2)次元化問題として順序付けを知覚する新しい理論的枠組みを提案することで,順序付けと生成したグラフ精度の関係をより深く理解すること,(3)グラフトークンの次元化を行うための学習ベースの順序付けスキームである「latent sort」を導入することで,この問題に寄与する。 実験の結果,多岐にわたるグラフ生成タスクにおける潜在ソートの有効性が示され,自己回帰型グラフ生成のための学習に基づく順序付けのさらなる探索と開発が期待できる。

関連論文リスト

• Neural Graph Generator: Feature-Conditioned Graph Generation using Latent Diffusion Models [22.794561387716502]
  グラフ生成に条件付き潜在拡散モデルを利用する新しい手法であるニューラルグラフ生成器(NGG)を導入する。 NGGは複雑なグラフパターンをモデル化し、グラフ生成プロセスの制御を提供する。
  論文  参考訳（メタデータ） (2024-03-03T15:28:47Z)
• Overcoming Order in Autoregressive Graph Generation [12.351817671944515]
  グラフ生成は、化学やソーシャルネットワークなど、さまざまな領域における基本的な問題である。 近年の研究では、リカレントニューラルネットワーク(RNN)を用いた分子グラフ生成が、従来の生成手法と比較して有利であることが示されている。
  論文  参考訳（メタデータ） (2024-02-04T09:58:22Z)
• Deep Prompt Tuning for Graph Transformers [55.2480439325792]
  ファインチューニングはリソース集約型であり、大きなモデルのコピーを複数保存する必要がある。 ファインチューニングの代替として,ディープグラフプロンプトチューニングと呼ばれる新しい手法を提案する。 事前学習したパラメータを凍結し、追加したトークンのみを更新することにより、フリーパラメータの数を減らし、複数のモデルコピーを不要にする。
  論文  参考訳（メタデータ） (2023-09-18T20:12:17Z)
• Graph Generation with Diffusion Mixture [57.78958552860948]
  グラフの生成は、非ユークリッド構造の複雑な性質を理解する必要がある実世界のタスクにとって大きな課題である。 本稿では,拡散過程の最終グラフ構造を明示的に学習することにより,グラフのトポロジーをモデル化する生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2023-02-07T17:07:46Z)
• Spectral Augmentations for Graph Contrastive Learning [50.149996923976836]
  コントラスト学習は、監督の有無にかかわらず、表現を学習するための第一の方法として現れてきた。 近年の研究では、グラフ表現学習における事前学習の有用性が示されている。 本稿では,グラフの対照的な目的に対する拡張を構築する際に,候補のバンクを提供するためのグラフ変換操作を提案する。
  論文  参考訳（メタデータ） (2023-02-06T16:26:29Z)
• Explanation Graph Generation via Pre-trained Language Models: An Empirical Study with Contrastive Learning [84.35102534158621]
  エンドツーエンドで説明グラフを生成する事前学習言語モデルについて検討する。 本稿では,ノードとエッジの編集操作によるグラフ摂動の簡易かつ効果的な方法を提案する。 提案手法は,説明グラフの構造的精度と意味的精度を両立させる。
  論文  参考訳（メタデータ） (2022-04-11T00:58:27Z)
• Order Matters: Probabilistic Modeling of Node Sequence for Graph Generation [18.03898476141173]
  グラフ生成モデルはグラフ上の分布を定義する。 グラフ上の正確な結合確率とシーケンシャルプロセスのノード順序を導出する。 我々は,従来の手法のアドホックノード順序を使わずに,この境界を最大化してグラフ生成モデルを訓練する。
  論文  参考訳（メタデータ） (2021-06-11T06:37:52Z)
• Graph2Graph Learning with Conditional Autoregressive Models [8.203106789678397]
  グラフ・ツー・グラフ学習のための条件付きオートレアモデルを提案する。 本稿では,グラフアルゴリズムの挑戦的部分グラフ予測実験を通じて,その表現能力について述べる。
  論文  参考訳（メタデータ） (2021-06-06T20:28:07Z)
• Line Graph Neural Networks for Link Prediction [71.00689542259052]
  実世界の多くのアプリケーションにおいて古典的なグラフ解析問題であるグラフリンク予測タスクについて検討する。 このフォーマリズムでは、リンク予測問題をグラフ分類タスクに変換する。 本稿では,線グラフをグラフ理論に用いて,根本的に異なる新しい経路を求めることを提案する。 特に、線グラフの各ノードは、元のグラフのユニークなエッジに対応するため、元のグラフのリンク予測問題は、グラフ分類タスクではなく、対応する線グラフのノード分類問題として等価に解決できる。
  論文  参考訳（メタデータ） (2020-10-20T05:54:31Z)
• Contrastive Self-supervised Learning for Graph Classification [21.207647143672585]
  オーバーフィッティングを緩和するために,コントラスト型自己教師学習(CSSL)に基づく2つのアプローチを提案する。 最初のアプローチでは、CSSLを使用して、人間が提供したラベルに頼ることなく、広く利用可能なラベル付きグラフ上のグラフエンコーダを事前訓練する。 第2のアプローチでは、CSSLに基づく正規化器を開発し、教師付き分類タスクと教師なしCSSLタスクを同時に解決する。
  論文  参考訳（メタデータ） (2020-09-13T05:12:55Z)
• Second-Order Pooling for Graph Neural Networks [62.13156203025818]
  グラフプーリングとして2次プールを提案するが、これは上記の課題を自然に解決する。 グラフニューラルネットワークによる2次プールの直接利用は、実用的な問題を引き起こすことを示す。 本稿では,2次プールに基づく2つの新しいグローバルグラフプーリング手法,すなわちバイリニアマッピングと2次プールを提案する。
  論文  参考訳（メタデータ） (2020-07-20T20:52:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。