論文の概要: Graph Set Transformer
- arxiv url: http://arxiv.org/abs/2606.05116v1
- Date: Wed, 03 Jun 2026 17:20:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-04 20:44:18.924582
- Title: Graph Set Transformer
- Title(参考訳): グラフセット変換器
- Authors: Jose E. Escrig Molina, Baoquan Chen, Daniel Probst,
- Abstract要約: Graph Set Transformer(GST)は、グラフの集合を学習するためのニューラルネットワークアーキテクチャである。
GSTはノードレベルの特徴伝搬と各レイヤでのクロスグラフコンテキストモデリングをインターリーブする。
設定条件の構造的推論を分離するための制御合成スイート上でのGSTの評価を行った。
- 参考スコア(独自算出の注目度): 22.51999740526897
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce the Graph Set Transformer (GST), a neural network architecture for learning on sets of graphs, designed for tasks in which per-element predictions depend on set-wide context as well as local structure. Existing architectures, including DeepSets and SetTransformer, require pre-encoded graph embeddings from a separate GNN, creating a bottleneck between feature extraction and set-level contextualisation. In contrast, GST interleaves node-level feature propagation and cross-graph contextual modelling at every layer, fusing the two levels of information through a gating mechanism. We evaluate GST on a controlled synthetic suite designed to isolate set-conditional structural reasoning and on three real-data benchmarks spanning per-atom reaction-centre identification, reaction yield prediction, and image classification. Under matched parameter budgets, GST performs better than the baselines across these settings. An architectural ablation strongly suggests that the interleaving of local and set context contributes substantially to this advantage.
- Abstract(参考訳): 本稿では,グラフ集合を学習するためのニューラルネットワークアーキテクチャであるGraph Set Transformer(GST)を紹介する。
DeepSetsやSetTransformerといった既存のアーキテクチャでは、GNNから事前にエンコードされたグラフを埋め込む必要があり、特徴抽出とセットレベルのコンテキスト化のボトルネックが生じる。
対照的に、GSTはノードレベルの特徴伝搬と各層でのクロスグラフコンテキストモデリングをインターリーブし、ゲーティング機構を通じて2つのレベルの情報を融合する。
我々は,設定条件の構造的推論を分離するために設計された制御合成スイートと,原子間反応中心同定,反応収率予測,画像分類を対象とする3つの実データベンチマークでGSTを評価した。
一致したパラメータの予算の下では、GSTはこれらの設定のベースラインよりもパフォーマンスがよい。
アーキテクチャのアブレーションは、ローカルコンテキストとセットコンテキストのインターリーブが、この優位性に大きく貢献していることを強く示唆している。
関連論文リスト
- A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳(メタデータ) (2024-06-19T22:30:08Z) - Graph as Point Set [31.448841287258116]
本稿では,相互接続ノードを独立点の集合に変換するグラフ・ツー・セット変換法を提案する。
これにより、セットエンコーダを使用してグラフから学習することが可能になり、グラフニューラルネットワークの設計空間が大幅に拡張される。
提案手法の有効性を示すために,グラフから変換された点集合を入力として受け入れる変換器アーキテクチャであるPoint Set Transformer (PST)を導入する。
論文 参考訳(メタデータ) (2024-05-05T02:29:41Z) - Graph Transformer GANs with Graph Masked Modeling for Architectural
Layout Generation [153.92387500677023]
本稿では,グラフノード関係を効果的に学習するために,GTGAN(Graph Transformer Generative Adversarial Network)を提案する。
提案したグラフ変換器エンコーダは、局所的およびグローバルな相互作用をモデル化するために、Transformer内のグラフ畳み込みと自己アテンションを組み合わせる。
また,グラフ表現学習のための自己指導型事前学習手法を提案する。
論文 参考訳(メタデータ) (2024-01-15T14:36:38Z) - Self-Attention in Colors: Another Take on Encoding Graph Structure in
Transformers [25.683127388426175]
CSA(Chromatic Self-Attention)と呼ばれる新しい自己認識機構を導入する。
完全アテンショナルグラフ変換器CGT(Chromatic Graph Transformer)におけるCSAの紹介
論文 参考訳(メタデータ) (2023-04-21T13:08:53Z) - DepGraph: Towards Any Structural Pruning [68.40343338847664]
我々は、CNN、RNN、GNN、Transformersのような任意のアーキテクチャの一般的な構造解析について研究する。
本稿では,階層間の依存関係を明示的にモデル化し,包括的にグループ化してプルーニングを行う汎用かつ完全自動な手法であるemphDependency Graph(DepGraph)を提案する。
本研究では,画像用ResNe(X)t,DenseNet,MobileNet,Vision Transformer,グラフ用GAT,3Dポイントクラウド用DGCNN,言語用LSTMなど,さまざまなアーキテクチャやタスクに関する手法を広範囲に評価し,言語用LSTMと並行して示す。
論文 参考訳(メタデータ) (2023-01-30T14:02:33Z) - Graph Spectral Embedding using the Geodesic Betweeness Centrality [76.27138343125985]
本稿では、局所的な類似性、接続性、グローバル構造を教師なしで表現するグラフSylvester Embedding (GSE)を紹介する。
GSEはシルヴェスター方程式の解を用いて、ネットワーク構造と近傍の近接を1つの表現で捉える。
論文 参考訳(メタデータ) (2022-05-07T04:11:23Z) - Efficient and Stable Graph Scattering Transforms via Pruning [86.76336979318681]
グラフ散乱変換(GST)は、グラフデータから特徴を抽出する訓練のないディープGCNモデルを提供する。
GSTが支払う価格は、層の数によって増加する空間と時間の指数関数的な複雑さである。
本研究は, GST の複雑性の限界に対処し, 効率的な (p) GST アプローチを導入する。
論文 参考訳(メタデータ) (2020-01-27T16:05:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。