論文の概要: FDGATII : Fast Dynamic Graph Attention with Initial Residual and
Identity Mapping
- arxiv url: http://arxiv.org/abs/2110.11464v1
- Date: Thu, 21 Oct 2021 20:19:17 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-25 15:34:33.879442
- Title: FDGATII : Fast Dynamic Graph Attention with Initial Residual and
Identity Mapping
- Title(参考訳): FDGATII : 初期残像とアイデンティティマッピングを用いた高速ダイナミックグラフアテンション
- Authors: Gayan K. Kulatilleke, Marius Portmann, Ryan Ko, Shekhar S. Chandra
- Abstract要約: 本稿では,注目機構が選択情報に注目する能力に触発された新しいグラフニューラルネットワークFDGATIIを提案する。
FDG ATII は設計において本質的に並列化可能であり、操作ではホイット効率がよい。
FDG ATII は GAT と GCN をベースとしたベンチマークにおいて,完全教師付きタスクの精度と性能に優れることを示す。
- 参考スコア(独自算出の注目度): 0.39373541926236766
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While Graph Neural Networks have gained popularity in multiple domains,
graph-structured input remains a major challenge due to (a) over-smoothing, (b)
noisy neighbours (heterophily), and (c) the suspended animation problem. To
address all these problems simultaneously, we propose a novel graph neural
network FDGATII, inspired by attention mechanism's ability to focus on
selective information supplemented with two feature preserving mechanisms.
FDGATII combines Initial Residuals and Identity Mapping with the more
expressive dynamic self-attention to handle noise prevalent from the
neighbourhoods in heterophilic data sets. By using sparse dynamic attention,
FDGATII is inherently parallelizable in design, whist efficient in operation;
thus theoretically able to scale to arbitrary graphs with ease. Our approach
has been extensively evaluated on 7 datasets. We show that FDGATII outperforms
GAT and GCN based benchmarks in accuracy and performance on fully supervised
tasks, obtaining state-of-the-art results on Chameleon and Cornell datasets
with zero domain-specific graph pre-processing, and demonstrate its versatility
and fairness.
- Abstract(参考訳): グラフニューラルネットワークは複数の領域で人気を得ているが、グラフ構造入力は依然として大きな課題である。
(a)余計なこと。
(b)うるさい隣人(ヘテロフィリー)、及び
(c) 停止アニメーション問題。
これらの問題を同時に解決するために,注目機構が2つの特徴保存機構を補足した選択情報に注目する能力に着想を得た,新しいグラフニューラルネットワークFDGATIIを提案する。
FDGATIIは、初期残差とアイデンティティマッピングと、より表現力のある動的自己アテンションを組み合わせることで、ヘテロ親和性データセットの近傍から発生するノイズを処理する。
fdgatiiは本質的に設計において並列可能であり、操作が効率的であり、理論的には任意のグラフに容易にスケールできる。
われわれのアプローチは7つのデータセットで広く評価されている。
FDGATII は GAT と GCN ベースのベンチマークを完全教師付きタスクの精度と性能で上回り、Chameleon と Cornell のデータセットに対して、ドメイン固有のグラフ前処理がゼロで、その汎用性と公平性を示す。
関連論文リスト
- Representation Learning on Heterophilic Graph with Directional
Neighborhood Attention [8.493802098034255]
Graph Attention Network(GAT)は、最も人気のあるGraph Neural Network(GNN)アーキテクチャの1つである。
GATは、長距離およびグローバルグラフ情報をキャプチャする能力に欠けており、いくつかのデータセットで不満足なパフォーマンスをもたらす。
本稿では,特徴に基づく注意と,グラフトポロジから抽出したグローバルな方向性情報を組み合わせるために,DGAT(Directional Graph Attention Network)を提案する。
論文 参考訳(メタデータ) (2024-03-03T10:59:16Z) - TimeGraphs: Graph-based Temporal Reasoning [64.18083371645956]
TimeGraphsは階層的時間グラフとして動的相互作用を特徴付ける新しいアプローチである。
提案手法は,コンパクトなグラフベース表現を用いて相互作用をモデル化し,多種多様な時間スケールでの適応推論を可能にする。
我々は,サッカーシミュレータ,抵抗ゲーム,MOMA人間活動データセットなど,複雑でダイナミックなエージェントインタラクションを持つ複数のデータセット上でTimeGraphsを評価する。
論文 参考訳(メタデータ) (2024-01-06T06:26:49Z) - TouchUp-G: Improving Feature Representation through Graph-Centric
Finetuning [37.318961625795204]
グラフニューラルネットワーク(GNN)は、多くのハイインパクトな実世界のグラフアプリケーションにおいて最先端のアプローチとなっている。
機能豊富なグラフでは、PMを直接利用して機能を生成するのが一般的である。
PMから抽出されたノード特徴がグラフに依存しず、GNNがグラフ構造とノード特徴の間の潜在的な相関を十分に活用できないため、このプラクティスは準最適である。
論文 参考訳(メタデータ) (2023-09-25T05:44:40Z) - A Dynamic Graph CNN with Cross-Representation Distillation for
Event-Based Recognition [21.225945234873745]
グラフクロス表現蒸留(CRD)と呼ばれる新しいイベントベースのグラフ学習フレームワークを提案する。
CRDはイベントグラフの監視と事前知識を提供する。
我々のモデルと学習フレームワークは、複数の視覚タスクにまたがって効果的に一般化されている。
論文 参考訳(メタデータ) (2023-02-08T16:35:39Z) - Counterfactual Intervention Feature Transfer for Visible-Infrared Person
Re-identification [69.45543438974963]
視覚赤外人物再識別タスク(VI-ReID)におけるグラフベースの手法は,2つの問題により,悪い一般化に悩まされている。
十分に訓練された入力特徴は、グラフトポロジーの学習を弱め、推論過程において十分に一般化されない。
本稿では,これらの問題に対処するためのCIFT法を提案する。
論文 参考訳(メタデータ) (2022-08-01T16:15:31Z) - Beyond the Gates of Euclidean Space: Temporal-Discrimination-Fusions and
Attention-based Graph Neural Network for Human Activity Recognition [5.600003119721707]
ウェアラブルデバイスによるヒューマンアクティビティ認識(HAR)は、フィットネストラッキング、ウェルネススクリーニング、生活支援など多くの応用により、大きな関心を集めている。
従来のディープラーニング(DL)は、HARドメインのアートパフォーマンスの状態を規定している。
提案手法はグラフニューラルネットワーク(GNN)を用いて,入力表現を構造化し,サンプル間の関係性を利用する手法である。
論文 参考訳(メタデータ) (2022-06-10T03:04:23Z) - Multi-hop Attention Graph Neural Network [70.21119504298078]
マルチホップアテンショングラフニューラルネットワーク(MAGNA)は、マルチホップコンテキスト情報を注目計算のすべての層に組み込む方法である。
MAGNAは各層における大規模構造情報を捕捉し,低域効果によりグラフデータからノイズの多い高周波情報を除去することを示す。
論文 参考訳(メタデータ) (2020-09-29T22:41:19Z) - Towards Deeper Graph Neural Networks [63.46470695525957]
グラフ畳み込みは近傍の集約を行い、最も重要なグラフ操作の1つである。
いくつかの最近の研究で、この性能劣化は過度に滑らかな問題に起因している。
本研究では,大きな受容領域からの情報を適応的に組み込むディープ適応グラフニューラルネットワーク(DAGNN)を提案する。
論文 参考訳(メタデータ) (2020-07-18T01:11:14Z) - Graphs, Entities, and Step Mixture [11.162937043309478]
エッジベース近傍関係とノードベース実体特徴の両方を考慮した新しいグラフニューラルネットワークを提案する。
集約的な実験により,提案したGESMは,8つのベンチマークグラフデータセット上で,最先端または同等のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2020-05-18T06:57:02Z) - Structural Temporal Graph Neural Networks for Anomaly Detection in
Dynamic Graphs [54.13919050090926]
本稿では,動的グラフの異常エッジを検出するために,エンドツーエンドの時間構造グラフニューラルネットワークモデルを提案する。
特に,まずターゲットエッジを中心にした$h$ホップ囲むサブグラフを抽出し,各ノードの役割を識別するノードラベル機能を提案する。
抽出した特徴に基づき,GRU(Gated Recurrent Unit)を用いて,異常検出のための時間的情報を取得する。
論文 参考訳(メタデータ) (2020-05-15T09:17:08Z) - Block-Approximated Exponential Random Graphs [77.4792558024487]
指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。
本稿では,非自明なERGに対する近似フレームワークを提案する。
我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
論文 参考訳(メタデータ) (2020-02-14T11:42:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。