論文の概要: Binarized Graph Neural Network
- arxiv url: http://arxiv.org/abs/2004.11147v1
- Date: Sun, 19 Apr 2020 09:43:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-11 23:55:57.214663
- Title: Binarized Graph Neural Network
- Title(参考訳): 二元化グラフニューラルネットワーク
- Authors: Hanchen Wang, Defu Lian, Ying Zhang, Lu Qin, Xiangjian He, Yiguang
Lin, Xuemin Lin
- Abstract要約: 我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。
提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。
実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
- 参考スコア(独自算出の注目度): 65.20589262811677
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recently, there have been some breakthroughs in graph analysis by applying
the graph neural networks (GNNs) following a neighborhood aggregation scheme,
which demonstrate outstanding performance in many tasks. However, we observe
that the parameters of the network and the embedding of nodes are represented
in real-valued matrices in existing GNN-based graph embedding approaches which
may limit the efficiency and scalability of these models. It is well-known that
binary vector is usually much more space and time efficient than the
real-valued vector. This motivates us to develop a binarized graph neural
network to learn the binary representations of the nodes with binary network
parameters following the GNN-based paradigm. Our proposed method can be
seamlessly integrated into the existing GNN-based embedding approaches to
binarize the model parameters and learn the compact embedding. Extensive
experiments indicate that the proposed binarized graph neural network, namely
BGN, is orders of magnitude more efficient in terms of both time and space
while matching the state-of-the-art performance.
- Abstract(参考訳): 近年,多くのタスクにおいて卓越した性能を示す近傍集約スキームにグラフニューラルネットワーク(GNN)を適用することで,グラフ解析のブレークスルーが起きている。
しかし,既存のGNNグラフ埋め込み手法では,ネットワークのパラメータとノードの埋め込みが実数値行列で表現され,これらのモデルの効率性とスケーラビリティが制限される可能性がある。
バイナリベクトルは通常、実数値ベクトルよりも空間と時間効率がはるかに高いことが知られている。
これにより、GNNベースのパラダイムに従って、ノードのバイナリ表現をバイナリネットワークパラメータで学習する二項化グラフニューラルネットワークの開発を動機付けます。
提案手法は,モデルパラメータをバイナライズし,コンパクトな埋め込みを学習するために,既存のGNNベースの埋め込み手法にシームレスに統合することができる。
広汎な実験により、提案された二項グラフニューラルネットワーク、すなわちBGNは、最先端の性能に適合しながら、時間と空間の両方において、桁違いに効率が良いことが示されている。
関連論文リスト
- Cached Operator Reordering: A Unified View for Fast GNN Training [24.917363701638607]
グラフニューラルネットワーク(GNN)は、構造化グラフデータを扱う強力なツールであり、ノード分類、グラフ分類、クラスタリングといったタスクに対処する。
しかし、GNN計算のスパース性は、従来のディープニューラルネットワークと比較してパフォーマンス最適化に新たな課題をもたらす。
GNN計算,I/O,メモリの統一的なビューを提供することで,これらの課題に対処する。
論文 参考訳(メタデータ) (2023-08-23T12:27:55Z) - Relation Embedding based Graph Neural Networks for Handling
Heterogeneous Graph [58.99478502486377]
我々は、同種GNNが不均一グラフを扱うのに十分な能力を持つように、シンプルで効率的なフレームワークを提案する。
具体的には、エッジ型関係と自己ループ接続の重要性を埋め込むために、関係1つのパラメータのみを使用する関係埋め込みベースのグラフニューラルネットワーク(RE-GNN)を提案する。
論文 参考訳(メタデータ) (2022-09-23T05:24:18Z) - Towards Understanding Graph Neural Networks: An Algorithm Unrolling
Perspective [9.426760895586428]
本稿では,グラフ信号の復号化問題に対して,truncated Optimizationアルゴリズムに基づいて構築されたアンロールネットワークのクラスを紹介する。
GNNモデルのトレーニングプロセスは、低レベルのGSD問題による二段階最適化問題の解決と見なすことができる。
UGDGNNという表現モデル、すなわち、非線形勾配勾配GNNは、魅力的な理論的性質を継承する。
論文 参考訳(メタデータ) (2022-06-09T12:54:03Z) - Binary Graph Neural Networks [69.51765073772226]
グラフニューラルネットワーク(gnns)は、不規則データに対する表現学習のための強力で柔軟なフレームワークとして登場した。
本稿では,グラフニューラルネットワークのバイナライゼーションのための異なる戦略を提示し,評価する。
モデルの慎重な設計とトレーニングプロセスの制御によって、バイナリグラフニューラルネットワークは、挑戦的なベンチマークの精度において、適度なコストでトレーニングできることを示しています。
論文 参考訳(メタデータ) (2020-12-31T18:48:58Z) - Bi-GCN: Binary Graph Convolutional Network [57.733849700089955]
ネットワークパラメータと入力ノードの特徴を二項化するバイナリグラフ畳み込みネットワーク(Bi-GCN)を提案する。
我々のBi-GCNは、ネットワークパラメータと入力データの両方で平均30倍のメモリ消費を削減でき、推論速度を平均47倍に加速できる。
論文 参考訳(メタデータ) (2020-10-15T07:26:23Z) - A Unified View on Graph Neural Networks as Graph Signal Denoising [49.980783124401555]
グラフニューラルネットワーク(GNN)は,グラフ構造化データの学習表現において顕著に普及している。
本研究では,代表的GNNモデル群における集約過程を,グラフ記述問題の解法とみなすことができることを数学的に確立する。
UGNNから派生した新しいGNNモデルADA-UGNNをインスタンス化し、ノード間の適応的滑らかさでグラフを処理する。
論文 参考訳(メタデータ) (2020-10-05T04:57:18Z) - Hierarchical Message-Passing Graph Neural Networks [12.207978823927386]
本稿では,新しい階層型メッセージパッシンググラフニューラルネットワークフレームワークを提案する。
鍵となるアイデアは、フラットグラフ内のすべてのノードをマルチレベルなスーパーグラフに再編成する階層構造を生成することである。
階層型コミュニティ対応グラフニューラルネットワーク(HC-GNN)と呼ばれる,このフレームワークを実装した最初のモデルを提案する。
論文 参考訳(メタデータ) (2020-09-08T13:11:07Z) - Bilinear Graph Neural Network with Neighbor Interactions [106.80781016591577]
グラフニューラルネットワーク(GNN)は,グラフデータ上で表現を学習し,予測を行う強力なモデルである。
本稿では,グラフ畳み込み演算子を提案し,隣接するノードの表現の対の相互作用で重み付け和を増大させる。
このフレームワークをBGNN(Bilinear Graph Neural Network)と呼び、隣ノード間の双方向相互作用によるGNN表現能力を向上させる。
論文 参考訳(メタデータ) (2020-02-10T06:43:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。