論文の概要: Bag of Tricks of Semi-Supervised Classification with Graph Neural
Networks
- arxiv url: http://arxiv.org/abs/2103.13355v1
- Date: Wed, 24 Mar 2021 17:24:26 GMT
- ステータス: 処理完了
- システム内更新日: 2021-03-25 14:23:37.067224
- Title: Bag of Tricks of Semi-Supervised Classification with Graph Neural
Networks
- Title(参考訳): グラフニューラルネットワークを用いた半教師付き分類のトリックのバグ
- Authors: Yangkun Wang
- Abstract要約: 本稿では,まず,既存の改良点の集合を概説し,モデル設計とラベル使用に関するいくつかの新しい手法を提案する。
アブレーション研究を通じて,最終モデル精度への影響を実証的に評価し,モデルアーキテクチャの改善による利益を上回る程度まで,様々なgnnモデルを大幅に改善できることを示した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Much of the recent progress made in node classification on graphs can be
credited to the careful design on graph neural networks (GNN) and label
propagation algorithms. However, in the literature, in addition to improvements
to the model architecture, there are a number of improvements either briefly
mentioned as implementation details or visible only in source code, and these
overlooked techniques may play a pivotal role in their practical use. In this
paper, we first summarize a collection of existing refinements, and then
propose several novel techniques regarding these model designs and label usage.
We empirically evaluate their impacts on the final model accuracy through
ablation studies, and show that we are able to significantly improve various
GNN models to the extent that they outweigh the gains from model architecture
improvement. Notably, many of the top-ranked models on Open Graph Benchmark
benefit from our techniques.
- Abstract(参考訳): グラフ上のノード分類における最近の進歩の多くは、グラフニューラルネットワーク(GNN)とラベル伝搬アルゴリズムの注意深い設計に寄与する。
しかし、文献では、モデルアーキテクチャの改善に加えて、実装の詳細として簡単に言及されるか、ソースコードでのみ見えるように、多くの改善がなされており、これらの見落としているテクニックは、実用上重要な役割を果たす可能性がある。
本稿では,まず既存の改良品のコレクションを要約し,これらのモデル設計とラベル使用に関する新しい手法を提案する。
アブレーション研究を通じて,最終モデル精度への影響を実証的に評価し,モデルアーキテクチャの改善による利益を上回る程度まで,様々なgnnモデルを大幅に改善できることを示した。
特に、Open Graph Benchmarkの上位モデルの多くは、私たちの技術から恩恵を受けています。
関連論文リスト
- Towards Graph Foundation Models: A Survey and Beyond [66.37994863159861]
ファンデーションモデルは、さまざまな人工知能アプリケーションにおいて重要なコンポーネントとして現れてきた。
基礎モデルがグラフ機械学習研究者を一般化し、適応させる能力は、新しいグラフ学習パラダイムを開発する可能性について議論する。
本稿では,グラフ基礎モデル(GFM)の概念を紹介し,その重要な特徴と基礎技術について概説する。
論文 参考訳(メタデータ) (2023-10-18T09:31:21Z) - Self-supervision meets kernel graph neural models: From architecture to
augmentations [36.388069423383286]
カーネルグラフニューラルネットワーク(KGNN)の設計と学習の改善
我々はLGA(Latent graph augmentation)と呼ばれる新しい構造保存グラフデータ拡張法を開発した。
提案モデルは,最先端のグラフ表現学習フレームワークに匹敵する,あるいは時として優れる性能を実現する。
論文 参考訳(メタデータ) (2023-10-17T14:04:22Z) - Challenging the Myth of Graph Collaborative Filtering: a Reasoned and Reproducibility-driven Analysis [50.972595036856035]
本稿では,6つの人気グラフと最近のグラフ推薦モデルの結果を再現するコードを提案する。
これらのグラフモデルと従来の協調フィルタリングモデルを比較する。
ユーザの近所からの情報フローを調べることにより,データセット構造における内在的特徴にどのようなモデルが影響するかを同定することを目的とする。
論文 参考訳(メタデータ) (2023-08-01T09:31:44Z) - Application of Graph Neural Networks and graph descriptors for graph
classification [0.0]
グラフ表現学習のデファクト標準ディープラーニング技術として登場したグラフニューラルネットワーク(GNN)に注目した。
我々は、公正な評価実験プロトコルを設計し、適切なデータセットの収集を選択する。
我々は多くの結論に達し、新しいアルゴリズムの性能と品質に新たな光を当てた。
論文 参考訳(メタデータ) (2022-11-07T16:25:22Z) - An Empirical Study of Retrieval-enhanced Graph Neural Networks [48.99347386689936]
グラフニューラルネットワーク(GNN)は、グラフ表現学習に有効なツールである。
本稿では,グラフニューラルネットワークモデルの選択に非依存な GraphRETRIEVAL という検索強化方式を提案する。
我々は13のデータセットに対して包括的な実験を行い、GRAPHRETRIEVALが既存のGNNよりも大幅に改善されていることを観察した。
論文 参考訳(メタデータ) (2022-06-01T09:59:09Z) - Improving Subgraph Representation Learning via Multi-View Augmentation [6.907772294522709]
グラフニューラルネットワーク(GNN)に基づくグラフ表現学習は、化学や生物学に広く応用されている。
サブグラフ表現学習を改善し,下流予測タスクの精度を向上させるための,新しいマルチビュー拡張機構を開発した。
論文 参考訳(メタデータ) (2022-05-25T20:17:13Z) - A Simple Yet Effective Pretraining Strategy for Graph Few-shot Learning [38.66690010054665]
本稿では,グラフ数ショット学習のための新しいパラダイムとして,シンプルなトランスダクティブな微調整型フレームワークを提案する。
事前学習のために,数発のノード分類に特有なデータ拡張戦略を持つ教師付きコントラスト学習フレームワークを提案する。
論文 参考訳(メタデータ) (2022-03-29T22:30:00Z) - Sparsifying the Update Step in Graph Neural Networks [15.446125349239534]
更新ステップとして知られるMPNNのトレーニング可能な部分にスパシフィケーションが及ぼす影響について検討する。
具体的には、調整可能なスペーシングレートを持つExpanderGNNモデルと、更新ステップに線形変換を持たないActivation-Only GNNを提案する。
我々の新しいベンチマークモデルは、モデルパフォーマンスに対するアップデートのステップの影響をよりよく理解することを可能にする。
論文 参考訳(メタデータ) (2021-09-02T13:06:34Z) - Model-Agnostic Graph Regularization for Few-Shot Learning [60.64531995451357]
グラフ組み込み数ショット学習に関する包括的な研究を紹介します。
本稿では,ラベル間のグラフ情報の組み込みによる影響をより深く理解できるグラフ正規化手法を提案する。
提案手法は,Mini-ImageNetで最大2%,ImageNet-FSで6.7%の性能向上を実現する。
論文 参考訳(メタデータ) (2021-02-14T05:28:13Z) - Data-Driven Learning of Geometric Scattering Networks [74.3283600072357]
最近提案された幾何散乱変換の緩和に基づく新しいグラフニューラルネットワーク(GNN)モジュールを提案する。
我々の学習可能な幾何散乱(LEGS)モジュールは、ウェーブレットの適応的なチューニングを可能にし、学習された表現に帯域通過の特徴が現れるように促す。
論文 参考訳(メタデータ) (2020-10-06T01:20:27Z) - Node Masking: Making Graph Neural Networks Generalize and Scale Better [71.51292866945471]
グラフニューラルネットワーク(GNN)は近年,多くの関心を集めている。
本稿では,芸術空間のGNNの状態によって実行される操作をよりよく可視化するために,いくつかの理論ツールを利用する。
私たちはNode Maskingというシンプルなコンセプトを導入しました。
論文 参考訳(メタデータ) (2020-01-17T06:26:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。