論文の概要: Bridging the Gap of AutoGraph between Academia and Industry: Analysing
AutoGraph Challenge at KDD Cup 2020
- arxiv url: http://arxiv.org/abs/2204.02625v1
- Date: Wed, 6 Apr 2022 07:06:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-07 13:04:39.488664
- Title: Bridging the Gap of AutoGraph between Academia and Industry: Analysing
AutoGraph Challenge at KDD Cup 2020
- Title(参考訳): 学術と産業のオートグラフのギャップを埋める - KDDカップ2020におけるオートグラフチャレンジの分析
- Authors: Zhen Xu, Lanning Wei, Huan Zhao, Rex Ying, Quanming Yao, Wei-Wei Tu,
Isabelle Guyon
- Abstract要約: グラフニューラルネットワーク(GNN)はグラフ構造化データのモデリングに有効であることが証明されており、GNNアーキテクチャの多くのバリエーションが提案されている。
研究者は自然にグラフ学習に機械学習を導入し、人間の労力を減らし、一般的に最高のパフォーマンスのGNNを実現することを目指している。
GNN実践者の自動化ソリューションを理解するため、我々はKDD Cup 2020でAutoGraph Challengeを組織し、ノード分類のためのグラフ自動ニューラルネットワークを強調した。
- 参考スコア(独自算出の注目度): 61.31176652211479
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph structured data is ubiquitous in daily life and scientific areas and
has attracted increasing attention. Graph Neural Networks (GNNs) have been
proved to be effective in modeling graph structured data and many variants of
GNN architectures have been proposed. However, much human effort is often
needed to tune the architecture depending on different datasets. Researchers
naturally adopt Automated Machine Learning on Graph Learning, aiming to reduce
the human effort and achieve generally top-performing GNNs, but their methods
focus more on the architecture search. To understand GNN practitioners'
automated solutions, we organized AutoGraph Challenge at KDD Cup 2020,
emphasizing on automated graph neural networks for node classification. We
received top solutions especially from industrial tech companies like Meituan,
Alibaba and Twitter, which are already open sourced on Github. After detailed
comparisons with solutions from academia, we quantify the gaps between academia
and industry on modeling scope, effectiveness and efficiency, and show that (1)
academia AutoML for Graph solutions focus on GNN architecture search while
industrial solutions, especially the winning ones in the KDD Cup, tend to
obtain an overall solution (2) by neural architecture search only, academia
solutions achieve on average 97.3% accuracy of industrial solutions (3)
academia solutions are cheap to obtain with several GPU hours while industrial
solutions take a few months' labors. Academic solutions also contain much fewer
parameters.
- Abstract(参考訳): グラフ構造化データは日常生活や科学の分野で広く利用されており、注目を集めている。
グラフニューラルネットワーク(GNN)はグラフ構造化データのモデリングに有効であることが証明されており、GNNアーキテクチャの多くのバリエーションが提案されている。
しかし、異なるデータセットに依存するアーキテクチャを調整するには、多くの人的努力が必要となる。
研究者は自然にグラフ学習に機械学習を導入し、人間の労力を削減し、一般的に最高のパフォーマンスのGNNを実現することを目的としている。
GNN実践者の自動化ソリューションを理解するため、我々はKDD Cup 2020でAutoGraph Challengeを組織し、ノード分類のためのグラフ自動ニューラルネットワークを強調した。
特に、すでにgithubでオープンソース化されているmeituan、alibaba、twitterといった産業技術企業から、トップソリューションを受け取りました。
After detailed comparisons with solutions from academia, we quantify the gaps between academia and industry on modeling scope, effectiveness and efficiency, and show that (1) academia AutoML for Graph solutions focus on GNN architecture search while industrial solutions, especially the winning ones in the KDD Cup, tend to obtain an overall solution (2) by neural architecture search only, academia solutions achieve on average 97.3% accuracy of industrial solutions (3) academia solutions are cheap to obtain with several GPU hours while industrial solutions take a few months' labors.
アカデミック・ソリューションはパラメータもはるかに少ない。
関連論文リスト
- Combinatorial Optimization with Automated Graph Neural Networks [28.19349828026972]
NP-hard CO 問題,すなわち textbfAutoGNP を解決するために,textbfAUTOmated textbfGNN のクラスを新たに提案する。
AutoGNPの考え方は、グラフニューラルアーキテクチャ検索アルゴリズムを使用して、与えられたNPハード最適化問題に対して最適なGNNを自動的に見つけることである。
論文 参考訳(メタデータ) (2024-06-05T02:43:41Z) - The Evolution of Distributed Systems for Graph Neural Networks and their
Origin in Graph Processing and Deep Learning: A Survey [17.746899445454048]
グラフニューラルネットワーク(GNN)は、新たな研究分野である。
GNNはレコメンデーションシステム、コンピュータビジョン、自然言語処理、生物学、化学など様々な分野に適用できる。
我々は,大規模GNNソリューションの重要な手法と手法を要約し,分類することで,このギャップを埋めることを目指している。
論文 参考訳(メタデータ) (2023-05-23T09:22:33Z) - Distributed Graph Neural Network Training: A Survey [51.77035975191926]
グラフニューラルネットワーク(GNN)は、グラフに基づいてトレーニングされたディープラーニングモデルの一種で、さまざまな領域にうまく適用されている。
GNNの有効性にもかかわらず、GNNが大規模グラフに効率的にスケールすることは依然として困難である。
治療法として、分散コンピューティングは大規模GNNをトレーニングするための有望なソリューションとなる。
論文 参考訳(メタデータ) (2022-11-01T01:57:00Z) - A Comprehensive Study on Large-Scale Graph Training: Benchmarking and
Rethinking [124.21408098724551]
グラフニューラルネットワーク(GNN)の大規模グラフトレーニングは、非常に難しい問題である
本稿では,既存の問題に対処するため,EnGCNという新たなアンサンブルトレーニング手法を提案する。
提案手法は,大規模データセット上でのSOTA(State-of-the-art)の性能向上を実現している。
論文 参考訳(メタデータ) (2022-10-14T03:43:05Z) - Automatic Relation-aware Graph Network Proliferation [182.30735195376792]
GNNを効率的に検索するためのARGNP(Automatic Relation-Aware Graph Network Proliferation)を提案する。
これらの操作は階層的なノード/リレーショナル情報を抽出し、グラフ上のメッセージパッシングのための異方的ガイダンスを提供する。
4つのグラフ学習タスクのための6つのデータセットの実験により、我々の手法によって生成されたGNNは、現在最先端の手作りおよび検索に基づくGNNよりも優れていることが示された。
論文 参考訳(メタデータ) (2022-05-31T10:38:04Z) - Robust Reinforcement Learning on Graphs for Logistics optimization [0.0]
我々は、グラフニューラルネットワークと強化学習から、フィールドと選択したSOTAアルゴリズムの両方の最新の結果を分析した。
我々のチームは、GAT、Pro-CNN、PTDNetの3つのアルゴリズムを比較した。
PTDNetとGNNを併用したAMODシステム最適化問題において,SOTAの結果を得た。
論文 参考訳(メタデータ) (2022-05-25T16:16:28Z) - PaSca: a Graph Neural Architecture Search System under the Scalable
Paradigm [24.294196319217907]
グラフニューラルネットワーク(GNN)は、さまざまなグラフベースのタスクで最先端のパフォーマンスを実現している。
しかし、GNNはデータサイズやメッセージパッシングステップに適していない。
本稿では,スケーラブルなGNNの設計空間を体系的に構築し,探索するための原則的アプローチを提供するPasCaを提案する。
論文 参考訳(メタデータ) (2022-03-01T17:26:50Z) - AutoHEnsGNN: Winning Solution to AutoGraph Challenge for KDD Cup 2020 [29.511523832243046]
人間の介入なしにグラフタスクの効率的で堅牢なモデルを構築するためのフレームワークであるAutoHEnsGNNを提案する。
AutoHEnsGNNはKDDカップ2020のAutoGraph Challengeで優勝した。
論文 参考訳(メタデータ) (2021-11-25T07:23:44Z) - Edge-featured Graph Neural Architecture Search [131.4361207769865]
最適GNNアーキテクチャを見つけるために,エッジ機能付きグラフニューラルアーキテクチャ探索を提案する。
具体的には、高次表現を学習するためにリッチなエンティティとエッジの更新操作を設計する。
EGNASは、現在最先端の人間設計および検索されたGNNよりも高い性能で、より優れたGNNを検索できることを示す。
論文 参考訳(メタデータ) (2021-09-03T07:53:18Z) - Scaling Graph Neural Networks with Approximate PageRank [64.92311737049054]
GNNにおける情報拡散の効率的な近似を利用したPPRGoモデルを提案する。
高速であることに加えて、PPRGoは本質的にスケーラブルであり、業界設定で見られるような大規模なデータセットに対して、自明に並列化することができる。
このグラフのすべてのノードに対するPPRGoのトレーニングとラベルの予測には1台のマシンで2分未満で、同じグラフ上の他のベースラインをはるかに上回ります。
論文 参考訳(メタデータ) (2020-07-03T09:30:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。