Fugu-MT 論文翻訳(概要): Boost then Convolve: Gradient Boosting Meets Graph Neural Networks

論文の概要: Boost then Convolve: Gradient Boosting Meets Graph Neural Networks

arxiv url: http://arxiv.org/abs/2101.08543v1
Date: Thu, 21 Jan 2021 10:46:41 GMT
ステータス: 処理完了
システム内更新日: 2021-03-21 08:00:58.793457
Title: Boost then Convolve: Gradient Boosting Meets Graph Neural Networks
Title（参考訳）: boost then convolve:gradient boostingがグラフニューラルネットワークと出会う
Authors: Sergei Ivanov, Liudmila Prokhorenkova
Abstract要約: グラデーションブースト決定木(gbdt)は,異種データに対して他の機械学習手法よりも優れていることが示されている。我々は,gbdt と gnn を共同で訓練し,両世界のベストを勝ち取る新しいアーキテクチャを提案する。我々のモデルは、GNNの勾配更新に新しい木を適合させることにより、エンドツーエンドの最適化の恩恵を受ける。
参考スコア（独自算出の注目度）: 6.888700669980625
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Graph neural networks (GNNs) are powerful models that have been successful in various graph representation learning tasks. Whereas gradient boosted decision trees (GBDT) often outperform other machine learning methods when faced with heterogeneous tabular data. But what approach should be used for graphs with tabular node features? Previous GNN models have mostly focused on networks with homogeneous sparse features and, as we show, are suboptimal in the heterogeneous setting. In this work, we propose a novel architecture that trains GBDT and GNN jointly to get the best of both worlds: the GBDT model deals with heterogeneous features, while GNN accounts for the graph structure. Our model benefits from end-to-end optimization by allowing new trees to fit the gradient updates of GNN. With an extensive experimental comparison to the leading GBDT and GNN models, we demonstrate a significant increase in performance on a variety of graphs with tabular features. The code is available: https://github.com/nd7141/bgnn .
Abstract（参考訳）: グラフニューラルネットワーク(GNN)は、様々なグラフ表現学習タスクで成功した強力なモデルである。一方、GBDTは不均一な表データに直面する場合、他の機械学習手法よりも優れていることが多い。しかし、グラフノード機能を持つグラフには、どのようなアプローチを使うべきか? 従来のGNNモデルは、均質なスパース特徴を持つネットワークに主に焦点を合わせており、示すように、不均一な設定では準最適である。本稿では,GBDTモデルが不均一な特徴を扱うのに対して,GNNはグラフ構造を考慮し,GBDTとGNNを併用して両世界を最大限に活用する新しいアーキテクチャを提案する。我々のモデルは、GNNの勾配更新に新しい木を適合させることにより、エンドツーエンドの最適化の恩恵を受ける。主要なGBDTモデルとGNNモデルとの比較により,グラフ特徴を持つ多種多様グラフの性能が顕著に向上したことを示す。コードはhttps://github.com/nd7141/bgnn .com/。