論文の概要: GPS++: An Optimised Hybrid MPNN/Transformer for Molecular Property Prediction

• arxiv url: http://arxiv.org/abs/2212.02229v2
• Date: Tue, 6 Dec 2022 16:53:52 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-11 12:59:59.346034
• Title: GPS++: An Optimised Hybrid MPNN/Transformer for Molecular Property Prediction
• Title（参考訳）: gps++:分子特性予測のための最適化ハイブリッドmpnn/transformer
• Authors: Dominic Masters, Josef Dean, Kerstin Klaser, Zhiyi Li, Sam Maddrell-Mander, Adam Sanders, Hatem Helal, Deniz Beker, Ladislav Ramp\'a\v{s}ek and Dominique Beaini
• Abstract要約: GPS++は、PCQM4Mv2分子特性予測タスクのためのOpen Graph Benchmark Large-Scale Challenge (OGB-LSC 2022)の第一位ソリューションである。 提案手法は, 3次元原子位置と補助的認知タスクを組み込んだMPNN/Transformerハイブリッドモデルである。
• 参考スコア（独自算出の注目度）: 1.8111291579474593
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: This technical report presents GPS++, the first-place solution to the Open Graph Benchmark Large-Scale Challenge (OGB-LSC 2022) for the PCQM4Mv2 molecular property prediction task. Our approach implements several key principles from the prior literature. At its core our GPS++ method is a hybrid MPNN/Transformer model that incorporates 3D atom positions and an auxiliary denoising task. The effectiveness of GPS++ is demonstrated by achieving 0.0719 mean absolute error on the independent test-challenge PCQM4Mv2 split. Thanks to Graphcore IPU acceleration, GPS++ scales to deep architectures (16 layers), training at 3 minutes per epoch, and large ensemble (112 models), completing the final predictions in 1 hour 32 minutes, well under the 4 hour inference budget allocated. Our implementation is publicly available at: https://github.com/graphcore/ogb-lsc-pcqm4mv2.
• Abstract（参考訳）: この技術レポートは、PCQM4Mv2分子特性予測タスクのためのOpen Graph Benchmark Large-Scale Challenge (OGB-LSC 2022)の第一位ソリューションであるGPS++を提示する。 我々のアプローチは、以前の文献からいくつかの重要な原則を実装している。 コアとなるGPS++手法は,3次元原子位置と補助的復調タスクを組み込んだMPNN/Transformerハイブリッドモデルである。 GPS++の有効性は、独立したテストチャンジPCQM4Mv2分割に対して0.0719平均絶対誤差を達成することで実証される。 Graphcore IPUアクセラレーションのおかげで、GPS++は深層アーキテクチャ(16層)、エポック毎のトレーニング3分、大規模なアンサンブル(112モデル)までスケールし、最終的な予測は1時間32分で完了する。 実装はhttps://github.com/graphcore/ogb-lsc-pcqm4mv2で公開しています。

関連論文リスト

• Gravity-aligned Rotation Averaging with Circular Regression [53.81374943525774]
  我々は,重力方向をグローバルパイプラインの回転平均位相に統合する原理的アプローチを導入する。 4つの大規模データセットで最先端の精度を実現する。
  論文  参考訳（メタデータ） (2024-10-16T17:37:43Z)
• G-MEMP: Gaze-Enhanced Multimodal Ego-Motion Prediction in Driving [71.9040410238973]
  我々は、視線データを用いて、運転者の車両のエゴ軌道を推定することに集中する。 次に、GPSとビデオ入力と視線データを組み合わせた新しいマルチモーダルエゴ軌道予測ネットワークであるG-MEMPを開発する。 その結果,G-MEMPは両ベンチマークにおいて最先端の手法よりも優れていた。
  論文  参考訳（メタデータ） (2023-12-13T23:06:30Z)
• MLPInit: Embarrassingly Simple GNN Training Acceleration with MLP Initialization [51.76758674012744]
  大きなグラフ上でグラフニューラルネットワーク(GNN)をトレーニングするのは複雑で、非常に時間がかかる。 我々は、PeerInitと呼ばれるGNNトレーニングアクセラレーションに対して、恥ずかしく単純だが非常に効果的な方法を提案する。
  論文  参考訳（メタデータ） (2022-09-30T21:33:51Z)
• DOGE-Train: Discrete Optimization on GPU with End-to-end Training [28.795080637690095]
  0-1整数線形プログラムの緩和を解くために,高速でスケーラブルなデータ駆動型手法を提案する。 グラフニューラルネットワーク(GNN)とラグランジュ分解に基づくアルゴリズムであるFastDOGを用いる。
  論文  参考訳（メタデータ） (2022-05-23T21:09:41Z)
• OHM: GPU Based Occupancy Map Generation [1.1604218595622566]
  OGM(Occupancy Grid Map)は、自律型ロボットナビゲーションのための多くのシステムに基本である。 本稿では,オープンソースGPUベースのOGMフレームワークであるOHMについて述べる。
  論文  参考訳（メタデータ） (2022-04-26T22:44:41Z)
• Direct Molecular Conformation Generation [217.4815525740703]
  本稿では,原子の座標を直接予測する手法を提案する。 提案手法は,4つの公開ベンチマークの最先端結果を実現する。
  論文  参考訳（メタデータ） (2022-02-03T01:01:58Z)
• Accelerating Genetic Programming using GPUs [0.0]
  遺伝的プログラミング(GP)は、曲線フィッティング、データモデリング、特徴選択、分類など、機械学習に複数の応用がある。 本稿では,代用GPアルゴリズムのGPUアクセラレーションスタックに基づく変種について述べる。
  論文  参考訳（メタデータ） (2021-10-15T06:13:01Z)
• Multiscale Spatio-Temporal Graph Neural Networks for 3D Skeleton-Based Motion Prediction [92.16318571149553]
  本稿では,次世代の3次元骨格型人間のポーズを予測するため,マルチスケール・テンポラルグラフニューラルネットワーク(MST-GNN)を提案する。 MST-GNNは、短期および長期の動作予測において最先端の手法より優れている。
  論文  参考訳（メタデータ） (2021-08-25T14:05:37Z)
• Single Storage Semi-Global Matching for Real Time Depth Processing [0.7157957528875099]
  More Global Matching(MGM)のFPGA実装に基づくステレオビジョンシステムの設計と実装について述べる。 プロトタイプでは、ARMベースのZynq-SoC、ZED-stereo-camera / ELPステレオカメラ/Intel RealSense D435i、可視化用のVGAを含むZedboardを使用します。 深度マップに必要な差分マップ計算のFPGAによるカスタムアクセラレーションによる消費電力はわずか0.72ワットである。
  論文  参考訳（メタデータ） (2020-07-07T08:12:25Z)
• Hybrid Models for Learning to Branch [81.93868699246214]
  我々はCPUマシン上で効率的な分岐を行うための新しいハイブリッドアーキテクチャを提案する。 提案アーキテクチャは,GNNの表現力と分岐処理のための計算コストの低い多層パーセプトロン(MLP)を組み合わせる。
  論文  参考訳（メタデータ） (2020-06-26T21:03:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。