論文の概要: Which Hyperparameters to Optimise? An Investigation of Evoluationary
Hyperaprameter Optimisation in Graph Neural Network For Molecular Property
Prediction
- arxiv url: http://arxiv.org/abs/2104.06046v1
- Date: Tue, 13 Apr 2021 09:21:27 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-14 21:41:01.985005
- Title: Which Hyperparameters to Optimise? An Investigation of Evoluationary
Hyperaprameter Optimisation in Graph Neural Network For Molecular Property
Prediction
- Title(参考訳): 最適化するハイパーパラメータは?
分子特性予測のためのグラフニューラルネットワークの高アプラメータ最適化に関する研究
- Authors: Yingfang Yuan, Wenjun Wang, Wei Pang
- Abstract要約: グラフニューラルネットワーク(GNN)の研究は注目され、分子特性予測において有望な性能を達成した。
グラフ関連層に属するGNNハイパーパラメータとタスク固有層に属するGNNハイパーパラメータの2種類の選択が,分子特性予測におけるGNNの性能に及ぼす影響に着目した。
- 参考スコア(独自算出の注目度): 8.02401104726362
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recently, the study of graph neural network (GNN) has attracted much
attention and achieved promising performance in molecular property prediction.
Most GNNs for molecular property prediction are proposed based on the idea of
learning the representations for the nodes by aggregating the information of
their neighbor nodes (e.g. atoms). Then, the representations can be passed to
subsequent layers to deal with individual downstream tasks. Therefore, the
architectures of GNNs can be considered as being composed of two core parts:
graph-related layers and task-specific layers. Facing real-world molecular
problems, the hyperparameter optimization for those layers are vital.
Hyperparameter optimization (HPO) becomes expensive in this situation because
evaluating candidate solutions requires massive computational resources to
train and validate models. Furthermore, a larger search space often makes the
HPO problems more challenging. In this research, we focus on the impact of
selecting two types of GNN hyperparameters, those belonging to graph-related
layers and those of task-specific layers, on the performance of GNN for
molecular property prediction. In our experiments. we employed a
state-of-the-art evolutionary algorithm (i.e., CMA-ES) for HPO. The results
reveal that optimizing the two types of hyperparameters separately can gain the
improvements on GNNs' performance, but optimising both types of hyperparameters
simultaneously will lead to predominant improvements. Meanwhile, our study also
further confirms the importance of HPO for GNNs in molecular property
prediction problems.
- Abstract(参考訳): 近年,グラフニューラルネットワーク(GNN)の研究が注目され,分子特性予測において有望な性能を達成した。
分子特性予測のためのほとんどのGNNは、隣のノードの情報(例えば)を集約することでノードの表現を学ぶというアイデアに基づいて提案されている。
原子)。
次に、表現を後続のレイヤに渡すことで、個々の下流タスクを処理できる。
したがって、GNNのアーキテクチャはグラフ関連レイヤとタスク特化レイヤの2つのコア部分で構成されていると考えることができる。
現実世界の分子問題に直面し、それらの層に対するハイパーパラメータ最適化は不可欠である。
この状況ではハイパーパラメータ最適化 (hpo) が高価になるのは、候補の解を評価するのに大量の計算リソースを必要とするためである。
さらに、検索空間が大きくなると、hpoの問題はより難しくなる。
本研究では,グラフ関連層とタスク固有の層に属する2種類のGNNハイパーパラメータが,分子特性予測におけるGNNの性能に与える影響に着目した。
私たちの実験で。
我々はHPOに最先端の進化アルゴリズム(CMA-ES)を用いた。
その結果,2種類のハイパーパラメータを個別に最適化することは,GNNの性能向上につながるが,両タイプのハイパーパラメータを同時に最適化することで,大幅な改善が期待できることがわかった。
また,分子特性予測問題におけるGNNに対するHPOの重要性も確認した。
関連論文リスト
- Spiking Graph Neural Network on Riemannian Manifolds [51.15400848660023]
グラフニューラルネットワーク(GNN)は、グラフの学習において支配的なソリューションとなっている。
既存のスパイク GNN はユークリッド空間のグラフを考慮し、構造幾何学を無視している。
マニフォールド値スパイキングGNN(MSG)を提案する。
MSGは従来のGNNよりも優れた性能とエネルギー効率を実現している。
論文 参考訳(メタデータ) (2024-10-23T15:09:02Z) - Diffusing to the Top: Boost Graph Neural Networks with Minimal Hyperparameter Tuning [33.948899558876604]
グラフ条件付き潜在拡散フレームワーク(GNN-Diff)を導入し,高性能なGNNを生成する。
提案手法は,小,大,長距離グラフ上のノード分類とリンク予測という4つのグラフタスクを対象とした166の実験を通じて検証する。
論文 参考訳(メタデータ) (2024-10-08T05:27:34Z) - Molecular Hypergraph Neural Networks [1.4559839293730863]
グラフニューラルネットワーク(GNN)は、様々な化学関連タスクで有望なパフォーマンスを示している。
分子ハイパーグラフを導入し、有機半導体の光電子特性を予測する分子ハイパーグラフニューラルネットワーク(MHNN)を提案する。
MHNNは、OPV、OCELOTv1、PCQM4Mv2データセットのほとんどのタスクにおけるベースラインモデルよりも優れている。
論文 参考訳(メタデータ) (2023-12-20T15:56:40Z) - HiGNN: Hierarchical Informative Graph Neural Networks for Molecular
Property Prediction Equipped with Feature-Wise Attention [5.735627221409312]
分子特性を予測するための階層型情報グラフニューラルネットワークフレームワーク(HiGNN)を提案する。
実験により、HiGNNは、多くの挑戦的な薬物発見関連ベンチマークデータセットに対して最先端の予測性能を達成することが示された。
論文 参考訳(メタデータ) (2022-08-30T05:16:15Z) - MentorGNN: Deriving Curriculum for Pre-Training GNNs [61.97574489259085]
本稿では,グラフ間のGNNの事前学習プロセスの監視を目的とした,MentorGNNというエンドツーエンドモデルを提案する。
我々は、事前学習したGNNの一般化誤差に自然かつ解釈可能な上限を導出することにより、関係データ(グラフ)に対するドメイン適応の問題に新たな光を当てた。
論文 参考訳(メタデータ) (2022-08-21T15:12:08Z) - Graph neural networks for the prediction of molecular structure-property
relationships [59.11160990637615]
グラフニューラルネットワーク(GNN)は、分子グラフ上で直接動作する新しい機械学習手法である。
GNNは、エンドツーエンドでプロパティを学習できるため、情報記述子の必要性を回避することができる。
本稿では、分子特性予測のための2つの例を通して、GNNの基礎を説明し、GNNの応用を実証する。
論文 参考訳(メタデータ) (2022-07-25T11:30:44Z) - EvenNet: Ignoring Odd-Hop Neighbors Improves Robustness of Graph Neural
Networks [51.42338058718487]
グラフニューラルネットワーク(GNN)は、グラフ機械学習における有望なパフォーマンスについて、広範な研究の注目を集めている。
GCNやGPRGNNのような既存のアプローチは、テストグラフ上のホモフィリな変化に直面しても堅牢ではない。
偶数多項式グラフフィルタに対応するスペクトルGNNであるEvenNetを提案する。
論文 参考訳(メタデータ) (2022-05-27T10:48:14Z) - A Genetic Algorithm with Tree-structured Mutation for Hyperparameter
Optimisation of Graph Neural Networks [8.02401104726362]
グラフニューラルネットワーク(GNN)は、グラフ関連の問題を処理する能力に優れており、注目を集めている。
実際には、高パラメータ最適化(HPO)は、GNNが満足な結果を得るために重要です。
本稿では,この問題を緩和するため,GAのための木構造変異戦略を提案する。
論文 参考訳(メタデータ) (2021-02-24T00:31:52Z) - A Systematic Comparison Study on Hyperparameter Optimisation of Graph
Neural Networks for Molecular Property Prediction [8.02401104726362]
グラフニューラルネットワーク(GNN)は、幅広いグラフ関連学習タスクに対して提案されている。
近年,分子特性の予測に応用されたGNNシステムが増えてきている。
論文 参考訳(メタデータ) (2021-02-08T15:40:50Z) - Permutation-equivariant and Proximity-aware Graph Neural Networks with
Stochastic Message Passing [88.30867628592112]
グラフニューラルネットワーク(GNN)は、グラフ上の新たな機械学習モデルである。
置換等価性と近接認識性は、GNNにとって非常に望ましい2つの重要な特性である。
既存のGNNは、主にメッセージパッシング機構に基づいており、同時に2つの特性を保存できないことを示す。
ノードの近さを保つため,既存のGNNをノード表現で拡張する。
論文 参考訳(メタデータ) (2020-09-05T16:46:56Z) - Binarized Graph Neural Network [65.20589262811677]
我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。
提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。
実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
論文 参考訳(メタデータ) (2020-04-19T09:43:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。