Fugu-MT 論文翻訳(概要): A Genetic Algorithm with Tree-structured Mutation for Hyperparameter Optimisation of Graph Neural Networks

論文の概要: A Genetic Algorithm with Tree-structured Mutation for Hyperparameter Optimisation of Graph Neural Networks

arxiv url: http://arxiv.org/abs/2102.11995v1
Date: Wed, 24 Feb 2021 00:31:52 GMT
ステータス: 処理完了
システム内更新日: 2021-02-26 08:40:37.631309
Title: A Genetic Algorithm with Tree-structured Mutation for Hyperparameter Optimisation of Graph Neural Networks
Title（参考訳）: グラフニューラルネットワークのハイパーパラメータ最適化のための木構造変異を用いた遺伝的アルゴリズム
Authors: Yingfang Yuan, Wenjun Wang, Wei Pang
Abstract要約: グラフニューラルネットワーク(GNN)は、グラフ関連の問題を処理する能力に優れており、注目を集めている。実際には、高パラメータ最適化(HPO)は、GNNが満足な結果を得るために重要です。本稿では,この問題を緩和するため,GAのための木構造変異戦略を提案する。
参考スコア（独自算出の注目度）: 8.02401104726362
License: http://creativecommons.org/licenses/by/4.0/
Abstract: In recent years, graph neural networks (GNNs) have gained increasing attention, as they possess excellent capability of processing graph-related problems. In practice, hyperparameter optimisation (HPO) is critical for GNNs to achieve satisfactory results, but this process is costly because the evaluations of different hyperparameter settings require excessively training many GNNs. Many approaches have been proposed for HPO which aims to identify promising hyperparameters efficiently. In particular, genetic algorithm (GA) for HPO has been explored, which treats GNNs as a black-box model, of which only the outputs can be observed given a set of hyperparameters. However, because GNN models are extremely sophisticated and the evaluations of hyperparameters on GNNs are expensive, GA requires advanced techniques to balance the exploration and exploitation of the search and make the optimisation more effective given limited computational resources. Therefore, we proposed a tree-structured mutation strategy for GA to alleviate this issue. Meanwhile, we reviewed the recent HPO works which gives the room to the idea of tree-structure to develop, and we hope our approach can further improve these HPO methods in the future.
Abstract（参考訳）: 近年、グラファイトニューラルネットワーク(GNN)は、グラフ関連の問題を処理する優れた能力を持っているため、注目を集めています。実際には、ハイパーパラメータ最適化(HPO)は、GNNが満足な結果を得るためには重要ですが、異なるハイパーパラメータ設定の評価には多くのGNNを過剰に訓練する必要があるため、このプロセスは高価です。有望なハイパーパラメータを効率的に特定することを目的としたHPOの多くのアプローチが提案されている。特に、HPOの遺伝的アルゴリズム(GA)が研究されており、GNNをブラックボックスモデルとして扱い、ハイパーパラメータのセットで出力のみを観察することができる。しかし、GNNモデルは非常に高度であり、GNN上でのハイパーパラメータの評価は高価であるため、GAは検索の探索と利用のバランスを保ち、限られた計算資源に対して最適化をより効果的にするために高度な技術を必要とする。そこで我々は,この問題を緩和するため,GAのツリー構造変異戦略を提案した。一方,我々は,木構造という概念に余地を与えている最近のhpoの成果をレビューし,将来,これらのhpo手法をさらに改善できることを願っている。

関連論文リスト

Attentional Graph Neural Networks for Robust Massive Network Localization [20.416879207269446]
グラフニューラルネットワーク(GNN)は、機械学習における分類タスクの顕著なツールとして登場した。本稿では,GNNとアテンション機構を統合し,ネットワークローカライゼーションという難解な非線形回帰問題に対処する。我々はまず,厳密な非視線(NLOS)条件下でも例外的な精度を示すグラフ畳み込みネットワーク(GCN)に基づく新しいネットワークローカライゼーション手法を提案する。
論文参考訳（メタデータ） (2023-11-28T15:05:13Z)
EvenNet: Ignoring Odd-Hop Neighbors Improves Robustness of Graph Neural Networks [51.42338058718487]
グラフニューラルネットワーク(GNN)は、グラフ機械学習における有望なパフォーマンスについて、広範な研究の注目を集めている。 GCNやGPRGNNのような既存のアプローチは、テストグラフ上のホモフィリな変化に直面しても堅牢ではない。偶数多項式グラフフィルタに対応するスペクトルGNNであるEvenNetを提案する。
論文参考訳（メタデータ） (2022-05-27T10:48:14Z)
Which Hyperparameters to Optimise? An Investigation of Evolutionary Hyperparameter Optimisation in Graph Neural Network For Molecular Property Prediction [8.02401104726362]
グラフニューラルネットワーク(GNN)の研究は注目され、分子特性予測において有望な性能を達成した。グラフ関連層に属するGNNハイパーパラメータとタスク固有層に属するGNNハイパーパラメータの2種類の選択が,分子特性予測におけるGNNの性能に及ぼす影響に着目した。
論文参考訳（メタデータ） (2021-04-13T09:21:27Z)
Interpreting and Unifying Graph Neural Networks with An Optimization Framework [47.44773358082203]
グラフニューラルネットワーク(GNN)は、グラフ構造化データ学習に大きな注目を集めている。本稿では,異なる伝搬機構と統一最適化問題との驚くほどの関連性を確立する。提案する統一最適化フレームワークは,いくつかの代表的GNN間の共通性を要約し,柔軟に新しいGNNを設計する新たな機会を開く。
論文参考訳（メタデータ） (2021-01-28T08:06:02Z)
A Novel Genetic Algorithm with Hierarchical Evaluation Strategy for Hyperparameter Optimisation of Graph Neural Networks [7.139436410105177]
本研究は階層的評価戦略(HESGA)を用いた新しい遺伝的アルゴリズムを提案する。提案された階層的戦略は、候補者をより高いレベルに推薦するために低いレベルでの迅速な評価を用いており、完全評価はエリート個人のグループを維持するための最終評価者として振る舞う。
論文参考訳（メタデータ） (2021-01-22T19:19:59Z)
Genetic-algorithm-optimized neural networks for gravitational wave classification [0.0]
遺伝的アルゴリズム(GA)に基づくハイパーパラメータ最適化の新しい手法を提案する。我々は,初期パラメータのシード値が良い解には程遠い場合に,GAが高品質なアーキテクチャを発見できることを示す。遺伝的アルゴリズムの最適化を用いて既存のネットワークを洗練することは、問題コンテキストが変化した場合に特に有用である。
論文参考訳（メタデータ） (2020-10-09T03:14:20Z)
A Study of Genetic Algorithms for Hyperparameter Optimization of Neural Networks in Machine Translation [0.0]
遺伝的アルゴリズムを用いて,ダーウィンのファイトテスト理論の生存をモデルとした自動チューニング手法を提案する。研究結果は,提案手法であるGAがハイパーパラメータのランダムな選択よりも優れていることを示す。
論文参考訳（メタデータ） (2020-09-15T02:24:16Z)
Permutation-equivariant and Proximity-aware Graph Neural Networks with Stochastic Message Passing [88.30867628592112]
グラフニューラルネットワーク(GNN)は、グラフ上の新たな機械学習モデルである。置換等価性と近接認識性は、GNNにとって非常に望ましい2つの重要な特性である。既存のGNNは、主にメッセージパッシング機構に基づいており、同時に2つの特性を保存できないことを示す。ノードの近さを保つため,既存のGNNをノード表現で拡張する。
論文参考訳（メタデータ） (2020-09-05T16:46:56Z)
An Asymptotically Optimal Multi-Armed Bandit Algorithm and Hyperparameter Optimization [48.5614138038673]
本稿では,高パラメータ探索評価のシナリオにおいて,SS (Sub-Sampling) と呼ばれる効率的で堅牢な帯域幅に基づくアルゴリズムを提案する。また,BOSSと呼ばれる新しいパラメータ最適化アルゴリズムを開発した。実験的な研究は、SSの理論的議論を検証し、多くのアプリケーションにおけるBOSSの優れた性能を実証する。
論文参考訳（メタデータ） (2020-07-11T03:15:21Z)
Graph Neural Networks for Motion Planning [108.51253840181677]
低次元問題に対する高密度固定グラフ上のGNNと高次元問題に対するサンプリングベースGNNの2つの手法を提案する。 RRT(Rapidly-Exploring Random Trees)におけるクリティカルノードの特定やサンプリング分布の学習といった計画上の問題にGNNが取り組む能力について検討する。臨界サンプリング、振り子、6つのDoFロボットアームによる実験では、GNNは従来の分析手法の改善だけでなく、完全に接続されたニューラルネットワークや畳み込みニューラルネットワークを用いた学習アプローチも示している。
論文参考訳（メタデータ） (2020-06-11T08:19:06Z)
Binarized Graph Neural Network [65.20589262811677]
我々は二項化グラフニューラルネットワークを開発し、二項化ネットワークパラメータを用いてノードのバイナリ表現を学習する。提案手法は既存のGNNベースの埋め込み手法にシームレスに統合できる。実験により、提案された二項化グラフニューラルネットワーク、すなわちBGNは、時間と空間の両方の観点から、桁違いに効率的であることが示されている。
論文参考訳（メタデータ） (2020-04-19T09:43:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。