論文の概要: Global optimization of graph acquisition functions for neural architecture search
- arxiv url: http://arxiv.org/abs/2505.23640v1
- Date: Thu, 29 May 2025 16:46:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-30 18:14:08.005209
- Title: Global optimization of graph acquisition functions for neural architecture search
- Title(参考訳): ニューラルネットワーク探索のためのグラフ取得関数のグローバル最適化
- Authors: Yilin Xie, Shiqiang Zhang, Jixiang Qing, Ruth Misener, Calvin Tsay,
- Abstract要約: グラフベイズ最適化は、ニューラルネットワーク探索(NAS)のための強力でデータ効率のよいツールとしての可能性を示している。
本稿では,到達性や最短経路などの特性を含むグラフ入力空間の明示的な最適化式を提案する。
提案した符号化がグラフ空間の等価表現であることを理論的に証明し、ノードまたはエッジラベルを持つNAS領域に制限を与える。
- 参考スコア(独自算出の注目度): 6.266977090949175
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Graph Bayesian optimization (BO) has shown potential as a powerful and data-efficient tool for neural architecture search (NAS). Most existing graph BO works focus on developing graph surrogates models, i.e., metrics of networks and/or different kernels to quantify the similarity between networks. However, the acquisition optimization, as a discrete optimization task over graph structures, is not well studied due to the complexity of formulating the graph search space and acquisition functions. This paper presents explicit optimization formulations for graph input space including properties such as reachability and shortest paths, which are used later to formulate graph kernels and the acquisition function. We theoretically prove that the proposed encoding is an equivalent representation of the graph space and provide restrictions for the NAS domain with either node or edge labels. Numerical results over several NAS benchmarks show that our method efficiently finds the optimal architecture for most cases, highlighting its efficacy.
- Abstract(参考訳): グラフベイズ最適化(BO)は、ニューラルネットワーク探索(NAS)のための強力でデータ効率のよいツールとしての可能性を示している。
既存のグラフBOのほとんどは、ネットワーク間の類似性を定量化するために、ネットワークおよび/または異なるカーネルのメトリクスであるグラフサロゲートモデルの開発に焦点を当てている。
しかし,グラフ探索空間と取得関数の定式化の複雑さから,グラフ構造に対する離散的な最適化タスクとして,取得最適化は十分に研究されていない。
本稿では,グラフカーネルと取得関数を定式化するために,到達性や最短経路などの特性を含むグラフ入力空間の明示的な最適化式を提案する。
提案した符号化がグラフ空間の等価表現であることを理論的に証明し、ノードまたはエッジラベルを持つNAS領域に制限を与える。
複数のNASベンチマークの数値計算結果から,本手法はほとんどの場合において最適アーキテクチャを効率よく発見し,その有効性を強調した。
関連論文リスト
- Revisiting Graph Neural Networks on Graph-level Tasks: Comprehensive Experiments, Analysis, and Improvements [54.006506479865344]
グラフレベルグラフニューラルネットワーク(GNN)のための統一評価フレームワークを提案する。
このフレームワークは、さまざまなデータセットにわたるGNNを評価するための標準化された設定を提供する。
また,表現性の向上と一般化機能を備えた新しいGNNモデルを提案する。
論文 参考訳(メタデータ) (2025-01-01T08:48:53Z) - Towards Lightweight Graph Neural Network Search with Curriculum Graph Sparsification [48.334100429553644]
本稿では,有意義なグラフデータを通じて重要なサブアーキテクチャを識別する結合グラフデータとアーキテクチャ機構を設計することを提案する。
最適軽量グラフニューラルネット(GNN)を探索するために,グラフスペーシングとネットワーク・プルーニング(GASSIP)法を用いた軽量グラフニューラル・アーキテクチャ・サーチを提案する。
本手法は,探索したGNNとスペーサーグラフのモデルパラメータを半分以下にすることで,オンパーあるいはそれ以上高いノード分類性能を実現する。
論文 参考訳(メタデータ) (2024-06-24T06:53:37Z) - Bayesian Optimization of Functions over Node Subsets in Graphs [14.670181702535825]
グラフ上での最適化のための新しいフレームワークを提案する。
元のグラフの各$k$-nodeを、新しいグラフのノードにマップします。
人工環境と実環境環境の両方における実験により,提案したBOフレームワークの有効性が示された。
論文 参考訳(メタデータ) (2024-05-24T00:24:55Z) - Graph Property Prediction on Open Graph Benchmark: A Winning Solution by
Graph Neural Architecture Search [37.89305885538052]
PAS(Pooling Architecture Search)を導入してグラフ分類タスクのためのグラフニューラルネットワークフレームワークを設計する。
本稿では,GNNトポロジ設計手法であるF2GNNに基づいて改良を行い,グラフ特性予測タスクにおけるモデルの性能をさらに向上させる。
NAS法は,複数のタスクに対して高い一般化能力を有し,グラフ特性予測タスクの処理における本手法の利点が証明された。
論文 参考訳(メタデータ) (2022-07-13T08:17:48Z) - NAS-Bench-Graph: Benchmarking Graph Neural Architecture Search [55.75621026447599]
NAS-Bench-Graphは、GraphNASの統一的、再現可能、効率的な評価をサポートする調整されたベンチマークである。
具体的には,26,206のユニークなグラフニューラルネットワーク(GNN)アーキテクチャを網羅した,統一的で表現力のあるコンパクトな検索空間を構築する。
提案したベンチマークに基づいて,GNNアーキテクチャの性能を検索テーブルから直接取得できるが,それ以上の計算は行わない。
論文 参考訳(メタデータ) (2022-06-18T10:17:15Z) - Optimal Propagation for Graph Neural Networks [51.08426265813481]
最適グラフ構造を学習するための二段階最適化手法を提案する。
また、時間的複雑さをさらに軽減するために、低ランク近似モデルについても検討する。
論文 参考訳(メタデータ) (2022-05-06T03:37:00Z) - Arch-Graph: Acyclic Architecture Relation Predictor for
Task-Transferable Neural Architecture Search [96.31315520244605]
Arch-Graphはタスク固有の最適アーキテクチャを予測するトランスファー可能なNASメソッドである。
Arch-Graphの転送性と,多数のタスクにわたる高いサンプル効率を示す。
わずか50モデルの予算の下で、2つの検索スペースで平均して0.16%と0.29%のアーキテクチャを見つけることができる。
論文 参考訳(メタデータ) (2022-04-12T16:46:06Z) - Training Sensitivity in Graph Isomorphism Network [2.487445341407889]
グラフニューラルネットワーク(GNN)は、グラフの低次元表現を学習するための一般的なツールである。
本稿では,多様なベンチマークデータセットを用いて,各モジュールの様々な代替機能について検討する。
論文 参考訳(メタデータ) (2020-08-19T03:50:28Z) - Graph Pooling with Node Proximity for Hierarchical Representation
Learning [80.62181998314547]
本稿では,ノード近接を利用したグラフプーリング手法を提案し,そのマルチホップトポロジを用いたグラフデータの階層的表現学習を改善する。
その結果,提案したグラフプーリング戦略は,公開グラフ分類ベンチマークデータセットの集合において,最先端のパフォーマンスを達成できることが示唆された。
論文 参考訳(メタデータ) (2020-06-19T13:09:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。