論文の概要: Heterogeneous Graph Neural Architecture Search with GPT-4

• arxiv url: http://arxiv.org/abs/2312.08680v1
• Date: Thu, 14 Dec 2023 06:31:52 GMT
• ステータス: 処理完了
• システム内更新日: 2023-12-15 23:44:47.530961
• Title: Heterogeneous Graph Neural Architecture Search with GPT-4
• Title（参考訳）: GPT-4による不均一グラフニューラルアーキテクチャ探索
• Authors: Haoyuan Dong, Yang Gao, Haishuai Wang, Hong Yang, Peng Zhang
• Abstract要約: 不均一グラフニューラルネットワーク(HGNAS)は、有効な異種グラフニューラルネットワークを自動設計するための強力なツールである。 既存のHGNASアルゴリズムは、非効率な探索と不安定な結果に悩まされている。 我々は,HGNASの探索効率と探索精度を向上させるため,新しいGPT-4ベースのHGNASモデルを提案する。
• 参考スコア（独自算出の注目度）: 24.753296919178407
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Heterogeneous graph neural architecture search (HGNAS) represents a powerful tool for automatically designing effective heterogeneous graph neural networks. However, existing HGNAS algorithms suffer from inefficient searches and unstable results. In this paper, we present a new GPT-4 based HGNAS model to improve the search efficiency and search accuracy of HGNAS. Specifically, we present a new GPT-4 enhanced Heterogeneous Graph Neural Architecture Search (GHGNAS for short). The basic idea of GHGNAS is to design a set of prompts that can guide GPT-4 toward the task of generating new heterogeneous graph neural architectures. By iteratively asking GPT-4 with the prompts, GHGNAS continually validates the accuracy of the generated HGNNs and uses the feedback to further optimize the prompts. Experimental results show that GHGNAS can design new HGNNs by leveraging the powerful generalization capability of GPT-4. Moreover, GHGNAS runs more effectively and stably than previous HGNAS models based on reinforcement learning and differentiable search algorithms.
• Abstract（参考訳）: 不均一グラフニューラルネットワーク(HGNAS)は、有効な異種グラフニューラルネットワークを自動設計するための強力なツールである。 しかし、既存のHGNASアルゴリズムは非効率な探索と不安定な結果に悩まされている。 本稿では,HGNASの探索効率と探索精度を向上させるため,新しいGPT-4ベースのHGNASモデルを提案する。 具体的には、新しいGPT-4拡張ヘテロジニアスグラフニューラルネットワーク探索(GHGNAS、略してGHGNAS)を提案する。 GHGNASの基本的な考え方は、GPT-4を新しい異種グラフニューラルアーキテクチャを生成するタスクへと導く一連のプロンプトを設計することである。 繰り返しGPT-4にプロンプトを尋ねることで、GHGNASは生成したHGNNの精度を継続的に検証し、フィードバックを使ってプロンプトをさらに最適化する。 GHGNASはGPT-4の強力な一般化能力を活用して,新たなHGNNを設計できることを示す。 さらに、GHGNASは強化学習と微分検索アルゴリズムに基づく従来のHGNASモデルよりも効率的かつ安定に動作する。

関連論文リスト

• Towards Lightweight Graph Neural Network Search with Curriculum Graph Sparsification [48.334100429553644]
  本稿では,有意義なグラフデータを通じて重要なサブアーキテクチャを識別する結合グラフデータとアーキテクチャ機構を設計することを提案する。 最適軽量グラフニューラルネット(GNN)を探索するために,グラフスペーシングとネットワーク・プルーニング(GASSIP)法を用いた軽量グラフニューラル・アーキテクチャ・サーチを提案する。 本手法は,探索したGNNとスペーサーグラフのモデルパラメータを半分以下にすることで,オンパーあるいはそれ以上高いノード分類性能を実現する。
  論文  参考訳（メタデータ） (2024-06-24T06:53:37Z)
• Graph Neural Architecture Search with GPT-4 [55.965641763959546]
  GPT-4に基づくグラフニューラルアーキテクチャ探索法(略してGPT4GNAS)を提案する。 本手法の基本的な考え方は,GPT-4をグラフニューラルアーキテクチャの生成タスクへと導くための新しいプロンプトを設計することである。 プロンプトでGPT-4を反復実行することにより、GPT4GNASは高速収束でより正確なグラフニューラルネットワークを生成する。
  論文  参考訳（メタデータ） (2023-09-30T08:05:59Z)
• Efficient and Explainable Graph Neural Architecture Search via Monte-Carlo Tree Search [5.076419064097733]
  グラフニューラルネットワーク(GNN)は、さまざまな領域でデータサイエンスタスクを実行する強力なツールである。 人的労力と計算コストを削減するため、グラフニューラルアーキテクチャ探索(Graph NAS)が準最適GNNアーキテクチャの探索に使用されている。 本稿では, (i) 様々なグラフに適応可能な単純な探索空間と, (ii) 決定プロセスを説明可能な検索アルゴリズムからなるExGNASを提案する。
  論文  参考訳（メタデータ） (2023-08-30T03:21:45Z)
• GPT-NAS: Evolutionary Neural Architecture Search with the Generative Pre-Trained Model [25.187467297581073]
  この研究は、GPT(Generative Pre-Trained)モデルによってニューラルネットワークを最適化する、GPT-NASと呼ばれる新しいアーキテクチャ探索アルゴリズムを提案する。 GPT-NASでは、大規模コーパスで事前学習した生成モデルが、ニューラルネットワーク構築の基本法則を学習できると仮定する。 GPT-NAS法は7つの手動設計ニューラルアーキテクチャと競合NAS法によって提供される13のアーキテクチャを著しく上回っている。
  論文  参考訳（メタデータ） (2023-05-09T11:29:42Z)
• Can GPT-4 Perform Neural Architecture Search? [56.98363718371614]
  ニューラルアーキテクチャサーチ(NAS)におけるGPT-4の可能性について検討する。 提案手法である textbfGPT-4 textbfEnhanced textbfNeural archtextbfItecttextbfUre textbfSearch (GENIUS) 我々は、いくつかのベンチマークでGENIUSを評価し、既存のNAS技術と比較し、その効果を実証した。
  論文  参考訳（メタデータ） (2023-04-21T14:06:44Z)
• Auto-HeG: Automated Graph Neural Network on Heterophilic Graphs [62.665761463233736]
  異種グラフ上の自動グラフニューラルネットワークであるAuto-HeGを提案し、異種グラフGNNモデルを自動的に構築する。 特にAuto-HeGは、検索空間設計、スーパーネットトレーニング、アーキテクチャ選択など、自動異種グラフ学習のあらゆる段階にヘテロフィリーを組み込んでいる。
  論文  参考訳（メタデータ） (2023-02-23T22:49:56Z)
• DFG-NAS: Deep and Flexible Graph Neural Architecture Search [27.337894841649494]
  本稿では,非常に深く柔軟なGNNアーキテクチャの自動探索を可能にする新しいニューラルアーキテクチャ探索(NAS)手法であるDFG-NASを提案する。 DFG-NASは、原子伝播(textbftexttP)と変換(textbftexttT)の操作がどのように統合され、GNNに組織化されるかに関するマクロ構造を探索する。 4つのノード分類タスクに関する実証的研究は、DFG-NASがGNNの最先端手動設計やNASメソッドより優れていることを示している。
  論文  参考訳（メタデータ） (2022-06-17T06:47:21Z)
• Space4HGNN: A Novel, Modularized and Reproducible Platform to Evaluate Heterogeneous Graph Neural Network [51.07168862821267]
  本稿では, ヘテロジニアス・リニア変換, ヘテロジニアス・グラフ変換, ヘテロジニアス・メッセージパッシング・レイヤの3つのコンポーネントからなる, 殆どのHGNNをカバーする統一的なフレームワークを提案する。 次に、モジュール化されたコンポーネント、再現可能な実装、およびHGNNの標準化された評価を提供する統一フレームワークに基づいて、HGNNの設計空間を定義することで、Space4HGNNを構築する。
  論文  参考訳（メタデータ） (2022-02-18T13:11:35Z)
• Are we really making much progress? Revisiting, benchmarking, and refining heterogeneous graph neural networks [38.15094159495419]
  異種グラフニューラルネットワーク(HGNN)の系統的再生について述べる。 単純な同種GNN(例えばGCNとGAT)は、不適切な設定のため、大半が過小評価されている。 頑健で再現可能なHGNN研究を容易にするため、異種グラフベンチマーク(HGB)を構築した。
  論文  参考訳（メタデータ） (2021-12-30T06:29:21Z)
• Rethinking Graph Neural Network Search from Message-passing [120.62373472087651]
  本稿では,新しい検索空間を設計したグラフニューラルアーキテクチャサーチ(GNAS)を提案する。 グラフニューラルアーキテクチャパラダイム(GAP:Graph Neural Architecture Paradigm)をツリートポロジー計算手順と2種類の微粒原子操作で設計します。 実験では、GNASは複数のメッセージ通過機構と最適なメッセージ通過深さを持つより良いGNNを探索できることを示しています。
  論文  参考訳（メタデータ） (2021-03-26T06:10:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。