論文の概要: Network Graph Based Neural Architecture Search
- arxiv url: http://arxiv.org/abs/2112.07805v1
- Date: Wed, 15 Dec 2021 00:12:03 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-17 04:09:43.531044
- Title: Network Graph Based Neural Architecture Search
- Title(参考訳): ネットワークグラフに基づくニューラルアーキテクチャ探索
- Authors: Zhenhan Huang, Chunheng Jiang, Pin-Yu Chen and Jianxi Gao
- Abstract要約: 我々は、対応するグラフを書き換えてニューラルネットワークを探索し、グラフ特性によるアーキテクチャ性能の予測を行う。
グラフ空間全体にわたって機械学習を行わないため、探索プロセスは極めて効率的である。
- 参考スコア(独自算出の注目度): 57.78724765340237
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Neural architecture search enables automation of architecture design. Despite
its success, it is computationally costly and does not provide an insight on
how to design a desirable architecture. Here we propose a new way of searching
neural network where we search neural architecture by rewiring the
corresponding graph and predict the architecture performance by graph
properties. Because we do not perform machine learning over the entire graph
space and use predicted architecture performance to search architecture, the
searching process is remarkably efficient. We find graph based search can give
a reasonably good prediction of desirable architecture. In addition, we find
graph properties that are effective to predict architecture performance. Our
work proposes a new way of searching neural architecture and provides insights
on neural architecture design.
- Abstract(参考訳): ニューラルアーキテクチャサーチはアーキテクチャ設計の自動化を可能にする。
その成功にもかかわらず、計算コストが高く、望ましいアーキテクチャの設計方法に関する洞察を与えていない。
本稿では,対応するグラフを書き換えてニューラルネットワークを探索し,グラフ特性によるアーキテクチャ性能の予測を行う,新しいニューラルネットワーク探索手法を提案する。
グラフ空間全体にわたって機械学習を実行せず、予測アーキテクチャ性能を用いてアーキテクチャを探索するため、探索プロセスは極めて効率的である。
グラフベースの検索は望ましいアーキテクチャを合理的に予測できると考えている。
さらに、アーキテクチャのパフォーマンスを予測するのに効果的なグラフプロパティも見つけます。
本研究は,ニューラルアーキテクチャを探索する新しい手法を提案し,ニューラルアーキテクチャの設計に関する洞察を提供する。
関連論文リスト
- Knowledge-aware Evolutionary Graph Neural Architecture Search [49.13787973318586]
グラフニューラルネットワーク検索(GNAS)は、特定のグラフタスクやデータセットに対して、高性能なグラフニューラルネットワークアーキテクチャをカスタマイズすることができる。
既存のGNAS手法は、探索効率を向上させる可能性のある事前知識を無視して、ゼロ知識状態からアーキテクチャを探し始める。
本研究では,新しいグラフデータセット上での多目的進化探索を高速化するために,そのような先行知識を活用することを提案する。
論文 参考訳(メタデータ) (2024-11-26T11:32:45Z) - EM-DARTS: Hierarchical Differentiable Architecture Search for Eye Movement Recognition [54.99121380536659]
眼球運動バイオメトリックスは、高い安全性の識別により注目されている。
深層学習(DL)モデルは近年,眼球運動認識に成功している。
DLアーキテクチャはまだ人間の事前知識によって決定されている。
眼球運動認識のためのDLアーキテクチャを自動設計する階層的微分可能なアーキテクチャ探索アルゴリズムEM-DARTSを提案する。
論文 参考訳(メタデータ) (2024-09-22T13:11:08Z) - Unsupervised Graph Neural Architecture Search with Disentangled
Self-supervision [51.88848982611515]
教師なしグラフニューラルアーキテクチャサーチは、文献では未発見のままである。
本稿では,Distangled Self-supervised Graph Neural Architecture Searchモデルを提案する。
我々のモデルは、教師なしの方法で、いくつかのベースライン手法に対して最先端のパフォーマンスを達成することができる。
論文 参考訳(メタデータ) (2024-03-08T05:23:55Z) - Neural Architecture Retrieval [27.063268631346713]
我々は、クエリニューラルアーキテクチャに似た設計で既存のニューラルアーキテクチャの集合を検索するニューラルアーキテクチャ検索という新しい問題を定義する。
既存のグラフ事前学習戦略は、グラフのサイズとモチーフのため、ニューラルネットワークの計算グラフに対処できない。
正確なグラフ表現学習を実現するために,マルチレベルコントラスト学習を導入する。
論文 参考訳(メタデータ) (2023-07-16T01:56:41Z) - Edge-featured Graph Neural Architecture Search [131.4361207769865]
最適GNNアーキテクチャを見つけるために,エッジ機能付きグラフニューラルアーキテクチャ探索を提案する。
具体的には、高次表現を学習するためにリッチなエンティティとエッジの更新操作を設計する。
EGNASは、現在最先端の人間設計および検索されたGNNよりも高い性能で、より優れたGNNを検索できることを示す。
論文 参考訳(メタデータ) (2021-09-03T07:53:18Z) - Interpretable Neural Architecture Search via Bayesian Optimisation with
Weisfeiler-Lehman Kernels [17.945881805452288]
現在のニューラルアーキテクチャサーチ(NAS)戦略は、単一の優れたアーキテクチャを見つけることに集中している。
そこで我々は,Weisfeiler-Lehmanグラフカーネルとガウス過程サロゲートを組み合わせたNASに対するベイズ最適化手法を提案する。
提案手法は,有用なネットワーク特徴とそれに伴うネットワーク性能への影響を発見することによって,解釈可能性を実現する。
論文 参考訳(メタデータ) (2020-06-13T04:10:34Z) - Does Unsupervised Architecture Representation Learning Help Neural
Architecture Search? [22.63641173256389]
既存のニューラルアーキテクチャサーチ(NAS)手法は、スケールが良くない離散符号化を用いてニューラルアーキテクチャをエンコードするか、アーキテクチャ表現を共同で学習し、探索バイアスを引き起こすような表現上でアーキテクチャ探索を最適化するための教師付き学習ベースの手法を採用する。
アーキテクチャ表現学習と探索が組み合わさっていれば,ニューラルネットワークの構造的特性を潜時空間に保持することは困難であり,その結果,探索性能は低下する。
論文 参考訳(メタデータ) (2020-06-12T04:15:34Z) - A Semi-Supervised Assessor of Neural Architectures [157.76189339451565]
我々は、ニューラルネットワークの有意義な表現を見つけるためにオートエンコーダを用いる。
アーキテクチャの性能を予測するために、グラフ畳み込みニューラルネットワークを導入する。
論文 参考訳(メタデータ) (2020-05-14T09:02:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。