論文の概要: Neural Architecture Search based on Cartesian Genetic Programming Coding Method

• arxiv url: http://arxiv.org/abs/2103.07173v5
• Date: Tue, 28 Sep 2021 23:42:53 GMT
• ステータス: 処理完了
• システム内更新日: 2023-04-08 08:50:13.626009
• Title: Neural Architecture Search based on Cartesian Genetic Programming Coding Method
• Title（参考訳）: 直交遺伝的プログラミング符号化法に基づくニューラルアーキテクチャ探索
• Authors: Xuan Wu, Linhan Jia, Xiuyi Zhang, Liang Chen, Yanchun Liang, You Zhou and Chunguo Wu
• Abstract要約: 文分類課題を解決するために,CGPに基づくNASの進化的アプローチであるCGPNASを提案する。 実験の結果,検索されたアーキテクチャは人間設計アーキテクチャの性能に匹敵することがわかった。
• 参考スコア（独自算出の注目度）: 6.519170476143571
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Neural architecture search (NAS) is a hot topic in the field of automated machine learning and outperforms humans in designing neural architectures on quite a few machine learning tasks. Motivated by the natural representation form of neural networks by the Cartesian genetic programming (CGP), we propose an evolutionary approach of NAS based on CGP, called CGPNAS, to solve sentence classification task. To evolve the architectures under the framework of CGP, the operations such as convolution are identified as the types of function nodes of CGP, and the evolutionary operations are designed based on Evolutionary Strategy. The experimental results show that the searched architectures are comparable with the performance of human-designed architectures. We verify the ability of domain transfer of our evolved architectures. The transfer experimental results show that the accuracy deterioration is lower than 2-5%. Finally, the ablation study identifies the Attention function as the single key function node and the linear transformations along could keep the accuracy similar with the full evolved architectures, which is worthy of investigation in the future.
• Abstract（参考訳）: ニューラルネットワークサーチ(NAS)は、自動機械学習の分野でホットなトピックであり、非常に少数の機械学習タスクでニューラルネットワークを設計する際に人間より優れています。 直交遺伝的プログラミング (cgp) によるニューラルネットワークの自然表現形式に動機づけられ, 文分類課題を解くために, cgpに基づくnasの進化的アプローチを提案する。 CGPの枠組みの下でアーキテクチャを進化させるために、畳み込みのような操作はCGPの関数ノードの型として識別され、進化的操作は進化的戦略に基づいて設計される。 実験の結果,検索されたアーキテクチャは人間設計アーキテクチャの性能に匹敵することがわかった。 進化したアーキテクチャのドメイン転送の能力を検証する。 転送実験の結果, 精度劣化は2-5%以下であった。 最後に、アブレーション研究では、アテンション関数を単一のキー関数ノードとして特定し、線形変換は、将来研究に値する完全な進化したアーキテクチャと同様の精度を維持することができる。

関連論文リスト

• Cartesian Genetic Programming Approach for Designing Convolutional Neural Networks [0.0]
  人工ニューラルネットワークの設計において、革新的なアプローチの1つの重要な側面は、新しいニューラルネットワークアーキテクチャを提案することである。 本研究では,CNNを設計するために純粋遺伝的プログラミング手法を用いる。 予備実験の過程で,提案手法は有望な結果をもたらす。
  論文  参考訳（メタデータ） (2024-09-30T18:10:06Z)
• Inducing Gaussian Process Networks [80.40892394020797]
  本稿では,特徴空間と誘導点を同時に学習するシンプルなフレームワークであるGaussian Process Network (IGN)を提案する。 特に誘導点は特徴空間で直接学習され、複雑な構造化領域のシームレスな表現を可能にする。 実世界のデータセットに対する実験結果から,IGNは最先端の手法よりも大幅に進歩していることを示す。
  論文  参考訳（メタデータ） (2022-04-21T05:27:09Z)
• Neural Architecture Search for Speech Emotion Recognition [72.1966266171951]
  本稿では,SERモデルの自動構成にニューラルアーキテクチャサーチ(NAS)技術を適用することを提案する。 NASはモデルパラメータサイズを維持しながらSER性能(54.89%から56.28%)を向上させることができることを示す。
  論文  参考訳（メタデータ） (2022-03-31T10:16:10Z)
• Data-driven emergence of convolutional structure in neural networks [83.4920717252233]
  識別タスクを解くニューラルネットワークが、入力から直接畳み込み構造を学習できることを示す。 データモデルを慎重に設計することにより、このパターンの出現は、入力の非ガウス的、高次局所構造によって引き起こされることを示す。
  論文  参考訳（メタデータ） (2022-02-01T17:11:13Z)
• On the Exploitation of Neuroevolutionary Information: Analyzing the Past for a More Efficient Future [60.99717891994599]
  本稿では,神経進化過程から情報を抽出し,メタモデルを構築するアプローチを提案する。 本稿では, 異なる特徴を有する生成的対向ネットワークの神経進化的探索における最良の構造について検討する。
  論文  参考訳（メタデータ） (2021-05-26T20:55:29Z)
• Evolutionary Architecture Search for Graph Neural Networks [23.691915813153496]
  本稿では,大規模グラフニューラルネットワーク(GNN)アーキテクチャ空間における個々のモデルの進化を通じて,新しいAutoMLフレームワークを提案する。 我々の知る限りでは、GNNモデルの進化的アーキテクチャ探索を導入し、評価する最初の試みである。
  論文  参考訳（メタデータ） (2020-09-21T22:11:53Z)
• Evolutionary NAS with Gene Expression Programming of Cellular Encoding [0.0]
  線形固定長文字列の染色体に局所グラフ変換を埋め込んだ新しい生成符号化方式を提案する。 実験では、CNNアーキテクチャの性能を向上させるアーキテクチャを発見する上で、SLGEの有効性を示す。
  論文  参考訳（メタデータ） (2020-05-27T01:19:32Z)
• A Semi-Supervised Assessor of Neural Architectures [157.76189339451565]
  我々は、ニューラルネットワークの有意義な表現を見つけるためにオートエンコーダを用いる。 アーキテクチャの性能を予測するために、グラフ畳み込みニューラルネットワークを導入する。
  論文  参考訳（メタデータ） (2020-05-14T09:02:33Z)
• Binarizing MobileNet via Evolution-based Searching [66.94247681870125]
  そこで本稿では,MobileNet をバイナライズする際の構築と訓練を容易にするための進化的探索手法を提案する。 ワンショットアーキテクチャ検索フレームワークに着想を得て、グループ畳み込みのアイデアを操り、効率的な1ビット畳み込みニューラルネットワーク(CNN)を設計する。 我々の目標は、グループ畳み込みの最良の候補を探索することで、小さなが効率的なバイナリニューラルアーキテクチャを考案することである。
  論文  参考訳（メタデータ） (2020-05-13T13:25:51Z)
• A Generic Graph-based Neural Architecture Encoding Scheme for Predictor-based NAS [18.409809742204896]
  この研究は、予測子ベースのニューラルアーキテクチャ探索を改善するために、新しいグラフベースのニューラルArchiTecture Scheme(別名GATES)を提案する。 Gatesは、その操作を、ニューラルネットワークの実際のデータ処理を模倣した伝播情報の変換としてモデル化する。
  論文  参考訳（メタデータ） (2020-04-04T09:54:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。