論文の概要: Neural Architecture Search: Insights from 1000 Papers
- arxiv url: http://arxiv.org/abs/2301.08727v1
- Date: Fri, 20 Jan 2023 18:47:24 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-23 12:44:22.085455
- Title: Neural Architecture Search: Insights from 1000 Papers
- Title（参考訳）: ニューラルアーキテクチャ検索:1000の論文からの洞察
- Authors: Colin White, Mahmoud Safari, Rhea Sukthanker, Binxin Ru, Thomas
Elsken, Arber Zela, Debadeepta Dey, Frank Hutter
- Abstract要約: ニューラルアーキテクチャサーチの組織的で包括的なガイドを提供する。
検索空間、アルゴリズム、スピードアップのテクニックを分類する。
ベンチマークやベストプラクティス,その他の調査,オープンソースライブラリなどのリソースについて論じる。
- 参考スコア（独自算出の注目度）: 50.27255667347091
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the past decade, advances in deep learning have resulted in breakthroughs
in a variety of areas, including computer vision, natural language
understanding, speech recognition, and reinforcement learning. Specialized,
high-performing neural architectures are crucial to the success of deep
learning in these areas. Neural architecture search (NAS), the process of
automating the design of neural architectures for a given task, is an
inevitable next step in automating machine learning and has already outpaced
the best human-designed architectures on many tasks. In the past few years,
research in NAS has been progressing rapidly, with over 1000 papers released
since 2020. In this survey, we provide an organized and comprehensive guide to
neural architecture search. We give a taxonomy of search spaces, algorithms,
and speedup techniques, and we discuss resources such as benchmarks, best
practices, other surveys, and open-source libraries.
- Abstract（参考訳）: 過去10年間、ディープラーニングの進歩は、コンピュータビジョン、自然言語理解、音声認識、強化学習など、さまざまな分野においてブレークスルーをもたらしてきた。
専門的でハイパフォーマンスなニューラルアーキテクチャは、これらの分野でのディープラーニングの成功に不可欠である。
neural architecture search(nas)は、あるタスクのためにニューラルネットワークの設計を自動化するプロセスであり、機械学習を自動化するための必然的な次のステップであり、多くのタスクにおいて人間の設計したアーキテクチャを上回っています。
過去数年間、NASの研究は急速に進展し、2020年から1000以上の論文が出版された。
本稿では,ニューラルアーキテクチャ探索のための組織的かつ包括的なガイドを提供する。
我々は,検索空間,アルゴリズム,スピードアップ手法の分類を与え,ベンチマーク,ベストプラクティス,その他の調査,オープンソースライブラリなどのリソースについて議論する。
関連論文リスト
- An Approach for Efficient Neural Architecture Search Space Definition [0.0]
本稿では, 理解や操作が容易な新しいセルベース階層型検索空間を提案する。
提案手法の目的は,検索時間を最適化し,CNNアーキテクチャのほとんどの状態を扱うのに十分な一般性を得ることである。
論文 参考訳（メタデータ） (2023-10-25T08:07:29Z) - Automating Neural Architecture Design without Search [3.651848964235307]
アルゴリズム実行中に生成された各ニューラルネットワークを逐次評価する必要のない新しい視点から、自動アーキテクチャ設計について検討する。
リンク予測にグラフニューラルネットワークを用いて提案手法を実装し,NAS-Bench-101から知識を得た。
さらに、NAS-Bench-101から学んだ知識を利用して、DARTS検索空間におけるアーキテクチャ設計を自動化し、CIFAR10では97.82%、ImageNetでは76.51%の精度で2時間10-4ドルのGPU日しか消費しなかった。
論文 参考訳（メタデータ） (2022-04-21T14:41:05Z) - Neural Architecture Search for Speech Emotion Recognition [72.1966266171951]
本稿では,SERモデルの自動構成にニューラルアーキテクチャサーチ(NAS)技術を適用することを提案する。
NASはモデルパラメータサイズを維持しながらSER性能(54.89%から56.28%)を向上させることができることを示す。
論文 参考訳（メタデータ） (2022-03-31T10:16:10Z) - Accelerating Neural Architecture Exploration Across Modalities Using
Genetic Algorithms [5.620334754517149]
多目的アーキテクチャ探索を加速するために, 遺伝的アルゴリズムと軽量に訓練された客観予測器を反復サイクルで組み合わせる方法を示す。
NASの研究はコンピュータビジョンのタスクを中心に行われており、最近になって自然言語処理の急速な発展など他のモダリティも深く研究されている。
論文 参考訳（メタデータ） (2022-02-25T20:01:36Z) - Neural Architecture Search for Dense Prediction Tasks in Computer Vision [74.9839082859151]
ディープラーニングは、ニューラルネットワークアーキテクチャエンジニアリングに対する需要の高まりにつながっている。
ニューラルネットワーク検索(NAS)は、手動ではなく、データ駆動方式でニューラルネットワークアーキテクチャを自動設計することを目的としている。
NASはコンピュータビジョンの幅広い問題に適用されている。
論文 参考訳（メタデータ） (2022-02-15T08:06:50Z) - NeuralArTS: Structuring Neural Architecture Search with Type Theory [0.0]
本稿では,ニューラルネットワーク型システム(NeuralArTS)と呼ばれる,構造化型システムにおけるネットワーク操作の無限集合を分類する新しいフレームワークを提案する。
本稿では,NeuralArTSを畳み込み層に適用し,今後の方向性を示す。
論文 参考訳（メタデータ） (2021-10-17T03:28:27Z) - NAS-Navigator: Visual Steering for Explainable One-Shot Deep Neural
Network Synthesis [53.106414896248246]
本稿では,分析者がドメイン知識を注入することで,解のサブグラフ空間を効果的に構築し,ネットワーク探索をガイドするフレームワークを提案する。
このテクニックを反復的に適用することで、アナリストは、与えられたアプリケーションに対して最高のパフォーマンスのニューラルネットワークアーキテクチャに収束することができる。
論文 参考訳（メタデータ） (2020-09-28T01:48:45Z) - Breaking the Curse of Space Explosion: Towards Efficient NAS with
Curriculum Search [94.46818035655943]
本稿では,小さな検索空間から始まるカリキュラム検索手法を提案し,学習知識を徐々に取り入れて広い空間での検索をガイドする。
提案手法により,CNAS法は探索効率を大幅に向上し,既存のNAS法よりも優れたアーキテクチャを求めることができる。
論文 参考訳（メタデータ） (2020-07-07T02:29:06Z) - A Comprehensive Survey of Neural Architecture Search: Challenges and
Solutions [48.76705090826339]
ニューラルネットワーク探索(NAS)は革命的アルゴリズムであり、関連する研究は複雑でリッチである。
まず、初期のNASアルゴリズムの特徴の概要から始め、これらの初期のNASアルゴリズムの問題を要約する。
さらに,これらの研究の詳細な分析,比較,要約を行う。
論文 参考訳（メタデータ） (2020-06-01T13:08:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。