Fugu-MT 論文翻訳(概要): Modeling Neural Architecture Search Methods for Deep Networks

論文の概要: Modeling Neural Architecture Search Methods for Deep Networks

arxiv url: http://arxiv.org/abs/1912.13183v1
Date: Tue, 31 Dec 2019 05:51:03 GMT
ステータス: 処理完了
システム内更新日: 2023-01-16 20:51:26.779118
Title: Modeling Neural Architecture Search Methods for Deep Networks
Title（参考訳）: ディープネットワークのためのニューラルネットワーク探索手法のモデル化
Authors: Emad Malekhosseini, Mohsen Hajabdollahi, Nader Karimi, Shadrokh Samavi
Abstract要約: 本稿では,ニューラルアーキテクチャ探索法(NAS)の一般化モデルを提案する。重要な関心領域を分類し識別するための異なる設計アプローチを比較することが可能である。
参考スコア（独自算出の注目度）: 9.561123408923489
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: There are many research works on the designing of architectures for the deep neural networks (DNN), which are named neural architecture search (NAS) methods. Although there are many automatic and manual techniques for NAS problems, there is no unifying model in which these NAS methods can be explored and compared. In this paper, we propose a general abstraction model for NAS methods. By using the proposed framework, it is possible to compare different design approaches for categorizing and identifying critical areas of interest in designing DNN architectures. Also, under this framework, different methods in the NAS area are summarized; hence a better view of their advantages and disadvantages is possible.
Abstract（参考訳）: ニューラル・アーキテクチャ・サーチ(nas)法(neural architecture search)と呼ばれるディープ・ニューラル・ネットワーク(dnn)のアーキテクチャ設計に関する多くの研究がある。 NAS問題には多数の自動手動技術があるが、これらのNAS手法を探索・比較できる統一モデルはない。本論文では,NAS手法の一般化モデルを提案する。提案フレームワークを用いることで、DNNアーキテクチャの設計において重要な領域を分類し、特定するための異なる設計アプローチを比較することができる。また、この枠組みの下では、NAS領域の異なる手法を要約し、それらの利点と欠点のより良い見方が可能である。

関連論文リスト

DNA Family: Boosting Weight-Sharing NAS with Block-Wise Supervisions [121.05720140641189]
蒸留型ニューラルアーキテクチャ(DNA)技術を用いたモデル群を開発した。提案するDNAモデルでは,アルゴリズムを用いてサブサーチ空間にのみアクセス可能な従来の手法とは対照的に,すべてのアーキテクチャ候補を評価できる。当社のモデルでは,モバイルコンボリューションネットワークと小型ビジョントランスフォーマーにおいて,ImageNet上で78.9%,83.6%の最先端トップ1精度を実現している。
論文参考訳（メタデータ） (2024-03-02T22:16:47Z)
Generalization Properties of NAS under Activation and Skip Connection Search [66.8386847112332]
ニューラルネットワーク探索(NAS)の一般化特性を統一的枠組みの下で検討する。我々は, 有限幅政権下でのニューラル・タンジェント・カーネル(NTK)の最小固有値の下(および上)境界を導出する。トレーニングなしでもNASがトップパフォーマンスアーキテクチャを選択する方法を示す。
論文参考訳（メタデータ） (2022-09-15T12:11:41Z)
UnrealNAS: Can We Search Neural Architectures with Unreal Data? [84.78460976605425]
ニューラルアーキテクチャサーチ(NAS)はディープニューラルネットワーク(DNN)の自動設計において大きな成功を収めた。これまでの研究は、NASに地道ラベルを持つことの必要性を分析し、幅広い関心を喚起した。 NASが有効であるためには、実際のデータが必要であるかどうか、さらに疑問を呈する。
論文参考訳（メタデータ） (2022-05-04T16:30:26Z)
NAS-Bench-360: Benchmarking Diverse Tasks for Neural Architecture Search [18.9676056830197]
既存のニューラルアーキテクチャサーチ(NAS)ベンチマークとアルゴリズムは、よく研究されたタスクのパフォーマンスを優先している。我々は、畳み込みニューラルネットワーク(CNN)のための最先端NAS手法を評価するベンチマークスイートであるNAS-Bench-360を提案する。
論文参考訳（メタデータ） (2021-10-12T01:13:18Z)
Search to aggregate neighborhood for graph neural network [47.47628113034479]
そこで本研究では,データ固有のGNNアーキテクチャを自動的に設計するためのフレームワークとして,SANE(Search to Aggregate NEighborhood)を提案する。新規で表現力のある検索空間を設計することにより,従来の強化学習法よりも効率的である微分可能な探索アルゴリズムを提案する。
論文参考訳（メタデータ） (2021-04-14T03:15:19Z)
Neural Architecture Search of SPD Manifold Networks [79.45110063435617]
本研究では,Symmetric Positive Definite (SPD) 多様体ネットワークのニューラルアーキテクチャ探索(NAS)問題を提案する。まず、効率的なSPDセル設計のために、幾何学的にリッチで多様なSPDニューラルアーキテクチャ探索空間を導入する。我々は、SPDニューラルアーキテクチャ探索のための緩和された連続探索空間上で微分可能なNASアルゴリズムを利用する。
論文参考訳（メタデータ） (2020-10-27T18:08:57Z)
Revisiting Neural Architecture Search [0.0]
我々は、人間の努力を伴わずに完全なニューラルネットワークを探索する新しいアプローチを提案し、AutoML-nirvanaに一歩近づいた。提案手法は,ニューラルネットワークにマッピングされた完全なグラフから始まり,探索空間の探索と利用のバランスをとることにより,接続と操作を探索する。
論文参考訳（メタデータ） (2020-10-12T13:57:30Z)
A Survey on Evolutionary Neural Architecture Search [20.658525685384557]
ニューラルアーキテクチャサーチ(英: Neural Architecture Search、NAS)は、アーキテクチャを自動的に設計できる技術の一種である。 ECベースのNASアルゴリズムは、最近多くの注目を集め、成功した。本稿では,最新のECベースのNAS方式の200以上の論文を,コアコンポーネントに照らしてレビューする。
論文参考訳（メタデータ） (2020-08-25T11:00:46Z)
Learning Architectures from an Extended Search Space for Language Modeling [37.79977691127229]
ニューラルアーキテクチャサーチ(NAS)のセル内アーキテクチャとセル間アーキテクチャの両方を学ぶための一般的なアプローチを提案する。繰り返しのニューラルネットワークモデリングでは、TBとWikiTextのデータに対して強力なベースラインをはるかに上回り、TBに新たな最先端技術が導入された。学習したアーキテクチャは、他のシステムに優れた転送可能性を示す。
論文参考訳（メタデータ） (2020-05-06T05:02:33Z)
Stage-Wise Neural Architecture Search [65.03109178056937]
ResNetやNASNetのような現代の畳み込みネットワークは、多くのコンピュータビジョンアプリケーションで最先端の結果を得た。これらのネットワークは、同じ解像度で表現を操作するレイヤのセットであるステージで構成されている。各ステージにおけるレイヤー数の増加はネットワークの予測能力を向上させることが示されている。しかし、結果として得られるアーキテクチャは、浮動小数点演算、メモリ要求、推論時間の観点から計算的に高価になる。
論文参考訳（メタデータ） (2020-04-23T14:16:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。