論文の概要: TS-ENAS:Two-Stage Evolution for Cell-based Network Architecture Search
- arxiv url: http://arxiv.org/abs/2310.09525v1
- Date: Sat, 14 Oct 2023 08:02:01 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-17 19:51:19.186200
- Title: TS-ENAS:Two-Stage Evolution for Cell-based Network Architecture Search
- Title(参考訳): TS-ENAS:セルベースネットワークアーキテクチャ検索のための2段階進化
- Authors: Juan Zou, Shenghong Wu, Yizhang Xia, Weiwei Jiang, Zeping Wu, Jinhua
Zheng
- Abstract要約: セルベースネットワークアーキテクチャサーチ(TS-ENAS)のための2段階進化法を提案する。
提案アルゴリズムでは,新たなセルベース検索空間と2段階符号化方式を設計し,セルとニューラルネットワーク構造を表現する。
実験により、TS-ENASは、比較性能でニューラルネットワークアーキテクチャをより効果的に見つけることができることが示された。
- 参考スコア(独自算出の注目度): 3.267963071384687
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural network architecture search provides a solution to the automatic
design of network structures. However, it is difficult to search the whole
network architecture directly. Although using stacked cells to search neural
network architectures is an effective way to reduce the complexity of
searching, these methods do not able find the global optimal neural network
structure since the number of layers, cells and connection methods is fixed. In
this paper, we propose a Two-Stage Evolution for cell-based Network
Architecture Search(TS-ENAS), including one-stage searching based on stacked
cells and second-stage adjusting these cells. In our algorithm, a new
cell-based search space and an effective two-stage encoding method are designed
to represent cells and neural network structures. In addition, a cell-based
weight inheritance strategy is designed to initialize the weight of the
network, which significantly reduces the running time of the algorithm. The
proposed methods are extensively tested and compared on four image
classification dataset, Fashion-MNIST, CIFAR10, CIFAR100 and ImageNet and
compared with 22 state-of-the-art algorithms including hand-designed networks
and NAS networks. The experimental results show that TS-ENAS can more
effectively find the neural network architecture with comparative performance.
- Abstract(参考訳): ニューラルネットワークアーキテクチャ探索は、ネットワーク構造の自動設計に対する解決策を提供する。
しかし,ネットワークアーキテクチャ全体を直接検索することは困難である。
ニューラルネットワークアーキテクチャを探索するためにスタックセルを使用することは、探索の複雑さを減らす効果的な方法であるが、層数、セル数、接続方法が固定されているため、これらの方法はグローバル最適ニューラルネットワーク構造を見つけることができない。
本稿では,セルベースネットワークアーキテクチャ探索(TS-ENAS)のための2段階進化法を提案する。
提案アルゴリズムでは,新たなセルベース検索空間と2段階符号化方式を設計し,セルとニューラルネットワーク構造を表現する。
さらに、ネットワークの重みを初期化するためにセルベースの重み継承戦略が設計されており、アルゴリズムの実行時間を大幅に削減している。
提案手法は,4つの画像分類データセットである fashion-mnist, cifar10, cifar100, imagenet を比較し,手作りネットワークとnasネットワークを含む22の最先端アルゴリズムと比較した。
実験により、TS-ENASは、比較性能でニューラルネットワークアーキテクチャをより効果的に見つけることができることが示された。
関連論文リスト
- G-EvoNAS: Evolutionary Neural Architecture Search Based on Network
Growth [6.712149832731174]
本稿では,ネットワーク成長(G-EvoNAS)に基づく計算効率の良いニューラルネットワーク進化探索フレームワークを提案する。
G-EvoNASはCIFAR10、CIFAR100、ImageNetの3つの一般的な画像分類データセットでテストされている。
実験の結果、G-EvoNASは0.2GPU日で最先端の設計に匹敵するニューラルネットワークアーキテクチャを見出すことができた。
論文 参考訳(メタデータ) (2024-03-05T05:44:38Z) - NAS-ASDet: An Adaptive Design Method for Surface Defect Detection
Network using Neural Architecture Search [5.640706784987607]
表面欠陥検出のためのネットワークを適応的に設計するためのNAS-ASDetと呼ばれる新しい手法を提案する。
まず、特徴分布を適応的に調整できる、洗練された業界に適した検索空間を設計する。
そして、より高速に探索空間を探索するために、深い監視機構を備えたプログレッシブ検索戦略を用いる。
論文 参考訳(メタデータ) (2023-11-18T03:15:45Z) - HASA: Hybrid Architecture Search with Aggregation Strategy for
Echinococcosis Classification and Ovary Segmentation in Ultrasound Images [0.0]
超音波(US)画像分類と分割のためのハイブリッドNASフレームワークを提案する。
本手法は、上記の米国画像分類および分割タスクに対して、より強力で軽量なモデルを生成することができる。
論文 参考訳(メタデータ) (2022-04-14T01:43:00Z) - Enhanced Gradient for Differentiable Architecture Search [17.431144144044968]
ネットワーク性能の同時改善とネットワークの複雑性低減を目的としたニューラルネットワークアーキテクチャ探索アルゴリズムを提案する。
提案するフレームワークは,ブロックレベルの検索とネットワークレベルの検索という2段階のネットワークアーキテクチャを自動構築する。
実験の結果,本手法は画像分類において,すべての手作りネットワークよりも優れていた。
論文 参考訳(メタデータ) (2021-03-23T13:27:24Z) - Firefly Neural Architecture Descent: a General Approach for Growing
Neural Networks [50.684661759340145]
firefly neural architecture descentは、ニューラルネットワークを漸進的かつ動的に成長させるための一般的なフレームワークである。
ホタルの降下は、より広く、より深くネットワークを柔軟に成長させ、正確だがリソース効率のよいニューラルアーキテクチャを学習するために応用できることを示す。
特に、サイズは小さいが、最先端の手法で学習したネットワークよりも平均精度が高いネットワークを学習する。
論文 参考訳(メタデータ) (2021-02-17T04:47:18Z) - Trilevel Neural Architecture Search for Efficient Single Image
Super-Resolution [127.92235484598811]
本稿では,高効率単一画像超解像(SR)のための3レベルニューラルネットワーク探索法を提案する。
離散探索空間をモデル化するために、離散探索空間に新たな連続緩和を適用し、ネットワークパス、セル操作、カーネル幅の階層的混合を構築する。
階層型スーパーネット方式による最適化を行うため,効率的な探索アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-01-17T12:19:49Z) - Continuous Ant-Based Neural Topology Search [62.200941836913586]
この研究は、アリコロニー最適化に基づく、自然に着想を得たニューラルアーキテクチャサーチ(NAS)アルゴリズムを導入している。
連続アントベースのニューラルトポロジーサーチ(CANTS)は、アリが現実世界でどのように動くかに強く影響を受けている。
論文 参考訳(メタデータ) (2020-11-21T17:49:44Z) - SAR-NAS: Skeleton-based Action Recognition via Neural Architecture
Searching [18.860051578038608]
スケルトンベースのアクションインスタンスをテンソルにエンコードし、正常細胞と還元細胞という2種類のネットワーク細胞を構築するための一連の操作を定義する。
NTU RGB+DとKinecticsのデータセットに挑戦する実験では、骨格に基づく行動認識のために開発されたネットワークのほとんどは、コンパクトで効率的なものではないことが確認された。
提案手法は,最先端の手法よりも比較や性能の向上が可能な,そのようなコンパクトなネットワークを探索する手法を提供する。
論文 参考訳(メタデータ) (2020-10-29T03:24:15Z) - Neural Architecture Search of SPD Manifold Networks [79.45110063435617]
本研究では,Symmetric Positive Definite (SPD) 多様体ネットワークのニューラルアーキテクチャ探索(NAS)問題を提案する。
まず、効率的なSPDセル設計のために、幾何学的にリッチで多様なSPDニューラルアーキテクチャ探索空間を導入する。
我々は、SPDニューラルアーキテクチャ探索のための緩和された連続探索空間上で微分可能なNASアルゴリズムを利用する。
論文 参考訳(メタデータ) (2020-10-27T18:08:57Z) - DC-NAS: Divide-and-Conquer Neural Architecture Search [108.57785531758076]
本稿では,ディープ・ニューラル・アーキテクチャーを効果的かつ効率的に探索するためのディバイド・アンド・コンカ(DC)手法を提案する。
ImageNetデータセットで75.1%の精度を達成しており、これは同じ検索空間を使った最先端の手法よりも高い。
論文 参考訳(メタデータ) (2020-05-29T09:02:16Z) - Binarizing MobileNet via Evolution-based Searching [66.94247681870125]
そこで本稿では,MobileNet をバイナライズする際の構築と訓練を容易にするための進化的探索手法を提案する。
ワンショットアーキテクチャ検索フレームワークに着想を得て、グループ畳み込みのアイデアを操り、効率的な1ビット畳み込みニューラルネットワーク(CNN)を設計する。
我々の目標は、グループ畳み込みの最良の候補を探索することで、小さなが効率的なバイナリニューラルアーキテクチャを考案することである。
論文 参考訳(メタデータ) (2020-05-13T13:25:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。