論文の概要: NAS-based Recursive Stage Partial Network (RSPNet) for Light-Weight
Semantic Segmentation
- arxiv url: http://arxiv.org/abs/2210.00698v1
- Date: Mon, 3 Oct 2022 03:25:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-04 14:14:08.434186
- Title: NAS-based Recursive Stage Partial Network (RSPNet) for Light-Weight
Semantic Segmentation
- Title(参考訳): 軽量セマンティックセグメンテーションのためのNASベースの再帰段階部分ネットワーク(RSPNet)
- Authors: Yi-Chun Wang, Jun-Wei Hsieh, Ming-Ching Chang
- Abstract要約: 現在のNASベースのセマンティックセグメンテーション手法は、軽量設計よりも精度の向上に焦点を当てている。
軽量セマンティックセグメンテーションのためのNASベースのRSPNetモデルを設計するための2段階フレームワークを提案する。
提案したアーキテクチャは非常に効率的でシンプルで効果的であり、マクロ構造とマイクロ構造の両方の探索が5日間の計算で完了する。
- 参考スコア(独自算出の注目度): 16.019616787091202
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Current NAS-based semantic segmentation methods focus on accuracy
improvements rather than light-weight design. In this paper, we proposed a
two-stage framework to design our NAS-based RSPNet model for light-weight
semantic segmentation. The first architecture search determines the inner cell
structure, and the second architecture search considers exponentially growing
paths to finalize the outer structure of the network. It was shown in the
literature that the fusion of high- and low-resolution feature maps produces
stronger representations. To find the expected macro structure without manual
design, we adopt a new path-attention mechanism to efficiently search for
suitable paths to fuse useful information for better segmentation. Our search
for repeatable micro-structures from cells leads to a superior network
architecture in semantic segmentation. In addition, we propose an RSP
(recursive Stage Partial) architecture to search a light-weight design for
NAS-based semantic segmentation. The proposed architecture is very efficient,
simple, and effective that both the macro- and micro- structure searches can be
completed in five days of computation on two V100 GPUs. The light-weight NAS
architecture with only 1/4 parameter size of SoTA architectures can achieve
SoTA performance on semantic segmentation on the Cityscapes dataset without
using any backbones.
- Abstract(参考訳): 現在のnasに基づくセマンティクスセグメンテーション手法は軽量設計よりも精度の向上に重点を置いている。
本稿では,軽量セマンティックセグメンテーションのためのNASベースのRSPNetモデルを設計するための2段階フレームワークを提案する。
第1のアーキテクチャ探索は、内部セル構造を決定するとともに、第2のアーキテクチャ探索は、ネットワークの外構造を確定する指数的に成長する経路を考える。
高分解能と低分解能の特徴写像の融合はより強固な表現を生み出すことが文献に示されている。
手動設計なしで予測されるマクロ構造を見つけるために,より優れたセグメンテーションのために有用な情報を融合する適切な経路を効率的に探索する新しいパスアテンション機構を採用する。
セルからの繰り返し可能なマイクロ構造探索はセマンティックセグメンテーションにおいて優れたネットワークアーキテクチャを実現する。
さらに,nasに基づく意味セグメンテーションのための軽量設計を探索するために,rsp(recursive stage partial)アーキテクチャを提案する。
提案するアーキテクチャは,2つのv100 gpu上での5日間の計算でマクロおよびマイクロ構造の検索を完了できるため,非常に効率的,シンプル,かつ効果的である。
SoTAアーキテクチャのパラメータサイズが1/4しかない軽量NASアーキテクチャは,Cityscapesデータセット上のセマンティックセグメンテーションにおいて,バックボーンを使わずにSoTAのパフォーマンスを実現することができる。
関連論文リスト
- Pruning-as-Search: Efficient Neural Architecture Search via Channel
Pruning and Structural Reparameterization [50.50023451369742]
プルーニング・アズ・サーチ(Pruning-as-Search、PaS)は、必要なサブネットワークを自動的に効率的に検索するエンドツーエンドのプルーニング手法である。
提案したアーキテクチャは,ImageNet-1000分類タスクにおいて,1.0%$ Top-1精度で先行技術より優れていた。
論文 参考訳(メタデータ) (2022-06-02T17:58:54Z) - BaLeNAS: Differentiable Architecture Search via the Bayesian Learning
Rule [95.56873042777316]
近年,微分可能なアーキテクチャ探索 (DARTS) が注目されている。
本稿では,アーキテクチャ重みをガウス分布に緩和することにより,ニューラルネットワーク探索を分布学習問題として定式化する。
ベイズ主義の原理から異なるNASがいかに恩恵を受け、探索を強化し、安定性を向上するかを実証する。
論文 参考訳(メタデータ) (2021-11-25T18:13:42Z) - Rethinking Architecture Selection in Differentiable NAS [74.61723678821049]
微分可能なニューラルアーキテクチャ探索は、その探索効率と簡易性において最も人気のあるNAS手法の1つである。
本稿では,各操作がスーパーネットに与える影響を直接測定する摂動に基づくアーキテクチャ選択を提案する。
提案手法により,DARTSの故障モードを大幅に緩和できることがわかった。
論文 参考訳(メタデータ) (2021-08-10T00:53:39Z) - Memory-Efficient Hierarchical Neural Architecture Search for Image
Restoration [68.6505473346005]
メモリ効率の高い階層型NAS HiNAS(HiNAS)を提案する。
単一の GTX1080Ti GPU では、BSD 500 でネットワークを消すのに約 1 時間、DIV2K で超解像構造を探すのに 3.5 時間しかかかりません。
論文 参考訳(メタデータ) (2020-12-24T12:06:17Z) - Auto-Panoptic: Cooperative Multi-Component Architecture Search for
Panoptic Segmentation [144.50154657257605]
本稿では、バックボーン、セグメンテーションブランチ、フィーチャーフュージョンモジュールを含むすべての主要コンポーネントを同時に検索する効率的なフレームワークを提案する。
検索したアーキテクチャ、すなわちAuto-Panopticは、挑戦的なCOCOとADE20Kベンチマークに関する新しい最先端技術を実現します。
論文 参考訳(メタデータ) (2020-10-30T08:34:35Z) - Smooth Variational Graph Embeddings for Efficient Neural Architecture
Search [41.62970837629573]
本研究では,探索空間からニューラルネットワークをスムーズにエンコードし,正確に再構築できる2面変分グラフオートエンコーダを提案する。
ENASアプローチ,NAS-Bench-101およびNAS-Bench-201探索空間で定義されたニューラルネットワークに対する提案手法の評価を行った。
論文 参考訳(メタデータ) (2020-10-09T17:05:41Z) - Multi-Objective Neural Architecture Search Based on Diverse Structures
and Adaptive Recommendation [4.595675084986132]
畳み込みニューラルネットワーク(CNN)のためのニューラルネットワーク探索(NAS)の検索空間は巨大である。
本稿では,既存の研究結果と過去の情報を利用して,軽量かつ高精度なアーキテクチャを迅速に発見するMoARRアルゴリズムを提案する。
実験結果から,CIFAR-10上でのMoARRは6GPU時間で1.9%の誤差率と2.3Mパラメータを持つ,強力で軽量なモデルを実現することができた。
論文 参考訳(メタデータ) (2020-07-06T13:42:33Z) - Neural Architecture Optimization with Graph VAE [21.126140965779534]
連続空間におけるネットワークアーキテクチャを最適化するための効率的なNAS手法を提案する。
フレームワークは、エンコーダ、パフォーマンス予測器、複雑性予測器、デコーダの4つのコンポーネントを共同で学習する。
論文 参考訳(メタデータ) (2020-06-18T07:05:48Z) - Stage-Wise Neural Architecture Search [65.03109178056937]
ResNetやNASNetのような現代の畳み込みネットワークは、多くのコンピュータビジョンアプリケーションで最先端の結果を得た。
これらのネットワークは、同じ解像度で表現を操作するレイヤのセットであるステージで構成されている。
各ステージにおけるレイヤー数の増加はネットワークの予測能力を向上させることが示されている。
しかし、結果として得られるアーキテクチャは、浮動小数点演算、メモリ要求、推論時間の観点から計算的に高価になる。
論文 参考訳(メタデータ) (2020-04-23T14:16:39Z) - DCNAS: Densely Connected Neural Architecture Search for Semantic Image
Segmentation [44.46852065566759]
Densely Connected NAS (DCNAS) フレームワークを提案し、視覚情報のマルチスケール表現に対して最適なネットワーク構造を直接検索する。
具体的には,学習可能な重みを使ってセルを相互に接続することにより,多数の主流ネットワーク設計をカバーするために,密結合された検索空間を導入する。
我々は、DCNASアルゴリズムから得られたアーキテクチャが、公開セマンティックイメージセグメンテーションベンチマーク上で最先端のパフォーマンスを達成することを実証した。
論文 参考訳(メタデータ) (2020-03-26T13:21:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。