論文の概要: FMAS: Fast Multi-Objective SuperNet Architecture Search for Semantic
Segmentation
- arxiv url: http://arxiv.org/abs/2303.16322v1
- Date: Tue, 28 Mar 2023 21:44:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-30 16:43:14.910445
- Title: FMAS: Fast Multi-Objective SuperNet Architecture Search for Semantic
Segmentation
- Title(参考訳): FMAS: セマンティックセグメンテーションのための高速多目的スーパーネットアーキテクチャ検索
- Authors: Zhuoran Xiong, Marihan Amein, Olivier Therrien, Warren J. Gross, Brett
H. Meyer
- Abstract要約: 本稿では,セマンティックセグメンテーションのための高速多目的ニューラルアーキテクチャ探索フレームワークFMASを提案する。
FMASはDeepLabV3+の構造と事前訓練されたパラメータを微調整することなくサブサンプリングし、検索中のトレーニング時間を劇的に短縮する。
我々は,PASCAL VOC 2012データセット上で,精度と計算コストを効果的に交換するモデルを探索し,FMASを評価する。
- 参考スコア(独自算出の注目度): 11.24858344452666
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present FMAS, a fast multi-objective neural architecture search framework
for semantic segmentation. FMAS subsamples the structure and pre-trained
parameters of DeepLabV3+, without fine-tuning, dramatically reducing training
time during search. To further reduce candidate evaluation time, we use a
subset of the validation dataset during the search. Only the final, Pareto
non-dominated, candidates are ultimately fine-tuned using the complete training
set. We evaluate FMAS by searching for models that effectively trade accuracy
and computational cost on the PASCAL VOC 2012 dataset. FMAS finds competitive
designs quickly, e.g., taking just 0.5 GPU days to discover a DeepLabV3+
variant that reduces FLOPs and parameters by 10$\%$ and 20$\%$ respectively,
for less than 3$\%$ increased error. We also search on an edge device called
GAP8 and use its latency as the metric. FMAS is capable of finding 2.2$\times$
faster network with 7.61$\%$ MIoU loss.
- Abstract(参考訳): 本稿では,セマンティックセグメンテーションのための高速多目的ニューラルアーキテクチャ探索フレームワークFMASを提案する。
FMASはDeepLabV3+の構造と事前訓練されたパラメータを微調整することなくサブサンプリングし、検索中のトレーニング時間を劇的に短縮する。
候補評価時間をさらに短縮するために、探索中に検証データセットのサブセットを使用する。
最終候補であるPareto非支配の候補者のみが、最終的に完全なトレーニングセットを使用して微調整される。
我々は,PASCAL VOC 2012データセット上で精度と計算コストを効果的に交換するモデルを探索し,FMASを評価する。
例えば、0.5GPUでFLOPとパラメータをそれぞれ10$\%$と20$\%$に減らし、3$\%$以上のエラーを発生させるDeepLabV3+を発見できる。
また、gap8と呼ばれるエッジデバイスを検索し、そのレイテンシを測定基準として使用します。
FMASは7.61$\%のMIoU損失を持つ2.2$\times$高速ネットワークを見つけることができる。
関連論文リスト
- Active search and coverage using point-cloud reinforcement learning [50.741409008225766]
本稿では,目的探索とカバレッジのためのエンドツーエンドの深層強化学習ソリューションを提案する。
RLの深い階層的特徴学習は有効であり、FPS(Fastthest Point sample)を用いることで点数を削減できることを示す。
また、ポイントクラウドに対するマルチヘッドの注意がエージェントの学習を高速化する上で有効であるが、同じ結果に収束することを示す。
論文 参考訳(メタデータ) (2023-12-18T18:16:30Z) - TCNCA: Temporal Convolution Network with Chunked Attention for Scalable
Sequence Processing [52.64837396100988]
MEGAは最近のトランスフォーマーベースのアーキテクチャで、線形リカレント演算子を使用し、並列計算はFFTに基づいて、$O(LlogL)$で、$L$はシーケンス長である。
線形再帰を特別な時間的畳み込みネットワークに置き換えることで、より浅いネットワークでより大きい受容場を許容し、計算複雑性を$O(L)$に減らし、それらのアプローチを構築する。
我々は,EnWik8言語モデリングにおけるTCNCA,LRA(Long-range-arena)シーケンス分類,および合成推論ベンチマーク連想リコールの評価を行った。
論文 参考訳(メタデータ) (2023-12-09T16:12:25Z) - Matrix tri-factorization over the tropical semiring [0.0]
本稿では熱帯セミリング上で三要素化を行うtriFastSTMFアルゴリズムを提案する。
また,TriFastSTMFは,ネットワーク全体に装着した場合の近似および予測性能において,Fast-NMTFと同じような性能を示すことを示す。
TriFastSTMFのロバスト性は、標準的な操作に比べて大きな値を予測しにくい熱帯操作によるものである。
論文 参考訳(メタデータ) (2023-05-11T07:43:40Z) - Sparse-IFT: Sparse Iso-FLOP Transformations for Maximizing Training Efficiency [1.292809267782105]
Sparse Iso-FLOP Transformations (Sparse-IFT) は密度モデルFLOPを維持しながら精度を向上させる。
本研究は,マスクトポロジ,重み,最終性能の相関性について明らかにした。
我々の知る限りでは、高密度モデルの精度を向上させるためにスパーシティの使用を実証する最初の研究である。
論文 参考訳(メタデータ) (2023-03-21T01:06:37Z) - Faster Maximum Inner Product Search in High Dimensions [17.040520467777295]
最大内部製品探索(MIPS)は、リコメンデーションシステムなどの機械学習アプリケーションにおいて、ユビキタスなタスクである。
複雑度が$d$に依存しない新しいランダム化MIPSアルゴリズムであるBanditMIPSを提案する。
我々は、BanditMIPSが正しい答えを高い確率で返し、$d$を$O(sqrtd)$から$O(1)$に改善する理論的な保証を提供する。
論文 参考訳(メタデータ) (2022-12-14T23:46:23Z) - DASS: Differentiable Architecture Search for Sparse neural networks [0.5735035463793009]
識別可能なアーキテクチャ探索手法により高密度ネットワーク用に設計されたアーキテクチャは,プルーニング機構を適用した場合,有効ではないことがわかった。
本稿では,スパシティフレンドリなニューラルアーキテクチャを探索する新しい手法を提案する。
検索空間に2つの新しいスパース操作を追加し、探索目的を変更することでこれを行う。
論文 参考訳(メタデータ) (2022-07-14T14:53:50Z) - Focal Sparse Convolutional Networks for 3D Object Detection [121.45950754511021]
我々はスパースCNNの能力を高めるために2つの新しいモジュールを導入する。
焦点スパース・コンボリューション(Focals Conv)であり、焦点スパース・コンボリューションの多様変種である。
スパース・コンボリューションにおける空間的に学習可能な空間空間性は,高度な3次元物体検出に不可欠であることを示す。
論文 参考訳(メタデータ) (2022-04-26T17:34:10Z) - NetAdaptV2: Efficient Neural Architecture Search with Fast Super-Network
Training and Architecture Optimization [15.63765190153914]
NetAdaptV2には、3つのイノベーションがあり、各ステップに費やす時間をバランスさせながら、差別化不可能な検索メトリクスをサポートします。
まず,ネットワーク深度と層幅を1つの検索次元にマージするチャネルレベルのバイパス接続を提案する。
第2に,複数のdnnを単一のフォワードバックパスでトレーニングし,スーパーネットワークのトレーニング時間を短縮するために,順序付きドロップアウトを提案する。
論文 参考訳(メタデータ) (2021-03-31T18:03:46Z) - OPANAS: One-Shot Path Aggregation Network Architecture Search for Object
Detection [82.04372532783931]
近年、ニューラルアーキテクチャサーチ (NAS) が特徴ピラミッドネットワーク (FPN) の設計に活用されている。
本稿では,探索効率と検出精度を大幅に向上させる,ワンショットパス集約ネットワークアーキテクチャ探索(OPANAS)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-03-08T01:48:53Z) - End-to-End Object Detection with Fully Convolutional Network [71.56728221604158]
エンドツーエンド検出を実現するために,分類のための予測対応ワン・ツー・ワン (POTO) ラベルの割り当てを導入する。
局所領域における畳み込みの判別性を向上させるために, 簡易な3次元maxフィルタ(3dmf)を提案する。
エンドツーエンドのフレームワークは,COCOおよびCrowdHumanデータセット上のNMSを用いて,最先端の多くの検出器と競合する性能を実現する。
論文 参考訳(メタデータ) (2020-12-07T09:14:55Z) - Tracking by Instance Detection: A Meta-Learning Approach [99.66119903655711]
本稿では,高性能トラッカー構築のための3段階の原理的手法を提案する。
我々は2つの現代的な検出器であるRetinaNetとFCOSをベースに、Retina-MAMLとFCOS-MAMLという2つのトラッカーを構築した。
両方のトラッカーは40FPSでリアルタイムに動作します。
論文 参考訳(メタデータ) (2020-04-02T05:55:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。