論文の概要: RapidNet: Multi-Level Dilated Convolution Based Mobile Backbone

• arxiv url: http://arxiv.org/abs/2412.10995v1
• Date: Sat, 14 Dec 2024 23:39:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-17 14:00:52.711754
• Title: RapidNet: Multi-Level Dilated Convolution Based Mobile Backbone
• Title（参考訳）: RapidNet:マルチレベル拡張コンボリューションベースのモバイルバックボーン
• Authors: Mustafa Munir, Md Mostafijur Rahman, Radu Marculescu,
• Abstract要約: 純粋にCNNベースのモバイルバックボーンを開発するために,マルチレベル拡張畳み込みを提案する。 実験により,提案モデルは画像分類,オブジェクト検出,インスタンス分割,セマンティックセグメンテーションの精度および/または速度の観点から,最先端(SOTA)移動型CNN,ViT,ViG,ハイブリッドアーキテクチャよりも優れていた。
• 参考スコア（独自算出の注目度）: 6.4399181389092
• License:
• Abstract: Vision transformers (ViTs) have dominated computer vision in recent years. However, ViTs are computationally expensive and not well suited for mobile devices; this led to the prevalence of convolutional neural network (CNN) and ViT-based hybrid models for mobile vision applications. Recently, Vision GNN (ViG) and CNN hybrid models have also been proposed for mobile vision tasks. However, all of these methods remain slower compared to pure CNN-based models. In this work, we propose Multi-Level Dilated Convolutions to devise a purely CNN-based mobile backbone. Using Multi-Level Dilated Convolutions allows for a larger theoretical receptive field than standard convolutions. Different levels of dilation also allow for interactions between the short-range and long-range features in an image. Experiments show that our proposed model outperforms state-of-the-art (SOTA) mobile CNN, ViT, ViG, and hybrid architectures in terms of accuracy and/or speed on image classification, object detection, instance segmentation, and semantic segmentation. Our fastest model, RapidNet-Ti, achieves 76.3\% top-1 accuracy on ImageNet-1K with 0.9 ms inference latency on an iPhone 13 mini NPU, which is faster and more accurate than MobileNetV2x1.4 (74.7\% top-1 with 1.0 ms latency). Our work shows that pure CNN architectures can beat SOTA hybrid and ViT models in terms of accuracy and speed when designed properly.
• Abstract（参考訳）: 近年、視覚変換器(ViT)がコンピュータビジョンを支配している。 しかし、ViTは計算コストが高く、モバイルデバイスには適していない。これにより、モバイルビジョンアプリケーションのための畳み込みニューラルネットワーク(CNN)とViTベースのハイブリッドモデルが普及した。 近年、モバイルビジョンタスクにおいて、Vision GNN(ViG)とCNNハイブリッドモデルも提案されている。 しかし、これらの手法は純粋なCNNモデルに比べて遅いままである。 本研究では,CNNベースのモバイルバックボーンを純粋に構築するためのマルチレベル拡張畳み込み法を提案する。 Multi-Level Dilated Convolutionsを使用することで、標準的な畳み込みよりも大きな理論的受容場が可能になる。 異なるレベルのダイレーションは、画像内の短距離特徴と長距離特徴との相互作用を可能にする。 実験により,提案モデルは画像分類,オブジェクト検出,インスタンス分割,セマンティックセグメンテーションの精度および/または速度の観点から,最先端(SOTA)移動型CNN,ViT,ViG,ハイブリッドアーキテクチャよりも優れていた。 我々の最速モデルであるRapidNet-Tiは、iPhone 13 mini NPU上で0.9msの遅延でImageNet-1Kで76.3\%のトップ-1精度を実現しています。 我々の研究は、純粋なCNNアーキテクチャがSOTAハイブリッドモデルやViTモデルより正確かつ高速に設計できることを示している。

関連論文リスト

• OA-CNNs: Omni-Adaptive Sparse CNNs for 3D Semantic Segmentation [70.17681136234202]
  設計上の違いを再検討し、スパースCNNが達成できることの限界をテストする。 本稿では,このギャップを埋めるために,適応受容場(親和性)と適応関係という2つの重要な要素を提案する。 この調査により、軽量モジュールを統合するネットワークのファミリーであるOmni-Adaptive 3D CNN(OA-CNN)が開発された。
  論文  参考訳（メタデータ） (2024-03-21T14:06:38Z)
• RepViT: Revisiting Mobile CNN From ViT Perspective [67.05569159984691]
  軽量ビジョントランス (ViT) は、軽量畳み込みニューラルネットワーク (CNN) と比較して、優れた性能と低レイテンシを示す 本研究では、ViTの観点から軽量CNNの効率的な設計を再考し、モバイルデバイスへの将来性を強調した。
  論文  参考訳（メタデータ） (2023-07-18T14:24:33Z)
• MobileViG: Graph-Based Sparse Attention for Mobile Vision Applications [7.2210216531805695]
  ビジョングラフニューラルネットワーク(ViG)は、探索のための新たな道を提供する。 ViGは、画像をグラフ構造として表現するオーバーヘッドのため、計算コストが高い。 そこで本稿では,モバイル端末で動作するVG用に設計された,新たなグラフベースのスパースアテンション機構であるSparse Vision Graph Attention (SVGA)を提案する。
  論文  参考訳（メタデータ） (2023-07-01T17:49:12Z)
• Rethinking Vision Transformers for MobileNet Size and Speed [58.01406896628446]
  本稿では,低レイテンシでパラメータ効率の高い新しいスーパーネットを提案する。 また,変圧器モデルに対して,よりきめ細かな共同探索戦略を導入する。 この研究は、MobileNetレベルのサイズと速度であっても、適切に設計され、最適化されたビジョントランスフォーマーがハイパフォーマンスを実現することを実証している。
  論文  参考訳（メタデータ） (2022-12-15T18:59:12Z)
• InternImage: Exploring Large-Scale Vision Foundation Models with Deformable Convolutions [95.94629864981091]
  この研究は、パラメータの増加やViTsのようなトレーニングデータから得られるインターンイメージと呼ばれる、CNNベースの新しい大規模ファンデーションモデルを提案する。 提案されたInternImageは、従来のCNNの厳格な帰納バイアスを低減し、ViTのような大規模データから、より強く堅牢なパターンを学習できるようにする。
  論文  参考訳（メタデータ） (2022-11-10T18:59:04Z)
• EdgeNeXt: Efficiently Amalgamated CNN-Transformer Architecture for Mobile Vision Applications [68.35683849098105]
  入力テンソルを複数のチャネルグループに分割するSDTAエンコーダを導入する。 1.3Mパラメータを持つEdgeNeXtモデルでは、ImageNet-1Kで71.2%のTop-1精度を実現している。 パラメータ5.6MのEdgeNeXtモデルでは、ImageNet-1Kで79.4%のTop-1精度を実現しています。
  論文  参考訳（メタデータ） (2022-06-21T17:59:56Z)
• MobileOne: An Improved One millisecond Mobile Backbone [14.041480018494394]
  モバイルデバイス上に複数のモバイルフレンドリーなネットワークを配置することで、さまざまなメトリクスを分析します。 我々は,iPhone12で1ミリ秒未満の推論時間を実現した,効率的なバックボーンMobileOneを設計する。 我々はMobileOneが,モバイル上での処理速度を何倍にも向上しつつ,効率的なアーキテクチャ内での最先端のパフォーマンスを実現していることを示す。
  論文  参考訳（メタデータ） (2022-06-08T17:55:11Z)
• EdgeViTs: Competing Light-weight CNNs on Mobile Devices with Vision Transformers [88.52500757894119]
  自己注意に基づく視覚変換器(ViT)は、コンピュータビジョンにおける畳み込みニューラルネットワーク(CNN)に代わる、非常に競争力のあるアーキテクチャとして登場した。 われわれはEdgeViTsを紹介した。これは新しい軽量ViTのファミリーで、注目に基づく視覚モデルが初めて、最高の軽量CNNと競合することを可能にする。
  論文  参考訳（メタデータ） (2022-05-06T18:17:19Z)
• MobileViT: Light-weight, General-purpose, and Mobile-friendly Vision Transformer [24.47196590256829]
  モバイルデバイス用の軽量ビジョントランスフォーマであるMobileViTを紹介する。 以上の結果から,MobileViT は CNN および ViT ベースのネットワークを,タスクやデータセット間で大幅に上回っていることがわかった。
  論文  参考訳（メタデータ） (2021-10-05T17:07:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。