論文の概要: FalconNet: Factorization for the Light-weight ConvNets

• arxiv url: http://arxiv.org/abs/2306.06365v1
• Date: Sat, 10 Jun 2023 07:01:08 GMT
• ステータス: 処理完了
• システム内更新日: 2023-06-13 19:22:56.078518
• Title: FalconNet: Factorization for the Light-weight ConvNets
• Title（参考訳）: FalconNet:軽量なConvNetのファクタ化
• Authors: Zhicheng Cai, Qiu Shen
• Abstract要約: ファルコンネットと呼ばれる新しい軽量CNNモデルを設計し,より少ないパラメータ数とフロップスで高い精度を実現する。 実験により、ファルコンネットは既存の軽量CNNと比較してパラメータやフロップの少ない精度で高い精度を達成できることを確認した。
• 参考スコア（独自算出の注目度）: 7.468137646011209
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Designing light-weight CNN models with little parameters and Flops is a prominent research concern. However, three significant issues persist in the current light-weight CNNs: i) the lack of architectural consistency leads to redundancy and hindered capacity comparison, as well as the ambiguity in causation between architectural choices and performance enhancement; ii) the utilization of a single-branch depth-wise convolution compromises the model representational capacity; iii) the depth-wise convolutions account for large proportions of parameters and Flops, while lacking efficient method to make them light-weight. To address these issues, we factorize the four vital components of light-weight CNNs from coarse to fine and redesign them: i) we design a light-weight overall architecture termed LightNet, which obtains better performance by simply implementing the basic blocks of other light-weight CNNs; ii) we abstract a Meta Light Block, which consists of spatial operator and channel operator and uniformly describes current basic blocks; iii) we raise RepSO which constructs multiple spatial operator branches to enhance the representational ability; iv) we raise the concept of receptive range, guided by which we raise RefCO to sparsely factorize the channel operator. Based on above four vital components, we raise a novel light-weight CNN model termed as FalconNet. Experimental results validate that FalconNet can achieve higher accuracy with lower number of parameters and Flops compared to existing light-weight CNNs.
• Abstract（参考訳）: パラメータやフラップが少ない軽量cnnモデルの設計は、重要な研究課題である。 しかし、現在の軽量CNNでは3つの重大な問題が続いている。 一 アーキテクチャの一貫性の欠如は、冗長性及び能力比較の妨げとなるとともに、アーキテクチャの選択と性能向上の因果関係の曖昧さにつながります。 二 単分岐深さ畳み込みの利用は、モデル表現能力に支障を来す。 三 深度的な畳み込みは、パラメータやフロップの比率が大きいが、軽量化のための効率的な方法が欠如している。 これらの問題に対処するため、軽量CNNの4つの重要な要素を粗いものから細かなものへと分解し、再設計する。 i) 他の軽量CNNの基本ブロックを単に実装するだけで性能が向上するLightNetという軽量総合アーキテクチャを設計する。 二 空間演算子及びチャネル演算子からなるメタライトブロックを抽象化し、一様に現在の基本ブロックを記述すること。 三 表現能力を高めるため、複数の空間演算子分岐を構成するRepSOを立ち上げる。 iv) 受信範囲の概念を提起し、チャンネル演算子を緩やかに分解するためにRefCOを提起する。 上記の4つの重要なコンポーネントに基づいて、FalconNetと呼ばれる新しい軽量CNNモデルを立ち上げる。 実験の結果、ファルコンネットは既存の軽量cnnよりも低いパラメータとフロップ数で高い精度を達成できることが確認された。

関連論文リスト

• Mitigating Memory Wall Effects in CNN Engines with On-the-Fly Weights Generation [13.681095158525514]
  unzipFPGAは、既存のCNNエンジンの制限に対応する新しいCNN推論システムである。 そこで本研究では,オンザフライでの重み生成を可能にする重み生成モジュールを提案する。 さらに,対象のCNNデバイス対に重み生成機構を調整したハードウェア・アウェア自動手法により,unzipFPGAをさらに強化する。
  論文  参考訳（メタデータ） (2023-07-25T11:19:21Z)
• Revisiting Image Deblurring with an Efficient ConvNet [24.703240497171503]
  本稿では,大規模な有効受容場(ERF)を特徴とする軽量CNNネットワークを提案する。 我々の鍵となる設計はLaKDと呼ばれる効率的なCNNブロックであり、大きなカーネル深さの畳み込みと空間チャネルの混合構造を備えている。 パラメータが32%少なく、MACが39%少ないデフォーカス/モーションデブロアリングベンチマークデータセット上で、最先端のRestormer上で+0.17dB / +0.43dB PSNRを達成する。
  論文  参考訳（メタデータ） (2023-02-04T20:42:46Z)
• Rethinking Lightweight Salient Object Detection via Network Depth-Width Tradeoff [26.566339984225756]
  既存の有能なオブジェクト検出手法では、より深いネットワークが採用され、性能が向上する。 本稿では,U字形構造を3つの相補枝に分解することで,新しい3方向デコーダフレームワークを提案する。 提案手法は,5つのベンチマークにおいて効率と精度のバランスが良くなることを示す。
  論文  参考訳（メタデータ） (2023-01-17T03:43:25Z)
• Lightweight and Progressively-Scalable Networks for Semantic Segmentation [100.63114424262234]
  マルチスケール学習フレームワークは,セマンティックセグメンテーションを向上する有効なモデルのクラスと見なされてきた。 本稿では,畳み込みブロックの設計と,複数スケールにわたる相互作用の仕方について,徹底的に解析する。 我々は,軽量で拡張性の高いネットワーク(LPS-Net)を考案した。
  論文  参考訳（メタデータ） (2022-07-27T16:00:28Z)
• Cross-receptive Focused Inference Network for Lightweight Image Super-Resolution [64.25751738088015]
  トランスフォーマーに基づく手法は、単一画像超解像(SISR)タスクにおいて顕著な性能を示した。 動的に特徴を抽出するために文脈情報を組み込む必要がある変換器は無視される。 我々は,CNNとTransformerを混合したCTブロックのカスケードで構成される,軽量なクロスレセプティブ・フォーカスド・推論・ネットワーク(CFIN)を提案する。
  論文  参考訳（メタデータ） (2022-07-06T16:32:29Z)
• An Adaptive Device-Edge Co-Inference Framework Based on Soft Actor-Critic [72.35307086274912]
  高次元パラメータモデルと大規模数学的計算は、特にIoT(Internet of Things)デバイスにおける実行効率を制限する。 本稿では,ソフトポリシーの繰り返しによるエフェキシット点,エフェキシット点,エンフェキシット点を生成する離散的(SAC-d)のための新しい深層強化学習(DRL)-ソフトアクタ批判法を提案する。 レイテンシと精度を意識した報酬設計に基づいて、そのような計算は動的無線チャンネルや任意の処理のような複雑な環境によく適応でき、5G URLをサポートすることができる。
  論文  参考訳（メタデータ） (2022-01-09T09:31:50Z)
• Learning Deep Context-Sensitive Decomposition for Low-Light Image Enhancement [58.72667941107544]
  典型的なフレームワークは、照明と反射を同時に推定することであるが、特徴空間にカプセル化されたシーンレベルの文脈情報を無視する。 本研究では,空間スケールにおけるシーンレベルのコンテキスト依存を生かした,コンテキスト依存型分解ネットワークアーキテクチャを提案する。 チャネル数を減らして軽量なCSDNet(LiteCSDNet)を開発する。
  論文  参考訳（メタデータ） (2021-12-09T06:25:30Z)
• The Mind's Eye: Visualizing Class-Agnostic Features of CNNs [92.39082696657874]
  本稿では,特定のレイヤの最も情報性の高い特徴を表現した対応する画像を作成することにより,画像の集合を視覚的に解釈する手法を提案する。 本手法では, 生成ネットワークを必要とせず, 元のモデルに変更を加えることなく, デュアルオブジェクトのアクティベーションと距離損失を利用する。
  論文  参考訳（メタデータ） (2021-01-29T07:46:39Z)
• ACDC: Weight Sharing in Atom-Coefficient Decomposed Convolution [57.635467829558664]
  我々は,CNNにおいて,畳み込みカーネル間の構造正則化を導入する。 我々はCNNがパラメータや計算量を劇的に減らして性能を維持していることを示す。
  論文  参考訳（メタデータ） (2020-09-04T20:41:47Z)
• SlimConv: Reducing Channel Redundancy in Convolutional Neural Networks by Weights Flipping [43.37989928043927]
  我々は,チャネル冗長性を低減し,CNNの性能を高めるために,新しいSlim Convolution(SlimConv)モジュールを設計する。 SlimConvは、Reconstruct、Transform、Fuseの3つの主要なステップで構成されている。 我々は、ImageNet、MS2014、Pascal VOC2012セグメンテーション、Pascal VOC2007検出データセットに関する総合的な実験を行い、SlimConvの有効性を検証する。
  論文  参考訳（メタデータ） (2020-03-16T23:23:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。