論文の概要: B-FPGM: Lightweight Face Detection via Bayesian-Optimized Soft FPGM Pruning

• arxiv url: http://arxiv.org/abs/2501.16917v1
• Date: Tue, 28 Jan 2025 13:01:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-29 16:41:25.045552
• Title: B-FPGM: Lightweight Face Detection via Bayesian-Optimized Soft FPGM Pruning
• Title（参考訳）: B-FPGM:ベイズ最適化ソフトFPGMによる軽量顔検出
• Authors: Nikolaos Kaparinos, Vasileios Mezaris,
• Abstract要約: 顔検出はコンピュータビジョンアプリケーションであり、限られた計算資源を持つデバイスへの展開を容易にするために、ますます軽量なモデルを必要としている。 本稿では,幾何メディア(FPGM)プルーニング,ソフトフィルタプルーニング(SFP),ベイズ最適化を利用した新しい顔検出プルーニングパイプラインを提案する。
• 参考スコア（独自算出の注目度）: 6.8292720972215974
• License:
• Abstract: Face detection is a computer vision application that increasingly demands lightweight models to facilitate deployment on devices with limited computational resources. Neural network pruning is a promising technique that can effectively reduce network size without significantly affecting performance. In this work, we propose a novel face detection pruning pipeline that leverages Filter Pruning via Geometric Median (FPGM) pruning, Soft Filter Pruning (SFP) and Bayesian optimization in order to achieve a superior trade-off between size and performance compared to existing approaches. FPGM pruning is a structured pruning technique that allows pruning the least significant filters in each layer, while SFP iteratively prunes the filters and allows them to be updated in any subsequent training step. Bayesian optimization is employed in order to optimize the pruning rates of each layer, rather than relying on engineering expertise to determine the optimal pruning rates for each layer. In our experiments across all three subsets of the WIDER FACE dataset, our proposed approach B-FPGM consistently outperforms existing ones in balancing model size and performance. All our experiments were applied to EResFD, the currently smallest (in number of parameters) well-performing face detector of the literature; a small ablation study with a second small face detector, EXTD, is also reported. The source code and trained pruned face detection models can be found at: https://github.com/IDTITI/B-FPGM.
• Abstract（参考訳）: 顔検出はコンピュータビジョンアプリケーションであり、限られた計算資源を持つデバイスへの展開を容易にするために、ますます軽量なモデルを必要としている。 ニューラルネットワークのプルーニングは、性能に大きな影響を及ぼすことなく、ネットワークサイズを効果的に削減できる有望な技術である。 本研究では,FPGM(Geometric Median)プルーニング,ソフトフィルタプルーニング(Soft Filter Pruning,SFP),ベイズ最適化を用いた顔検出プルーニングパイプラインを提案する。 FPGMプルーニング(FPGM pruning)は、各層で最小のフィルタをプルーニングできる構造化プルーニング技術である。 ベイズ最適化は、各層のプルーニング率を決定するために、エンジニアリングの専門知識に頼るのではなく、各層のプルーニング率を最適化するために用いられる。 WIDER FACEデータセットの3つのサブセットにまたがる実験では、モデルサイズと性能のバランスをとる上で、B-FPGMが既存のサブセットより一貫して優れています。 これらの実験はすべて、現在最小(パラメータ数)の顔検出器であるEResFDに適用され、第2の小さな顔検出器であるEXTDを用いた小さなアブレーション研究も報告されている。 ソースコードと訓練済みの顔検出モデルは、https://github.com/IDTITI/B-FPGMで見ることができる。

関連論文リスト

• Bypass Back-propagation: Optimization-based Structural Pruning for Large Language Models via Policy Gradient [57.9629676017527]
  大規模言語モデルを用いた最適化に基づく構造解析手法を提案する。 我々は,プルーニングモデルの損失を最適化することにより,確率空間におけるプルーニングマスクを直接学習する。 A100 GPUで13Bモデルに対して約35GBのメモリで2.7時間動作させる。
  論文  参考訳（メタデータ） (2024-06-15T09:31:03Z)
• Pruning Convolutional Filters via Reinforcement Learning with Entropy Minimization [0.0]
  本稿では,畳み込み活性化の空間エントロピーを最小化する情報理論報酬関数を提案する。 提案手法は,エージェントの報酬関数で直接最適化することなく,精度を維持できる可能性を示している。
  論文  参考訳（メタデータ） (2023-12-08T09:34:57Z)
• Filter-Pruning of Lightweight Face Detectors Using a Geometric Median Criterion [9.284740716447342]
  我々は,EXTD と EResFD という,すでに小型でコンパクトな2つの顔検出器にフィルタプルーニングを実装した。 提案手法は、既に軽量な顔検出器のモデルサイズをさらに小さくする可能性がある。
  論文  参考訳（メタデータ） (2023-11-28T09:02:38Z)
• Filter Pruning for Efficient CNNs via Knowledge-driven Differential Filter Sampler [103.97487121678276]
  フィルタプルーニングは同時に計算を加速し、CNNのメモリオーバーヘッドを低減する。 本稿では,MFM(Masked Filter Modeling)フレームワークを用いた知識駆動型微分フィルタサンプリング(KDFS)を提案する。
  論文  参考訳（メタデータ） (2023-07-01T02:28:41Z)
• Pruning-as-Search: Efficient Neural Architecture Search via Channel Pruning and Structural Reparameterization [50.50023451369742]
  プルーニング・アズ・サーチ(Pruning-as-Search、PaS)は、必要なサブネットワークを自動的に効率的に検索するエンドツーエンドのプルーニング手法である。 提案したアーキテクチャは,ImageNet-1000分類タスクにおいて,1.0%$ Top-1精度で先行技術より優れていた。
  論文  参考訳（メタデータ） (2022-06-02T17:58:54Z)
• Low-Pass Filtering SGD for Recovering Flat Optima in the Deep Learning Optimization Landscape [15.362190838843915]
  LPF-SGD は SGD よりも小さい一般化誤差でより良い最適点に収束することを示す。 本稿では,一般的なDLトレーニング手法と比較して,アルゴリズムが優れた一般化性能を実現することを示す。
  論文  参考訳（メタデータ） (2022-01-20T07:13:04Z)
• Automatic Mapping of the Best-Suited DNN Pruning Schemes for Real-Time Mobile Acceleration [71.80326738527734]
  本稿では,汎用的,きめ細かな構造化プルーニング手法とコンパイラの最適化を提案する。 提案手法は,より微細な構造化プルーニング手法とともに,最先端のDNN最適化フレームワークよりも優れていることを示す。
  論文  参考訳（メタデータ） (2021-11-22T23:53:14Z)
• Dynamic Probabilistic Pruning: A general framework for hardware-constrained pruning at different granularities [80.06422693778141]
  異なる粒度(重み、カーネル、フィルタ/フィーチャーマップ)での刈り取りを容易にするフレキシブルな新しい刈り取り機構を提案する。 このアルゴリズムをDPP(Dynamic Probabilistic Pruning)と呼ぶ。 DPPは、画像分類のための異なるベンチマークデータセットで訓練された一般的なディープラーニングモデルを刈り取る際に、競合圧縮率と分類精度を達成する。
  論文  参考訳（メタデータ） (2021-05-26T17:01:52Z)
• Manifold Regularized Dynamic Network Pruning [102.24146031250034]
  本稿では,全インスタンスの多様体情報をプルーンドネットワークの空間に埋め込むことにより,冗長フィルタを動的に除去する新しいパラダイムを提案する。 提案手法の有効性をいくつかのベンチマークで検証し,精度と計算コストの両面で優れた性能を示す。
  論文  参考訳（メタデータ） (2021-03-10T03:59:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。