論文の概要: One-shot Network Pruning at Initialization with Discriminative Image Patches

• arxiv url: http://arxiv.org/abs/2209.05683v1
• Date: Tue, 13 Sep 2022 01:41:37 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-14 12:04:19.349479
• Title: One-shot Network Pruning at Initialization with Discriminative Image Patches
• Title（参考訳）: 識別的画像パッチによる初期化時のワンショットネットワークプルーニング
• Authors: Yinan Yang, Ying Ji, Yu Wang, Heng Qi, Jien Kato
• Abstract要約: One-shot Network Pruning at Initialization (OPaI) は、ネットワークプルーニングコストを削減する効果的な方法である。 本稿では,DOPとSuper Stitchingの2つの新しい手法を提案する。
• 参考スコア（独自算出の注目度）: 12.166295769218946
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: One-shot Network Pruning at Initialization (OPaI) is an effective method to decrease network pruning costs. Recently, there is a growing belief that data is unnecessary in OPaI. However, we obtain an opposite conclusion by ablation experiments in two representative OPaI methods, SNIP and GraSP. Specifically, we find that informative data is crucial to enhancing pruning performance. In this paper, we propose two novel methods, Discriminative One-shot Network Pruning (DOP) and Super Stitching, to prune the network by high-level visual discriminative image patches. Our contributions are as follows. (1) Extensive experiments reveal that OPaI is data-dependent. (2) Super Stitching performs significantly better than the original OPaI method on benchmark ImageNet, especially in a highly compressed model.
• Abstract（参考訳）: One-shot Network Pruning at Initialization (OPaI) は、ネットワークプルーニングコストを削減する効果的な方法である。 近年、OPaIではデータが不要であるという信仰が高まっている。 しかし, SNIP と GraSP の2つの代表的な OPaI 法におけるアブレーション実験により, 逆の結論を得た。 具体的には,報知データが刈り取り性能の向上に不可欠であることが判明した。 本稿では,高レベルの視覚識別画像パッチを用いてネットワークをpruneする2つの手法,dop(discriminative one-shot network pruning)とsuper stitchingを提案する。 私たちの貢献は以下の通りです。 1)OPaIはデータ依存であることが明らかとなった。 2)super stitchingはベンチマークイメージネットのopai法に比べて,特に高圧縮モデルにおいて有意に優れた性能を示す。

関連論文リスト

• Chasing Better Deep Image Priors between Over- and Under-parameterization [63.8954152220162]
  そこで本研究では,DNN固有の空間性を利用して,LIP(lottery image prior)を新たに検討する。 LIPworksは、コンパクトなモデルサイズでディープデコーダを著しく上回っている。 また、LIPを圧縮センシング画像再構成に拡張し、事前学習したGANジェネレータを前者として使用する。
  論文  参考訳（メタデータ） (2024-10-31T17:49:44Z)
• Learning to See Low-Light Images via Feature Domain Adaptation [17.033219611079165]
  そこで我々は,特徴領域適応(FDA)によって強化された単一段階ネットワークを提案し,生のLLIEにおけるデノイングとカラーマッピングのタスクを分離する。 FDAは、ラインバッファを減らすことで、グローバルとローカルの相関関係を探索することができる。 本手法は,計算コストを削減して最先端の性能を実現する。
  論文  参考訳（メタデータ） (2023-12-11T03:38:26Z)
• Manifold Regularized Dynamic Network Pruning [102.24146031250034]
  本稿では,全インスタンスの多様体情報をプルーンドネットワークの空間に埋め込むことにより,冗長フィルタを動的に除去する新しいパラダイムを提案する。 提案手法の有効性をいくつかのベンチマークで検証し,精度と計算コストの両面で優れた性能を示す。
  論文  参考訳（メタデータ） (2021-03-10T03:59:03Z)
• Network Pruning via Resource Reallocation [75.85066435085595]
  rEsource rEalLocation (PEEL) を経由したネットワーク・プルーニングという,シンプルで効果的なチャネル・プルーニング手法を提案する。 PEELは、最初に事前に定義されたバックボーンを構築し、その上でリソースの移動を行い、少ない情報層からより重要な層へ1ラウンドでパラメータをシフトする。 実験結果から,PEELによって発見された構造は,各種プルーニング条件下での最先端のプルーニングアルゴリズムと競合する性能を示した。
  論文  参考訳（メタデータ） (2021-03-02T16:28:10Z)
• Single-path Bit Sharing for Automatic Loss-aware Model Compression [126.98903867768732]
  シングルパスビット共有(SBS)は、計算コストを大幅に削減し、有望な性能を達成する。 SBS圧縮MobileNetV2は、Top-1の精度がわずか0.1%低下した22.6倍ビット演算(BOP)を実現する。
  論文  参考訳（メタデータ） (2021-01-13T08:28:21Z)
• Deep Artifact-Free Residual Network for Single Image Super-Resolution [0.2399911126932526]
  本研究では,残差学習の利点と,地中構造像を目標として用いることの利点を活かしたDAFR(Deep Artifact-Free Residual)ネットワークを提案する。 我々のフレームワークは、高品質な画像再構成に必要な高周波情報を抽出するために、ディープモデルを用いている。 実験の結果,提案手法は既存の手法に比べて定量的,定性的な画像品質を実現することがわかった。
  論文  参考訳（メタデータ） (2020-09-25T20:53:55Z)
• A deep primal-dual proximal network for image restoration [8.797434238081372]
  我々は、プリミティブ・デュアル・イテレーションから構築されたディープPDNetというディープネットワークを設計し、前もって分析を行い、標準的なペナル化可能性の最小化を図った。 フルラーニング」と「パートラーニング」の2つの異なる学習戦略が提案され、第1は最も効率的な数値である。 以上の結果から,提案したDeepPDNetは,MNISTと,より複雑なBSD68,BSD100,SET14データセットにおいて,画像復元と単一画像超解像処理に優れた性能を示した。
  論文  参考訳（メタデータ） (2020-07-02T08:29:52Z)
• Progressive Skeletonization: Trimming more fat from a network at initialization [76.11947969140608]
  本稿では,接続感度が最大となるスケルトン化ネットワークを提案する。 次に、目的を最大化する2つの近似手順を提案する。 提案手法は, 高い刈り込みレベルにおいて, 性能を著しく向上させる。
  論文  参考訳（メタデータ） (2020-06-16T11:32:47Z)
• The Power of Triply Complementary Priors for Image Compressive Sensing [89.14144796591685]
  本稿では,一対の相補的な旅先を含むLRD画像モデルを提案する。 次に、画像CSのためのRDモデルに基づく新しいハイブリッド・プラグイン・アンド・プレイ・フレームワークを提案する。 そこで,提案したH-based image CS問題の解法として,単純で効果的なアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-05-16T08:17:44Z)
• A Novel Inspection System For Variable Data Printing Using Deep Learning [0.9176056742068814]
  超低偽アラームレート(0.005%)で可変データプリント(VDP)を検査するための新しい手法を提案する。 このシステムは、参照画像と低コストスキャナーによってキャプチャされた画像の2つの画像の比較に基づいている。
  論文  参考訳（メタデータ） (2020-01-13T15:07:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。