論文の概要: CABM: Content-Aware Bit Mapping for Single Image Super-Resolution
Network with Large Input
- arxiv url: http://arxiv.org/abs/2304.06454v1
- Date: Thu, 13 Apr 2023 12:48:30 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-14 14:34:00.766353
- Title: CABM: Content-Aware Bit Mapping for Single Image Super-Resolution
Network with Large Input
- Title(参考訳): CABM:大入力単一画像超解像ネットワークのためのコンテンツ対応ビットマッピング
- Authors: Senmao Tian, Ming Lu, Jiaming Liu, Yandong Guo, Yurong Chen, Shunli
Zhang
- Abstract要約: 超解像(SR)は通常、2Kのような大きな入力を高分解能(4K/8K)に超解像する必要がある。
現在のメソッドは、まず大きな入力をローカルパッチに分割し、次にSRパッチを出力にマージする。
本稿では,性能損失のないビットセレクタを除去できるContent-Aware Bit Mapping (CABM) を提案する。
- 参考スコア(独自算出の注目度): 24.642315707465453
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the development of high-definition display devices, the practical
scenario of Super-Resolution (SR) usually needs to super-resolve large input
like 2K to higher resolution (4K/8K). To reduce the computational and memory
cost, current methods first split the large input into local patches and then
merge the SR patches into the output. These methods adaptively allocate a
subnet for each patch. Quantization is a very important technique for network
acceleration and has been used to design the subnets. Current methods train an
MLP bit selector to determine the propoer bit for each layer. However, they
uniformly sample subnets for training, making simple subnets overfitted and
complicated subnets underfitted. Therefore, the trained bit selector fails to
determine the optimal bit. Apart from this, the introduced bit selector brings
additional cost to each layer of the SR network. In this paper, we propose a
novel method named Content-Aware Bit Mapping (CABM), which can remove the bit
selector without any performance loss. CABM also learns a bit selector for each
layer during training. After training, we analyze the relation between the edge
information of an input patch and the bit of each layer. We observe that the
edge information can be an effective metric for the selected bit. Therefore, we
design a strategy to build an Edge-to-Bit lookup table that maps the edge score
of a patch to the bit of each layer during inference. The bit configuration of
SR network can be determined by the lookup tables of all layers. Our strategy
can find better bit configuration, resulting in more efficient mixed precision
networks. We conduct detailed experiments to demonstrate the generalization
ability of our method. The code will be released.
- Abstract(参考訳): 高解像度表示装置の開発に伴い、高解像度(4K/8K)の2Kのような大容量入力を超解答する必要がある。
計算とメモリのコストを削減するため、現在の手法ではまず大きな入力をローカルパッチに分割し、次にSRパッチを出力にマージする。
これらのメソッドはパッチ毎にサブネットを適応的に割り当てる。
量子化はネットワーク加速にとって非常に重要な技術であり、サブネットの設計に使われてきた。
現在の方法は、各層のプロポーラビットを決定するためにMPPビットセレクタを訓練する。
しかし、訓練のために一様にサブネットをサンプリングし、単純なサブネットを過度に適合させ、複雑なサブネットを不適合にする。
そのため、訓練されたビットセレクタは最適なビットを決定することができない。
これとは別に、ビットセレクタはSRネットワークの各層に追加のコストをもたらす。
そこで,本研究では,コンテンツ認識型ビットマッピング (cabm) という新しい手法を提案する。
CABMはまた、トレーニング中に各レイヤのビットセレクタも学習する。
トレーニング後,入力パッチのエッジ情報と各レイヤのビットの関係を解析する。
エッジ情報は,選択したビットに対して有効な指標となり得ることを観察する。
そこで我々は,パッチのエッジスコアを各レイヤのビットにマッピングするEdge-to-Bitルックアップテーブルを構築するための戦略を設計する。
SRネットワークのビット構成は、すべてのレイヤのルックアップテーブルによって決定できる。
我々の戦略はビット構成が良くなり、より効率的な混合精度ネットワークが得られる。
本手法の一般化能力を示すための詳細な実験を行った。
コードはリリースされます。
関連論文リスト
- Pruning Deep Convolutional Neural Network Using Conditional Mutual Information [10.302118493842647]
畳み込みニューラルネットワーク(CNN)は、画像分類タスクにおいて高い性能を達成するが、リソース制限ハードウェアへのデプロイは困難である。
本稿では,各層における最も情報性の高い特徴を識別し,選択的に保持するCNNに対して,構造化されたフィルタ解析手法を提案する。
論文 参考訳(メタデータ) (2024-11-27T18:23:59Z) - Tiled Bit Networks: Sub-Bit Neural Network Compression Through Reuse of Learnable Binary Vectors [4.95475852994362]
本稿では,バイナリ重み付きニューラルネットワークのサブビット圧縮を実現するために,ビット列を持つタイル型ニューラルネットワーク層に対する新しい量子化方式を提案する。
私たちは完全に接続された層と畳み込み層の両方にアプローチを採用しています。
論文 参考訳(メタデータ) (2024-07-16T15:55:38Z) - CADyQ: Content-Aware Dynamic Quantization for Image Super-Resolution [55.50793823060282]
本稿では,画像超解像(SR)ネットワークのための新しいコンテント・アウェア・ダイナミック量子化(CADyQ)手法を提案する。
CADyQは、入力画像のローカル内容に基づいて、局所領域と層に最適なビットを適応的に割り当てる。
パイプラインは様々なSRネットワークでテストされ、いくつかの標準ベンチマークで評価されている。
論文 参考訳(メタデータ) (2022-07-21T07:50:50Z) - ARM: Any-Time Super-Resolution Method [72.98897502507789]
Any-time Super-Resolution Method (ARM) は、過パラメータ化された単一画像超解像(SISR)モデルに取り組むために提案される。
ARMは,(1)異なる大きさのSISRネットワークで異なる画像パッチの性能,(2)再構成画像の計算オーバーヘッドと性能との間にはトレードオフがあり,(3)入力画像が与えられた場合,そのエッジ情報はPSNRを推定する有効な選択肢となる。
論文 参考訳(メタデータ) (2022-03-21T09:06:26Z) - Learning strides in convolutional neural networks [34.20666933112202]
この研究は、学習可能なステップを持つ最初のダウンサンプリング層であるDiffStrideを紹介している。
音声と画像の分類実験は,ソリューションの汎用性と有効性を示す。
論文 参考訳(メタデータ) (2022-02-03T16:03:36Z) - Augmenting Convolutional networks with attention-based aggregation [55.97184767391253]
我々は,非局所的推論を実現するために,注目に基づくグローバルマップを用いた畳み込みネットワークの強化方法を示す。
この学習集約層を2つのパラメータ(幅と深さ)でパラメータ化した単純パッチベースの畳み込みネットワークで接続する。
これは、特にメモリ消費の点で、精度と複雑さの間の驚くほど競争力のあるトレードオフをもたらす。
論文 参考訳(メタデータ) (2021-12-27T14:05:41Z) - Fast Point Voxel Convolution Neural Network with Selective Feature
Fusion for Point Cloud Semantic Segmentation [7.557684072809662]
本稿では,ポイントクラウド解析のための軽量畳み込みニューラルネットワークを提案する。
本手法はサンプリングなしで全点集合上で動作し,効率よく性能を向上する。
論文 参考訳(メタデータ) (2021-09-23T19:39:01Z) - Cherry-Picking Gradients: Learning Low-Rank Embeddings of Visual Data
via Differentiable Cross-Approximation [53.95297550117153]
本稿では,大規模な視覚データテンソルの処理を行うエンドツーエンドのトレーニング可能なフレームワークを提案する。
提案手法は大規模多次元グリッドデータや,大規模受容領域上のコンテキストを必要とするタスクに特に有用である。
論文 参考訳(メタデータ) (2021-05-29T08:39:57Z) - Evidential fully convolutional network for semantic segmentation [6.230751621285322]
本稿では,完全畳み込みネットワーク(fcn)と,イメージセマンティクスセグメンテーションのためのデンプスターシェーファー層からなるハイブリッドアーキテクチャを提案する。
提案手法は,多クラス集合に混乱する画素を割り当てることで,意味セグメンテーションの精度とキャリブレーションを改善することを示す。
論文 参考訳(メタデータ) (2021-03-25T01:21:22Z) - OSLNet: Deep Small-Sample Classification with an Orthogonal Softmax
Layer [77.90012156266324]
本稿では,ニューラルネットワークのサブスペースを見つけることを目的としている。
そこで本研究では,Orthogonal Softmax Layer (OSL) を提案する。
実験結果から,提案OSLは4つの小サンプルベンチマークデータセットとの比較に用いた手法よりも優れた性能を示した。
論文 参考訳(メタデータ) (2020-04-20T02:41:01Z) - DHP: Differentiable Meta Pruning via HyperNetworks [158.69345612783198]
本稿では,ネットワークの自動プルーニングのためのハイパーネットによる識別可能なプルーニング手法を提案する。
遅延ベクトルは、バックボーンネットワーク内の畳み込み層の出力チャネルを制御し、レイヤのプルーニングのハンドルとして機能する。
画像分類、単一画像超解像、復調のための様々なネットワークで実験が行われた。
論文 参考訳(メタデータ) (2020-03-30T17:59:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。