論文の概要: Resolution Adaptive Networks for Efficient Inference
- arxiv url: http://arxiv.org/abs/2003.07326v5
- Date: Mon, 18 May 2020 04:49:11 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-23 03:42:44.556507
- Title: Resolution Adaptive Networks for Efficient Inference
- Title(参考訳): 効率的な推論のための解像適応ネットワーク
- Authors: Le Yang, Yizeng Han, Xi Chen, Shiji Song, Jifeng Dai, Gao Huang
- Abstract要約: 本稿では,低分解能表現が「容易」な入力を分類するのに十分である,という直感に触発された新しいレゾリューション適応ネットワーク(RANet)を提案する。
RANetでは、入力画像はまず、低解像度表現を効率的に抽出する軽量サブネットワークにルーティングされる。
ネットワーク内の高解像度パスは、"ハード"サンプルを認識する能力を維持している。
- 参考スコア(独自算出の注目度): 53.04907454606711
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Adaptive inference is an effective mechanism to achieve a dynamic tradeoff
between accuracy and computational cost in deep networks. Existing works mainly
exploit architecture redundancy in network depth or width. In this paper, we
focus on spatial redundancy of input samples and propose a novel Resolution
Adaptive Network (RANet), which is inspired by the intuition that
low-resolution representations are sufficient for classifying "easy" inputs
containing large objects with prototypical features, while only some "hard"
samples need spatially detailed information. In RANet, the input images are
first routed to a lightweight sub-network that efficiently extracts
low-resolution representations, and those samples with high prediction
confidence will exit early from the network without being further processed.
Meanwhile, high-resolution paths in the network maintain the capability to
recognize the "hard" samples. Therefore, RANet can effectively reduce the
spatial redundancy involved in inferring high-resolution inputs. Empirically,
we demonstrate the effectiveness of the proposed RANet on the CIFAR-10,
CIFAR-100 and ImageNet datasets in both the anytime prediction setting and the
budgeted batch classification setting.
- Abstract(参考訳): 適応推論は、ディープネットワークにおける精度と計算コストの動的トレードオフを達成する効果的なメカニズムである。
既存の作業は主にネットワークの深さや幅におけるアーキテクチャの冗長性を利用する。
本稿では,入力サンプルの空間的冗長性に着目し,低分解能表現が原型的特徴を持つ大物体を含む「簡単」入力を分類するのに十分であるという直感から着想を得た,新しい解像度適応ネットワーク(RANet)を提案する。
ranetでは、入力画像はまず、低解像度表現を効率的に抽出する軽量サブネットワークにルーティングされ、高い予測信頼度を持つサンプルは、さらに処理されることなく、ネットワークから早期に離脱する。
一方、ネットワーク内の高解像度パスは「ハード」サンプルを認識する能力を維持している。
したがって、RANetは高分解能入力の推測に関わる空間冗長性を効果的に低減することができる。
CIFAR-10, CIFAR-100, ImageNetデータセットに対して提案したRANetの有効性を, リアルタイム予測設定とバッチ分類設定の両方で実証した。
関連論文リスト
- Densely Decoded Networks with Adaptive Deep Supervision for Medical
Image Segmentation [19.302294715542175]
本稿では「クラッチ」ネットワーク接続を選択的に導入し、高密度デコードネットワーク(ddn)を提案する。
ネットワークデコーダの各アップサンプリングステージにおける「クラッチ」接続により、ターゲットのローカライゼーションが向上する。
また、適応的な深層監視(ads)に基づくトレーニング戦略を提案し、入力データセットの特定の属性を利用して適応する。
論文 参考訳(メタデータ) (2024-02-05T00:44:57Z) - FFEINR: Flow Feature-Enhanced Implicit Neural Representation for
Spatio-temporal Super-Resolution [4.577685231084759]
本稿では,フローフィールドデータの超高分解能化のための特徴強調型ニューラルインシシット表現(FFEINR)を提案する。
モデル構造とサンプリング分解能の観点から、暗黙のニューラル表現を最大限に活用することができる。
FFEINRのトレーニングプロセスは、入力層に機能拡張を導入することで容易になる。
論文 参考訳(メタデータ) (2023-08-24T02:28:18Z) - Iterative Soft Shrinkage Learning for Efficient Image Super-Resolution [91.3781512926942]
画像超解像(SR)は、CNNからトランスフォーマーアーキテクチャへの広範なニューラルネットワーク設計を目撃している。
本研究は,市販のネットワーク設計を生かし,基礎となる計算オーバーヘッドを低減するため,超高解像度イテレーションにおけるネットワークプルーニングの可能性について検討する。
本研究では, ランダムネットワークのスパース構造を最適化し, 重要でない重みを小さめに微調整することにより, 反復型軟収縮率(ISS-P)法を提案する。
論文 参考訳(メタデータ) (2023-03-16T21:06:13Z) - RDRN: Recursively Defined Residual Network for Image Super-Resolution [58.64907136562178]
深部畳み込みニューラルネットワーク(CNN)は、単一画像超解像において顕著な性能を得た。
本稿では,注目ブロックを効率的に活用する新しいネットワークアーキテクチャを提案する。
論文 参考訳(メタデータ) (2022-11-17T11:06:29Z) - Neural BRDF Representation and Importance Sampling [79.84316447473873]
本稿では,リフレクタンスBRDFデータのコンパクトニューラルネットワークに基づく表現について述べる。
BRDFを軽量ネットワークとしてエンコードし、適応角サンプリングによるトレーニングスキームを提案する。
複数の実世界のデータセットから等方性および異方性BRDFの符号化結果を評価する。
論文 参考訳(メタデータ) (2021-02-11T12:00:24Z) - Interpretable Detail-Fidelity Attention Network for Single Image
Super-Resolution [89.1947690981471]
本研究では,スムースとディテールを段階的に分割・収束的に処理する,目的・解釈可能なディテール・ファイダリティ・アテンション・ネットワークを提案する。
特に,詳細推論において顕著な解釈可能な特徴表現のためのヘシアンフィルタを提案する。
実験により,提案手法は最先端手法よりも優れた性能を示すことが示された。
論文 参考訳(メタデータ) (2020-09-28T08:31:23Z) - Ensembled sparse-input hierarchical networks for high-dimensional
datasets [8.629912408966145]
サンプルサイズが小さい環境では,高密度ニューラルネットワークが実用的なデータ解析ツールであることを示す。
提案手法は,L1-ペナルティパラメータを2つだけ調整することで,ネットワーク構造を適切に調整する。
EASIER-netは、異なるサイズの実世界のデータセットのコレクションにおいて、データ適応方式でネットワークアーキテクチャを選択し、平均的なオフザシェルフ手法よりも高い予測精度を達成した。
論文 参考訳(メタデータ) (2020-05-11T02:08:53Z) - Deep Adaptive Inference Networks for Single Image Super-Resolution [72.7304455761067]
シングルイメージ超解像(SISR)は、ディープ畳み込みニューラルネットワーク(CNN)の展開により、近年大きく進歩している。
本稿では,深部SISR(AdaDSR)の適応型推論ネットワークを活用することで,この問題に対処する。
我々のAdaDSRは、SISRモデルをバックボーンとし、画像の特徴とリソース制約を入力として取り、ローカルネットワーク深さのマップを予測する軽量アダプタモジュールを備える。
論文 参考訳(メタデータ) (2020-04-08T10:08:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。