論文の概要: Learning Inception Attention for Image Synthesis and Image Recognition
- arxiv url: http://arxiv.org/abs/2112.14804v1
- Date: Wed, 29 Dec 2021 19:38:30 GMT
- ステータス: 処理完了
- システム内更新日: 2022-01-04 05:51:59.622459
- Title: Learning Inception Attention for Image Synthesis and Image Recognition
- Title(参考訳): 画像合成と画像認識のための学習開始注意
- Authors: Jianghao Shen and Tianfu Wu
- Abstract要約: 本稿では,画像合成モデルの効率的な学習を容易にするSkip-Layer Inception Module (SLIM)を提案する。
SLIMは、最近提案された、スキップ層励起(SLE)モジュールを提供する軽量なジェネレータネットワーク(FastGAN)上に構築されている。
ワンショット画像合成タスクでは、SinGANsのような先行技術よりも画像構造を保存できることが示される。
- 参考スコア(独自算出の注目度): 13.684212789998881
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Image synthesis and image recognition have witnessed remarkable progress, but
often at the expense of computationally expensive training and inference.
Learning lightweight yet expressive deep model has emerged as an important and
interesting direction. Inspired by the well-known split-transform-aggregate
design heuristic in the Inception building block, this paper proposes a
Skip-Layer Inception Module (SLIM) that facilitates efficient learning of image
synthesis models, and a same-layer variant (dubbed as SLIM too) as a stronger
alternative to the well-known ResNeXts for image recognition. In SLIM, the
input feature map is first split into a number of groups (e.g., 4).Each group
is then transformed to a latent style vector(via channel-wise attention) and a
latent spatial mask (via spatial attention). The learned latent masks and
latent style vectors are aggregated to modulate the target feature map. For
generative learning, SLIM is built on a recently proposed lightweight
Generative Adversarial Networks (i.e., FastGANs) which present a skip-layer
excitation(SLE) module. For few-shot image synthesis tasks, the proposed SLIM
achieves better performance than the SLE work and other related methods. For
one-shot image synthesis tasks, it shows stronger capability of preserving
images structures than prior arts such as the SinGANs. For image classification
tasks, the proposed SLIM is used as a drop-in replacement for convolution
layers in ResNets (resulting in ResNeXt-like models) and achieves better
accuracy in theImageNet-1000 dataset, with significantly smaller model
complexity
- Abstract(参考訳): 画像合成と画像認識は目覚ましい進歩をみせたが、しばしば計算に高価な訓練と推論を犠牲にしている。
軽量で表現力のある深層モデルを学ぶことは、重要で興味深い方向として現れています。
本稿では,画像合成モデルの効率的な学習を容易にするスキップ層インセプションモジュール (slim) と,画像認識のためのよく知られたresnextsの強力な代替として,同層変種 (dubbed as slim too) を提案する。
スリムでは、入力特徴マップはまず複数のグループ(例:4)に分割される。
それぞれのグループは、(チャネルワイズによる)潜伏型ベクトルと(空間的注意による)潜伏型空間マスクに変換される。
学習した潜伏マスクと潜伏型ベクトルを集約して目標特徴写像を変調する。
ジェネレーティブラーニングのために、SLIMは、最近提案された、スキップ層励起(SLE)モジュールを示す軽量なジェネレーティブ・アドバイサル・ネットワーク(FastGAN)上に構築されている。
数ショットの画像合成タスクにおいて,提案するSLIMは,SLE処理やその他の関連手法よりも優れた性能を実現する。
ワンショット画像合成タスクでは、SinGANsのような先行技術よりも画像構造を保存できることが示される。
画像分類タスクでは、提案したSLIMがResNetsの畳み込み層(ResNeXtのようなモデルで表現される)のドロップイン置換として使用され、ImageNet-1000データセットの精度が向上し、モデルの複雑さが大幅に小さくなった。
関連論文リスト
- Unlocking Pre-trained Image Backbones for Semantic Image Synthesis [29.688029979801577]
本稿では,現実的な画像を生成するセマンティック画像合成のための新しい種類のGAN識別器を提案する。
DP-SIMSをダブした本モデルでは,ADE-20K,COCO-Stuff,Cityscapesの入力ラベルマップと画像品質と一貫性の両面から,最新の結果が得られる。
論文 参考訳(メタデータ) (2023-12-20T09:39:19Z) - MOCA: Self-supervised Representation Learning by Predicting Masked Online Codebook Assignments [72.6405488990753]
自己教師付き学習は、ビジョントランスフォーマーネットワークの欲求を軽減できる。
所望のプロパティを統一する単段および単段のMOCAを提案する。
我々は,様々な評価プロトコルにおいて,低照度設定と強力な実験結果に対して,最先端の新たな結果を得る。
論文 参考訳(メタデータ) (2023-07-18T15:46:20Z) - Not All Image Regions Matter: Masked Vector Quantization for
Autoregressive Image Generation [78.13793505707952]
既存の自己回帰モデルは、まず画像再構成のための潜伏空間のコードブックを学習し、学習したコードブックに基づいて自己回帰的に画像生成を完了する2段階生成パラダイムに従っている。
そこで本研究では,Masked Quantization VAE (MQ-VAE) Stackモデルを用いた2段階フレームワークを提案する。
論文 参考訳(メタデータ) (2023-05-23T02:15:53Z) - Stare at What You See: Masked Image Modeling without Reconstruction [154.74533119863864]
Masked Autoencoders (MAE) は、大規模な視覚表現事前学習のパラダイムとして広く普及している。
近年の手法では, 画像特徴を再構成対象として抽出するために, セマンティック・リッチな教師モデルが適用されており, 性能が向上している。
強力な教師モデルによって抽出された特徴は、画像中の領域間のリッチなセマンティックな相関を既にエンコードしていると論じる。
論文 参考訳(メタデータ) (2022-11-16T12:48:52Z) - One-Shot Synthesis of Images and Segmentation Masks [28.119303696418882]
画像合成とGAN(Generative Adversarial Network)とのセグメンテーションマスクの併用により,画像データをピクセル単位のアノテーションで収集する作業の削減が期待されている。
高忠実な画像マスク合成を学習するために、既存のGANアプローチは、大量の画像データを必要とする事前学習フェーズを必要とする。
我々は,1ショット方式で生成した画像に正確に整合したセグメンテーションマスクの合成を可能にするOSMISモデルを提案する。
論文 参考訳(メタデータ) (2022-09-15T18:00:55Z) - Half-Real Half-Fake Distillation for Class-Incremental Semantic
Segmentation [84.1985497426083]
畳み込みニューラルネットワークは漸進的な学習に不適である。
新しいクラスは利用できるが、初期トレーニングデータは保持されない。
訓練されたセグメンテーションネットワークを「反転」して、ランダムノイズから始まる入力画像の合成を試みる。
論文 参考訳(メタデータ) (2021-04-02T03:47:16Z) - Convolutional Neural Networks from Image Markers [62.997667081978825]
特徴 画像マーカーからの学習(FLIM)は、ごく少数の画像でユーザーが描画したストロークから、バックプロパゲーションのない畳み込みフィルタを推定するために最近提案されました。
本稿では、フルコネクテッド層に対してFLIMを拡張し、異なる画像分類問題について実証する。
その結果、FLIMベースの畳み込みニューラルネットワークは、バックプロパゲーションによってゼロから訓練された同じアーキテクチャを上回ります。
論文 参考訳(メタデータ) (2020-12-15T22:58:23Z) - ResNeSt: Split-Attention Networks [86.25490825631763]
このアーキテクチャは、異なるネットワークブランチにチャンネルワイズを応用し、機能間相互作用のキャプチャと多様な表現の学習の成功を活用する。
我々のモデルはResNeStと呼ばれ、画像分類の精度と遅延トレードオフにおいてEfficientNetより優れています。
論文 参考訳(メタデータ) (2020-04-19T20:40:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。