論文の概要: Deep Frequency Filtering for Domain Generalization
- arxiv url: http://arxiv.org/abs/2203.12198v1
- Date: Wed, 23 Mar 2022 05:19:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-24 14:51:20.285592
- Title: Deep Frequency Filtering for Domain Generalization
- Title(参考訳): 領域一般化のための深部周波数フィルタ
- Authors: Shiqi Lin, Zhizheng Zhang, Zhipeng Huang, Yan Lu, Cuiling Lan, Peng
Chu, Quanzeng You, Jiang Wang, Zicheng Liu, Amey Parulkar, Viraj Navkal,
Zhibo Chen
- Abstract要約: ディープニューラルネットワーク(DNN)は、学習プロセスにおいて異なる周波数成分を好む。
本稿では、ドメイン一般化可能な特徴を学習するためのDeep Frequency Filtering (DFF)を提案する。
そこで本研究では,DFFをベースラインに適用することにより,各領域の一般化タスクにおける最先端の手法よりも優れていることを示す。
- 参考スコア(独自算出の注目度): 55.66498461438285
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Improving the generalization capability of Deep Neural Networks (DNNs) is
critical for their practical uses, which has been a longstanding challenge.
Some theoretical studies have revealed that DNNs have preferences to different
frequency components in the learning process and indicated that this may affect
the robustness of learned features. In this paper, we propose Deep Frequency
Filtering (DFF) for learning domain-generalizable features, which is the first
endeavour to explicitly modulate frequency components of different transfer
difficulties across domains during training. To achieve this, we perform Fast
Fourier Transform (FFT) on feature maps at different layers, then adopt a
light-weight module to learn the attention masks from frequency representations
after FFT to enhance transferable frequency components while suppressing the
components not conductive to generalization. Further, we empirically compare
different types of attention for implementing our conceptualized DFF. Extensive
experiments demonstrate the effectiveness of the proposed DFF and show that
applying DFF on a plain baseline outperforms the state-of-the-art methods on
different domain generalization tasks, including close-set classification and
open-set retrieval.
- Abstract(参考訳): ディープニューラルネットワーク(DNN)の一般化能力の向上は,長年にわたる課題である実用上重要な課題である。
いくつかの理論的研究は、DNNが学習過程において異なる周波数成分を好むことを明らかにし、学習特徴の堅牢性に影響を与える可能性があることを示した。
本稿では,学習中の領域間で異なる伝達困難の周波数成分を明示的に変調する最初の試みである,領域一般化型特徴を学習するための深部周波数フィルタリング(dff)を提案する。
そこで我々は,異なる層における特徴マップ上でFast Fourier Transform(FFT)を行い,FFT以降の周波数表現から注目マスクを学習するための軽量モジュールを用いて,伝達可能な周波数成分を増大させ,一般化に導電性のない成分を抑制する。
さらに、概念化されたDFFを実装する上で、異なるタイプの注意を経験的に比較する。
提案するdffの有効性を広範な実験により実証し,dffを平易なベースラインに適用することで,クローズセット分類やオープンセット検索など,異なるドメイン一般化タスクにおける最先端手法よりも優れていることを示した。
関連論文リスト
- Frequency-Aware Deepfake Detection: Improving Generalizability through
Frequency Space Learning [81.98675881423131]
この研究は、目に見えないディープフェイク画像を効果的に識別できるユニバーサルディープフェイク検出器を開発するという課題に対処する。
既存の周波数ベースのパラダイムは、偽造検出のためにGANパイプラインのアップサンプリング中に導入された周波数レベルのアーティファクトに依存している。
本稿では、周波数領域学習を中心にしたFreqNetと呼ばれる新しい周波数認識手法を導入し、ディープフェイク検出器の一般化性を高めることを目的とする。
論文 参考訳(メタデータ) (2024-03-12T01:28:00Z) - Adaptive Frequency Filters As Efficient Global Token Mixers [100.27957692579892]
適応周波数フィルタは効率的なグローバルトークンミキサーとして機能することを示す。
我々は、AFFNetと呼ばれる軽量ニューラルネットワークを構築するために、AFFトークンミキサーを主要なニューラルネットワークとして捉えています。
論文 参考訳(メタデータ) (2023-07-26T07:42:28Z) - FAN-Net: Fourier-Based Adaptive Normalization For Cross-Domain Stroke
Lesion Segmentation [17.150527504559594]
フーリエ適応正規化(FAN)を組み込んだU-NetベースのセグメンテーションネットワークであるFAN-Netを提案する。
9地点のMR画像からなるATLASデータセットの実験結果は,ベースライン法と比較して提案したFAN-Netの優れた性能を示している。
論文 参考訳(メタデータ) (2023-04-23T06:58:21Z) - Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。
この研究は、単一変換による周波数領域学習のための青写真を導入している。
論文 参考訳(メタデータ) (2022-11-26T01:56:05Z) - Adaptive Frequency Learning in Two-branch Face Forgery Detection [66.91715092251258]
本稿では、AFDと呼ばれる2分岐検出フレームワークにおいて、周波数情報を適応的に学習する手法を提案する。
我々は、固定周波数変換からネットワークを解放し、データおよびタスク依存の変換層でより良いパフォーマンスを達成する。
論文 参考訳(メタデータ) (2022-03-27T14:25:52Z) - Learnable Multi-level Frequency Decomposition and Hierarchical Attention
Mechanism for Generalized Face Presentation Attack Detection [7.324459578044212]
顔提示攻撃検知(PAD)は多くの注目を集めており、顔認識システムを保護する上で重要な役割を果たしている。
両ストリーム畳み込みニューラルネットワーク(CNN)フレームワークを提案する。
ステップワイドアブレーション研究において提案したPAD法の設計を実証した。
論文 参考訳(メタデータ) (2021-09-16T13:06:43Z) - iffDetector: Inference-aware Feature Filtering for Object Detection [70.8678270164057]
Inference-aware Feature Filtering (IFF)モジュールを導入し、現代の検出器と簡単に組み合わせることができる。
IFFは、畳み込み機能を強化するためにハイレベルなセマンティクスを活用することでクローズドループ最適化を行う。
IFFはCNNベースの物体検出器とプラグアンドプレイ方式で融合でき、計算コストのオーバーヘッドは無視できる。
論文 参考訳(メタデータ) (2020-06-23T02:57:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。