論文の概要: Deep Frequency Filtering for Domain Generalization
- arxiv url: http://arxiv.org/abs/2203.12198v2
- Date: Sat, 25 Mar 2023 06:21:44 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-29 03:41:13.178123
- Title: Deep Frequency Filtering for Domain Generalization
- Title(参考訳): 領域一般化のための深部周波数フィルタ
- Authors: Shiqi Lin, Zhizheng Zhang, Zhipeng Huang, Yan Lu, Cuiling Lan, Peng
Chu, Quanzeng You, Jiang Wang, Zicheng Liu, Amey Parulkar, Viraj Navkal,
Zhibo Chen
- Abstract要約: Deep Neural Networks(DNN)は、学習プロセスにおいて、いくつかの周波数成分を優先する。
本稿では、ドメイン一般化可能な特徴を学習するためのDeep Frequency Filtering (DFF)を提案する。
提案したDFFをベースラインに適用すると,ドメインの一般化タスクにおける最先端の手法よりも優れることを示す。
- 参考スコア(独自算出の注目度): 55.66498461438285
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Improving the generalization ability of Deep Neural Networks (DNNs) is
critical for their practical uses, which has been a longstanding challenge.
Some theoretical studies have uncovered that DNNs have preferences for some
frequency components in the learning process and indicated that this may affect
the robustness of learned features. In this paper, we propose Deep Frequency
Filtering (DFF) for learning domain-generalizable features, which is the first
endeavour to explicitly modulate the frequency components of different transfer
difficulties across domains in the latent space during training. To achieve
this, we perform Fast Fourier Transform (FFT) for the feature maps at different
layers, then adopt a light-weight module to learn attention masks from the
frequency representations after FFT to enhance transferable components while
suppressing the components not conducive to generalization. Further, we
empirically compare the effectiveness of adopting different types of attention
designs for implementing DFF. Extensive experiments demonstrate the
effectiveness of our proposed DFF and show that applying our DFF on a plain
baseline outperforms the state-of-the-art methods on different domain
generalization tasks, including close-set classification and open-set
retrieval.
- Abstract(参考訳): ディープニューラルネットワーク(DNN)の一般化能力の向上は,長年にわたる課題である実用上重要な課題である。
いくつかの理論的研究は、DNNが学習過程の周波数成分を好んでいることを発見し、これが学習特徴の堅牢性に影響を与える可能性があることを示した。
本稿では,学習中に潜在空間内の領域間で異なる伝達困難の周波数成分を明示的に変調する最初の試みである,領域一般化型特徴を学習するための深部周波数フィルタリング(dff)を提案する。
そこで我々は,異なる層における特徴写像に対する高速フーリエ変換(FFT)を行い,FFT以降の周波数表現から注目マスクを学習するための軽量モジュールを導入し,一般化を伴わないコンポーネントを抑えながら,転送可能なコンポーネントを強化する。
さらに,dffの実装に異なるタイプの注意設計を適用する効果を実証的に比較した。
実験の結果,提案したDFFの有効性を実証し,DFFをベースラインに適用することで,近集合分類やオープンセット検索など,異なる領域の一般化タスクにおける最先端の手法よりも優れていることを示した。
関連論文リスト
- Frequency-Aware Deepfake Detection: Improving Generalizability through
Frequency Space Learning [81.98675881423131]
この研究は、目に見えないディープフェイク画像を効果的に識別できるユニバーサルディープフェイク検出器を開発するという課題に対処する。
既存の周波数ベースのパラダイムは、偽造検出のためにGANパイプラインのアップサンプリング中に導入された周波数レベルのアーティファクトに依存している。
本稿では、周波数領域学習を中心にしたFreqNetと呼ばれる新しい周波数認識手法を導入し、ディープフェイク検出器の一般化性を高めることを目的とする。
論文 参考訳(メタデータ) (2024-03-12T01:28:00Z) - Adaptive Frequency Filters As Efficient Global Token Mixers [100.27957692579892]
適応周波数フィルタは効率的なグローバルトークンミキサーとして機能することを示す。
我々は、AFFNetと呼ばれる軽量ニューラルネットワークを構築するために、AFFトークンミキサーを主要なニューラルネットワークとして捉えています。
論文 参考訳(メタデータ) (2023-07-26T07:42:28Z) - FAN-Net: Fourier-Based Adaptive Normalization For Cross-Domain Stroke
Lesion Segmentation [17.150527504559594]
フーリエ適応正規化(FAN)を組み込んだU-NetベースのセグメンテーションネットワークであるFAN-Netを提案する。
9地点のMR画像からなるATLASデータセットの実験結果は,ベースライン法と比較して提案したFAN-Netの優れた性能を示している。
論文 参考訳(メタデータ) (2023-04-23T06:58:21Z) - Transform Once: Efficient Operator Learning in Frequency Domain [69.74509540521397]
本研究では、周波数領域の構造を利用して、空間や時間における長距離相関を効率的に学習するために設計されたディープニューラルネットワークについて検討する。
この研究は、単一変換による周波数領域学習のための青写真を導入している。
論文 参考訳(メタデータ) (2022-11-26T01:56:05Z) - Adaptive Frequency Learning in Two-branch Face Forgery Detection [66.91715092251258]
本稿では、AFDと呼ばれる2分岐検出フレームワークにおいて、周波数情報を適応的に学習する手法を提案する。
我々は、固定周波数変換からネットワークを解放し、データおよびタスク依存の変換層でより良いパフォーマンスを達成する。
論文 参考訳(メタデータ) (2022-03-27T14:25:52Z) - Learnable Multi-level Frequency Decomposition and Hierarchical Attention
Mechanism for Generalized Face Presentation Attack Detection [7.324459578044212]
顔提示攻撃検知(PAD)は多くの注目を集めており、顔認識システムを保護する上で重要な役割を果たしている。
両ストリーム畳み込みニューラルネットワーク(CNN)フレームワークを提案する。
ステップワイドアブレーション研究において提案したPAD法の設計を実証した。
論文 参考訳(メタデータ) (2021-09-16T13:06:43Z) - iffDetector: Inference-aware Feature Filtering for Object Detection [70.8678270164057]
Inference-aware Feature Filtering (IFF)モジュールを導入し、現代の検出器と簡単に組み合わせることができる。
IFFは、畳み込み機能を強化するためにハイレベルなセマンティクスを活用することでクローズドループ最適化を行う。
IFFはCNNベースの物体検出器とプラグアンドプレイ方式で融合でき、計算コストのオーバーヘッドは無視できる。
論文 参考訳(メタデータ) (2020-06-23T02:57:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。