論文の概要: Reciprocal Normalization for Domain Adaptation
- arxiv url: http://arxiv.org/abs/2112.10474v1
- Date: Mon, 20 Dec 2021 12:17:22 GMT
- ステータス: 処理完了
- システム内更新日: 2021-12-21 23:37:45.824872
- Title: Reciprocal Normalization for Domain Adaptation
- Title(参考訳): ドメイン適応のための相互正規化
- Authors: Zhiyong Huang, Kekai Sheng, Ke Li, Jian Liang, Taiping Yao, Weiming
Dong, Dengwen Zhou, Xing Sun
- Abstract要約: バッチ正規化(BN)は、現代のディープニューラルネットワークで広く使われている。
本稿では,新たな正規化手法であるReciprocal Normalization(RN)を提案する。
RNはUDA問題に適しており、一般的なドメイン適応手法に容易に組み込むことができる。
- 参考スコア(独自算出の注目度): 31.293016830229313
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Batch normalization (BN) is widely used in modern deep neural networks, which
has been shown to represent the domain-related knowledge, and thus is
ineffective for cross-domain tasks like unsupervised domain adaptation (UDA).
Existing BN variant methods aggregate source and target domain knowledge in the
same channel in normalization module. However, the misalignment between the
features of corresponding channels across domains often leads to a sub-optimal
transferability. In this paper, we exploit the cross-domain relation and
propose a novel normalization method, Reciprocal Normalization (RN).
Specifically, RN first presents a Reciprocal Compensation (RC) module to
acquire the compensatory for each channel in both domains based on the
cross-domain channel-wise correlation. Then RN develops a Reciprocal
Aggregation (RA) module to adaptively aggregate the feature with its
cross-domain compensatory components. As an alternative to BN, RN is more
suitable for UDA problems and can be easily integrated into popular domain
adaptation methods. Experiments show that the proposed RN outperforms existing
normalization counterparts by a large margin and helps state-of-the-art
adaptation approaches achieve better results. The source code is available on
https://github.com/Openning07/reciprocal-normalization-for-DA.
- Abstract(参考訳): バッチ正規化(BN)は、ドメイン関連の知識を表すことが示され、非教師なしドメイン適応(UDA)のようなドメイン横断タスクには効果がない現代のディープニューラルネットワークで広く使われている。
既存のbn変種メソッドは、正規化モジュールで同じチャネルでソースとターゲットのドメイン知識を集約する。
しかし、ドメイン間の対応するチャネルの特徴の相違は、しばしば準最適転送可能性をもたらす。
本稿では,クロスドメイン関係を利用し,新しい正規化法であるreciprocal normalization (rn)を提案する。
具体的には、RNがまずReciprocal Compensation(RC)モジュールを提示し、クロスドメインチャネルワイズ相関に基づいて、両方のドメインの各チャネルの補償を取得する。
次にRNは相互集約(Reciprocal Aggregation, RA)モジュールを開発し、その機能をクロスドメイン補償コンポーネントで適応的に集約する。
BN の代替として、RN は UDA 問題により適しており、一般的な領域適応法に容易に組み込むことができる。
実験により、提案されたRNは既存の正規化よりも大きなマージンで優れており、最先端の適応アプローチがより良い結果を得るのに役立つことが示された。
ソースコードはhttps://github.com/openning07/reciprocal-normalization-for-daで入手できる。
関連論文リスト
- MLNet: Mutual Learning Network with Neighborhood Invariance for
Universal Domain Adaptation [70.62860473259444]
ユニバーサルドメイン適応(UniDA)は実用的だが難しい問題である。
既存のUniDAメソッドは、ターゲットドメイン内のドメイン内バリエーションを見落としている問題に悩まされる可能性がある。
そこで我々は,UniDA の近傍不変性を考慮した新しい相互学習ネットワーク (MLNet) を提案する。
論文 参考訳(メタデータ) (2023-12-13T03:17:34Z) - Unsupervised Domain Adaptation via Domain-Adaptive Diffusion [31.802163238282343]
非教師付きドメイン適応(UDA)は、ソースドメインとターゲットドメインの間に大きな分散不一致があるため、非常に難しい。
大規模なギャップをまたいでデータ分散を段階的に変換する能力を持つ拡散モデルに着想を得て,その課題に対処する拡散手法について検討する。
提案手法は, 広く使用されている3つのUDAデータセットに対して, 現在の最先端技術よりも大きなマージンを達成している。
論文 参考訳(メタデータ) (2023-08-26T14:28:18Z) - Domain Generalization through the Lens of Angular Invariance [44.76809026901016]
ドメイン一般化(Domain Generalization, DG)は、複数のソースドメインで訓練された分類器を、ドメインシフトを伴う見えないターゲットドメインに一般化することを目的としている。
我々は、Angular Invariance Domain Generalization Network (AIDGN) と呼ばれる新しいディープDG手法を提案する。
論文 参考訳(メタデータ) (2022-10-28T02:05:38Z) - Generalizable Person Re-Identification via Self-Supervised Batch Norm
Test-Time Adaption [63.7424680360004]
Batch Norm Test-time Adaption (BNTA)は、BNパラメータを適応的に更新するための自己教師型戦略を適用する、新しいre-idフレームワークである。
BNTAは、推論前にラベル付けされていないターゲットデータ内のドメイン認識情報を探索し、BNによって正規化された特徴分布を変調してターゲットドメインに適応させる。
論文 参考訳(メタデータ) (2022-03-01T18:46:32Z) - Adversarially Adaptive Normalization for Single Domain Generalization [71.80587939738672]
一般化正規化アプローチ,適応標準化と再スケーリング正規化(ASR-Norm)を提案する。
ASR-Normは、ニューラルネットワークを介して標準化と再スケーリングの統計学を学ぶ。
ASR-Normは最先端のADAアプローチに一貫した改善をもたらすことを示す。
論文 参考訳(メタデータ) (2021-06-01T23:58:23Z) - Deep Domain Generalization with Feature-norm Network [33.84004077585957]
負の転送に頑健なFNN(End-to-end Feature-norm Network)を導入する。
また、FNNの能力をさらに向上させるために、協調的機能ノルムネットワーク(CFNN)を導入する。
論文 参考訳(メタデータ) (2021-04-28T06:13:47Z) - Improving Unsupervised Domain Adaptation by Reducing Bi-level Feature
Redundancy [14.94720207222332]
本稿では,UDAを両面的に改善する上で,特徴冗長性を低減することの重要性を強調した。
最初のレベルでは、転送可能な非相関正規化モジュールを用いて、コンパクトなドメイン特化機能を保証する。
第2のレベルでは、ドメイン共有表現によって引き起こされるドメイン不変特徴冗長性は、代替ブランド性によってさらに軽減される。
論文 参考訳(メタデータ) (2020-12-28T08:00:56Z) - Channel-wise Alignment for Adaptive Object Detection [66.76486843397267]
遺伝的物体検出は、ディープ畳み込みニューラルネットワークの開発によって大いに促進されている。
このタスクの既存の方法は、通常、画像全体や関心の対象に基づいて、ハイレベルなアライメントに注意を向ける。
本稿では,チャネルワイドアライメント(チャネルワイドアライメント)という,まったく異なる観点からの適応を実現する。
論文 参考訳(メタデータ) (2020-09-07T02:42:18Z) - Domain Conditioned Adaptation Network [90.63261870610211]
本稿では,ドメイン条件付きチャネルアテンション機構を用いて,異なる畳み込みチャネルを励起するドメイン条件適応ネットワーク(DCAN)を提案する。
これは、ディープDAネットワークのドメインワイドな畳み込みチャネルアクティベーションを探求する最初の試みである。
論文 参考訳(メタデータ) (2020-05-14T04:23:24Z) - Supervised Domain Adaptation using Graph Embedding [86.3361797111839]
領域適応法は、2つの領域間の分布がシフトし、それを認識しようとすると仮定する。
グラフ埋め込みに基づく汎用フレームワークを提案する。
提案手法が強力なドメイン適応フレームワークにつながることを示す。
論文 参考訳(メタデータ) (2020-03-09T12:25:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。