論文の概要: Bures Joint Distribution Alignment with Dynamic Margin for Unsupervised
Domain Adaptation
- arxiv url: http://arxiv.org/abs/2203.06836v1
- Date: Mon, 14 Mar 2022 03:20:01 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-15 16:02:49.362671
- Title: Bures Joint Distribution Alignment with Dynamic Margin for Unsupervised
Domain Adaptation
- Title(参考訳): 非教師なしドメイン適応のための動的マージンを用いたbures関節分布アライメント
- Authors: Yong-Hui Liu, Chuan-Xian Ren, Xiao-Lin Xu, Ke-Kun Huang
- Abstract要約: 非教師なしドメイン適応(Unsupervised domain adapt, UDA)は、トランスファーラーニングにおける顕著なタスクの1つである。
本稿では,共同分布間のカーネル・ブレス=ヴァッサーシュタイン距離を最小化するアライメント損失項を提案する。
実験により、BJDAは、ほとんどの実験環境で最先端のアルゴリズムよりも優れており、UDAタスクに非常に効果的であることが示された。
- 参考スコア(独自算出の注目度): 17.06364218327213
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised domain adaptation (UDA) is one of the prominent tasks of
transfer learning, and it provides an effective approach to mitigate the
distribution shift between the labeled source domain and the unlabeled target
domain. Prior works mainly focus on aligning the marginal distributions or the
estimated class-conditional distributions. However, the joint dependency among
the feature and the label is crucial for the adaptation task and is not fully
exploited. To address this problem, we propose the Bures Joint Distribution
Alignment (BJDA) algorithm which directly models the joint distribution shift
based on the optimal transport theory in the infinite-dimensional kernel
spaces. Specifically, we propose a novel alignment loss term that minimizes the
kernel Bures-Wasserstein distance between the joint distributions. Technically,
BJDA can effectively capture the nonlinear structures underlying the data. In
addition, we introduce a dynamic margin in contrastive learning phase to
flexibly characterize the class separability and improve the discriminative
ability of representations. It also avoids the cross-validation procedure to
determine the margin parameter in traditional triplet loss based methods.
Extensive experiments show that BJDA is very effective for the UDA tasks, as it
outperforms state-of-the-art algorithms in most experimental settings. In
particular, BJDA improves the average accuracy of UDA tasks by 2.8% on
Adaptiope, 1.4% on Office-Caltech10, and 1.1% on ImageCLEF-DA.
- Abstract(参考訳): 非教師付きドメイン適応(Unsupervised domain adapt, UDA)は、トランスファーラーニングにおける顕著なタスクの一つであり、ラベル付きソースドメインとラベルなしターゲットドメインの間の分散シフトを軽減する効果的なアプローチを提供する。
先行研究は主に限界分布や推定されたクラス条件分布の整合性に焦点を当てている。
しかし、機能とラベル間の結合依存性は適応タスクに不可欠であり、完全には利用されない。
この問題に対処するために,無限次元カーネル空間における最適輸送理論に基づいて,結合分布シフトを直接モデル化するBures Joint Distribution Alignment (BJDA)アルゴリズムを提案する。
具体的には, 結合分布間の核間距離を最小化するアライメント損失項を提案する。
技術的には、BJDAはデータの基盤となる非線形構造を効果的に捉えることができる。
さらに,クラス分離性を柔軟に特徴付けし,表現の識別能力を向上させるために,コントラスト学習段階における動的マージンを導入する。
また、従来の三重項損失ベース法においてマージンパラメータを決定するためのクロスバリデーション手順も避けている。
BJDAは、ほとんどの実験環境で最先端のアルゴリズムよりも優れており、UDAタスクに非常に効果的であることを示している。
特に、BJDAは、UDAタスクの平均精度をAdaptiopeで2.8%、Office-Caltech10で1.4%、ImageCLEF-DAで1.1%改善している。
関連論文リスト
- Source-Free Domain Adaptation for Medical Image Segmentation via
Prototype-Anchored Feature Alignment and Contrastive Learning [57.43322536718131]
医用画像セグメンテーションのための2段階のソースフリードメイン適応(SFDA)フレームワークを提案する。
プロトタイプアンコールされた特徴アライメントの段階では,まず,事前学習した画素ワイド分類器の重みを原プロトタイプとして利用する。
そこで,本研究では,目標となる特徴とクラスプロトタイプとの整合性を期待するコストを最小化し,双方向輸送を導入する。
論文 参考訳(メタデータ) (2023-07-19T06:07:12Z) - Memory Consistent Unsupervised Off-the-Shelf Model Adaptation for
Source-Relaxed Medical Image Segmentation [13.260109561599904]
非教師なしドメイン適応(UDA)は、ラベル付きソースドメインからラベル付きヘテロジニアスターゲットドメインに学習した情報を移行するための重要なプロトコルである。
我々は、ソースドメインで訓練されたOSセグメントをターゲットドメインに適応させることにより、イメージセグメンテーションを目的とした「オフ・ザ・シェルフ(OS)」 UDA (OSUDA) を提案する。
論文 参考訳(メタデータ) (2022-09-16T13:13:50Z) - Balancing Discriminability and Transferability for Source-Free Domain
Adaptation [55.143687986324935]
従来のドメイン適応(DA)技術は、ドメイン不変表現を学習することでドメイン転送性を改善することを目的としている。
ラベル付けされたソースとラベル付けされていないターゲットへの同時アクセス要件は、ソースフリーなDA設定に適さない。
そこで本研究では,原文と翻訳サンプルの混在が識別可能性と伝達可能性のトレードオフを促進することを示す新しい知見を導出する。
論文 参考訳(メタデータ) (2022-06-16T09:06:22Z) - Learning Unbiased Transferability for Domain Adaptation by Uncertainty
Modeling [107.24387363079629]
ドメイン適応は、ラベル付けされたソースドメインからラベル付けされていない、あるいはラベル付けされていないが関連するターゲットドメインに知識を転送することを目的としています。
ソース内のアノテートされたデータの量とターゲットドメインとの間の不均衡のため、ターゲットの分布のみがソースドメインにアライメントされる。
本稿では,非暴力的非暴力的移動可能性推定プラグイン(UTEP)を提案し,非暴力的移動を最適化するDA法において,識別器の不確実性をモデル化する。
論文 参考訳(メタデータ) (2022-06-02T21:58:54Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Adapting Off-the-Shelf Source Segmenter for Target Medical Image
Segmentation [12.703234995718372]
教師なしドメイン適応(Unsupervised domain adapt, UDA)は、ラベル付きソースドメインから学習した知識をラベルなしおよび見えないターゲットドメインに転送することを目的としている。
データストレージやプライバシの問題のため、適応段階でのソースドメインデータへのアクセスは制限されることが多い。
我々は、ソースドメインで事前訓練されたオフザシェルフセグメントモデルをターゲットドメインに適用することを提案する。
論文 参考訳(メタデータ) (2021-06-23T16:16:55Z) - Margin Preserving Self-paced Contrastive Learning Towards Domain
Adaptation for Medical Image Segmentation [51.93711960601973]
クロスモーダル医療画像セグメンテーションのための自己ペースコントラスト学習モデルを保存する新しいマージンを提案する。
プログレッシブに洗練されたセマンティックプロトタイプの指導により、埋め込み表現空間の識別性を高めるために、コントラスト損失を減少させる新しいマージンが提案される。
クロスモーダル心セグメンテーションタスクの実験は、MPSCLが意味セグメンテーション性能を大幅に改善することを示した。
論文 参考訳(メタデータ) (2021-03-15T15:23:10Z) - Effective Label Propagation for Discriminative Semi-Supervised Domain
Adaptation [76.41664929948607]
半教師付き領域適応(SSDA)法は,大規模な画像分類タスクにおいて大きな可能性を示している。
本稿では、ドメイン間およびドメイン内セマンティック情報を効果的に伝達することにより、この問題に対処する新しい効果的な方法を提案する。
ソースコードと事前訓練されたモデルも間もなくリリースされる予定です。
論文 参考訳(メタデータ) (2020-12-04T14:28:19Z) - Discriminative Feature Alignment: Improving Transferability of
Unsupervised Domain Adaptation by Gaussian-guided Latent Alignment [27.671964294233756]
本研究では,ラベル付きデータ領域から近似推論モデルを学習するための教師なし領域適応問題に着目した。
教師なしのドメイン適応の成功は、主にクロスドメイン機能アライメントに依存している。
本稿では,2つの領域の潜在特徴分布を事前分布の導出の下で整列するガウス誘導型潜時アライメント手法を提案する。
そのような間接的な方法では、2つの領域からのサンプル上の分布は共通の特徴空間、すなわち前の領域の空間上に構築される。
論文 参考訳(メタデータ) (2020-06-23T05:33:54Z) - Partially-Shared Variational Auto-encoders for Unsupervised Domain
Adaptation with Target Shift [11.873435088539459]
本稿では,教師なしドメイン適応(UDA)の目標シフトを考慮した新しいアプローチを提案する。
提案手法は部分共有変分オートエンコーダ (PS-VAE) であり, 特徴分布マッチングの代わりにペアワイズな特徴アライメントを用いる。
PS-VAEは、ラベル関連コンテンツを保存しながら、CycleGANベースのアーキテクチャで各サンプルの変換ドメインを相互変換する。
論文 参考訳(メタデータ) (2020-01-22T06:41:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。