論文の概要: Domain Adaptation and Entanglement: an Optimal Transport Perspective
- arxiv url: http://arxiv.org/abs/2503.08155v1
- Date: Tue, 11 Mar 2025 08:10:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-03-12 15:42:00.565526
- Title: Domain Adaptation and Entanglement: an Optimal Transport Perspective
- Title(参考訳): ドメイン適応と絡み合い--最適輸送の視点から
- Authors: Okan Koç, Alexander Soen, Chao-Kai Chiang, Masashi Sugiyama,
- Abstract要約: 現在の機械学習システムは分散シフト(DS)に直面して脆弱であり、そこでは、システムがテストされる対象の分布は、システムのトレーニングに使用されるソースの分布とは異なる。
ディープニューラルネットワークでは、教師なしドメイン適応(UDA)のための一般的なフレームワークがドメインマッチングである。
本稿では,UDA問題を解析する最適な輸送量に基づく新しい境界を導出する。
- 参考スコア(独自算出の注目度): 86.24617989187988
- License:
- Abstract: Current machine learning systems are brittle in the face of distribution shifts (DS), where the target distribution that the system is tested on differs from the source distribution used to train the system. This problem of robustness to DS has been studied extensively in the field of domain adaptation. For deep neural networks, a popular framework for unsupervised domain adaptation (UDA) is domain matching, in which algorithms try to align the marginal distributions in the feature or output space. The current theoretical understanding of these methods, however, is limited and existing theoretical results are not precise enough to characterize their performance in practice. In this paper, we derive new bounds based on optimal transport that analyze the UDA problem. Our new bounds include a term which we dub as \emph{entanglement}, consisting of an expectation of Wasserstein distance between conditionals with respect to changing data distributions. Analysis of the entanglement term provides a novel perspective on the unoptimizable aspects of UDA. In various experiments with multiple models across several DS scenarios, we show that this term can be used to explain the varying performance of UDA algorithms.
- Abstract(参考訳): 現在の機械学習システムは分散シフト(DS)に直面して脆弱であり、そこでは、システムがテストされる対象の分布は、システムのトレーニングに使用されるソースの分布とは異なる。
このDSに対する堅牢性の問題は、領域適応の分野で広く研究されている。
ディープニューラルネットワークでは、教師なしドメイン適応(UDA)のための一般的なフレームワークがドメインマッチングである。
しかし、これらの手法の現在の理論的理解は限定的であり、既存の理論的な結果は実際の性能を特徴づけるほど正確ではない。
本稿では,UDA問題を解析する最適な輸送量に基づく新しい境界を導出する。
我々の新しい境界には、データ分布の変化に関して条件間のワッサーシュタイン距離を期待する「emph{entanglement}」という用語が含まれる。
絡み合い項の分析は、UDAの最適でない側面に関する新しい視点を提供する。
複数のDSシナリオにまたがる複数のモデルを用いた様々な実験において、この用語は UDA アルゴリズムの様々な性能を説明するのに利用できることを示す。
関連論文リスト
- Unified Domain Adaptive Semantic Segmentation [96.74199626935294]
Unsupervised Adaptive Domain Semantic (UDA-SS)は、ラベル付きソースドメインからラベル付きターゲットドメインに監督を移すことを目的としている。
本稿では,特徴量と特徴量との相違に対処するQuad-directional Mixup(QuadMix)法を提案する。
提案手法は,4つの挑戦的UDA-SSベンチマークにおいて,最先端の成果を大きなマージンで上回っている。
論文 参考訳(メタデータ) (2023-11-22T09:18:49Z) - Unsupervised Domain Adaptation Based on the Predictive Uncertainty of
Models [1.6498361958317636]
非教師付きドメイン適応(UDA)は、ソースドメインからの分散シフトの下で、ターゲットドメインの予測性能を改善することを目的としている。
ドメインの発散を最小限に抑えるドメイン不変の特徴を学習する新しいUDA法を提案する。
論文 参考訳(メタデータ) (2022-11-16T12:23:32Z) - Learning Feature Decomposition for Domain Adaptive Monocular Depth
Estimation [51.15061013818216]
改良されたアプローチは、深層学習の進歩で大きな成功をもたらしたが、それらは大量の地底深度アノテーションに依存している。
教師なしドメイン適応(UDA)は、教師付き学習の制約を緩和するため、ラベル付きソースデータからラベルなしターゲットデータに知識を転送する。
本稿では,その特徴空間をコンテンツやスタイルコンポーネントに分解することを学ぶための,学習特徴分解 for Adaptation (LFDA) と呼ばれる新しいMDEのためのUDA手法を提案する。
論文 参考訳(メタデータ) (2022-07-30T08:05:35Z) - Generalizing to Unseen Domains with Wasserstein Distributional Robustness under Limited Source Knowledge [22.285156929279207]
ドメインの一般化は、目に見えないターゲットドメインでうまく機能する普遍的なモデルを学ぶことを目的としている。
We propose a novel domain generalization framework called Wasserstein Distributionally Robust Domain Generalization (WDRDG)。
論文 参考訳(メタデータ) (2022-07-11T14:46:50Z) - SPD domain-specific batch normalization to crack interpretable
unsupervised domain adaptation in EEG [25.642435946325925]
現在のEEG技術は、高価な教師付き再校正なしでは、ドメイン間でうまく一般化しない。
SPDドメイン固有の運動量バッチ正規化(SPDDSMBN)を示す幾何学的深層学習のための新しいビルディングブロックを提案する。
SPDDSMBNレイヤはドメイン固有のSPD入力をドメイン不変のSPD出力に変換することができ、マルチソース/ターゲットおよびオンラインUDAシナリオに容易に適用できる。
論文 参考訳(メタデータ) (2022-06-02T22:31:36Z) - Long-tailed Distribution Adaptation [47.21518849423836]
長い尾分布を不均衡領域として、一般分布を均衡領域としてモデル化することにより、LDA(Long-tailed Recognition)を定式化する。
本研究では,不均衡領域と平衡領域の実証的リスクを共同で最適化し,クラス内距離とクラス間距離の差を近似することを提案する。
画像認識、オブジェクト検出、インスタンスセグメンテーションのためのベンチマークデータセットの実験により、我々のLDAアプローチが最先端のパフォーマンスを達成することを確認した。
論文 参考訳(メタデータ) (2021-10-06T12:15:22Z) - Improving Transferability of Domain Adaptation Networks Through Domain
Alignment Layers [1.3766148734487902]
マルチソースアン教師付きドメイン適応(MSDA)は、ソースモデルの袋から弱い知識を割り当てることで、ラベルのないドメインの予測子を学習することを目的としている。
我々は,DomaIn Alignment Layers (MS-DIAL) のマルチソースバージョンを予測器の異なるレベルに埋め込むことを提案する。
我々の手法は最先端のMSDA法を改善することができ、分類精度の相対利得は+30.64%に達する。
論文 参考訳(メタデータ) (2021-09-06T18:41:19Z) - Heuristic Domain Adaptation [105.59792285047536]
Heuristic Domain Adaptation Network (HDAN)は、ドメイン不変およびドメイン固有表現を明示的に学習する。
Heuristic Domain Adaptation Network (HDAN)は、教師なしDA、マルチソースDA、半教師なしDAの最先端を超越している。
論文 参考訳(メタデータ) (2020-11-30T04:21:35Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Few-shot Domain Adaptation by Causal Mechanism Transfer [107.08605582020866]
我々は,少数のラベル付き対象ドメインデータと多数のラベル付きソースドメインデータしか利用できないレグレッション問題に対して,数ショットの教師付きドメイン適応(DA)について検討する。
現在のDA法の多くは、パラメータ化された分布シフトまたは明らかな分布類似性に基づく転送仮定に基づいている。
本稿では,データ生成機構がドメイン間で不変であるメタ分散シナリオであるメカニズム転送を提案する。
論文 参考訳(メタデータ) (2020-02-10T02:16:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。