論文の概要: Theoretical Guarantees for Domain Adaptation with Hierarchical Optimal Transport

• arxiv url: http://arxiv.org/abs/2210.13331v1
• Date: Mon, 24 Oct 2022 15:34:09 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-25 14:39:09.128736
• Title: Theoretical Guarantees for Domain Adaptation with Hierarchical Optimal Transport
• Title（参考訳）: 階層的最適輸送による領域適応の理論的保証
• Authors: Mourad El Hamri, Youn\`es Bennani, Issam Falih
• Abstract要約: ドメイン適応は統計学習理論において重要な問題として生じる。 近年の進歩は、領域適応アルゴリズムの成功は、ソースとターゲット領域の確率分布のばらつきを最小限に抑える能力に大きく依存していることを示している。 階層的最適輸送によるドメイン適応のための新しい理論的枠組みを提案する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Domain adaptation arises as an important problem in statistical learning theory when the data-generating processes differ between training and test samples, respectively called source and target domains. Recent theoretical advances show that the success of domain adaptation algorithms heavily relies on their ability to minimize the divergence between the probability distributions of the source and target domains. However, minimizing this divergence cannot be done independently of the minimization of other key ingredients such as the source risk or the combined error of the ideal joint hypothesis. The trade-off between these terms is often ensured by algorithmic solutions that remain implicit and not directly reflected by the theoretical guarantees. To get to the bottom of this issue, we propose in this paper a new theoretical framework for domain adaptation through hierarchical optimal transport. This framework provides more explicit generalization bounds and allows us to consider the natural hierarchical organization of samples in both domains into classes or clusters. Additionally, we provide a new divergence measure between the source and target domains called Hierarchical Wasserstein distance that indicates under mild assumptions, which structures have to be aligned to lead to a successful adaptation.
• Abstract（参考訳）: ドメイン適応は、それぞれソースドメインとターゲットドメインと呼ばれるトレーニングとテストサンプルの間にデータ生成プロセスが異なる場合、統計学習理論において重要な問題として生じる。 最近の理論的進歩は、領域適応アルゴリズムの成功は、ソースとターゲット領域の確率分布のばらつきを最小限に抑える能力に大きく依存していることを示している。 しかし、この分岐を最小化することは、ソースリスクや理想的な合同仮説の複合誤差といった他の主要な成分の最小化とは独立にできない。 これらの用語間のトレードオフは、しばしば暗黙的であり、理論的な保証によって直接反映されないアルゴリズム的解によって保証される。 そこで,本稿では,階層的最適移動によるドメイン適応のための新しい理論的枠組みを提案する。 このフレームワークはより明示的な一般化境界を提供し、両方のドメイン内のサンプルの自然な階層構造をクラスやクラスタにまとめることができる。 さらに、階層的ワッサースタイン距離(Hierarchical Wasserstein distance)と呼ばれるソース領域とターゲット領域の間の新たな分岐測度を提供する。

関連論文リスト

• Optimal Aggregation of Prediction Intervals under Unsupervised Domain Shift [9.387706860375461]
  分散シフトは、基礎となるデータ生成プロセスが変化したときに発生し、モデルの性能のずれにつながる。 予測間隔は、その基礎となる分布によって引き起こされる不確実性を特徴づける重要なツールとして機能する。 予測区間を集約し,最小の幅と対象領域を適切にカバーする手法を提案する。
  論文  参考訳（メタデータ） (2024-05-16T17:55:42Z)
• Constrained Maximum Cross-Domain Likelihood for Domain Generalization [14.91361835243516]
  ドメインの一般化は、複数のソースドメイン上で一般化可能なモデルを学ぶことを目的としている。 本稿では,異なる領域の後方分布間のKL偏差を最小限に抑える新しい領域一般化法を提案する。 Digits-DG、PACS、Office-Home、MiniDomainNetの4つの標準ベンチマークデータセットの実験は、我々のメソッドの優れたパフォーマンスを強調している。
  論文  参考訳（メタデータ） (2022-10-09T03:41:02Z)
• Domain-Specific Risk Minimization for Out-of-Distribution Generalization [104.17683265084757]
  まず、適応性ギャップを明示的に考慮した一般化境界を確立する。 本稿では,目標に対するより良い仮説の選択を導くための効果的なギャップ推定法を提案する。 もう1つの方法は、オンラインターゲットサンプルを用いてモデルパラメータを適応させることにより、ギャップを最小化することである。
  論文  参考訳（メタデータ） (2022-08-18T06:42:49Z)
• Generalizing to Unseen Domains with Wasserstein Distributional Robustness under Limited Source Knowledge [22.285156929279207]
  ドメインの一般化は、目に見えないターゲットドメインでうまく機能する普遍的なモデルを学ぶことを目的としている。 We propose a novel domain generalization framework called Wasserstein Distributionally Robust Domain Generalization (WDRDG)。
  論文  参考訳（メタデータ） (2022-07-11T14:46:50Z)
• Learning Unbiased Transferability for Domain Adaptation by Uncertainty Modeling [107.24387363079629]
  ドメイン適応は、ラベル付けされたソースドメインからラベル付けされていない、あるいはラベル付けされていないが関連するターゲットドメインに知識を転送することを目的としています。 ソース内のアノテートされたデータの量とターゲットドメインとの間の不均衡のため、ターゲットの分布のみがソースドメインにアライメントされる。 本稿では,非暴力的非暴力的移動可能性推定プラグイン(UTEP)を提案し,非暴力的移動を最適化するDA法において,識別器の不確実性をモデル化する。
  論文  参考訳（メタデータ） (2022-06-02T21:58:54Z)
• Maximizing Conditional Independence for Unsupervised Domain Adaptation [9.533515002375545]
  本研究では,学習者をラベル付きソースドメインから,異なる分布を持つラベル付きターゲットドメインに転送する方法について検討する。 教師なしのドメイン適応に加えて、自然かつエレガントな方法でマルチソースシナリオにメソッドを拡張します。
  論文  参考訳（メタデータ） (2022-03-07T08:59:21Z)
• KL Guided Domain Adaptation [88.19298405363452]
  ドメイン適応は重要な問題であり、現実世界のアプリケーションにしばしば必要である。 ドメイン適応文学における一般的なアプローチは、ソースとターゲットドメインに同じ分布を持つ入力の表現を学ぶことである。 確率的表現ネットワークにより、KL項はミニバッチサンプルにより効率的に推定できることを示す。
  論文  参考訳（メタデータ） (2021-06-14T22:24:23Z)
• A Theory of Label Propagation for Subpopulation Shift [61.408438422417326]
  ラベル伝搬に基づくドメイン適応のための有効なフレームワークを提案する。 アルゴリズム全体でエンドツーエンドの有限サンプル保証を得る。 理論的なフレームワークを、第3のラベルなしデータセットに基づいたソースからターゲットへの転送のより一般的な設定に拡張します。
  論文  参考訳（メタデータ） (2021-02-22T17:27:47Z)
• Learning Invariant Representations and Risks for Semi-supervised Domain Adaptation [109.73983088432364]
  半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。 共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2020-10-09T15:42:35Z)
• Log-Likelihood Ratio Minimizing Flows: Towards Robust and Quantifiable Neural Distribution Alignment [52.02794488304448]
  そこで本研究では,対数様比統計量と正規化フローに基づく新しい分布アライメント手法を提案する。 入力領域の局所構造を保存する領域アライメントにおいて,結果の最小化を実験的に検証する。
  論文  参考訳（メタデータ） (2020-03-26T22:10:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。