論文の概要: Pareto Domain Adaptation

• arxiv url: http://arxiv.org/abs/2112.04137v1
• Date: Wed, 8 Dec 2021 06:31:13 GMT
• ステータス: 処理完了
• システム内更新日: 2021-12-09 15:02:34.530598
• Title: Pareto Domain Adaptation
• Title（参考訳）: パレートドメイン適応
• Authors: Fangrui Lv, Jian Liang, Kaixiong Gong, Shuang Li, Chi Harold Liu, Han Li, Di Liu, Guoren Wang
• Abstract要約: ドメイン適応(DA)は、ラベル付きソースドメインからラベルなしターゲットドメインへの知識の転送を試みる。 本研究は,全学習目標を協調的に最適化することを目的とした,全体の最適化方向を制御するための新しいアプローチを提案する。
• 参考スコア（独自算出の注目度）: 35.48609986914723
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Domain adaptation (DA) attempts to transfer the knowledge from a labeled source domain to an unlabeled target domain that follows different distribution from the source. To achieve this, DA methods include a source classification objective to extract the source knowledge and a domain alignment objective to diminish the domain shift, ensuring knowledge transfer. Typically, former DA methods adopt some weight hyper-parameters to linearly combine the training objectives to form an overall objective. However, the gradient directions of these objectives may conflict with each other due to domain shift. Under such circumstances, the linear optimization scheme might decrease the overall objective value at the expense of damaging one of the training objectives, leading to restricted solutions. In this paper, we rethink the optimization scheme for DA from a gradient-based perspective. We propose a Pareto Domain Adaptation (ParetoDA) approach to control the overall optimization direction, aiming to cooperatively optimize all training objectives. Specifically, to reach a desirable solution on the target domain, we design a surrogate loss mimicking target classification. To improve target-prediction accuracy to support the mimicking, we propose a target-prediction refining mechanism which exploits domain labels via Bayes' theorem. On the other hand, since prior knowledge of weighting schemes for objectives is often unavailable to guide optimization to approach the optimal solution on the target domain, we propose a dynamic preference mechanism to dynamically guide our cooperative optimization by the gradient of the surrogate loss on a held-out unlabeled target dataset. Extensive experiments on image classification and semantic segmentation benchmarks demonstrate the effectiveness of ParetoDA
• Abstract（参考訳）: ドメイン適応(DA)は、ラベル付きソースドメインから、ソースから異なる分布に従うラベル付きターゲットドメインへの知識の転送を試みる。 これを実現するため、DA法は、ソース知識を抽出するソース分類目的と、ドメインシフトを減少させるドメインアライメント目的とを包含し、知識伝達を保証する。 従来のDA法では、トレーニング目的を線形に組み合わせて全体目標を形成するために、いくつかの重み付きハイパーパラメータが採用されている。 しかし、これらの目的の勾配方向はドメインシフトによって互いに矛盾する可能性がある。 このような状況下では、線形最適化スキームは訓練対象の1つを損なうことなく全体目標値を減少させ、制限された解をもたらす可能性がある。 本稿では,勾配に基づく観点から,DAの最適化手法を再考する。 そこで本研究では,pareto domain adaptation (paretoda) アプローチを提案する。 具体的には、ターゲット領域上で望ましい解に到達するために、ターゲット分類を模倣した代理損失を設計する。 模倣を支援するための目標予測精度を向上させるため,ベイズの定理を用いてドメインラベルを利用する目標予測精錬機構を提案する。 一方,目的に対する重み付けスキームの事前知識は,対象領域の最適解に近づくための最適化を導くためにしばしば利用できないため,保持されたラベルなしの目標データセット上でのサーロゲート損失の勾配による協調最適化を動的に導く動的選好機構を提案する。 ParetoDAの有効性を示す画像分類とセマンティックセグメンテーションベンチマークに関する大規模な実験

関連論文リスト

• Progressive Conservative Adaptation for Evolving Target Domains [76.9274842289221]
  従来のドメイン適応は、典型的には、ソースドメインから定常ターゲットドメインに知識を転送する。 このような対象データに対する復元と適応は、時間とともに計算とリソース消費をエスカレートする。 我々は、進歩的保守的適応(PCAda)と呼ばれる、単純で効果的なアプローチを提案する。
  論文  参考訳（メタデータ） (2024-02-07T04:11:25Z)
• Open-Set Domain Adaptation with Visual-Language Foundation Models [51.49854335102149]
  非教師なしドメイン適応(UDA)は、ソースドメインからラベルのないデータを持つターゲットドメインへの知識の転送に非常に効果的であることが証明されている。 オープンセットドメイン適応(ODA)は、トレーニングフェーズ中にこれらのクラスを識別する潜在的なソリューションとして登場した。
  論文  参考訳（メタデータ） (2023-07-30T11:38:46Z)
• Towards Source-free Domain Adaptive Semantic Segmentation via Importance-aware and Prototype-contrast Learning [26.544837987747766]
  本稿では、Importance-Aware と Prototype-Contrast Learning を用いた、エンドツーエンドのソースフリードメイン適応セマンティックセマンティックセマンティクス手法を提案する。 提案したIAPCフレームワークは、訓練済みソースモデルからドメイン不変知識を効果的に抽出し、ラベルなしターゲットドメインからドメイン固有知識を学習する。
  論文  参考訳（メタデータ） (2023-06-02T15:09:19Z)
• Label Alignment Regularization for Distribution Shift [63.228879525056904]
  最近の研究は、教師あり学習におけるラベルアライメント特性(LAP)を強調している。 対象領域の予測と最上位特異ベクトルとのアライメントを促進する非教師なし領域適応の正規化法を提案する。 MNIST-USPSドメイン適応や言語間感情分析などのよく知られたタスクにおいて、ドメイン適応ベースラインよりもパフォーマンスが向上したことを報告した。
  論文  参考訳（メタデータ） (2022-11-27T22:54:48Z)
• Learning Unbiased Transferability for Domain Adaptation by Uncertainty Modeling [107.24387363079629]
  ドメイン適応は、ラベル付けされたソースドメインからラベル付けされていない、あるいはラベル付けされていないが関連するターゲットドメインに知識を転送することを目的としています。 ソース内のアノテートされたデータの量とターゲットドメインとの間の不均衡のため、ターゲットの分布のみがソースドメインにアライメントされる。 本稿では,非暴力的非暴力的移動可能性推定プラグイン(UTEP)を提案し,非暴力的移動を最適化するDA法において,識別器の不確実性をモデル化する。
  論文  参考訳（メタデータ） (2022-06-02T21:58:54Z)
• Revisiting Deep Subspace Alignment for Unsupervised Domain Adaptation [42.16718847243166]
  Unsupervised domain adapt (UDA) は、ラベル付きソースドメインからラベル付きターゲットドメインへの知識の転送と適応を目的としている。 伝統的に、部分空間に基づく手法はこの問題に対する重要な解のクラスを形成する。 本稿では,UDAにおける部分空間アライメントの利用を再検討し,一貫した一般化をもたらす新しい適応アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2022-01-05T20:16:38Z)
• Instance Level Affinity-Based Transfer for Unsupervised Domain Adaptation [74.71931918541748]
  ILA-DAと呼ばれる適応中のソースからターゲットへの転送に対するインスタンス親和性に基づく基準を提案する。 まず、ソースとターゲットをまたいだ類似および異種サンプルを抽出し、マルチサンプルのコントラスト損失を利用してドメインアライメントプロセスを駆動する信頼性が高く効率的な手法を提案する。 ILA-DAの有効性は、様々なベンチマークデータセットに対する一般的なドメイン適応手法よりも精度が一貫した改善を観察することによって検証する。
  論文  参考訳（メタデータ） (2021-04-03T01:33:14Z)
• MetaAlign: Coordinating Domain Alignment and Classification for Unsupervised Domain Adaptation [84.90801699807426]
  本稿ではMetaAlignと呼ばれるメタ最適化に基づく効果的な戦略を提案する。 ドメインアライメントの目的と分類の目的をメタ学習計画におけるメタトレーニングとメタテストのタスクとして扱う。 実験結果は,アライメントに基づくベースラインアプローチを用いた提案手法の有効性を実証した。
  論文  参考訳（メタデータ） (2021-03-25T03:16:05Z)
• Domain Adaptation by Class Centroid Matching and Local Manifold Self-Learning [8.316259570013813]
  本稿では,対象領域のデータ分散構造を徹底的に探索できる新しい領域適応手法を提案する。 対象領域内の同一クラスタ内のサンプルを個人ではなく全体とみなし、クラスセントロイドマッチングにより擬似ラベルを対象クラスタに割り当てる。 提案手法の目的関数を理論的収束保証を用いて解くために,効率的な反復最適化アルゴリズムを設計した。
  論文  参考訳（メタデータ） (2020-03-20T16:59:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。