論文の概要: A Broad Study of Pre-training for Domain Generalization and Adaptation

• arxiv url: http://arxiv.org/abs/2203.11819v1
• Date: Tue, 22 Mar 2022 15:38:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-23 14:13:00.992579
• Title: A Broad Study of Pre-training for Domain Generalization and Adaptation
• Title（参考訳）: 領域一般化と適応のための事前学習に関する広域研究
• Authors: Donghyun Kim, Kaihong Wang, Stan Sclaroff, Kate Saenko
• Abstract要約: ドメイン適応と一般化のための事前学習の幅広い研究と詳細な分析を行う。 我々は、単に最先端のバックボーンを使用することで、既存の最先端のドメイン適応ベースラインより優れていることを観察する。
• 参考スコア（独自算出の注目度）: 69.38359595534807
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep models must learn robust and transferable representations in order to perform well on new domains. While domain transfer methods (e.g., domain adaptation, domain generalization) have been proposed to learn transferable representations across domains, they are typically applied to ResNet backbones pre-trained on ImageNet. Thus, existing works pay little attention to the effects of pre-training on domain transfer tasks. In this paper, we provide a broad study and in-depth analysis of pre-training for domain adaptation and generalization, namely: network architectures, size, pre-training loss, and datasets. We observe that simply using a state-of-the-art backbone outperforms existing state-of-the-art domain adaptation baselines and set new baselines on Office-Home and DomainNet improving by 10.7\% and 5.5\%. We hope that this work can provide more insights for future domain transfer research.
• Abstract（参考訳）: 深層モデルは、新しいドメインでうまく機能するために、堅牢で転送可能な表現を学ばなければならない。 ドメイン転送メソッド(ドメイン適応、ドメイン一般化など)はドメイン間で転送可能な表現を学ぶために提案されているが、通常はimagenetで事前トレーニングされたバックボーンに適用される。 したがって、既存の作業はドメイン転送タスクに対する事前トレーニングの影響にはほとんど注意を払わない。 本稿では,ネットワークアーキテクチャ,サイズ,事前学習損失,データセットなど,ドメイン適応と一般化のための事前学習に関する広範な研究と詳細な分析を行う。 最先端のバックボーンの使用は、既存の最先端のドメイン適応ベースラインを上回り、Office-HomeとDomainNetに新しいベースラインを10.7\%と5.5\%改善する。 この研究が今後のドメイン転送研究にさらなる洞察をもたらすことを願っています。

関連論文リスト

• Adapting to Distribution Shift by Visual Domain Prompt Generation [34.19066857066073]
  いくつかのラベルのないデータを使って、テスト時にモデルを適応し、分散シフトに対処する。 ソースドメインから移行可能な知識を学ぶための知識銀行を構築します。 提案手法は,WILDSやDomainNetを含む5つの大規模ベンチマークにおいて,従来よりも優れている。
  論文  参考訳（メタデータ） (2024-05-05T02:44:04Z)
• DomainVerse: A Benchmark Towards Real-World Distribution Shifts For Tuning-Free Adaptive Domain Generalization [27.099706316752254]
  我々はAdaptive Domain Generalization (ADG)のための新しいデータセットDomainVerseを確立する。 DomainVerseは、導入した階層的なドメインシフトの定義に相応しく、390のきめ細かい現実的なドメインから約0.5万の画像で構成されている。 チューニング不要適応型ドメイン一般化のためのDomain CLIPとDomain++ CLIPという2つの手法を提案する。
  論文  参考訳（メタデータ） (2024-03-05T07:10:25Z)
• On the Transferability of Visually Grounded PCFGs [35.64371385720051]
  ビジュアルグラウンドPCFGcitepzhao-titov-2020-visually 我々は、モデルがソースドメイン上で訓練され、ターゲットドメインに直接適用されるゼロショット転送学習環境を、それ以上の訓練をすることなく検討する。 トレーニングドメインと同じようなドメインでテキストに視覚的接地を使用することの利点は、リモートドメインへの転送に失敗することである。
  論文  参考訳（メタデータ） (2023-10-21T20:19:51Z)
• Improving Domain Generalization with Domain Relations [77.63345406973097]
  本稿では、モデルがトレーニングされたドメインと異なる新しいドメインに適用されたときに発生するドメインシフトに焦点を当てる。 ドメイン固有モデルを学習するためのD$3$Gという新しい手法を提案する。 以上の結果から,D$3$Gは最先端の手法より一貫して優れていた。
  論文  参考訳（メタデータ） (2023-02-06T08:11:16Z)
• Unsupervised Domain Generalization for Person Re-identification: A Domain-specific Adaptive Framework [50.88463458896428]
  ドメイン一般化(DG)は近年,人物再同定(ReID)において注目されている。 既存のメソッドは通常、ソースドメインにラベルを付ける必要があります。 本稿では、単純で効率的なドメイン固有適応化フレームワークを提案し、適応正規化モジュールで実現する。
  論文  参考訳（メタデータ） (2021-11-30T02:35:51Z)
• Pre-training Graph Neural Network for Cross Domain Recommendation [58.057687253631826]
  推薦システムは、ユーザ/イテムの埋め込みを学習する中心となるアイテムに対するユーザの潜在的関心を予測する。 グラフ表現学習から事前学習を行う現代美術に着想を得て,クロスドメインレコメンデーションのための事前学習および微調整図を提案する。 我々は,グラフエンコーダの自己教師型事前学習を採用するPCRec (Pre-training Graph Neural Network for Cross-Domain Recommendation) を考案した。
  論文  参考訳（メタデータ） (2021-11-16T07:34:42Z)
• f-Domain-Adversarial Learning: Theory and Algorithms [82.97698406515667]
  教師なしのドメイン適応は、トレーニング中、ターゲットドメイン内のラベルなしデータにアクセス可能な、多くの機械学習アプリケーションで使用されている。 領域適応のための新しい一般化法を導出し、f-発散体の変分的特徴に基づく分布間の相違性の新しい尺度を利用する。
  論文  参考訳（メタデータ） (2021-06-21T18:21:09Z)
• DAVOS: Semi-Supervised Video Object Segmentation via Adversarial Domain Adaptation [2.9407987406005263]
  ドメインシフトは常にビデオオブジェクトセグメンテーション(VOS)の主要な問題のひとつです。 本稿では, VOSタスクに対向領域適応を導入することで, ドメインシフトに対処する新しい手法を提案する。 DAVIS2016では,教師付きトレーニング後のIoUスコアが82.6%であった。
  論文  参考訳（メタデータ） (2021-05-21T08:23:51Z)
• Supervised Domain Adaptation using Graph Embedding [86.3361797111839]
  領域適応法は、2つの領域間の分布がシフトし、それを認識しようとすると仮定する。 グラフ埋め込みに基づく汎用フレームワークを提案する。 提案手法が強力なドメイン適応フレームワークにつながることを示す。
  論文  参考訳（メタデータ） (2020-03-09T12:25:13Z)
• Learning to adapt class-specific features across domains for semantic segmentation [36.36210909649728]
  本論文では,クラス情報毎に考慮し,ドメイン間の特徴を適応させることを学習する新しいアーキテクチャを提案する。 我々は最近導入されたStarGANアーキテクチャを画像翻訳のバックボーンとして採用している。
  論文  参考訳（メタデータ） (2020-01-22T23:51:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。