論文の概要: Unsupervised Domain Adaptation within Deep Foundation Latent Spaces
- arxiv url: http://arxiv.org/abs/2402.14976v1
- Date: Thu, 22 Feb 2024 21:25:20 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-26 16:17:40.837185
- Title: Unsupervised Domain Adaptation within Deep Foundation Latent Spaces
- Title(参考訳): 深層基礎潜在空間における教師なし領域適応
- Authors: Dmitry Kangin, Plamen Angelov
- Abstract要約: ViTやDino-V2のようなビジョントランスフォーマーベースの基礎モデルは、機能の微調整をほとんどあるいは全く行わずに問題を解決することを目的としている。
我々は、ソースやターゲットドメインを微調整することなく、そのような基礎モデルが教師なしドメイン適応をどの程度解決できるかを、プロトタイプで分析する。
- 参考スコア(独自算出の注目度): 2.7195102129095003
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: The vision transformer-based foundation models, such as ViT or Dino-V2, are
aimed at solving problems with little or no finetuning of features. Using a
setting of prototypical networks, we analyse to what extent such foundation
models can solve unsupervised domain adaptation without finetuning over the
source or target domain. Through quantitative analysis, as well as qualitative
interpretations of decision making, we demonstrate that the suggested method
can improve upon existing baselines, as well as showcase the limitations of
such approach yet to be solved.
- Abstract(参考訳): ViTやDino-V2のようなビジョントランスフォーマーベースの基礎モデルは、機能の微調整をほとんどあるいは全く行わずに問題を解決することを目的としている。
原型ネットワークの設定を用いて、ソースやターゲットドメインを微調整することなく、そのような基礎モデルが教師なしドメイン適応をどの程度解決できるかを分析する。
定量的分析や意思決定の質的解釈を通じて,提案手法が既存のベースラインを改善し,未解決の手法の限界を提示できることを実証する。
関連論文リスト
- Revisiting the Domain Shift and Sample Uncertainty in Multi-source
Active Domain Transfer [69.82229895838577]
Active Domain Adaptation (ADA)は、アノテートするターゲットデータの限られた数を選択することで、新しいターゲットドメインにおけるモデル適応を最大限に向上することを目的としている。
この設定は、複数のソースからトレーニングデータを収集するより実践的なシナリオを無視します。
これは、ADAを単一のソースドメインから複数のソースドメインに拡張する、新しい、挑戦的な知識転送の設定を目標にしています。
論文 参考訳(メタデータ) (2023-11-21T13:12:21Z) - Robust Unsupervised Domain Adaptation by Retaining Confident Entropy via
Edge Concatenation [7.953644697658355]
教師なしのドメイン適応は、セマンティックセグメンテーションネットワークをトレーニングするための広範なピクセルレベルのアノテーションの必要性を軽減することができる。
本稿では,エントロピーに基づく対向ネットワーク内における内部情報と外部情報の相乗効果を利用した新しいドメイン適応手法を提案する。
我々は、より効果的なセグメンテーションのために多様な情報を統合する確率共有ネットワークを考案した。
論文 参考訳(メタデータ) (2023-10-11T02:50:16Z) - Cross Contrasting Feature Perturbation for Domain Generalization [11.863319505696184]
ドメインの一般化は、目に見えないターゲットドメインをうまく一般化するソースドメインから堅牢なモデルを学ぶことを目的としています。
近年の研究では、ソースドメインに相補的な分布を多様化するための新しいドメインサンプルや特徴の生成に焦点が当てられている。
ドメインシフトをシミュレートするオンラインワンステージクロスコントラスト機能摂動フレームワークを提案する。
論文 参考訳(メタデータ) (2023-07-24T03:27:41Z) - Best-Effort Adaptation [62.00856290846247]
本稿では, 試料再重み付け法に関する新しい理論的解析を行い, 試料再重み付け法を一様に保持する境界について述べる。
これらの境界が、我々が詳細に議論する学習アルゴリズムの設計を導く方法を示す。
本稿では,本アルゴリズムの有効性を実証する一連の実験結果について報告する。
論文 参考訳(メタデータ) (2023-05-10T00:09:07Z) - Variational Model Perturbation for Source-Free Domain Adaptation [64.98560348412518]
確率的枠組みにおける変分ベイズ推定によるモデルパラメータの摂動を導入する。
本研究では,ベイズニューラルネットワークの学習と理論的関連性を実証し,目的領域に対する摂動モデルの一般化可能性を示す。
論文 参考訳(メタデータ) (2022-10-19T08:41:19Z) - Feed-Forward Latent Domain Adaptation [17.71179872529747]
本研究では,資源制約されたエッジデバイスが事前学習したモデルをローカルなデータ分布に適応させることのできる,新しい高度に実践的な問題設定について検討する。
エッジデバイスの制限を考慮すると、バックプロパゲーションを使わず、ソースデータにアクセスせずに、事前訓練されたモデルのみを使用し、フィードフォワード方式で適応することを目指している。
我々の解決策は、混合関連ターゲットデータセットを埋め込み、クロスアテンションを用いてターゲットサンプルに対する推論を動的に適応できるネットワークをメタラーニングすることである。
論文 参考訳(メタデータ) (2022-07-15T17:37:42Z) - Decompose to Adapt: Cross-domain Object Detection via Feature
Disentanglement [79.2994130944482]
本研究では,DDF(Domain Disentanglement Faster-RCNN)を設計し,タスク学習のための特徴のソース固有情報を排除した。
DDF法は,グローバルトリプルト・ディアンタングルメント(GTD)モジュールとインスタンス類似性・ディアンタングルメント(ISD)モジュールを用いて,グローバルおよびローカルステージでの機能ディアンタングルを容易にする。
提案手法は,4つのUDAオブジェクト検出タスクにおいて最先端の手法より優れており,広い適用性で有効であることが実証された。
論文 参考訳(メタデータ) (2022-01-06T05:43:01Z) - Domain-Specific Suppression for Adaptive Object Detection [20.887838391558624]
本研究では,cnnモデルが伝達性を得るための新しい視点を提案し,モデルの重みを一連の運動パターンとして捉えた。
ドメイン適応の目標は、ドメイン固有のものから乱れを排除しながら、ドメイン不変方向に集中することである。
本論文では、バックプロパゲーションにおける元の畳み込み勾配に対する例示的および一般化可能な制約であるドメイン特異的抑制を提案する。
論文 参考訳(メタデータ) (2021-05-08T03:11:36Z) - Gradient Regularized Contrastive Learning for Continual Domain
Adaptation [86.02012896014095]
本稿では,ラベル付きソースドメインと非ラベル付きターゲットドメインのシーケンスでモデルを提示する連続的なドメイン適応の問題について検討する。
障害を解決するため,グラディエント正規化コントラスト学習(GRCL)を提案する。
Digits、DomainNet、Office-Caltechベンチマークの実験は、我々のアプローチの強力なパフォーマンスを示しています。
論文 参考訳(メタデータ) (2021-03-23T04:10:42Z) - Model-Based Domain Generalization [96.84818110323518]
本稿では,モデルベースドメイン一般化問題に対する新しいアプローチを提案する。
我々のアルゴリズムは、最新のwildsベンチマークの最先端手法を最大20ポイント上回った。
論文 参考訳(メタデータ) (2021-02-23T00:59:02Z) - Unsupervised Domain Adaptation by Uncertain Feature Alignment [29.402619219254074]
教師なしドメイン適応(Unsupervised domain adapt、UDA)は、ラベル付きデータからラベル付きターゲットドメインへのモデル適応を扱う。
本稿では,モデル固有の予測の不確実性を利用して,ドメイン適応タスクを実現する。
論文 参考訳(メタデータ) (2020-09-14T14:42:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。