論文の概要: Dual-Path Adversarial Lifting for Domain Shift Correction in Online Test-time Adaptation

• arxiv url: http://arxiv.org/abs/2408.13983v1
• Date: Mon, 26 Aug 2024 02:33:47 GMT
• ステータス: 処理完了
• システム内更新日: 2024-08-27 15:12:30.838851
• Title: Dual-Path Adversarial Lifting for Domain Shift Correction in Online Test-time Adaptation
• Title（参考訳）: オンラインテスト時間適応におけるドメインシフト補正のためのデュアルパス対応リフティング
• Authors: Yushun Tang, Shuoshuo Chen, Zhihe Lu, Xinchao Wang, Zhihai He,
• Abstract要約: テスト時間適応におけるドメインシフト補正のためのデュアルパストークンリフトを導入する。 次に、インターリーブされたトークン予測とドメインシフトトークンのパスとクラストークンのパスの間の更新を行う。 評価実験の結果,提案手法はオンライン完全テスト時間領域適応性能を大幅に向上させることが示された。
• 参考スコア（独自算出の注目度）: 59.18151483767509
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Transformer-based methods have achieved remarkable success in various machine learning tasks. How to design efficient test-time adaptation methods for transformer models becomes an important research task. In this work, motivated by the dual-subband wavelet lifting scheme developed in multi-scale signal processing which is able to efficiently separate the input signals into principal components and noise components, we introduce a dual-path token lifting for domain shift correction in test time adaptation. Specifically, we introduce an extra token, referred to as \textit{domain shift token}, at each layer of the transformer network. We then perform dual-path lifting with interleaved token prediction and update between the path of domain shift tokens and the path of class tokens at all network layers. The prediction and update networks are learned in an adversarial manner. Specifically, the task of the prediction network is to learn the residual noise of domain shift which should be largely invariant across all classes and all samples in the target domain. In other words, the predicted domain shift noise should be indistinguishable between all sample classes. On the other hand, the task of the update network is to update the class tokens by removing the domain shift from the input image samples so that input samples become more discriminative between different classes in the feature space. To effectively learn the prediction and update networks with two adversarial tasks, both theoretically and practically, we demonstrate that it is necessary to use smooth optimization for the update network but non-smooth optimization for the prediction network. Experimental results on the benchmark datasets demonstrate that our proposed method significantly improves the online fully test-time domain adaptation performance. Code is available at \url{https://github.com/yushuntang/DPAL}.
• Abstract（参考訳）: トランスフォーマーベースの手法は、様々な機械学習タスクにおいて顕著な成功を収めた。 トランスモデルの効率的なテスト時間適応法を設計する方法は重要な研究課題となっている。 本研究では、入力信号を主成分と雑音成分に効率的に分離できるマルチスケール信号処理で開発されたデュアルサブバンドウェーブレットリフト方式により、テスト時間適応時のドメインシフト補正のためのデュアルパストークンリフトを導入する。 具体的には,変換器ネットワークの各層に,‘textit{ domain shift token}’と呼ばれる余分なトークンを導入する。 次に、インターリーブされたトークン予測とドメインシフトトークンのパスと、すべてのネットワーク層におけるクラストークンのパスの間の更新で、デュアルパスリフトを実行します。 予測と更新のネットワークは、敵対的に学習される。 特に、予測ネットワークの課題は、全てのクラスと対象ドメイン内の全てのサンプルに大きく不変であるべき領域シフトの残音を学習することである。 言い換えれば、予測されたドメインシフトノイズは、すべてのサンプルクラス間で区別できないべきである。 一方、更新ネットワークのタスクは、入力画像サンプルからドメインシフトを取り除き、特徴空間内の異なるクラス間で、入力サンプルがより差別的になるようにして、クラストークンを更新することである。 理論的にも実用的にも,2つの敵タスクを伴う予測・更新ネットワークを効果的に学習するためには,更新ネットワークにスムーズな最適化を適用する必要があるが,予測ネットワークには非スムーズな最適化が必要であることを実証する。 評価実験の結果,提案手法はオンライン完全テスト時間領域適応性能を大幅に向上させることが示された。 コードは \url{https://github.com/yushuntang/DPAL} で公開されている。

関連論文リスト

• Learning Visual Conditioning Tokens to Correct Domain Shift for Fully Test-time Adaptation [24.294049653744185]
  トランスを用いた画像分類では、第1変圧器エンコーダ層のクラストークンを学習して、テスト時間適応時のターゲットサンプルのドメイン固有の特性をキャプチャすることができる。 本稿では,ドメイン固有の特徴の長期的変動を捉えつつ,インスタンス固有の特徴の局所的変動を調節する二段階学習手法を提案する。 提案手法により,テスト時間適応性能を最大1.9%向上させることができる。
  論文  参考訳（メタデータ） (2024-06-27T17:16:23Z)
• CCF: Cross Correcting Framework for Pedestrian Trajectory Prediction [7.9449756510822915]
  歩行者軌道の表現をより良く学習するためのクロスコレクション・フレームワーク(CCF)を提案する。 CCFは、時間的損失と軌道的予測損失の両方で訓練された2つの予測モデルで構成されている。 トランスをベースとしたエンコーダ・デコーダ・アーキテクチャを用いて歩行者間の動きや社会的相互作用を捉える。
  論文  参考訳（メタデータ） (2024-06-02T14:07:13Z)
• Cross-Domain Few-Shot Learning via Adaptive Transformer Networks [16.289485655725013]
  本稿では,ドメイン間数ショット学習のための適応型トランスフォーマネットワーク(ADAPTER)を提案する。 ADAPTERは2つのドメイン間で伝達可能な特徴を学習するために双方向の相互注意というアイデアに基づいて構築されている。
  論文  参考訳（メタデータ） (2024-01-25T07:05:42Z)
• Rapid Network Adaptation: Learning to Adapt Neural Networks Using Test-Time Feedback [12.946419909506883]
  テスト時間フィードバック信号を用いてネットワークをオンザフライで適応するクローズドループシステムを構築した。 本稿では,このループを学習型関数を用いて効果的に実装し,ネットワークに対する償却を実現する方法を提案する。 これにより、Rapid Network Adaptation (RNA) と呼ばれる適応手法が実現され、ベースラインよりも柔軟で桁違いに高速になる。
  論文  参考訳（メタデータ） (2023-09-27T16:20:39Z)
• Unsupervised Domain-adaptive Hash for Networks [81.49184987430333]
  ドメイン適応型ハッシュ学習はコンピュータビジョンコミュニティでかなりの成功を収めた。 UDAHと呼ばれるネットワークのための教師なしドメイン適応型ハッシュ学習手法を開発した。
  論文  参考訳（メタデータ） (2021-08-20T12:09:38Z)
• Adversarial Bipartite Graph Learning for Video Domain Adaptation [50.68420708387015]
  ドメイン適応技術は,異なる領域間のモデルを適応させることに重点を置いているが,ビデオ認識領域ではめったに研究されていない。 近年,映像のソースと対象映像の表現を統一するために,対角学習を活用する視覚領域適応はビデオにはあまり効果がない。 本稿では,ソースとターゲットの相互作用を直接モデル化するAdversarial Bipartite Graph (ABG)学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2020-07-31T03:48:41Z)
• Self domain adapted network [6.040230864736051]
  ドメインシフトは、臨床実践においてディープネットワークをデプロイする上で大きな問題である。 単体テスト対象に迅速に適応できる新しい自己ドメイン適応ネットワーク(SDA-Net)を提案する。
  論文  参考訳（メタデータ） (2020-07-07T01:41:34Z)
• Adaptive Risk Minimization: Learning to Adapt to Domain Shift [109.87561509436016]
  ほとんどの機械学習アルゴリズムの基本的な前提は、トレーニングとテストデータは、同じ基礎となる分布から引き出されることである。 本研究では,学習データをドメインに構造化し,複数のテスト時間シフトが存在する場合の領域一般化の問題点について考察する。 本稿では、適応リスク最小化(ARM)の枠組みを紹介し、モデルがトレーニング領域に適応することを学ぶことで、効果的な適応のために直接最適化される。
  論文  参考訳（メタデータ） (2020-07-06T17:59:30Z)
• Few-Shot Learning as Domain Adaptation: Algorithm and Analysis [120.75020271706978]
  わずかながらの学習は、目に見えないクラスを認識するために、目に見えないクラスから学んだ事前知識を使用する。 このクラス差による分布シフトは、ドメインシフトの特別なケースとみなすことができる。 メタラーニングフレームワークにおいて、そのようなドメインシフト問題に明示的に対処するために、注意を向けたプロトタイプドメイン適応ネットワーク(DAPNA)を提案する。
  論文  参考訳（メタデータ） (2020-02-06T01:04:53Z)
• Side-Tuning: A Baseline for Network Adaptation via Additive Side Networks [95.51368472949308]
  適応は、トレーニングデータが少ない場合や、ネットワークのプリエンプションをエンコードしたい場合などに有効である。 本稿では,サイドチューニングという簡単な方法を提案する。
  論文  参考訳（メタデータ） (2019-12-31T18:52:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。