論文の概要: Gradient Alignment with Prototype Feature for Fully Test-time Adaptation

• arxiv url: http://arxiv.org/abs/2402.09004v1
• Date: Wed, 14 Feb 2024 08:17:21 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-15 16:34:14.348531
• Title: Gradient Alignment with Prototype Feature for Fully Test-time Adaptation
• Title（参考訳）: 完全テスト時間適応のためのプロトタイプ特徴付き勾配アライメント
• Authors: Juhyeon Shin and Jonghyun Lee and Saehyung Lee and Minjun Park and Dongjun Lee and Uiwon Hwang and Sungroh Yoon
• Abstract要約: GAP(Gradient Alignment with Prototype Feature)と呼ばれる正規化器を提案する。 GAPは、誤分類された擬似ラベルのエントロピー最小化損失から不適切なガイダンスを緩和する。 我々はGAPが様々なデータセットにわたるTTA手法を大幅に改善することを示した。
• 参考スコア（独自算出の注目度）: 39.92998915287622
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In context of Test-time Adaptation(TTA), we propose a regularizer, dubbed Gradient Alignment with Prototype feature (GAP), which alleviates the inappropriate guidance from entropy minimization loss from misclassified pseudo label. We developed a gradient alignment loss to precisely manage the adaptation process, ensuring that changes made for some data don't negatively impact the model's performance on other data. We introduce a prototype feature of a class as a proxy measure of the negative impact. To make GAP regularizer feasible under the TTA constraints, where model can only access test data without labels, we tailored its formula in two ways: approximating prototype features with weight vectors of the classifier, calculating gradient without back-propagation. We demonstrate GAP significantly improves TTA methods across various datasets, which proves its versatility and effectiveness.
• Abstract（参考訳）: テスト時間適応 (tta) の文脈において, 擬似ラベルからのエントロピー最小化損失から不適切な誘導を緩和する定式化器 (gradient alignment with prototype feature, gap) を提案する。 適応処理を正確に管理し、あるデータに対する変更が他のデータに対するモデルの性能に悪影響を及ぼさないようにするために、勾配アライメント損失を開発した。 負の影響のプロキシ尺度として、クラスのプロトタイプ機能を導入します。 モデルがラベルなしでテストデータにしかアクセスできないTTA制約の下でGAP正規化器を実現するために,分類器の重みベクトルでプロトタイプ特徴を近似し,バックプロパゲーションなしで勾配を計算した。 様々なデータセットにまたがるttaメソッドが大幅に改善され,その汎用性と有効性が証明される。

関連論文リスト

• Test-Time Model Adaptation with Only Forward Passes [68.11784295706995]
  テストタイム適応は、トレーニング済みのモデルを、潜在的に分布シフトのある未確認テストサンプルに適応させるのに有効であることが証明されている。 テスト時間フォワード最適化適応法(FOA)を提案する。 FOAは量子化された8ビットのViTで動作し、32ビットのViTで勾配ベースのTENTより優れ、ImageNet-Cで最大24倍のメモリ削減を実現する。
  論文  参考訳（メタデータ） (2024-04-02T05:34:33Z)
• Uncertainty-Calibrated Test-Time Model Adaptation without Forgetting [55.17761802332469]
  テスト時間適応(TTA)は、与えられたモデルw.r.t.を任意のテストサンプルに適用することにより、トレーニングデータとテストデータの間の潜在的な分散シフトに取り組むことを目指している。 事前の手法は各テストサンプルに対してバックプロパゲーションを実行するため、多くのアプリケーションに対して許容できない最適化コストがかかる。 本稿では, 有効サンプル選択基準を策定し, 信頼性および非冗長なサンプルを同定する, 効率的なアンチフォッティングテスト時間適応法を提案する。
  論文  参考訳（メタデータ） (2024-03-18T05:49:45Z)
• Decoupled Prototype Learning for Reliable Test-Time Adaptation [50.779896759106784]
  テスト時間適応(TTA)は、推論中にトレーニング済みのソースモデルをターゲットドメインに継続的に適応させるタスクである。 1つの一般的なアプローチは、推定擬似ラベルによるクロスエントロピー損失を伴う微調整モデルである。 本研究は, 各試料の分類誤差を最小化することで, クロスエントロピー損失の脆弱性がラベルノイズを引き起こすことを明らかにした。 本稿では,プロトタイプ中心の損失計算を特徴とする新しいDPL法を提案する。
  論文  参考訳（メタデータ） (2024-01-15T03:33:39Z)
• Improving Entropy-Based Test-Time Adaptation from a Clustering View [15.157208389691238]
  エントロピーベースのTTAについて,新たなクラスタリングの視点を導入する。 本稿では,ロバストなラベル割り当て,類似性保存制約,サンプル選択,勾配蓄積などを提案する。 実験結果から,本手法は様々なデータセットに対して一貫した改善が可能であることが示された。
  論文  参考訳（メタデータ） (2023-10-31T10:10:48Z)
• Rethinking Precision of Pseudo Label: Test-Time Adaptation via Complementary Learning [10.396596055773012]
  本稿では,テスト時間適応性を高めるための新しい補完学習手法を提案する。 テスト時適応タスクでは、ソースドメインからの情報は通常利用できない。 我々は,相補ラベルのリスク関数がバニラ損失式と一致することを強調した。
  論文  参考訳（メタデータ） (2023-01-15T03:36:33Z)
• CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
  テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。 本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
  論文  参考訳（メタデータ） (2022-06-01T03:02:07Z)
• Efficient Test-Time Model Adaptation without Forgetting [60.36499845014649]
  テストタイム適応は、トレーニングとテストデータの間の潜在的な分散シフトに取り組むことを目指している。 信頼性および非冗長なサンプルを同定するためのアクティブなサンプル選択基準を提案する。 また、重要なモデルパラメータを劇的な変化から制約するFisher regularizerを導入します。
  論文  参考訳（メタデータ） (2022-04-06T06:39:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。