論文の概要: DESA-TTA: Dynamic EMA and Source Anchoring for Test-Time Adaptation

• arxiv url: http://arxiv.org/abs/2609.01795v1
• Date: Tue, 01 Sep 2026 19:07:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-03 17:53:17.926539
• Title: DESA-TTA: Dynamic EMA and Source Anchoring for Test-Time Adaptation
• Title（参考訳）: DESA-TTA: 動的EMAとソースアンカリングによるテスト時間適応
• Authors: Atif Belal, Lilian Hollard, Marco Pedersoli, Eric Granger,
• Abstract要約: TTA(Mean-Teacher Method for Test-Time Adaptance)は、教師が作成した擬似ラベルを用いて学生モデルを更新することにより、堅牢性を向上させることができる。 教師の更新と学生のドリフトを協調的に制御する低オーバーヘッド手法であるTTA(DESA-TTA)の動的EMAとソースアンカリングを提案する。
• 参考スコア（独自算出の注目度）: 22.729339643008498
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-language object detectors (VLODs) achieve strong zero-shot performance but remain vulnerable to distribution shifts during deployment. Mean-teacher methods for test-time adaptation (TTA) can improve robustness by updating a student model using teacher-generated pseudo-labels. However, mean-teacher TTA is highly sensitive to the choice of a fixed exponential moving average (EMA) coefficient for teacher updates, and repeated optimization with noisy pseudo-labels can cause cumulative student drift. We propose Dynamic EMA and Source Anchoring for TTA (DESA-TTA), a low-overhead method that jointly regulates teacher updates and student drift through dynamic temporal averaging and source anchoring. Dynamic temporal averaging estimates teacher uncertainty from pseudo-label confidence and box density and uses it to select a sample-wise EMA coefficient within bounds determined by teacher parameter drift. Source anchoring partially restores the updated student parameters toward their pretrained values, with the anchoring strength increasing according to student drift. Experiments across diverse distribution shifts and two VLOD architectures show consistent improvements over existing TTA methods. On VOC-C, DESA-TTA improves AP$_{50}$ by 14.5 points over zero-shot inference while achieving 55\% higher inference throughput than the previous state-of-the-art TTA method for YOLO-World. Our code: https://github.com/imatif17/DESA-TTA
• Abstract（参考訳）: 視覚言語オブジェクト検出器(VLOD)は、ゼロショット性能が強いが、展開中の分散シフトに弱いままである。 TTA(Mean-Teacher Method for Test-Time Adaptance)は、教師が作成した擬似ラベルを用いて学生モデルを更新することにより、堅牢性を向上させることができる。 しかし、平均教師TTAは教師更新のための固定指数移動平均(EMA)係数の選択に非常に敏感であり、ノイズの多い擬似ラベルによる繰り返し最適化は累積的な学生のドリフトを引き起こす可能性がある。 教師の更新と学生のドリフトを動的時間平均化とソースアンカーで協調的に制御する低オーバーヘッド手法であるTTA(DESA-TTA)の動的EMAとソースアンカーを提案する。 動的時間平均化は,教師の不確かさを疑似ラベルの信頼度とボックス密度から推定し,教師パラメータドリフトによって決定された境界内におけるサンプルワイズEMA係数を選択する。 ソースアンカーは、更新された学生パラメータを事前訓練された値に向けて部分的に復元し、学生のドリフトに応じてアンカー強度が増加する。 多様な分散シフトと2つのVLODアーキテクチャによる実験は、既存のTTA手法よりも一貫した改善を示している。 VOC-Cでは、DESA-TTAはゼロショット推論よりもAP$_{50}$を14.5ポイント改善し、従来のYOLO-Worldの最先端TTA法よりも55\%高い推論スループットを実現した。 コード:https://github.com/imatif17/DESA-TTA

関連論文リスト

• Rethinking the Teacher-Student Framework for Test-Time Adaptation [7.423353525909023]
  TTA(Test-Time Adaptation)は、事前トレーニングされたモデルのデプロイメント時のデータ分散の変化への適応を可能にする、有望な戦略として登場した。 提案手法は,TTA法では依然としてエラーの蓄積が生じるが,一般的に使用される手法に比べて長いシーケンスでは顕著である。 この単純な変更により、TTAメソッドはより長いシナリオで複数のデータセットのパフォーマンスを大幅に改善できることを示す。
  論文  参考訳（メタデータ） (2026-09-02T12:12:06Z)
• TTSD-FAR: Test-Time Self-Distillation with Fisher-Anchored Restoration for Missing-Modality Emotion Recognition in LVLMs [83.78708832901194]
  大規模ビデオ言語モデル(LVLM)は、野生のマルチモーダル感情認識(ER)のようなマルチモーダルタスクにおいて顕著なパフォーマンスを示している。 しかし、現実のデプロイメントは依然として困難であり、テスト時にモダリティが欠落したりうる。 凍結した教師が自己蒸留により適応的な低学級の生徒を指導する手法を提案する。 MELD, DFEW, BAHを0%-50%のモダリティで実験した結果, この統一型適応復元設計はエントロピーベースの適応, RAG, およびパープレキシティベースの生成より一貫して優れていた。
  論文  参考訳（メタデータ） (2026-08-18T23:40:28Z)
• H$^2$SD: Hybrid Hindsight Self-Distillation [61.71131241473028]
  検証可能な報酬付き強化学習(RLVR)は、言語モデル推論のための信頼性の高い結果監視を提供する。 既存の自己蒸留法は特権教師を追加するが、通常は一定の役割を割り当てる。 本稿では,教師のコンテキストに適応し,トラジェクタの正当性を更新するHybrid Hindsight Self-Distillation(MathrmH2mathrmSD$)を紹介する。
  論文  参考訳（メタデータ） (2026-07-21T10:47:27Z)
• On-Policy Distillation with Best-of-N Teacher Rollout Selection [54.91780727674628]
  本報告では, オンライン蒸留のためのベスト・オブ・Nロールアウト教員選抜フレームワークBRTSを提案する。 BRTSは、教師軌道から構築された教師コンテキスト管理ブランチで、標準の学生コンテキストOPDを強化する。 BRTSは、挑戦的な推論ベンチマークにおいて、標準的なPDよりも改善されており、より難しいデータセットに対して最大の利益がある。
  論文  参考訳（メタデータ） (2026-05-10T19:49:00Z)
• Self-Distilled RLVR [57.37526213765131]
  特権教師からのみ派生した学習信号が,情報漏洩と不安定な長期学習をもたらすことを示す。 textbfSelf-textbfDistillationを用いたtextbfRLSD(textbfRLVR)を提案する。 これにより、RSSDはRLVRとOPSDの両方の強度を同時に利用でき、高い収束天井と優れたトレーニング安定性を実現することができる。
  論文  参考訳（メタデータ） (2026-04-03T15:50:07Z)
• Parameter-Selective Continual Test-Time Adaptation [3.480626767752489]
  継続的テスト時間適応(CTTA)は、継続的なドメインシフトの下でテスト期間中に、事前トレーニングされたモデルを常に変化する環境に適応することを目的としている。 PSMT法は、ドメインシフトの下でMTネットワーク内の臨界パラメータを効果的に更新することができる。
  論文  参考訳（メタデータ） (2024-07-02T13:18:15Z)
• Improving Knowledge Distillation via Regularizing Feature Norm and Direction [16.98806338782858]
  知識蒸留(KD)は、大きな訓練されたモデル(例えば教師)を利用して、同じタスクのために同じデータセット上で小さな学生モデルを訓練する。 教師の特徴を知識として扱うこと、知識蒸留訓練の学生は、その特徴を教師の特徴と整合させることによって、例えば、ロジット間のKL偏差を最小化し、中間特徴間のL2距離を最小化する。 教師に対する生徒の特徴の整合性の向上は教師の知識をよりよく蒸留すると考えるのは自然なことだが、単にこの整合性を強制することは生徒のパフォーマンスに直接寄与しない。
  論文  参考訳（メタデータ） (2023-05-26T15:05:19Z)
• Distantly-Supervised Named Entity Recognition with Adaptive Teacher Learning and Fine-grained Student Ensemble [56.705249154629264]
  NERモデルの堅牢性を改善するために,自己学習型教員学生フレームワークを提案する。 本稿では,2つの教員ネットワークからなる適応型教員学習を提案する。 微粒な学生アンサンブルは、教師モデルの各フラグメントを、生徒の対応するフラグメントの時間移動平均で更新し、各モデルフラグメントのノイズに対する一貫した予測を強化する。
  論文  参考訳（メタデータ） (2022-12-13T12:14:09Z)
• Robust Mean Teacher for Continual and Gradual Test-Time Adaptation [5.744133015573047]
  経時的テスト時間適応(TTA)は、単一のドメインシフトだけでなく、一連のシフトも考慮している。 我々は,TTAの設定において,平均教師の整合性損失として対称的クロスエントロピーが適していることを示す。 提案手法は, 連続的, 段階的評価ベンチマークにおいて, RMT (Robust mean teacher) の有効性を実証する。
  論文  参考訳（メタデータ） (2022-11-23T16:14:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。