論文の概要: Rethinking the Teacher-Student Framework for Test-Time Adaptation

• arxiv url: http://arxiv.org/abs/2609.02507v1
• Date: Wed, 02 Sep 2026 12:12:06 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-03 17:53:18.328452
• Title: Rethinking the Teacher-Student Framework for Test-Time Adaptation
• Title（参考訳）: テスト時間適応のための教師学習フレームワークの再考
• Abstract要約: TTA(Test-Time Adaptation)は、事前トレーニングされたモデルのデプロイメント時のデータ分散の変化への適応を可能にする、有望な戦略として登場した。 提案手法は,TTA法では依然としてエラーの蓄積が生じるが,一般的に使用される手法に比べて長いシーケンスでは顕著である。 この単純な変更により、TTAメソッドはより長いシナリオで複数のデータセットのパフォーマンスを大幅に改善できることを示す。
• 参考スコア（独自算出の注目度）: 7.423353525909023
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Test-Time Adaptation (TTA) has recently emerged as a promising strategy that allows the adaptation of pre-trained models to changing data distributions at deployment time, without access to any labels. To mitigate error accumulation, researchers have widely adopted the teacher-student framework, though its long-term stability is often taken for granted. In this work, we challenge the common strategy of setting the teacher weights to an exponential moving average of the student by showing that error accumulation still occurs, although it is mostly apparent on longer sequences compared to those commonly utilized. We analyze the stability-plasticity trade-off within the teacher-student framework and propose to use an intransigent teacher that does not update its weights. Surprisingly, we show that this simple change allows TTA methods to significantly improve their performance on multiple datasets with longer scenarios and result in increased robustness to changes in hyperparameters. Finally, we show that those changes can be seamlessly and effectively applied to various architectures and experimental setups, including semantic segmentation. The code is available at https://github.com/dmn-sjk/intransigent_teacher.
• Abstract（参考訳）: TTA(Test-Time Adaptation)は先頃,事前トレーニングされたモデルから,ラベルにアクセスせずにデプロイメント時にデータ分散を変更可能な,有望な戦略として登場した。 エラーの蓄積を軽減するため、研究者は教師と学生の枠組みを広く採用してきたが、その長期的な安定性は当然である。 本研究は,教師の体重を学生の指数移動平均に設定する一般的な戦略に挑戦するものである。 教師・学生の枠組み内での安定性と塑性のトレードオフを分析し,その重みを更新しない非透明な教師を提案する。 驚くべきことに、この単純な変更により、TTAメソッドはより長いシナリオで複数のデータセットのパフォーマンスを大幅に改善することができ、結果としてハイパーパラメータの変化に対するロバスト性も向上する。 最後に、これらの変更は、セマンティックセグメンテーションを含む様々なアーキテクチャや実験的な設定にシームレスかつ効果的に適用可能であることを示す。 コードはhttps://github.com/dmn-sjk/intransigent_teacherで入手できる。

関連論文リスト

• DESA-TTA: Dynamic EMA and Source Anchoring for Test-Time Adaptation [22.729339643008498]
  TTA(Mean-Teacher Method for Test-Time Adaptance)は、教師が作成した擬似ラベルを用いて学生モデルを更新することにより、堅牢性を向上させることができる。 教師の更新と学生のドリフトを協調的に制御する低オーバーヘッド手法であるTTA(DESA-TTA)の動的EMAとソースアンカリングを提案する。
  論文  参考訳（メタデータ） (2026-09-01T19:07:28Z)
• Source-Free Controlled Adaptation of Teachers for Continual Test-Time Adaptation [11.989732613756194]
  教員-学生の枠組みを活用した連続的テスト時間適応(CTTA)技術が注目されている。 本稿では,入力データの品質に応じて適切なモーメント値を動的に設定する教師適応手法を提案する。 本手法では,パイプラインの任意の段階でソースデータやその統計情報にアクセスする必要はなく,真のソースフリー化を実現している。
  論文  参考訳（メタデータ） (2026-07-26T16:06:18Z)
• TTA-Vid: Generalized Test-Time Adaptation for Video Reasoning [54.70019148172847]
  テスト時強化学習(Test-Time Reinforcement Learning)のパラダイムをビデオ言語データに活用することにより,事前学習されたモデルを明示的なラベルなしで,テスト時のビデオサンプルに適応させることができる。 ビデオアプローチのためのテスト時間適応(TTA-Vid)は、同時に動作する2つのコンポーネントを組み合わせる。 TTA-Vidは、様々なビデオ推論タスクで一貫した改善をもたらし、大規模データで訓練された最先端の手法より優れている。
  論文  参考訳（メタデータ） (2026-04-01T09:52:57Z)
• Large Continual Instruction Assistant [59.585544987096974]
  CIT(Continuous Instruction Tuning)は、大規模モデルにデータによる人間の意図データに従うよう指示するために用いられる。 既存の更新勾配は、CITプロセス中に前のデータセットのパフォーマンスを著しく損なうことになる。 本稿では,この課題に対処する汎用的な連続的命令チューニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-10-08T11:24:59Z)
• Parameter-Selective Continual Test-Time Adaptation [3.480626767752489]
  継続的テスト時間適応(CTTA)は、継続的なドメインシフトの下でテスト期間中に、事前トレーニングされたモデルを常に変化する環境に適応することを目的としている。 PSMT法は、ドメインシフトの下でMTネットワーク内の臨界パラメータを効果的に更新することができる。
  論文  参考訳（メタデータ） (2024-07-02T13:18:15Z)
• Switching Temporary Teachers for Semi-Supervised Semantic Segmentation [45.20519672287495]
  半教師付きセマンティックセグメンテーションで一般的な教師/学生のフレームワークは、主に指数的移動平均(EMA)を用いて、学生の量に基づいて教師の重みを更新する。 本稿では,学生のカップリング問題を軽減するために,2つの臨時教員を兼ねた,シンプルで効果的な方法であるデュアル教師を紹介する。
  論文  参考訳（メタデータ） (2023-10-28T08:49:16Z)
• Hierarchical Supervision and Shuffle Data Augmentation for 3D Semi-Supervised Object Detection [90.32180043449263]
  最先端の3Dオブジェクト検出器は通常、高品質な3Dアノテーションを備えた大規模データセットで訓練される。 自然な治療法は、限られた量のラベル付きサンプルと豊富なラベル付きサンプルを活用することで、半教師付き学習(SSL)を採用することである。 本稿では,HSSDA(Hierarchical Supervision and Shuffle Data Augmentation)の新たなアプローチを提案する。
  論文  参考訳（メタデータ） (2023-04-04T02:09:32Z)
• Robust Mean Teacher for Continual and Gradual Test-Time Adaptation [5.744133015573047]
  経時的テスト時間適応(TTA)は、単一のドメインシフトだけでなく、一連のシフトも考慮している。 我々は,TTAの設定において,平均教師の整合性損失として対称的クロスエントロピーが適していることを示す。 提案手法は, 連続的, 段階的評価ベンチマークにおいて, RMT (Robust mean teacher) の有効性を実証する。
  論文  参考訳（メタデータ） (2022-11-23T16:14:45Z)
• TeST: Test-time Self-Training under Distribution Shift [99.68465267994783]
  Test-Time Self-Training (TeST)は、あるソースデータとテスト時の新しいデータ分散に基づいてトレーニングされたモデルを入力する技術である。 また,TeSTを用いたモデルでは,ベースラインテスト時間適応アルゴリズムよりも大幅に改善されていることがわかった。
  論文  参考訳（メタデータ） (2022-09-23T07:47:33Z)
• CAFA: Class-Aware Feature Alignment for Test-Time Adaptation [50.26963784271912]
  テスト時間適応(TTA)は、テスト時にラベルのないデータにモデルを適応させることによって、この問題に対処することを目的としている。 本稿では,クラス認識特徴アライメント(CAFA, Class-Aware Feature Alignment)と呼ばれる単純な機能アライメント損失を提案する。
  論文  参考訳（メタデータ） (2022-06-01T03:02:07Z)
• New Insights on Reducing Abrupt Representation Change in Online Continual Learning [69.05515249097208]
  我々は、以前に観測されていないクラスが入ってくるデータストリームに現れるときに発生する観測データの表現の変化に焦点を当てる。 Experience Replayを適用すると、新たに追加されたクラスの表現が以前のクラスと大幅に重複することを示します。 本稿では,新しいクラスに対応するために,学習した表現を劇的な適応から保護することで,この問題を緩和する手法を提案する。
  論文  参考訳（メタデータ） (2022-03-08T01:37:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。