論文の概要: Logit-Origin Centering for Singleton Test-Time Adaptation
- arxiv url: http://arxiv.org/abs/2608.01074v1
- Date: Sun, 02 Aug 2026 08:18:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-04 15:07:25.07757
- Title: Logit-Origin Centering for Singleton Test-Time Adaptation
- Title(参考訳): シングルトンテスト時間適応のためのロジトオリジン中心化
- Abstract要約: ディープラーニングモデルは、テストデータの分布がトレーニングデータと異なる場合、パフォーマンスが悪くなります。
本稿では,厳格なストリーミングシステムにおいて,このようなアプローチが急激に低下することを示す。
本稿では、ソースモデルを凍結させ、各ステップでロジト空間をシフトさせる軽量なアプローチであるPLOC(Prequential Logit-Origin Centering)を提案する。
- 参考スコア(独自算出の注目度): 5.5438676149999075
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Tabular data is used extensively in many real-world use cases. Deep learning models have been developed to deal with tabular data, but generally perform poorly when the test data distribution differs from that of the training data. Researchers have proposed test-time adaptation approaches to deal with this problem. The fully test-time adaptation (FTTA) setting involves adapting deployed classifiers to shifted target distributions using only unlabeled test data. Leading FTTA methods inherit a batch-dependent approach from computer vision literature. This paper demonstrates for the first time that such approaches degrade sharply in strict streaming regimes where examples arrive and must be classified one at a time. This occurs because at a batch size of one, batch-level statistics become unavailable or poorly estimated. We argue that singleton tabular FTTA is not merely a small-batch variant of ordinary FTTA, but a distinct identifiability problem where only the location of the model's score stream remains directly observable. To address this, we propose Prequential Logit-Origin Centering (PLOC), a lightweight approach that keeps the source model frozen and shifts the logit space at each step. PLOC stores only a single running number (the mean of past logits), requires no labels, estimates no priors, and bypasses weight updates entirely. A deferred variant applies a static shift that preserves the source ranking, and thus the AUROC, exactly. Evaluated across five tabular benchmarks, three architectures (MLP, FT-Transformer, and TabTransformer), and five independent source checkpoints, PLOC significantly outperforms strong tabular and entropy-based baselines.
- Abstract(参考訳): タブラルデータは、多くの現実世界のユースケースで広く使われている。
表形式のデータを扱うためにディープラーニングモデルが開発されたが、テストデータ分布がトレーニングデータと異なる場合、一般的には性能が良くない。
研究者はこの問題に対処するためのテスト時適応アプローチを提案している。
完全なテスト時間適応(FTTA)設定では、未ラベルのテストデータのみを使用して、配置された分類器をシフトターゲット分布に適応させる。
FTTAメソッドは、コンピュータビジョンの文献からバッチ依存のアプローチを継承する。
本報告では, 厳格なストリーミング方式では, サンプルが到着し, 一度に1つに分類しなければならない場合において, このようなアプローチが急激に低下することを示す。
これは、1つのバッチサイズで、バッチレベルの統計が利用できないか、あるいは予測が不十分になるためである。
我々は、シングルトン表型FTTAは通常のFTTAの小さなバッチ版であるだけでなく、モデルのスコアストリームの位置のみを直接観測できるという識別可能性の問題であると主張している。
そこで我々は,ソースモデルを凍結させ,各ステップでロジト空間をシフトさせる軽量なアプローチであるPLOC(Prequential Logit-Origin Centering)を提案する。
PLOCは1つのランニング番号(過去のロジットの平均)だけを格納し、ラベルを必要とせず、事前を見積もらず、ウェイト更新を完全にバイパスする。
遅延した変種は、ソースランキングを正確に保存する静的シフトを適用し、したがってAUROCを正確に適用する。
5つのタブ型ベンチマーク、5つのアーキテクチャ(MLP、FT-Transformer、TabTransformer)、5つの独立したソースチェックポイント、PLOCは強力なタブ型とエントロピーベースのベースラインを著しく上回る。
関連論文リスト
- DOTA: Distributional Test-Time Adaptation of Vision-Language Models [69.41389326333771]
トレーニングデータとテストデータの間に大きな分散ギャップが存在する場合、視覚言語の基礎モデルは信頼できない。
本稿では,DOTA(DistributiOnal Test-time Adaptation)を提案する。
この分散中心のアプローチは、モデルが継続的に学習し、デプロイメント環境に適応することを可能にする。
論文 参考訳(メタデータ) (2024-09-28T15:03:28Z) - STAMP: Outlier-Aware Test-Time Adaptation with Stable Memory Replay [76.06127233986663]
テスト時間適応(TTA)は、トレーニングデータとテストデータの間の分散シフトに、未ラベルのデータのみを用いて対処することを目的としている。
本稿では,サンプル認識とオフリエ拒絶の両方を行う問題に注意を払っている。
本稿では,STAble Memory rePlay (STAMP) と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2024-07-22T16:25:41Z) - Unified Entropy Optimization for Open-Set Test-Time Adaptation [40.111891407629]
テスト時間適応(TTA)は、ラベル付きソースドメインで事前訓練されたモデルをラベルなしターゲットドメインに適応することを目的としている。
多くの最先端のクローズドセットTTAメソッドは、オープンセットのシナリオに適用した場合、性能が良くない。
統一エントロピー最適化(UniEnt)と呼ばれるシンプルだが効果的なフレームワークを提案する。
論文 参考訳(メタデータ) (2024-04-09T07:08:00Z) - Adaptive Test-Time Personalization for Federated Learning [51.25437606915392]
テスト時パーソナライズド・フェデレーション・ラーニング(TTPFL)と呼ばれる新しい設定を導入する。
TTPFLでは、クライアントはテスト期間中にラベル付きデータに頼ることなく、教師なしの方法でグローバルモデルをローカルに適応する。
本稿では,ソースドメイン間の分散シフトから,モデル内の各モジュールの適応率を適応的に学習する ATP という新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-10-28T20:42:47Z) - AdaNPC: Exploring Non-Parametric Classifier for Test-Time Adaptation [64.9230895853942]
ドメインの一般化は、ターゲットのドメイン情報を活用することなく、任意に困難にすることができる。
この問題に対処するためにテスト時適応(TTA)手法が提案されている。
本研究では,テスト時間適応(AdaNPC)を行うためにNon-Parametricを採用する。
論文 参考訳(メタデータ) (2023-04-25T04:23:13Z) - Robust Test-Time Adaptation in Dynamic Scenarios [9.475271284789969]
テスト時適応(TTA)は、未ラベルのテストデータストリームのみを用いて、事前訓練されたモデルを分散をテストすることを目的としている。
PTTAの複雑なデータストリームに対してロバストテスト時間適応法(RoTTA)を精査する。
私たちのメソッドは実装が簡単で、迅速なデプロイメントに適しています。
論文 参考訳(メタデータ) (2023-03-24T10:19:14Z) - A Probabilistic Framework for Lifelong Test-Time Adaptation [34.07074915005366]
テスト時間適応(TTA)は、異なるターゲットドメインから与えられたテスト入力(s)の推測時間で事前訓練されたソースモデルを更新する問題である。
PETAL(Probabilistic lifElong Test-time Adaptation with seLf-training prior)は,確率的アプローチを用いて生涯TTAを解決する。
本手法は, 様々なベンチマークにおいて, オンライン・ライフタイム・テスト・タイム・アダプティブの最先端技術よりも優れた結果が得られる。
論文 参考訳(メタデータ) (2022-12-19T18:42:19Z) - Robust Continual Test-time Adaptation: Instance-aware BN and
Prediction-balanced Memory [58.72445309519892]
テストデータストリーム以外のデータストリームに対して堅牢な新しいテスト時間適応方式を提案する。
a)分布外サンプルの正規化を修正するIABN(Instance-Aware Batch Normalization)と、(b)クラスバランスのない方法で非i.d.ストリームからのデータストリームをシミュレートするPBRS(Predict- Balanced Reservoir Sampling)である。
論文 参考訳(メタデータ) (2022-08-10T03:05:46Z) - SITA: Single Image Test-time Adaptation [48.789568233682296]
テスト時間適応(TTA)では、あるソースデータに基づいてトレーニングされたモデルを考えると、異なるディストリビューションからテストインスタンスに対してより良い予測を行うように適応することが目標である。
我々は、TTAをSITA(Single Image Test-time Adaptation)と呼ぶより実践的な環境で考える。
ここでは、各予測を行う場合、モデルはインスタンスのバッチではなく、与えられた単一のテストインスタンスにのみアクセスすることができる。
本稿では,前進保存伝播のみを必要とするSITA設定のための新しいアプローチAugBNを提案する。
論文 参考訳(メタデータ) (2021-12-04T15:01:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。