論文の概要: Hierarchical Adaptive networks with Task vectors for Test-Time Adaptation

• arxiv url: http://arxiv.org/abs/2508.09223v1
• Date: Mon, 11 Aug 2025 21:55:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-14 20:42:00.633214
• Title: Hierarchical Adaptive networks with Task vectors for Test-Time Adaptation
• Title（参考訳）: テスト時間適応のためのタスクベクトル付き階層型適応ネットワーク
• Authors: Sameer Ambekar, Daniel M. Lang, Julia A. Schnabel,
• Abstract要約: タスクベクトルを用いた階層型適応ネットワーク(Hi-Vec)を提案する。 Hi-Vecは、既存のメソッドが様々な複雑さのシフトに適応できるようにする。 挑戦的なシナリオや複数のターゲットデータセットにおいて、Hi-Vecの性能を厳格に評価する。
• 参考スコア（独自算出の注目度）: 3.3834108313265916
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Test-time adaptation allows pretrained models to adjust to incoming data streams, addressing distribution shifts between source and target domains. However, standard methods rely on single-dimensional linear classification layers, which often fail to handle diverse and complex shifts. We propose Hierarchical Adaptive Networks with Task Vectors (Hi-Vec), which leverages multiple layers of increasing size for dynamic test-time adaptation. By decomposing the encoder's representation space into such hierarchically organized layers, Hi-Vec, in a plug-and-play manner, allows existing methods to adapt to shifts of varying complexity. Our contributions are threefold: First, we propose dynamic layer selection for automatic identification of the optimal layer for adaptation to each test batch. Second, we propose a mechanism that merges weights from the dynamic layer to other layers, ensuring all layers receive target information. Third, we propose linear layer agreement that acts as a gating function, preventing erroneous fine-tuning by adaptation on noisy batches. We rigorously evaluate the performance of Hi-Vec in challenging scenarios and on multiple target datasets, proving its strong capability to advance state-of-the-art methods. Our results show that Hi-Vec improves robustness, addresses uncertainty, and handles limited batch sizes and increased outlier rates.
• Abstract（参考訳）: テスト時適応により、事前訓練されたモデルは、入力データストリームに調整し、ソースとターゲットドメイン間の分散シフトに対処できる。 しかし、標準的な手法は1次元の線形分類層に依存しており、多様かつ複雑なシフトを処理できないことが多い。 動的テスト時間適応のために,階層型適応ネットワークとタスクベクトル(Hi-Vec)を提案する。 エンコーダの表現空間を階層的に構成された層に分解することで、Hi-Vecはプラグアンドプレイ方式で既存のメソッドを様々な複雑さのシフトに適応させることができる。 まず、テストバッチ毎に最適な層を自動的に識別するための動的層選択を提案する。 次に、動的レイヤから他のレイヤへの重み付けをマージし、すべてのレイヤがターゲット情報を受信できるようにするメカニズムを提案する。 第三に、ゲーティング関数として機能し、ノイズバッチへの適応による誤微調整を防止する線形層合意を提案する。 我々は、挑戦的なシナリオや複数のターゲットデータセットにおいて、Hi-Vecの性能を厳格に評価し、最先端の手法を進化させる強力な能力を証明した。 以上の結果から,Hi-Vecはロバスト性を改善し,不確実性に対処し,バッチサイズを制限し,出力率を向上することがわかった。

関連論文リスト

• Dynamic Context-oriented Decomposition for Task-aware Low-rank Adaptation with Less Forgetting and Faster Convergence [131.41894248194995]
  タスク認識方式でアダプタを初期化する新しい手法であるコンテキスト指向分解適応(CorDA)を提案する。 本手法は,タスク認識により,知識保存モード (KPM) と命令レビューモード (IPM) の2つのオプション適応モードを実現する。
  論文  参考訳（メタデータ） (2025-06-16T07:55:14Z)
• GeneralizeFormer: Layer-Adaptive Model Generation across Test-Time Distribution Shifts [58.95913531746308]
  テスト時間領域の一般化の問題は、モデルが複数のソースドメインで訓練され、トレーニング中に見たことのないターゲットドメインで調整される場合である。 textitGeneralizeFormer と呼ばれる軽量メタ学習変換器を用いて,推論中に複数の層パラメータを生成することを提案する。
  論文  参考訳（メタデータ） (2025-02-15T10:10:49Z)
• A Layer Selection Approach to Test Time Adaptation [0.2968738145616401]
  テスト時間適応(TTA)は、推論中に事前訓練されたモデルを新しいドメインに適応させることによって、分散シフトの問題に対処する。 提案するGALAは,TTA中に最も有益な更新を行うための新しいレイヤ選択基準である。
  論文  参考訳（メタデータ） (2024-04-04T19:55:11Z)
• Improving Reliability of Fine-tuning with Block-wise Optimisation [6.83082949264991]
  ファインタニングは知識を伝達することでドメイン固有のタスクに取り組むのに使うことができる。 本稿では,事前学習したモデルの層群を重み付けするブロックワイズ最適化機構を提案する。 提案されたアプローチは、頻繁に使用されるデータセットであるTf_flowerでテストされる。
  論文  参考訳（メタデータ） (2023-01-15T16:20:18Z)
• Arbitrary Bit-width Network: A Joint Layer-Wise Quantization and Adaptive Inference Approach [38.03309300383544]
  そこで本研究では,データ依存動的推論を実現するために,様々な量子化方式で異なるデータサンプルを微細な層レベルで供給することを提案する。 本稿では,Arbitrary Bit-width Network(ABN)を提案する。 ImageNet分類では、36.2%のBitOpsを節約しながら、1.1%のトップ1の精度向上を実現しています。
  論文  参考訳（メタデータ） (2022-04-21T09:36:43Z)
• AdaStereo: An Efficient Domain-Adaptive Stereo Matching Approach [50.855679274530615]
  本稿では,AdaStereoというドメイン適応型アプローチを提案する。 我々のモデルは、KITTI、Middlebury、ETH3D、DrivingStereoなど、複数のベンチマークで最先端のクロスドメイン性能を実現している。 提案手法は,様々なドメイン適応設定に対して堅牢であり,迅速な適応アプリケーションシナリオや実環境展開に容易に組み込むことができる。
  論文  参考訳（メタデータ） (2021-12-09T15:10:47Z)
• Dynamic Convolution for 3D Point Cloud Instance Segmentation [146.7971476424351]
  動的畳み込みに基づく3次元点雲からのインスタンスセグメンテーション手法を提案する。 我々は、同じ意味圏と閉投票を持つ等質点を幾何学的遠近点に対して収集する。 提案手法は提案不要であり、代わりに各インスタンスの空間的および意味的特性に適応する畳み込みプロセスを利用する。
  論文  参考訳（メタデータ） (2021-07-18T09:05:16Z)
• I^3Net: Implicit Instance-Invariant Network for Adapting One-Stage Object Detectors [64.93963042395976]
  暗黙のInstance-Invariant Network(I3Net)は、ワンステージ検出器の適応に適しています。 i3netは、異なる層における深い特徴の自然な特徴を利用してインスタンス不変な特徴を暗黙的に学習する。 実験によると、I3Netはベンチマークデータセットの最先端のパフォーマンスを上回っている。
  論文  参考訳（メタデータ） (2021-03-25T11:14:36Z)
• DHP: Differentiable Meta Pruning via HyperNetworks [158.69345612783198]
  本稿では,ネットワークの自動プルーニングのためのハイパーネットによる識別可能なプルーニング手法を提案する。 遅延ベクトルは、バックボーンネットワーク内の畳み込み層の出力チャネルを制御し、レイヤのプルーニングのハンドルとして機能する。 画像分類、単一画像超解像、復調のための様々なネットワークで実験が行われた。
  論文  参考訳（メタデータ） (2020-03-30T17:59:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。