論文の概要: PAID: Pairwise Angular-Invariant Decomposition for Continual Test-Time Adaptation
- arxiv url: http://arxiv.org/abs/2506.02453v1
- Date: Tue, 03 Jun 2025 05:18:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-04 21:47:35.289551
- Title: PAID: Pairwise Angular-Invariant Decomposition for Continual Test-Time Adaptation
- Title(参考訳): PAID: 連続テスト時間適応のためのPairwise Angular-Invariant Decomposition
- Authors: Kunyu Wang, Xueyang Fu, Yunfei Bao, Chengjie Ge, Chengzhi Cao, Wei Zhai, Zheng-Jun Zha,
- Abstract要約: 本稿では,事前学習した重みの幾何学的特性を出発点として,3つの重要な成分(等級,絶対角,対角構造)を体系的に解析する。
両角構造は多種多様なドメインにわたって安定であり, ドメイン不変な意味情報を符号化し, 適応中に保存すべきことを示唆する。
- 参考スコア(独自算出の注目度): 71.15558243612227
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Continual Test-Time Adaptation (CTTA) aims to online adapt a pre-trained model to changing environments during inference. Most existing methods focus on exploiting target data, while overlooking another crucial source of information, the pre-trained weights, which encode underutilized domain-invariant priors. This paper takes the geometric attributes of pre-trained weights as a starting point, systematically analyzing three key components: magnitude, absolute angle, and pairwise angular structure. We find that the pairwise angular structure remains stable across diverse corrupted domains and encodes domain-invariant semantic information, suggesting it should be preserved during adaptation. Based on this insight, we propose PAID (Pairwise Angular-Invariant Decomposition), a prior-driven CTTA method that decomposes weight into magnitude and direction, and introduces a learnable orthogonal matrix via Householder reflections to globally rotate direction while preserving the pairwise angular structure. During adaptation, only the magnitudes and the orthogonal matrices are updated. PAID achieves consistent improvements over recent SOTA methods on four widely used CTTA benchmarks, demonstrating that preserving pairwise angular structure offers a simple yet effective principle for CTTA.
- Abstract(参考訳): 連続テスト時間適応(CTTA)は、推論中に環境の変化に事前訓練されたモデルを適用することを目的としている。
既存のほとんどのメソッドはターゲットデータの利用に重点を置いており、また、未使用のドメイン不変プリエントをエンコードする事前訓練された重み付け(英語版)という重要な情報ソースを見下ろしている。
本稿では,事前学習した重みの幾何学的特性を出発点として,3つの重要な成分(等級,絶対角,対角構造)を体系的に解析する。
両角構造は多種多様なドメインにわたって安定であり, ドメイン不変な意味情報を符号化し, 適応中に保存すべきことを示唆する。
この知見に基づいて、重みを大きさと方向に分解する事前駆動CTTA法であるPAID(Pairwise Angular-Invariant Decomposition)を提案する。
適応中、大きさと直交行列のみが更新される。
PAIDは、4つの広く使用されているCTTAベンチマークにおいて、最近のSOTA法よりも一貫した改善を実現し、対角構造を保存することは、CTTAにとって単純だが効果的な原則であることを示した。
関連論文リスト
- Optimal Transport-Based Domain Adaptation for Rotated Linear Regression [0.0]
本稿では, 線形回帰モデルを含む教師付きDA問題に焦点をあてる。
この研究は、センサキャリブレーションや画像配向といった応用において、ソースドメインとターゲットドメインがローテーションコモンによって関連付けられている場合について考察する。
我々は,K平均クラスタリング,OT,特異値分解(SVD)を組み合わせて回転角を推定し,回帰モデルを適用するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-05-14T09:06:40Z) - A Recipe for Geometry-Aware 3D Mesh Transformers [2.0992612407358293]
本研究では, ノード数可変のパッチを収容するパッチレベルで, 特徴を埋め込む手法について検討する。
本研究は,1)一般的な3次元メッシュトランスフォーマにおける熱拡散による構造的および位置的埋め込みの重要性,2)学習の強化における測地的マスキングや機能的相互作用といった新しい要素の有効性,3)セグメント化と分類作業の課題における提案手法の優れた性能と効率性など,重要な知見を浮き彫りにしている。
論文 参考訳(メタデータ) (2024-10-31T19:13:31Z) - EqNIO: Subequivariant Neural Inertial Odometry [33.96552018734359]
重力ベクトルの周りで回転すると、IMUデータは等変的に変形し、重力に平行な任意の平面に対して反射することを示す。
そして、IMUデータをこのフレームにマッピングし、既製の慣性オドメトリーネットワークで直接使用できる不変な正準化を実現する。
論文 参考訳(メタデータ) (2024-08-12T17:42:46Z) - Boosting Cross-Domain Point Classification via Distilling Relational Priors from 2D Transformers [59.0181939916084]
従来の3Dネットワークは主に局所幾何学的詳細に焦点を当て、局所幾何学間の位相構造を無視する。
そこで本稿では,大規模画像上においてよく訓練されたトランスフォーマーから前駆体を抽出する,新しい先駆体蒸留法を提案する。
PointDA-10とSim-to-Realデータセットの実験は、提案手法が点クラウド分類におけるUDAの最先端性能を一貫して達成していることを検証する。
論文 参考訳(メタデータ) (2024-07-26T06:29:09Z) - Bridging The Gap between Low-rank and Orthogonal Adaptation via Householder Reflection Adaptation [32.371755315509574]
家庭内リフレクション適応法 (HRA) は, 家庭内リフレクションに基づく簡易かつ効果的な適応法である。
HRAは、大きな言語モデルと条件付き画像生成装置を適用する際に、学習可能なパラメータが少なくて優れた性能を実現する。
論文 参考訳(メタデータ) (2024-05-24T16:18:16Z) - Equivariant Deep Weight Space Alignment [54.65847470115314]
本稿では,ウェイトアライメント問題を解決するための学習を目的とした新しいフレームワークを提案する。
まず、重み調整が2つの基本対称性に一致することを証明し、それからこれらの対称性を尊重する深いアーキテクチャを提案する。
論文 参考訳(メタデータ) (2023-10-20T10:12:06Z) - Change Point Detection with Conceptors [0.6526824510982799]
オフラインの変更点検出は、時系列内の変更点を振り返って特定する。
平均と分散の変化を対象とする多くの非パラメトリック手法は、非線形時間依存の存在下では失敗する。
本稿では,任意の依存構造を持つベースライン学習窓の特性を学習するための概念行列を提案する。
関連するエコー状態ネットワークはデータのデファシライザとして機能し、特徴間の相互作用の性質とベースライン状態との関係から変化点を識別する。
論文 参考訳(メタデータ) (2023-08-11T16:32:00Z) - A Model for Multi-View Residual Covariances based on Perspective
Deformation [88.21738020902411]
マルチビューSfM, オードメトリ, SLAMセットアップにおける視覚的残差の共分散モデルの導出を行う。
我々は、合成データと実データを用いてモデルを検証し、それを光度および特徴量に基づくバンドル調整に統合する。
論文 参考訳(メタデータ) (2022-02-01T21:21:56Z) - Frame Averaging for Equivariant Shape Space Learning [85.42901997467754]
形状空間学習に対称性を組み込む自然な方法は、形状空間(エンコーダ)への写像と形状空間(デコーダ)からの写像が関連する対称性に同値であることを問うことである。
本稿では,2つのコントリビューションを導入することで,エンコーダとデコーダの等価性を組み込む枠組みを提案する。
論文 参考訳(メタデータ) (2021-12-03T06:41:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。