論文の概要: Beyond Parameter Finetuning: Test-Time Representation Refinement for Node Classification
- arxiv url: http://arxiv.org/abs/2601.21615v1
- Date: Thu, 29 Jan 2026 12:17:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-01-30 16:22:49.798478
- Title: Beyond Parameter Finetuning: Test-Time Representation Refinement for Node Classification
- Title(参考訳): パラメータファインタニングを超えて:ノード分類のためのテスト時間表現リファインメント
- Authors: Jiaxin Zhang, Yiqi Wang, Siwei Wang, Xihong Yang, Yu Shi, Xinwang Liu, En Zhu,
- Abstract要約: グラフニューラルネットワークは、アウト・オブ・ディストリビューションテストのシナリオにおいて、大きなパフォーマンス劣化を示すことが多い。
本稿では,モデルパラメータから潜在表現へ適応対象を遷移させる新しいテスト時間表現ファインタニングフレームワークTTReFTを提案する。
具体的には,(1)特定の介入に対する不確実性誘導ノード選択,(2)事前学習した知識を保存する低ランク表現介入,(3)介入認識型マスク付きオートエンコーダの3つの重要な革新によって,TTReFTはこれを達成している。
- 参考スコア(独自算出の注目度): 59.11332582888994
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Graph Neural Networks frequently exhibit significant performance degradation in the out-of-distribution test scenario. While test-time training (TTT) offers a promising solution, existing Parameter Finetuning (PaFT) paradigm suffer from catastrophic forgetting, hindering their real-world applicability. We propose TTReFT, a novel Test-Time Representation FineTuning framework that transitions the adaptation target from model parameters to latent representations. Specifically, TTReFT achieves this through three key innovations: (1) uncertainty-guided node selection for specific interventions, (2) low-rank representation interventions that preserve pre-trained knowledge, and (3) an intervention-aware masked autoencoder that dynamically adjust masking strategy to accommodate the node selection scheme. Theoretically, we establish guarantees for TTReFT in OOD settings. Empirically, extensive experiments across five benchmark datasets demonstrate that TTReFT achieves consistent and superior performance. Our work establishes representation finetuning as a new paradigm for graph TTT, offering both theoretical grounding and immediate practical utility for real-world deployment.
- Abstract(参考訳): グラフニューラルネットワークは、アウト・オブ・ディストリビューションテストのシナリオにおいて、大きなパフォーマンス劣化を示すことが多い。
テストタイムトレーニング(TTT)は有望なソリューションを提供するが、既存のパラメータファインタニング(PaFT)パラダイムは破滅的な忘れ込みに悩まされ、現実の応用性を妨げている。
本稿では,モデルパラメータから潜在表現へ適応対象を遷移させる新しいテスト時間表現ファインタニングフレームワークTTReFTを提案する。
具体的には,(1)特定の介入に対する不確実性誘導ノード選択,(2)事前学習した知識を保存する低ランク表現介入,(3)ノード選択スキームに対応するためにマスク戦略を動的に調整する介入対応マスク付きオートエンコーダの3つの重要な革新によって,TTReFTはこれを達成している。
理論的には、OOD設定におけるTTReFTの保証を確立する。
経験的に、5つのベンチマークデータセットにわたる広範な実験は、TTReFTが一貫性と優れたパフォーマンスを達成することを示す。
我々の研究は、グラフTTTの新しいパラダイムとして表現微調整を確立し、理論的な基礎と即時的な実用性の両方を実世界の展開に提供します。
関連論文リスト
- FR-TTS: Test-Time Scaling for NTP-based Image Generation with Effective Filling-based Reward Signal [26.72622200307507]
テスト時間スケーリング(TTS)は画像生成において一般的な技術となり、出力品質を大幅に向上させた。
しかし、この強力な方法論を次世代の予測パラダイムに適用することは依然として難しい。
中間試料のほぼ将来軌跡を推定するために,フィリング・ベース・リワード (FR) を導入する。
複数の確立されたベンチマークと様々な報酬モデルに対するFR-TTSの優位性を実験的に検証した。
論文 参考訳(メタデータ) (2025-11-29T10:34:16Z) - Test time training enhances in-context learning of nonlinear functions [51.56484100374058]
テストタイムトレーニング(TTT)は、各予測に先立って指定されたパラメータを明示的に更新することで、モデル性能を向上させる。
本研究では,TTTとテキスト内学習(ICL)の組み合わせについて検討する。
論文 参考訳(メタデータ) (2025-09-30T03:56:44Z) - Enhancing Test Time Adaptation with Few-shot Guidance [62.49199492255226]
深層ニューラルネットワークは、トレーニング(ソース)とテスト(ターゲット)データのドメインシフトに直面しながら、大きなパフォーマンス低下に直面することが多い。
TTA(Test Time Adaptation)法は,事前学習したソースモデルを用いて,配信外ストリーミングターゲットデータを処理する手法として提案されている。
本稿では,Few-Shot Test Time Adaptation (FS-TTA) を開発した。
論文 参考訳(メタデータ) (2024-09-02T15:50:48Z) - ACTRESS: Active Retraining for Semi-supervised Visual Grounding [52.08834188447851]
前回の研究であるRefTeacherは、疑似自信と注意に基づく監督を提供するために教師学生の枠組みを採用することで、この課題に取り組むための最初の試みである。
このアプローチは、Transformerベースのパイプラインに従う現在の最先端のビジュアルグラウンドモデルと互換性がない。
本稿では, ACTRESS を略したセミスーパービジョン視覚グラウンドのためのアクティブ・リトレーニング手法を提案する。
論文 参考訳(メタデータ) (2024-07-03T16:33:31Z) - Optimization-Free Test-Time Adaptation for Cross-Person Activity
Recognition [30.350005654271868]
Test-Time Adaptationは、テストストリームを使用して、リアルタイムの推論で予測を調整することを目的としている。
計算コストが高いため、リソース制約のあるエッジデバイス上での動作が困難になる。
センサベースHARのための最適化自由テスト時間適応フレームワークを提案する。
論文 参考訳(メタデータ) (2023-10-28T02:20:33Z) - Adaptive Siamese Tracking with a Compact Latent Network [219.38172719948048]
追跡タスクを分類に変換することで,シームズをベースとしたトラッカーを簡易化する直感的なビューを提供する。
そこで本研究では,視覚シミュレーションと実追跡例を用いて,詳細な解析を行う。
そこで我々は,古典的なSiamRPN++,SiamFC,SiamBANの3つのトラッカーを調整した。
論文 参考訳(メタデータ) (2023-02-02T08:06:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。