論文の概要: T3R: Deeper Test-Time Adaptation for Graph Neural Networks via Gradient Rotation
- arxiv url: http://arxiv.org/abs/2606.30011v1
- Date: Mon, 29 Jun 2026 09:18:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-30 18:07:16.159468
- Title: T3R: Deeper Test-Time Adaptation for Graph Neural Networks via Gradient Rotation
- Title(参考訳): T3R: 勾配回転によるグラフニューラルネットワークのより深いテスト時間適応
- Abstract要約: 現実のシステムにデプロイされるグラフニューラルネットワーク(GNN)は通常、固定重みを持つため、分散シフト時の性能低下につながる。
潜在的なアプローチはテスト時間トレーニング(TTT)であり、未ラベルのテストデータを使用してモデルの重みを適応させる。
対象タスクと補助タスク間のタスク親和性を改善するために,複数のロトグラード行列を利用するT3Rを提案する。
- 参考スコア(独自算出の注目度): 41.99844472131922
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Graph Neural Networks (GNNs) deployed in real-world systems typically have fixed weights, often leading to degraded performance under distribution shifts. This issue can be mitigated by conventional fine-tuning, but in many real-world cases, collecting labeled data is expensive or infeasible. A potential approach is Test-Time Training (TTT), which adapts models' weights using unlabeled test data, yet it is typically limited to shallow updates that affect only a subset of model parameters. We propose T3R, leveraging multiple Rotograd matrices to improve task affinity between the target and auxiliary tasks, essential for effective test-time training. T3R further introduces a rotation technique that reorients self-supervised signals using these matrices to create surrogate gradients for the target task, allowing deeper adaptation across nearly the entire architecture. Empirically, T3R reduces MAE by 0.172 points over standard inference in regression datasets and achieves at least 9.37% relative improvement on cross-domain OGB classification benchmarks compared to models without adaptation. These results highlight the potential to develop an adaptation pipeline for graph-based systems, particularly in settings where conventional fine-tuning or retraining is infeasible.
- Abstract(参考訳): 現実のシステムにデプロイされるグラフニューラルネットワーク(GNN)は通常、固定重みを持つため、分散シフト時の性能低下につながることが多い。
この問題は従来の微調整によって緩和できるが、実世界の多くのケースではラベル付きデータの収集は高価か不可能である。
潜在的なアプローチはテスト時間トレーニング(TTT)で、ラベルのないテストデータを使用してモデルの重みを適応するが、通常はモデルのパラメータのサブセットにのみ影響する浅い更新に限られる。
本稿では,複数のロトグラード行列を利用して目標タスクと補助タスク間のタスク親和性を改善するT3Rを提案する。
さらにT3Rは、これらの行列を用いて自己教師付き信号を再調整して、ターゲットタスクの代理勾配を作成するローテーション手法を導入し、アーキテクチャ全体にわたってより深い適応を可能にする。
実証的には、T3Rは回帰データセットの標準推測よりも0.172ポイントのMAEを削減し、適応のないモデルと比較して、ドメイン間OGB分類ベンチマークで少なくとも9.37%の相対的な改善を達成している。
これらの結果は、特に従来の微調整や再訓練が不可能な環境では、グラフベースのシステムのための適応パイプラインを開発する可能性を強調している。
関連論文リスト
- Registration-Free Learnable Multi-View Capture of Faces in Dense Semantic Correspondence [30.38509036690193]
MOCHIは、登録したトレーニングデータを必要とせずにトレーニングされた多視点3D顔予測フレームワークである。
標準点間距離は、登録不要設定でトレーニングの不安定性と視覚的アーティファクトを誘導する。
代わりに、よりスムーズな勾配とより優れた再構成忠実度を提供する点マップと正規化に基づく損失を提案する。
論文 参考訳(メタデータ) (2026-05-02T13:59:29Z) - Tail-Aware Post-Training Quantization for 3D Geometry Models [58.79500829118265]
ポストトレーニング量子化(PTQ)は、再トレーニングなしに効率的な推論を可能にする。
PTQは複雑な特徴分布と禁止キャリブレーションオーバーヘッドのために、3Dモデルに効果的に転送できない。
3次元幾何学学習のためのTail-Aware Post-Training Quantization PipelineであるTAPTQを提案する。
論文 参考訳(メタデータ) (2026-02-02T07:21:15Z) - Challenges in 3D Data Synthesis for Training Neural Networks on Topological Features [0.0]
トポロジカルデータ分析は、データの構造と接続性を分析する技術を含んでいる。
永続的ホモロジーのような伝統的な手法は、計算的に要求され、ニューラルネットワークベースの推定器の開発を動機付けている。
これらの手法を進化させる鍵となる障壁は、教師あり学習に特化したクラス分布と多様性を備えたラベル付き3Dデータの欠如である。
本稿では, 3次元畳み込み変換器アーキテクチャを用いて作成した, 属推定器ネットワークの学習に, 合成3次元データセットを用いる。
論文 参考訳(メタデータ) (2025-11-07T04:15:32Z) - 3D Test-time Adaptation via Graph Spectral Driven Point Shift [19.664235213514743]
Graph Spectral Domain Test-Time Adaptation (GSDTTA)は、3Dポイントクラウド分類のための新しいアプローチである。
これは、グラフスペクトル領域への適応をシフトさせ、より少ないパラメータでグローバルな構造特性をキャプチャすることで、より効率的な適応を可能にする。
ベンチマークデータセットに対する実験結果とアブレーション研究により,GSDTTAの有効性が示された。
論文 参考訳(メタデータ) (2025-07-24T09:18:39Z) - Structural Alignment Improves Graph Test-Time Adaptation [17.564393890432193]
グラフテスト時間適応(GTTA)のための新しいアルゴリズムであるテスト時間構造アライメント(TSA)を導入する。
TSAは、ソースデータにアクセスすることなく、推論中にグラフ構造を整列する。
合成および実世界のデータセットの実験は、TSAが非グラフTTA法と最先端GTTAベースラインの両方で一貫した性能を実証している。
論文 参考訳(メタデータ) (2025-02-25T16:26:25Z) - Just How Flexible are Neural Networks in Practice? [89.80474583606242]
ニューラルネットワークは、パラメータを持つ少なくとも多くのサンプルを含むトレーニングセットに適合できると広く信じられている。
しかし実際には、勾配や正規化子など、柔軟性を制限したトレーニング手順によるソリューションしか見つからない。
論文 参考訳(メタデータ) (2024-06-17T12:24:45Z) - TSI-GAN: Unsupervised Time Series Anomaly Detection using Convolutional
Cycle-Consistent Generative Adversarial Networks [2.4469484645516837]
異常検出は、ネットワーク侵入検知、自律運転、診断、クレジットカード詐欺などに広く用いられている。
本稿では、複雑な時間パターンを自動的に学習できる時系列の教師なし異常検出モデルであるTSI-GANを提案する。
提案手法は,250個の高度・厳密なデータセットを用いてTSI-GANを評価し,最先端の8つのベースライン手法と比較した。
論文 参考訳(メタデータ) (2023-03-22T23:24:47Z) - EGRC-Net: Embedding-induced Graph Refinement Clustering Network [66.44293190793294]
埋め込みによるグラフリファインメントクラスタリングネットワーク (EGRC-Net) という新しいグラフクラスタリングネットワークを提案する。
EGRC-Netは学習した埋め込みを利用して初期グラフを適応的に洗練し、クラスタリング性能を向上させる。
提案手法はいくつかの最先端手法より一貫して優れている。
論文 参考訳(メタデータ) (2022-11-19T09:08:43Z) - Truncated tensor Schatten p-norm based approach for spatiotemporal
traffic data imputation with complicated missing patterns [77.34726150561087]
本研究は, モード駆動繊維による3症例の欠失を含む, 4症例の欠失パターンについて紹介する。
本モデルでは, 目的関数の非性にもかかわらず, 乗算器の交互データ演算法を統合することにより, 最適解を導出する。
論文 参考訳(メタデータ) (2022-05-19T08:37:56Z) - Training Robust Graph Neural Networks with Topology Adaptive Edge
Dropping [116.26579152942162]
グラフニューラルネットワーク(GNN)は、グラフ構造情報を利用してネットワークデータから表現をモデル化する処理アーキテクチャである。
彼らの成功にもかかわらず、GNNは限られた訓練データから得られる準最適一般化性能に悩まされている。
本稿では、一般化性能を改善し、堅牢なGNNモデルを学習するためのトポロジ適応エッジドロップ法を提案する。
論文 参考訳(メタデータ) (2021-06-05T13:20:36Z) - LiteDepthwiseNet: An Extreme Lightweight Network for Hyperspectral Image
Classification [9.571458051525768]
本稿では,HSI分類のための新しいネットワークアーキテクチャLiteDepthwiseNetを提案する。
LiteDepthwiseNetは、標準の畳み込みを深さ方向の畳み込みと点方向の畳み込みに分解し、最小限のパラメータで高い分類性能を達成する。
3つのベンチマークハイパースペクトルデータセットによる実験結果から、LiteDepthwiseNetは、非常に少ないパラメータと少ない計算コストで最先端のパフォーマンスを達成することが示された。
論文 参考訳(メタデータ) (2020-10-15T13:12:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。