論文の概要: Sandwich-Residuals: Parameter-Efficient Test-time Adaptation of World Models

• arxiv url: http://arxiv.org/abs/2609.21740v1
• Date: Fri, 18 Sep 2026 13:17:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-21 18:40:17.105047
• Title: Sandwich-Residuals: Parameter-Efficient Test-time Adaptation of World Models
• Title（参考訳）: サンドウィッチ残差:世界モデルのパラメータ効率の良いテスト時間適応
• Abstract要約: 我々は、事前訓練された世界モデルを凍結し続ける軽量な代替手段であるSandwich-Residualsを導入し、予測器の周りの小さな残差のみを学習する。 本手法は凍結モデルの成功率を1.3倍に向上し,AdaJEPA 変種の性能の95%を維持できる。 複合シフトの下では、この利点は、内部ブロック適応に匹敵するまま、凍結モデルの成功率で1.9倍に向上する。
• 参考スコア（独自算出の注目度）: 6.416429054645992
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Latent world models enable planning by predicting the effects of actions in a learned representation space, but their predictions can become unreliable when test-time conditions differ from training. Existing test-time adaptation methods address this by updating parts of the pretrained model, often modifying millions of parameters and requiring a choice of which internal components to adapt. We introduce Sandwich-Residuals, a lightweight alternative that keeps the pretrained world model frozen and learns only small residual corrections around the predictor. The residuals are optimized online using the model's self-supervised prediction error and require no rewards, labels, or source-domain data. Across 21 conditions on the AdaJEPA benchmark, our method achieves $1.3\times$ the success rate of the frozen model while retaining 95% of the performance of the strongest AdaJEPA variant and adapting 97-99% fewer parameters. Under compound shifts, this advantage increases to $1.9\times$ the success rate of the frozen model, while remaining comparable to internal block adaptation. We further demonstrate the same adaptation principle on a DINO-WM model for 3-D manipulation. These results suggest that effective test-time adaptation of world models does not necessarily require modifying their pretrained internal weights.
• Abstract（参考訳）: 潜在世界モデルは、学習された表現空間における行動の効果を予測することで計画を可能にするが、テスト時間条件が訓練と異なる場合、その予測は信頼できないものとなる。 既存のテスト時間適応メソッドは、事前訓練されたモデルの部分を更新し、数百万のパラメータを変更し、どの内部コンポーネントが適応するかを選択することで、この問題に対処する。 我々は、事前訓練された世界モデルを凍結し続ける軽量な代替手段であるSandwich-Residualsを導入し、予測器の周りの小さな残差補正のみを学習する。 残余は、モデルの自動教師付き予測エラーを使用してオンラインで最適化され、報酬、ラベル、ソースドメインデータを必要としない。 AdaJEPAベンチマークの21条件中、この手法は凍結モデルの成功率を1.3\times$で達成し、AdaJEPAの最大変種の性能の95%を維持し、97-99%のパラメータを適応させる。 複合シフトの下では、この利点は、内部ブロック適応に匹敵するまま、凍結モデルの成功率$1.9\timesに増大する。 さらに、3次元操作のためのDINO-WMモデル上でも同様の適応原理を示す。 これらの結果は、世界モデルの効果的なテスト時間適応は、事前訓練された内部重みの変更を必要としないことを示唆している。

関連論文リスト

• EVA-0: Test-Time Model Evolution with Only Two Forward Passes per Sample [55.284129005947484]
  厳格な2方向予算の下でテスト時間モデルの進化について検討する。 ゼロオーダーテストタイム最適化における3つの重要な障害を明らかにする。 最小零階適応フレームワーク EVA-0 を提案する。
  論文  参考訳（メタデータ） (2026-05-15T09:26:02Z)
• Rethinking Test-Time Training: Tilting The Latent Distribution For Few-Shot Source-Free Adaptation [3.5808917363708743]
  完全に凍結したモデル体制下で, 数ショット分類のための基礎モデルの試験時間適応について検討した。 本稿では,エンコーダによって誘導される潜伏埋め込み分布に対して,測定値の変更を行うことにより,新しいタスクに予測を適応させる,最初のトレーニング不要推論手法を提案する。
  論文  参考訳（メタデータ） (2026-02-02T18:17:29Z)
• COME: Test-time adaption by Conservatively Minimizing Entropy [45.689829178140634]
  保守的に最小化されるエントロピー (COME) は従来のエントロピー (EM) の代替品である COMEはモデル予測よりもディリクレ事前分布を特徴付けることによって、不確実性を明示的にモデル化する。 我々はCOMEが一般的なベンチマークで最先端のパフォーマンスを達成することを示す。
  論文  参考訳（メタデータ） (2024-10-12T09:20:06Z)
• Test-Time Model Adaptation with Only Forward Passes [68.11784295706995]
  テストタイム適応は、トレーニング済みのモデルを、潜在的に分布シフトのある未確認テストサンプルに適応させるのに有効であることが証明されている。 テスト時間フォワード最適化適応法(FOA)を提案する。 FOAは量子化された8ビットのViTで動作し、32ビットのViTで勾配ベースのTENTより優れ、ImageNet-Cで最大24倍のメモリ削減を実現する。
  論文  参考訳（メタデータ） (2024-04-02T05:34:33Z)
• REALM: Robust Entropy Adaptive Loss Minimization for Improved Single-Sample Test-Time Adaptation [5.749155230209001]
  フルテスト時間適応(F-TTA)は、列車とテストデータの分散シフトによる性能損失を軽減することができる。 本稿では,F-TTAの雑音に対する堅牢性向上のための一般的な枠組みについて述べる。
  論文  参考訳（メタデータ） (2023-09-07T18:44:58Z)
• Prediction of SLAM ATE Using an Ensemble Learning Regression Model and 1-D Global Pooling of Data Characterization [3.4399698738841553]
  原位置センサの入力特性に基づいてSLAMの局所化誤差を予測する新しい手法を提案する。 提案手法は, 原位置センサデータから生成した1次元グローバルプール特徴に基づくランダム森林回帰モデルを用いた。 また,12の異なる1次元大域プール関数が回帰品質に及ぼす影響について検討し,その1次元大域平均化の優位性について定量的に検証した。
  論文  参考訳（メタデータ） (2023-03-01T16:12:47Z)
• Efficient Test-Time Model Adaptation without Forgetting [60.36499845014649]
  テストタイム適応は、トレーニングとテストデータの間の潜在的な分散シフトに取り組むことを目指している。 信頼性および非冗長なサンプルを同定するためのアクティブなサンプル選択基準を提案する。 また、重要なモデルパラメータを劇的な変化から制約するFisher regularizerを導入します。
  論文  参考訳（メタデータ） (2022-04-06T06:39:40Z)
• Model soups: averaging weights of multiple fine-tuned models improves accuracy without increasing inference time [69.7693300927423]
  複数モデルの重み付けを異なるパラメータ構成で微調整することにより,精度とロバスト性が向上することを示す。 モデルスープ手法は,複数の画像分類や自然言語処理タスクにまで拡張されている。
  論文  参考訳（メタデータ） (2022-03-10T17:03:49Z)
• MEMO: Test Time Robustness via Adaptation and Augmentation [131.28104376280197]
  テスト時間ロバスト化の問題、すなわちモデルロバスト性を改善するためにテストインプットを用いて検討する。 最近の先行研究ではテスト時間適応法が提案されているが、それぞれ追加の仮定を導入している。 モデルが確率的で適応可能な任意のテスト環境で使用できるシンプルなアプローチを提案する。
  論文  参考訳（メタデータ） (2021-10-18T17:55:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。