論文の概要: Align-RAG: Alignment Is All You Need for TSFM In-Context Learning
- arxiv url: http://arxiv.org/abs/2608.05571v1
- Date: Thu, 06 Aug 2026 03:43:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 17:43:06.696536
- Title: Align-RAG: Alignment Is All You Need for TSFM In-Context Learning
- Title(参考訳): Align-RAG: TSFMのインコンテキスト学習に必要なアライメント
- Abstract要約: Retrieval-augmented forecasting promise to adapt frozen TSFMs to new domain without fine-tuning。
最近の手法は、検索した例をバックボーンの予測にマージする訓練されたアダプタに依存している。
提案手法は, 過去のウィンドウに対して, 閉形式のペア振幅再スケーリングと整数ラグ位相シフトを適用したトレーニングフリーのAlign-RAGを提案する。
- 参考スコア(独自算出の注目度): 10.337956276485642
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Retrieval-augmented forecasting promises to adapt frozen Time Series Foundation Models (TSFMs) to new domains without fine-tuning, but recent methods typically rely on learned fusion modules, i.e., trained adapters that merge retrieved examples into the backbone's forecast, based on the assumption that frozen backbones cannot dynamically incorporate retrieved context on their own. We show this assumption is unnecessary. We introduce Align-RAG, a training-free method that applies a closed-form per-pair amplitude rescaling and integer-lag phase shift to retrieved past-future windows before they enter a frozen backbone's context. With no learned parameters, Align-RAG outperforms the state-of-the-art trained retrieval adapter on a frozen Chronos-Bolt on all seven datasets of the standard benchmark (avg -3.75% MSE), showing that the gains previously attributed to learned fusion are recoverable without any training. Align-RAG further improves zero-shot MSE on four additional frozen TSFMs with various architectures by 2.5% to 13.7% per backbone with no per-backbone tuning. To probe why alignment helps, we compare the frozen backbone's prediction shift under aligned demonstrations to the closed-form ridge prediction shift on the same pairs. We find that aligned demonstrations induce prediction shifts that track a closed-form ridge predictor on the same pairs, with a future-shuffle control ruling out a futures-averaging account. Together, these results indicate that frozen TSFMs already support dynamic in-context use of retrievals, and that closed-form alignment should be the default baseline for retrieval-augmented forecasting before any fusion module is trained. Code available at: https://github.com/masadi-99/align-rag
- Abstract(参考訳): Retrieval-augmented forecasting promise to adapt frozen Time Series Foundation Models (TSFMs) to adapt new domain without fine-tuning しかし、最近の手法は一般的に、学習した融合モジュール、すなわち、凍結したバックボーンが動的に取得したコンテキストを自分自身で組み込むことができないという仮定に基づいて、サンプルをバックボーンの予測にマージする訓練されたアダプタに依存している。
この仮定は不要であることを示す。
凍結したバックボーンのコンテキストに入る前に、閉形式のペア振幅再スケーリングと整数ラグ位相シフトを適用したトレーニングフリーのAlign-RAGを導入する。
学習パラメータがなければ、Align-RAGは標準ベンチマークの7つのデータセット(3.75% MSE)すべてにおいて、凍結したChronos-Bolt上で、最先端のトレーニング済みのトレーニングアダプタよりも優れており、それまでの学習融合によるゲインがトレーニングなしで回復可能であることを示している。
Align-RAGは、バックボーンごとに2.5%から13.7%の増減をし、バックボーンごとのチューニングを行わない4つの冷凍TSFMのゼロショットMSEをさらに改善した。
なぜアライメントが役立つのかを探索するために、アライメントされたデモの下で凍結したバックボーンの予測シフトと、同じペア上の閉形式のリッジ予測シフトを比較した。
協調したデモは、同じペア上でクローズドフォームのリッジ予測器を追跡する予測シフトを誘導し、将来のシャッフル制御により将来予測アカウントを除外する。
これらの結果から,冷凍TSFMは検索の動的インコンテキスト利用をすでにサポートしており,融合モジュールを訓練する前にクローズドフォームアライメントが検索強化予測のデフォルト基準となることが示唆された。
https://github.com/masadi-99/align-rag
関連論文リスト
- Tabby: An Open Pretraining Recipe for Time Series Foundation Models [36.79272249788465]
Tabbyは長期のコンテキスト確率的時系列基盤モデルである。
エンコーダのみのパッチTransformerアーキテクチャを採用し、データとトレーニング手順へのコントリビューションに集中する。
私たちはhuawei-noah/trustworthyAIでトレーニングパイプラインとモデルをオープンソースとしてリリースしています。
論文 参考訳(メタデータ) (2026-09-12T13:58:39Z) - REER-PT: Reverse-Engineered Reasoning for Perplexity-Guided Pre-training Data Augmentation [64.84437332310516]
我々は,Reverse-Engineered Reasoning (REER) を生の事前学習データに拡張するスケーラブルなフレームワークである textbfREER-PT を紹介する。
REER-PTは予測が難しいが、それ以前のコンテキストから推論できる継続を識別し、コンテキストと継続の間の欠落した接続を再構築する簡潔な推論アノテーションを挿入する。
このスパース変換は、ソーステキストを保存し、トレーニング前のオンライン推論ロールアウトを避けることで、標準的な次世代の予測と互換性を維持します。
論文 参考訳(メタデータ) (2026-08-31T11:34:19Z) - CloSeR: Unified Relational Distillation from Closed-Set Teachers for Category Discovery [16.721682363090043]
CloSeRは、一般カテゴリー発見トレーニングにクローズドセットの知識を注入する。
6つのベンチマークでのDINOとDINOv2のバックボーンの実験は、GCDベースラインよりも一貫した利得を示している。
論文 参考訳(メタデータ) (2026-08-26T12:10:54Z) - KReF: Training-Free Retrieval for Long-Term Time-Series Forecasting and Predictive Uncertainty [8.44268644654703]
本研究では,検索履歴をクエリローカルな経験的予測分布として扱う,学習不要な検索フレームワークを提案する。
KReFは統計や凍結したランダムなフーリエ特徴を使って各ルックバックを埋め込んで、同様の過去のルックバックとフューチャーのペアを検索する。
その類似度重みは、予測質量、量子化、CRPS、重み付き平均点予測を直接定義する。
論文 参考訳(メタデータ) (2026-08-07T03:16:25Z) - FBFM: A Training-Free Asynchronous Feedback Mechanism for Flow-Matching in World-Action Models Execution [50.18922379062543]
フィードバックフローマッチング(Feedback Flow Matching, FBFM)は、アクティブに生成されたチャンク内で再接地を行うトレーニング不要な推論機構である。
トレーニング不要であるため、このメカニズムは予期せぬ事象に対する応答性を改善し、長時間の作業におけるドリフトを抑制する。
我々は,FBFMを第2世代WAMと第2世代WAMの両方で評価した。
論文 参考訳(メタデータ) (2026-07-31T10:11:09Z) - Learning-based Probabilistic Load Forecasting with Post-hoc and In-model Uncertainty [0.0]
我々は,1日ごとの確率予測フレームワークを開発した。
モジュラー・ポストホック残量学習スキームとインモデル量子学習スキームを比較した。
この結果から, 再構成された入力に依存する場合の残差量子化の限界が明らかとなった。
論文 参考訳(メタデータ) (2026-07-14T13:02:18Z) - MC-RFM: Geometry-Aware Few-Shot Adaptation via Mixed-Curvature Riemannian Flow Matching [0.764671395172401]
textscMC-RFMは、凍結した視覚バックボーンの少数ショット適応のための混合曲率フローマッチングフレームワークである。
適応は、凍結した特徴からサポートセットプロトタイプへのタスク条件付き連続輸送として定式化されている。
その結果, 混合曲率ヘッド, タスク条件付け, 適応分岐ゲーティング, プロトタイプ縮小, 識別的監督がそれぞれ性能に寄与していることが示唆された。
論文 参考訳(メタデータ) (2026-05-08T23:36:37Z) - Earth System Foundation Model (ESFM): A unified framework for heterogeneous data integration and forecasting [52.53742727060265]
地球系の基礎モデル(FM)は、大量のデータセットにわたる物理変数間の統計的関係を学習する。
本稿では,アース・システム・ファンデーション・モデル(ESFM)について紹介する。
本研究では,高密度グリッドデータ (ERA5, CMIP6) , 地域密集データ, 疎グリッドMODIS衛星データ, 局データを用いた。
結果は、最先端のベンチマークと比較して、競争力や優れたパフォーマンスを示している。
論文 参考訳(メタデータ) (2026-04-20T11:40:39Z) - Depth Completion as Parameter-Efficient Test-Time Adaptation [66.72360181325877]
CAPAはパラメータ効率のよいテスト時間最適化フレームワークであり、深度補完のために事前訓練された3D基礎モデル(FM)を適用する。
ビデオの場合、CAPAはシーケンスレベルのパラメータ共有を導入し、時間的相関を利用して、堅牢性を改善し、複数フレームの一貫性を強制するために、すべてのフレームを共同で適用する。
論文 参考訳(メタデータ) (2026-02-16T13:53:23Z) - TS-Memory: Plug-and-Play Memory for Time Series Foundation Models [63.21390142212087]
Time Series Foundation Models (TSFM) は大規模な事前訓練を通じて強力なゼロショット予測を実現する。
パラメトリック適応は破滅的な忘れを招き、非パラメトリック検索は予測を改善するが、データストア検索によってレイテンシが高くなる。
本稿では, TSFM を拡張した軽量メモリアダプタ TS-Memory としてParametric Memory Distillation を提案し,実装する。
論文 参考訳(メタデータ) (2026-02-12T04:16:19Z) - Consistent Diffusion Models: Mitigating Sampling Drift by Learning to be
Consistent [97.64313409741614]
本稿では, モデルが生成したデータ上での予測が時間とともに一定であることを示す, 両立性特性を強制することを提案する。
CIFAR-10の条件および非条件生成とAFHQとFFHQのベースライン改良について,本研究の新たな訓練目標が得られた。
論文 参考訳(メタデータ) (2023-02-17T18:45:04Z) - A general framework for multi-step ahead adaptive conformal
heteroscedastic time series forecasting [0.0]
本稿では,適応アンサンブルバッチ多出力多出力共形量子化回帰(AEnbMIMOCQR)と呼ばれる新しいモデル非依存アルゴリズムを提案する。
これにより、予測者は、固定された特定された誤発見率に対して、分布のない方法で、複数段階の事前予測間隔を生成できる。
本手法は, 整合予測の原理に基づいているが, データの分割は不要であり, データの交換ができない場合でも, ほぼ正確なカバレッジを提供する。
論文 参考訳(メタデータ) (2022-07-28T16:40:26Z) - Content Popularity Prediction Based on Quantized Federated Bayesian
Learning in Fog Radio Access Networks [76.16527095195893]
キャッシュ可能なフォグラジオアクセスネットワーク(F-RAN)におけるコンテンツ人気予測問題について検討する。
そこで本研究では,コンテンツ要求パターンをモデル化するためのガウス過程に基づく回帰器を提案する。
我々はベイズ学習を利用してモデルパラメータを訓練する。
論文 参考訳(メタデータ) (2022-06-23T03:05:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。