論文の概要: From Retrieval to Recognition:Knowledge-Enhanced Post-training of Time Series Foundation Models for Classification
- arxiv url: http://arxiv.org/abs/2610.26114v1
- Date: Mon, 19 Oct 2026 10:09:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:17:20.185864
- Title: From Retrieval to Recognition:Knowledge-Enhanced Post-training of Time Series Foundation Models for Classification
- Title（参考訳）: 検索から認識へ:分類のための時系列基礎モデルの学習後学習
- Abstract要約: 時系列基礎モデル (TSFM) は大規模な事前訓練を通じて分類タスクにおいて顕著な進歩を遂げた。
本稿では,事前学習したTSFMを時系列分類に適応させるポストトレーニングパラダイムであるRetrieval-to-Recognition (R2R)を提案する。
R2Rにより、TSFMは事前訓練中に学んだタスク関連パターンをリコールすることができ、下流の分類伝達における知識利用の効率を向上させることができる。
- 参考スコア（独自算出の注目度）: 25.95803135559869
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Time series foundation models (TSFMs) have achieved notable progress in classification tasks through large-scale pretraining. However, their post-training practice mainly focuses on implicit parameter fine-tuning, where task-relevant information is entangled with abundant irrelevant knowledge in vast parameter spaces. This may hinder TSFMs from precisely activating useful knowledge for downstream classification. To this end, we propose Retrieval-to-Recognition (R2R), a plug-and-play post-training paradigm that adapts pretrained TSFMs to time series classification. Rather than pretraining a new foundation model, R2R improves how existing TSFMs are post-trained: it introduces a decoupled query encoder to extract discriminative patterns and retrieve instance-level numerical knowledge from a constructed knowledge base. The retrieved explicit knowledge is then fused with the TSFM's implicit parametric embeddings, enabling joint knowledge transfer at both the parameter and feature levels. In this way, R2R allows TSFMs to recall task-relevant patterns learned during pretraining, improving the efficiency of knowledge utilization in downstream classification transfer. Experiments on 158 time series datasets show that R2R consistently improves the classification performance of state-of-the-art TSFMs. Ablation and knowledge-enhanced studies further validate the effectiveness of the proposed framework.
- Abstract（参考訳）: 時系列基礎モデル (TSFM) は大規模な事前訓練を通じて分類タスクにおいて顕著な進歩を遂げた。
しかし、そのポストトレーニングの実践は主に暗黙のパラメータ微調整に焦点を当てており、タスク関連情報は膨大なパラメータ空間において多くの無関係な知識と絡み合っている。
これにより、TSFMが下流分類に有用な知識を正確に活性化することを妨げる可能性がある。
そこで本稿では,事前学習したTSFMを時系列分類に適応させるポストトレーニングパラダイムであるRetrieval-to-Recognition(R2R)を提案する。
R2Rは、新しい基礎モデルを事前訓練する代わりに、既存のTSFMのポストトレーニングを改善する: 分離されたクエリエンコーダを導入し、識別パターンを抽出し、構築された知識ベースからインスタンスレベルの数値知識を取得する。
抽出された明示的な知識はTSFMの暗黙のパラメトリック埋め込みと融合し、パラメータと特徴レベルの共同知識伝達を可能にする。
このようにして、R2Rは、TSFMが事前訓練中に学んだタスク関連パターンをリコールし、下流の分類伝達における知識利用の効率を向上させる。
158の時系列データセットの実験では、R2Rは最先端のTSFMの分類性能を一貫して改善している。
アブレーションと知識向上研究は、提案フレームワークの有効性をさらに検証した。
関連論文リスト
- RING: Retrieval-Internalized Generation for Continual Large-Scale Knowledge Injection [88.56816599695391]
Retrieval-augmented Generation (RAG)は、事実性を改善すると同時に、サービス時のレイテンシとエンジニアリングオーバーヘッドを追加する。
アーキテクチャとトレーニングの両方にまたがる全体的パラダイムであるRING(Retrieval-Internalized Generation)を提案する。
論文 参考訳（メタデータ） (2026-08-03T03:00:43Z) - Repeating vs. Non-Repeating FRBs: A Deep Learning Approach To Morphological Characterization [0.0]
CHIME/FRB Catalog 2から記録された動的スペクトルに基づいて符号化された形態に基づく高速電波バースト(FRB)の分類のための深層学習手法
深層学習モデルは推論に利用できるため、FRBの形状が反復器や非反復器と似ているかどうかを予測できる。
論文 参考訳（メタデータ） (2025-09-07T21:10:58Z) - EKPC: Elastic Knowledge Preservation and Compensation for Class-Incremental Learning [53.88000987041739]
クラスインクリメンタルラーニング(Class-Incremental Learning, CIL)は、AIモデルを、時間とともに異なるクラスのシーケンシャルに到着したデータから継続的に学習可能にすることを目的としている。
本稿では, 重要度を考慮した重要度正規化 (IPR) と CIL のためのトレーニング可能なセマンティックドリフト補償 (TSDC) を統合したElastic Knowledge Preservation and Compensation (EKPC) 法を提案する。
論文 参考訳（メタデータ） (2025-06-14T05:19:58Z) - FreRA: A Frequency-Refined Augmentation for Contrastive Learning on Time Series Classification [56.925103708982164]
周波数領域からの新たな視点を示し、ダウンストリーム分類の利点として、グローバル、独立、コンパクトの3つを識別する。
本稿では,分類タスクにおける時系列のコントラスト学習に適した,軽量で効果的な周波数補充拡張(FreRA)を提案する。
FreRAは、時系列分類、異常検出、転送学習タスクにおいて、常に10つの主要なベースラインを上回ります。
論文 参考訳（メタデータ） (2025-05-29T07:18:28Z) - Adaptive Rank, Reduced Forgetting: Knowledge Retention in Continual Learning Vision-Language Models with Dynamic Rank-Selective LoRA [26.079123341965687]
低ランク学習を研究し,LoRAのランクや配置が学習や忘れにどのように影響するかを分析した。
上位のLoRAはタスク学習(塑性)を改善するが、下位のLoRAは安定性を高めるが適応を制限する。
そこで我々は,適応的に最適化されたLoRAアダプタを用いてPTMを継続的に更新する連続動的ランク選択LoRA(CoDyRA)を提案する。
論文 参考訳（メタデータ） (2024-12-01T23:41:42Z) - Adaptive Retention & Correction: Test-Time Training for Continual Learning [114.5656325514408]
連続学習における一般的な問題は、最新のタスクに対する分類層のバイアスである。
アダプティブ・リテンション・アンド・コレクション (ARC) のアプローチを例に挙げる。
ARCはCIFAR-100とImagenet-Rのデータセットで平均2.7%と2.6%のパフォーマンス向上を達成した。
論文 参考訳（メタデータ） (2024-05-23T08:43:09Z) - A novel dual-stream time-frequency contrastive pretext tasks framework
for sleep stage classification [1.9399172852087767]
本研究では、時間領域と周波数領域の両方で動作する二重ストリームプリテキスト・タスク・アーキテクチャを提案する。
我々は、新しい周波数類似性(FS)プリテキストタスクを2つの既存のプリテキストタスク、相対的位置決め(RP)と時間的シャッフル(TS)に組み入れた。
FSの導入により、ダウンストリームタスクの精度が大幅に改善され、RPが1.28パーセント改善、TSが2.02%改善された。
論文 参考訳（メタデータ） (2023-12-15T09:05:06Z) - Mitigating Catastrophic Forgetting in Task-Incremental Continual
Learning with Adaptive Classification Criterion [50.03041373044267]
本稿では,継続的学習のための適応型分類基準を用いた教師付きコントラスト学習フレームワークを提案する。
実験により, CFLは最先端の性能を達成し, 分類基準に比べて克服する能力が強いことが示された。
論文 参考訳（メタデータ） (2023-05-20T19:22:40Z) - AdaS: Adaptive Scheduling of Stochastic Gradients [50.80697760166045]
我々は、textit "knowledge gain" と textit "mapping condition" の概念を導入し、Adaptive Scheduling (AdaS) と呼ばれる新しいアルゴリズムを提案する。
実験によると、AdaSは派生した指標を用いて、既存の適応学習手法よりも高速な収束と優れた一般化、そして(b)いつトレーニングを中止するかを決定するための検証セットへの依存の欠如を示す。
論文 参考訳（メタデータ） (2020-06-11T16:36:31Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。