論文の概要: Discrete Prototypical Memories for Federated Time Series Foundation Models
- arxiv url: http://arxiv.org/abs/2604.04475v1
- Date: Mon, 06 Apr 2026 06:57:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:19.125731
- Title: Discrete Prototypical Memories for Federated Time Series Foundation Models
- Title(参考訳): 時系列ファウンデーションモデルにおける離散的原型記憶
- Authors: Liwei Deng, Qingxiang Liu, Xinhe Niu, Shengchao Chen, Sheng Sun, Yuankai Wu, Guodong Long, Yuxuan Liang,
- Abstract要約: FLベースの時系列基礎モデルとして大規模言語モデルを活用することは、LLMの一般化能力を時系列データに転送する有望な方法を提供する。
しかし、時系列データと既存のLCMのテキスト中心の潜在空間とのセマンティックなミスアライメントは、しばしば性能低下につながる。
離散型記憶に基づく時系列基礎モデルのための統合フレームワークであるtextscFeDPMを提案する。
- 参考スコア(独自算出の注目度): 62.22804699052539
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Leveraging Large Language Models (LLMs) as federated learning (FL)-based time series foundation models offers a promising way to transfer the generalization capabilities of LLMs to time series data while preserving access to private data. However, the semantic misalignment between time-series data and the text-centric latent space of existing LLMs often leads to degraded performance. Meanwhile, the parameter-sharing mechanism in existing FL methods model heterogeneous cross-domain time-series data into a unified continuous latent space, which contradicts the fact that time-series semantics frequently manifest as discrete and recurring regimes. To address these limitations, we propose \textsc{FeDPM}, a federated framework for time-series foundation models based on discrete prototypical memories. Specifically, we learn local prototypical memory priors for intra-domain time-series data. We then align cross-domain memories to promote a unified discrete latent space and introduce a domain-specific memory update mechanism to balance shared and personalized prototypical knowledge. Extensive experiments demonstrate the efficiency and effectiveness of \textsc{FeDPM}. The code is publicly available at https://anonymous.4open.science/r/FedUnit-64D1.
- Abstract(参考訳): 連合学習(FL)ベースの時系列基盤モデルとしてLLM(Large Language Models)を活用することで、LLMの一般化能力を時系列データに転送し、プライベートデータへのアクセスを保ったままにすることができる。
しかし、時系列データと既存のLCMのテキスト中心の潜在空間とのセマンティックなミスアライメントは、しばしば性能低下につながる。
一方、既存のFL法におけるパラメータ共有メカニズムは、不均一なクロスドメイン時系列データを統一された連続潜時空間にモデル化する。
これらの制約に対処するため、離散的原型記憶に基づく時系列基礎モデルのための連合フレームワークである「textsc{FeDPM}」を提案する。
具体的には、ドメイン内時系列データに対して、ローカルな原型メモリ前処理を学習する。
次に、ドメイン間メモリを整合させて、独立した潜在空間を促進し、ドメイン固有のメモリ更新機構を導入し、共有とパーソナライズされたプロトタイプの知識のバランスをとる。
大規模な実験は、textsc{FeDPM} の効率と有効性を示す。
コードはhttps://anonymous.4open.science/r/FedUnit-64D1で公開されている。
関連論文リスト
- MEMTS: Internalizing Domain Knowledge via Parameterized Memory for Retrieval-Free Domain Adaptation of Time Series Foundation Models [51.506429027626005]
Memory for Time Series (MEMTS) は、時系列予測における検索不要領域適応のための軽量かつプラグアンドプレイ方式である。
MEMTSの鍵となるコンポーネントは知識永続化モジュール(KPM)であり、ドメイン固有の時間力学を内部化する。
このパラダイムシフトにより、MEMTSは定数時間推論とニアゼロレイテンシによる正確なドメイン適応を実現することができる。
論文 参考訳(メタデータ) (2026-02-14T14:00:06Z) - UniDiff: A Unified Diffusion Framework for Multimodal Time Series Forecasting [90.47915032778366]
マルチモーダル時系列予測のための統合拡散フレームワークUniDiffを提案する。
コアには統一的で並列な融合モジュールがあり、単一のクロスアテンション機構がタイムスタンプからの構造化情報とテキストからのセマンティックコンテキストを統合する。
8つの領域にわたる実世界のベンチマークデータセットの実験は、提案したUniDiffモデルが最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2025-12-08T05:36:14Z) - Temporal Restoration and Spatial Rewiring for Source-Free Multivariate Time Series Domain Adaptation [33.4020332674136]
Source-Free Domain Adaptation (SFDA)は、アノテートされたソースドメインから、ソースデータにアクセスすることなく、未実装のターゲットドメインに事前トレーニングされたモデルを適用することを目的としている。
MTSデータに適した新規かつ簡潔なSFDA法であるTERSE(Temporal Restoration and Space Rewiring)を提案する。
論文 参考訳(メタデータ) (2025-05-23T11:44:13Z) - Multimodal Conditioned Diffusive Time Series Forecasting [16.72476672866356]
時系列予測(TSF)のためのマルチモーダル条件付き拡散モデルを提案する。
タイムスタンプとテキストを組み合わせて、異なるデータポイント間の時間的および意味的な相関を確立する。
実世界のベンチマークデータセットの実験では、提案したMCD-TSFモデルが最先端のパフォーマンスを達成することを示した。
論文 参考訳(メタデータ) (2025-04-28T10:56:23Z) - Hierarchical Multimodal LLMs with Semantic Space Alignment for Enhanced Time Series Classification [4.5939667818289385]
HiTimeは階層的なマルチモーダルモデルであり、時間的情報を大きな言語モデルにシームレスに統合する。
本研究は, 時間的特徴をLCMに組み込むことにより, 時系列解析の進歩に寄与する可能性が示唆された。
論文 参考訳(メタデータ) (2024-10-24T12:32:19Z) - PeFAD: A Parameter-Efficient Federated Framework for Time Series Anomaly Detection [51.20479454379662]
私たちはaを提案します。
フェデレートされた異常検出フレームワークであるPeFADは、プライバシーの懸念が高まっている。
我々は、4つの実際のデータセットに対して広範な評価を行い、PeFADは既存の最先端ベースラインを最大28.74%上回っている。
論文 参考訳(メタデータ) (2024-06-04T13:51:08Z) - Time-FFM: Towards LM-Empowered Federated Foundation Model for Time Series Forecasting [43.56193749300678]
我々は、事前訓練されたLMを活用して時系列予測のためのFederated Foundation ModelであるTime-FFMを提案する。
総合的な実験により、Time-FFMは最先端の予測よりも優れており、効果的に数発・ゼロショットの予測が可能であることが示唆された。
論文 参考訳(メタデータ) (2024-05-23T07:31:10Z) - TimeSiam: A Pre-Training Framework for Siamese Time-Series Modeling [67.02157180089573]
時系列事前トレーニングは、最近、ラベルのコストを削減し、下流の様々なタスクに利益をもたらす可能性があるとして、広く注目を集めている。
本稿では,シームズネットワークに基づく時系列の簡易かつ効果的な自己教師型事前学習フレームワークとしてTimeSiamを提案する。
論文 参考訳(メタデータ) (2024-02-04T13:10:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。