論文の概要: Bi-level Heterogeneous Learning for Time Series Foundation Models: A Federated Learning Approach
- arxiv url: http://arxiv.org/abs/2604.06727v1
- Date: Wed, 08 Apr 2026 06:50:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-09 17:30:51.37229
- Title: Bi-level Heterogeneous Learning for Time Series Foundation Models: A Federated Learning Approach
- Title(参考訳): 時系列基礎モデルのための二段階不均一学習--フェデレートラーニングアプローチ
- Authors: Shengchao Chen, Guodong Long, Dikai Liu, Jing Jiang,
- Abstract要約: 時系列データの異種性は、視覚や言語よりも顕著である。
スクラッチから時系列基礎モデル(TSFM)を訓練するための既存の取り組みは、しばしば混合バッチ戦略で訓練される。
異種系列から不変知識を抽出する微粒な学習法を提案する。
- 参考スコア(独自算出の注目度): 39.76134852465009
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Heterogeneity in time series data is more pronounced than in vision or language, as temporal dynamics vary substantially across domains and tasks. Existing efforts on training time series foundation models (TSFMs) from scratch are often trained with mixed-batch strategies that merge large-scale datasets, which can cause gradient conflicts and degrade representation quality. To address this, we propose a fine-grained learning method that distills invariant knowledge from heterogeneous series while reducing cross-domain interference. We characterize heterogeneity at two levels: inter-domain and intra-domain. To tackle this bi-level heterogeneity, we design a federated learning method that mitigates intra-domain conflicts by enforcing domain-invariant and semantically consistent representations through local regularization, and addresses inter-domain discrepancies by enhancing cross-domain collaboration via domain-aware aggregation. Experiments across diverse benchmarks show that TSFMs trained with our method consistently outperform both centralized and federated TSFM baselines in point and probabilistic forecasting, while also achieving competitive zero-shot performance at scale, offering a flexible pathway for training TSFMs from scratch in heterogeneous environments.
- Abstract(参考訳): 時系列データの不均一性は、時間的ダイナミクスがドメインやタスクによって大きく異なるため、視覚や言語よりも顕著である。
スクラッチから時系列基礎モデル(TSFM)をトレーニングするための既存の取り組みは、大規模なデータセットをマージする混合バッチ戦略で訓練されることが多い。
そこで本研究では,異種系列から不変知識を抽出し,ドメイン間干渉を低減し,詳細な学習手法を提案する。
ドメイン間とドメイン内という2つのレベルで異質性を特徴付ける。
この二段階の不均一性に対処するために、ドメイン不変かつ意味的に整合した表現を局所正規化することでドメイン内衝突を緩和するフェデレーション学習法を設計し、ドメイン認識アグリゲーションを介してドメイン間の協調を強化することでドメイン間の不一致に対処する。
様々なベンチマークを用いた実験の結果,TSFMは,一点集中型およびフェデレーション型TSFMベースラインと確率予測の両方を一貫して上回り,また,大規模なゼロショット性能を達成し,異種環境下でTSFMをスクラッチからトレーニングするための柔軟な経路を提供する。
関連論文リスト
- Bridging Granularity Gaps: Hierarchical Semantic Learning for Cross-domain Few-shot Segmentation [10.442470344182993]
クロスドメインFew-shot (CD-FSS) は、トレーニングに関わらないターゲットドメインから新しいクラスを分割することを目的としている。
この問題に対処するための階層型意味学習フレームワークを提案する。
論文 参考訳(メタデータ) (2025-11-15T13:13:26Z) - Cross-Domain Conditional Diffusion Models for Time Series Imputation [34.400748070956006]
クロスドメイン時系列計算は、探索されていないデータ中心の研究課題である。
既存のアプローチは主に単一ドメインの設定に焦点を当てています。
提案手法は、ドメイン固有の時間構造を維持しながら、両方のドメインから共有されるスペクトル成分を統合する。
論文 参考訳(メタデータ) (2025-06-14T09:09:07Z) - Multisource Collaborative Domain Generalization for Cross-Scene Remote Sensing Image Classification [57.945437355714155]
クロスシーン画像分類は, 異なる分布領域のアノテート領域に, 地中物質の事前の知識を伝達することを目的としている。
既存のアプローチでは、未確認のターゲットドメインへの単一ソースドメインの一般化に重点を置いている。
マルチソースリモートセンシングデータの均一性と不均一性特性に基づく,新しいマルチソース協調型ドメイン一般化フレームワーク(MS-CDG)を提案する。
論文 参考訳(メタデータ) (2024-12-05T06:15:08Z) - Hypernetwork-Driven Model Fusion for Federated Domain Generalization [26.492360039272942]
フェデレートラーニング(FL)は、異種データのドメインシフトにおいて大きな課題に直面します。
非線形アグリゲーションにハイパーネットワークを用いた、ハイパーネットワークベースのフェデレート・フュージョン(hFedF)と呼ばれるロバストなフレームワークを提案する。
本手法では,ドメインの一般化を効果的に管理するために,クライアント固有の埋め込みと勾配アライメント手法を用いる。
論文 参考訳(メタデータ) (2024-02-10T15:42:03Z) - Generalizable Heterogeneous Federated Cross-Correlation and Instance
Similarity Learning [60.058083574671834]
本稿では,新しいFCCL+,フェデレーション相関と非ターゲット蒸留との類似性学習を提案する。
不均一な問題に対しては、無関係な公開データを通信に活用する。
局所的な更新段階における破滅的な忘れ物として、FCCL+はFederated Non Target Distillationを導入している。
論文 参考訳(メタデータ) (2023-09-28T09:32:27Z) - Improving Anomaly Segmentation with Multi-Granularity Cross-Domain
Alignment [17.086123737443714]
異常セグメンテーションは、画像中の非定型物体を識別する上で重要な役割を担っている。
既存の手法は合成データに顕著な結果を示すが、合成データドメインと実世界のデータドメインの相違を考慮できないことが多い。
シーンと個々のサンプルレベルの両方で、ドメイン間の機能を調和させるのに適した、マルチグラニュラリティ・クロスドメインアライメントフレームワークを導入します。
論文 参考訳(メタデータ) (2023-08-16T22:54:49Z) - IDA: Informed Domain Adaptive Semantic Segmentation [51.12107564372869]
クラスレベルのセグメンテーション性能に基づいてデータを混合する自己学習フレームワークであるDomain Informed Adaptation (IDA) モデルを提案する。
IDAモデルでは、クラスレベルの性能を期待信頼スコア(ECS)によって追跡し、動的スケジュールを用いて異なる領域のデータに対する混合比を決定する。
提案手法は,GTA-Vの都市景観への適応において1.1 mIoU,SynTHIAの都市への適応において0.9 mIoUのマージンで,最先端のUDA-SS法よりも優れる。
論文 参考訳(メタデータ) (2023-03-05T18:16:34Z) - Semi-supervised Domain Adaptive Structure Learning [72.01544419893628]
半教師付きドメイン適応 (SSDA) は,1) アノテーションの低いデータに過度に適合する手法と,2) ドメイン間の分散シフトの両方を克服しなければならない課題である。
SSLとDAの協調を正規化するための適応型構造学習手法を提案する。
論文 参考訳(メタデータ) (2021-12-12T06:11:16Z) - Cross-Domain Grouping and Alignment for Domain Adaptive Semantic
Segmentation [74.3349233035632]
深層畳み込みニューラルネットワーク(CNN)内のソースドメインとターゲットドメインにセマンティックセグメンテーションネットワークを適用する既存の技術は、対象ドメイン自身や推定カテゴリ内のクラス間変異を考慮していない。
学習可能なクラスタリングモジュールと、クロスドメイングルーピングとアライメントと呼ばれる新しいドメイン適応フレームワークを導入する。
本手法はセマンティクスセグメンテーションにおける適応性能を一貫して向上させ,様々なドメイン適応設定において最先端を上回っている。
論文 参考訳(メタデータ) (2020-12-15T11:36:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。