論文の概要: Personalized Federated Sparse Adaptation of Time-Series Foundation Models

• arxiv url: http://arxiv.org/abs/2608.04695v1
• Date: Wed, 05 Aug 2026 11:01:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-06 14:48:43.832197
• Title: Personalized Federated Sparse Adaptation of Time-Series Foundation Models
• Title（参考訳）: 時系列基礎モデルのパーソナライズされたスパース適応
• Authors: Priyanka Nihalchandani, Naman Srivastava, Varun Ojha, Pandarasamy Arjunan,
• Abstract要約: 時系列基礎モデル(TSFM)のフェデレーション適応は、メーターデータがプライベートで分散しており、非IIDであるため、エネルギー予測を構築する上で魅力的である。 事前訓練したTSFM表現の後, ヘテロジニアス・テンポラル・ミックス・オブ・エキスパート(MoE)アダプタを配置したパーソナライズされたスパース適応フレームワークを提案する。 シーケンスレベルのルータは、各168時間のコンテキストウィンドウを、周期性、長距離相互作用、局所的変動、トレンド-残留構造、マルチレゾリューション行動などに特化した専門家の上位100ドル相当のサブセットにマッピングする。
• 参考スコア（独自算出の注目度）: 0.2950412601507657
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Federated adaptation of time-series foundation models (TSFMs) is attractive for building energy forecasting because meter data are private, distributed, and highly non-IID. However, a single parameter-sharing strategy is unlikely to serve all pretrained TSFMs or building clients: fully shared adapters can suppress building-specific temporal behavior, while fully local adaptation discards cross-building transfer. We propose a personalized federated sparse adaptation framework with a heterogeneous temporal mixture-of-experts (MoE) adapter placed after the pretrained TSFM representation. A sequence-level router maps each 168-hour context window to a top-$k$ subset of experts specialized for periodicity, long-range interactions, local variation, trend-residual structure, and multi-resolution behavior. We compare global FL, local training, and personalized FL variants with globally shared or client-private expert banks. Across 50 buildings and three TSFM backbones, personalization consistently outperforms Global FL-MoE and Local MoE, while the best sparse-adaptation strategy varies by backbone and metric. Routing behavior further reveals client-level expert specialization, expert concentration, and near-uniform routing across backbones, showing that federated TSFM adaptation should be both client-aware and backbone-aware.
• Abstract（参考訳）: 時系列基礎モデル(TSFM)のフェデレーション適応は、メーターデータがプライベートで分散しており、非IIDであるため、エネルギー予測を構築する上で魅力的である。 しかし、単一のパラメータ共有戦略は、事前訓練されたTSFMやビルディングクライアントに役立てることは不可能であり、完全に共有されたアダプタは、ビル固有の時間的挙動を抑えることができる一方で、完全に局所的な適応は、クロスビルディング転送を捨てる。 本研究では, TSFM 表現の後, 不均一な時相混合 (MoE) アダプタを配置した, パーソナライズされたスパース適応フレームワークを提案する。 シーケンスレベルのルータは、各168時間のコンテキストウィンドウを、周期性、長距離相互作用、局所的変動、トレンド-残留構造、マルチレゾリューション行動などに特化した専門家の上位100ドル相当のサブセットにマッピングする。 グローバルなFL、ローカルトレーニング、パーソナライズされたFLのバリエーションを、グローバルな共有あるいはクライアントプライベートな専門家バンクと比較する。 50以上の建物と3つのTSFMバックボーンのパーソナライゼーションはGlobal FL-MoEやLocal MoEよりも優れており、最高のスパース適応戦略はバックボーンとメートル法によって異なる。 ルーティング行動はさらに、クライアントレベルの専門家の専門化、専門家の集中度、およびバックボーン間のほぼ均一なルーティングを明らかにし、フェデレートされたTSFM適応はクライアント認識とバックボーン認識の両方であるべきであることを示す。

関連論文リスト

• Separate Aggregation of Split Network for Personalized Federated Learning [0.9668407688201359]
  フェデレーション学習は、不均一なクライアントデータ分散の下で大幅に劣化する可能性がある。 我々は、パーソナライズされたフェデレーション学習フレームワークであるPGFedSplitを提案する。 Fashion MNIST、CIFAR 10、CIFAR 100、Tiny ImageNetの実験では、アートPFL手法の状態を一貫した改善が示されている。
  論文  参考訳（メタデータ） (2026-05-26T05:44:30Z)
• Aggregation Alignment for Federated Learning with Mixture-of-Experts under Data Heterogeneity [27.791732281031695]
  大規模言語モデル(LLM)は、計算量を削減しつつモデルのキャパシティをスケールするために、Mixture-of-Experts (MoE)アーキテクチャを採用するようになっている。 これらのMoEベースのLPMを微調整するには、分散データとプライバシに敏感なデータにアクセスする必要があることが多いため、集中的な微調整は現実的ではない。 我々は、ルーティングの一貫性と専門的なセマンティックアライメントを共同で実施するフェデレーションアライメントアライメントアライメントフレームワークであるFedAlign-MoEを提案する。
  論文  参考訳（メタデータ） (2026-03-22T15:07:39Z)
• FedPrism: Adaptive Personalized Federated Learning under Non-IID Data [1.299941371793082]
  FedPrismは、各クライアントのモデルを3つの部分から構築するフレームワークである。 Prism Decompositionメソッドを使用して、各クライアントのモデルを3つの部分から構築する。 また、Dual-Streamデザインを使用しており、地元のスペシャリストと一緒に一般的なモデルを実行している。
  論文  参考訳（メタデータ） (2026-03-09T11:23:32Z)
• Replacing Parameters with Preferences: Federated Alignment of Heterogeneous Vision-Language Models [63.70401095689976]
  パラメータを好みに置き換えることは、よりスケーラブルでプライバシに保護される未来を表している、と私たちは主張する。 ヘテロジニアスVLMのためのGRPOとMixture-of-Rewardsを用いた協調アライメントフレームワークであるMoRを提案する。 MoRは、一般化、堅牢性、およびクロスクライアント適応性において、連邦化されたアライメントベースラインを一貫して上回る。
  論文  参考訳（メタデータ） (2026-01-31T03:11:51Z)
• pFedMMA: Personalized Federated Fine-Tuning with Multi-Modal Adapter for Vision-Language Models [12.270878920401948]
  pFedMMAは、視覚言語タスクにマルチモーダルアダプタを活用する最初のパーソナライズされた学習フレームワークである。 pFedMMAはパーソナライゼーションと一般化の間の最先端のトレードオフを実現し、近年のフェデレーション・プロンプト・チューニング手法よりも優れていることを示す。
  論文  参考訳（メタデータ） (2025-07-07T18:26:34Z)
• Multi-Level Additive Modeling for Structured Non-IID Federated Learning [54.53672323071204]
  我々は、異種クライアント間のより良い知識共有のために、マルチレベル付加モデル(MAM)と呼ばれるマルチレベル構造で編成されたモデルを訓練する。 フェデレートMAM(FeMAM)では、各クライアントは各レベル毎に少なくとも1つのモデルに割り当てられ、そのパーソナライズされた予測は、各レベルに割り当てられたモデルの出力を合計する。 実験により、FeMAMは既存のクラスタリングFLおよびパーソナライズされたFLメソッドを様々な非IID設定で超越していることが示された。
  論文  参考訳（メタデータ） (2024-05-26T07:54:53Z)
• Unlocking the Potential of Prompt-Tuning in Bridging Generalized and Personalized Federated Learning [49.72857433721424]
  Vision Transformer (ViT) と Visual Prompt Tuning (VPT) は、様々なコンピュータビジョンタスクの効率を改善して最先端のパフォーマンスを実現する。 本稿では,GFL(Generalized FL)とPFL(Personalized FL)を組み合わせた新しいアルゴリズムSGPTを提案する。
  論文  参考訳（メタデータ） (2023-10-27T17:22:09Z)
• Learning to Specialize: Joint Gating-Expert Training for Adaptive MoEs in Decentralized Settings [41.98633628526484]
  Mixture-of-Experts (MoEs)は、コンポーネントのサブセットを動的に活性化することでスケーラビリティを実現する。 推論コストとデータヘテロジニティにより、ゲーティング関数と専門家の協調トレーニングがドメイン固有の専門知識を割り当てる方法について検討する。
  論文  参考訳（メタデータ） (2023-06-14T15:47:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。