論文の概要: Federated Continual Learning as a Distributed Drift-Plus-Penalty Control Problem
- arxiv url: http://arxiv.org/abs/2608.21539v1
- Date: Fri, 21 Aug 2026 18:21:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-25 18:24:36.91072
- Title: Federated Continual Learning as a Distributed Drift-Plus-Penalty Control Problem
- Title(参考訳): 分散drift-Plus-Penalty制御問題としてのフェデレーション連続学習
- Abstract要約: FCL(Federated Continual Learning)は、現実世界の分散学習システムの基本である。
FCLは、破滅的な忘れとクライアントのドリフトを緩和しながら、クライアント間のシーケンシャルで非IIDデータに適応するモデルを必要とします。
我々は,Lynov drift-plus-penalty (DPP)最適化に基づくフレームワークであるFederated Queue-regulated Continual Learning (FedQCL)を提案する。
- 参考スコア(独自算出の注目度): 12.498691027665332
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Federated Continual Learning (FCL) is fundamental to real-world distributed learning systems, requiring models to adapt to sequential, non-IID data across clients while mitigating catastrophic forgetting and client drift. Existing approaches formulate continual learning (CL) as a sequence of per-task optimization problems, applied locally at each client and coupled through aggregation, using heuristic mechanisms such as replay, regularization, or projection-based constraints. However, forgetting in FCL is inherently a long-term, distributed phenomenon, arising from the interaction of temporal task evolution and cross-client heterogeneity, which is not explicitly regulated. In this work, we cast FCL as a stochastic control problem and propose Federated Queue-regulated Continual Learning (FedQCL), a framework based on Lyapunov drift-plus-penalty (DPP) optimization. FedQCL introduces virtual queues to track the accumulation of forgetting across tasks and clients, enabling explicit control of the stability-plasticity trade-off. By optimizing a DPP objective, the method jointly improves current-task performance while the queue-based formulation provides an interpretable and tunable mechanism to balance adaptation and retention through a single parameter, without requiring gradient projection or additional communication overhead. Empirical evaluations on standard benchmarks, including Split-CIFAR-10, Split-CIFAR-100, and Split-TinyImageNet, demonstrate that FedQCL outperforms state-of-the-art baselines with respect to accuracy while significantly reducing forgetting under heterogeneous data distributions.
- Abstract(参考訳): FCL(Federated Continual Learning)は、クライアント間のシーケンシャルな非IIDデータにモデルを適応させ、破滅的な忘れ込みとクライアントのドリフトを緩和する、現実世界の分散学習システムの基本である。
既存のアプローチは、各クライアントで局所的に適用され、リプレイ、正規化、プロジェクションベースの制約といったヒューリスティックなメカニズムを用いて集約を通して結合された、タスクごとの最適化問題の列として、継続学習(CL)を定式化する。
しかしながら、FCLにおける忘れは本質的には、時間的タスク進化とクロスクオリティの不均一性の相互作用から生じる長期的な分散現象であり、明示的に規制されていない。
本研究では,FCLを確率的制御問題とし,Lyapunov drift-plus-penalty(DPP)最適化に基づくフレームワークであるFederated Queue-regulated Continual Learning(FedQCL)を提案する。
FedQCLは、タスクやクライアント間での忘れの蓄積を追跡する仮想キューを導入し、安定性と可塑性のトレードオフを明示的に制御できるようにする。
DPP目標を最適化することにより、キューベースの定式化は、勾配投影や追加の通信オーバーヘッドを必要とせず、単一のパラメータによる適応と保持のバランスをとるための解釈可能な、調整可能なメカニズムを提供する一方で、現在のタスク性能を共同で改善する。
Split-CIFAR-10、Split-CIFAR-100、Split-TinyImageNetなどの標準ベンチマークに関する実証的な評価は、FedQCLが精度に関して最先端のベースラインより優れており、異種データ分布における忘れを著しく低減していることを示している。
関連論文リスト
- Continual Learning with Elastic Regularization and Synthetic Replay for Federated MLLM Fine-Tuning [15.445619998280243]
Federated Continual Multimodal Learning (FedCMM)は、フェデレート最適化ループに継続的学習セーフガードを組み込むフレームワークである。
FedCMMは、精度と後方転送の最近のベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2026-07-13T19:40:30Z) - Theoretical Foundations of Continual Learning via Drift-Plus-Penalty [6.614755043607776]
継続的な学習(CL)は、破滅的な忘れを緩和しながら新しいタスクを取り入れることでこの課題に対処する。
我々は,忘れることの進化を明示的に制御する制御理論的な視点をCLに導入する。
我々は,Drift-PlusPenalty原則を最適化した継続的フレームワークであるCentinual Learning with Drift-PlusPenalty(COLD)を提案する。
論文 参考訳(メタデータ) (2026-06-07T04:51:32Z) - AlignFed: Alignment-Aware Asynchronous Federated Fine-Tuning for Large Language Models in Heterogeneous Edge Environments [7.335282879368365]
大規模言語モデル(LLM)は、自律運転、産業検査、パーソナライズされたIoTサービスなど、さまざまなシナリオに広くデプロイされている。
異種エッジ環境に適したLLMのための非同期フェデレーションファインチューニングフレームワークであるAlignFedを提案する。
論文 参考訳(メタデータ) (2026-06-06T14:28:36Z) - OmniISR: A Unified Framework for Centralized and Federated Learning via Intermediate Supervision and Regularization [58.03221830946145]
我々は、純粋なCL、純粋なFL、ハイブリッドCL-FLトレーニングモードを融合する統合フレームワークであるOmniISRを提案する。
我々は,OmniISRが集中型パラダイムとフェデレーション型パラダイムの両方において,モデル性能を一貫して改善していることを示す。
論文 参考訳(メタデータ) (2026-05-19T04:13:27Z) - Baguan-TS: A Sequence-Native In-Context Learning Model for Time Series Forecasting with Covariates [31.296823831987748]
Baguan-TSは、3Dトランスフォーマーによってインスタンス化されるICLと生系列表現学習を統合している。
i) キャリブレーションとトレーニング安定性, 特徴に依存しない目標空間検索に基づく局所キャリブレーション, および (ii) コンテクストオーバーフィッティング戦略によって緩和された出力過スムージングの2つの主要なハードルに対処する。
論文 参考訳(メタデータ) (2026-03-18T07:24:19Z) - Improving Search Agent with One Line of Code [68.58667107354253]
ツールベースのエージェント強化学習(TARL)は,検索エージェントが外部ツールと対話できるようにトレーニングするための,有望なパラダイムとして登場した。
textbfSearch textbfAgent textbfPolicy textbfOptimization (textbfSAPO)を提案する。
論文 参考訳(メタデータ) (2026-03-10T04:07:39Z) - Adaptive Dual-Weighting Framework for Federated Learning via Out-of-Distribution Detection [53.45696787935487]
Federated Learning (FL)は、大規模分散サービスノード間の協調的なモデルトレーニングを可能にする。
実世界のサービス指向デプロイメントでは、異種ユーザ、デバイス、アプリケーションシナリオによって生成されたデータは本質的にIIDではない。
FLoodは、オフ・オブ・ディストリビューション(OOD)検出にインスパイアされた新しいFLフレームワークである。
論文 参考訳(メタデータ) (2026-02-01T05:54:59Z) - CO-PFL: Contribution-Oriented Personalized Federated Learning for Heterogeneous Networks [51.43780477302533]
コントリビューション指向型PFL(CO-PFL)は,グローバルアグリゲーションに対する各クライアントのコントリビューションを動的に推定するアルゴリズムである。
CO-PFLは、パーソナライズ精度、堅牢性、スケーラビリティ、収束安定性において、最先端の手法を一貫して超越している。
論文 参考訳(メタデータ) (2025-10-23T05:10:06Z) - Iterative Refinement of Flow Policies in Probability Space for Online Reinforcement Learning [56.47948583452555]
固定ステップのEulerスキームによるフローマッチング推論プロセスの離散化は,最適輸送から変化するJordan-Kinderlehrer-Otto原理と整合する,というキーインサイトに基づいて,SWFP(Stepwise Flow Policy)フレームワークを紹介した。
SWFPは、大域的な流れを、プロキシメート分布間の小さな漸進的な変換の列に分解する。
この分解は、小さな流れブロックのカスケードを介して事前訓練された流れを微調整する効率的なアルゴリズムを導き、大きな利点をもたらす。
論文 参考訳(メタデータ) (2025-10-17T07:43:51Z) - Adaptive Deadline and Batch Layered Synchronized Federated Learning [66.93447103966439]
フェデレートラーニング(FL)は、データプライバシを保持しながら、分散エッジデバイス間で協調的なモデルトレーニングを可能にする。
我々は,レイヤワイドアグリゲーションのために,ラウンド単位の期限とユーザ固有のバッチサイズを共同で最適化する新しいフレームワークADEL-FLを提案する。
論文 参考訳(メタデータ) (2025-05-29T19:59:18Z) - Asynchronous Federated Learning: A Scalable Approach for Decentralized Machine Learning [1.2604738912025477]
フェデレートラーニング(FL)は、分散機械学習の強力なパラダイムとして登場した。
従来のFLアプローチは、同期クライアントのアップデートに依存しているため、スケーラビリティと効率の制限に直面することが多い。
本稿では、クライアントが独立して非同期にグローバルモデルを更新できる非同期フェデレートラーニング(AFL)アルゴリズムを提案する。
論文 参考訳(メタデータ) (2024-12-23T17:11:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。