論文の概要: FlashbackCL: Mitigating Temporal Forgetting in Federated Learning
- arxiv url: http://arxiv.org/abs/2606.03939v1
- Date: Tue, 02 Jun 2026 17:28:21 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-03 22:00:05.218624
- Title: FlashbackCL: Mitigating Temporal Forgetting in Federated Learning
- Title(参考訳): FlashbackCL: フェデレーションラーニングにおける時間的制約の緩和
- Authors: Mubarak A. Ojewale, Adriana E. Chis, Jorge M. Cortes-Mendoza, Bernardo Pulido-Gaytan, Horacio Gonzalez-Velez,
- Abstract要約: Flashbackは、クロスクライアント(空間)の忘れに対して、最近の最強のFLメソッドである。
FLにおける時間的忘れを,プロトコルレベルのゆらぎから分離した位相単位の計量で定式化する。
我々はFlashback Continual Learning (FlashbackCL)を提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Federated Learning (FL) of foundation and edge models increasingly targets deployments where client data distributions drift over time, yet existing forgetting-mitigation methods assume each client's distribution is stationary. Flashback, the strongest recent FL method against cross-client (spatial) forgetting, uses monotonically accumulating per-class label counts as a knowledge proxy; this proxy becomes miscalibrated under temporal distribution shift and anchors the global model to an outdated class balance. We formalise temporal forgetting in FL with a per-phase metric isolated from protocol-level fluctuations and propose Flashback Continual Learning (FlashbackCL), a drop-in extension of Flashback with (i) temporally-decayed label counts; (ii) a device-aware replay buffer with Class-Balanced Reservoir Sampling (CBRS); and (iii) server-side active coreset curation on the public distillation set. The results show that FlashbackCL achieves 6.9% to 10.0% relative improvement relative to Flashback, on CIFAR-10 with 50 clients and three controlled temporal shift modes, while simultaneously reducing temporal forgetting by up to 68%. A 5-variant ablation identifies CBRS replay as the critical component. FlashbackCL also improves Flashback by 3.5 points on stationary CIFAR-100, suggesting that class-balanced replay regularises spatial heterogeneity as well as temporal shift.
- Abstract(参考訳): 基盤モデルとエッジモデルのフェデレートラーニング(FL)は、クライアントデータの分散が時間とともにドリフトするデプロイメントをますますターゲットとしている。
Flashbackは、クロスクオリエント(空間的)な忘れ方に対する最強のFLメソッドで、クラスごとのラベル数を単調に蓄積して知識プロキシとして使用し、このプロキシは時間分布シフトの下で誤校正され、グローバルモデルを時代遅れのクラスバランスに固定する。
FLにおける時間的忘れをプロトコルレベルのゆらぎから分離した位相単位の計量で定式化し、Flashback Continual Learning (FlashbackCL)を提案する。
i) 時間的に低下したラベル数
(ii) Class-Balanced Reservoir Smpling (CBRS)によるデバイス対応リプレイバッファ、及び
三 公共蒸留セットのサーバー側アクティブコアセットのキュレーション
その結果、FlashbackCLは、50のクライアントと3つの制御された時間シフトモードを持つCIFAR-10上で、Flashbackと比較して6.9%から10.0%の相対的な改善を実現し、同時に時間的忘れを最大68%削減した。
5-variant ablationはCBRSリプレイを重要なコンポーネントとして同定する。
FlashbackCLはまた、定常CIFAR-100でのフラッシュバックを3.5ポイント改善し、クラスバランスのリプレイが空間的不均一性と時間的シフトを正則化することを示唆している。
関連論文リスト
- Causal Unlearning in Collaborative Optimization: Exact and Approximate Influence Reversal under Adversarial Contributions [2.5565719921628443]
フェデレートされた学習システムは、プライバシー規則に従うためにデータ削除要求をサポートしなければならない。
本稿では,クライアントのコントリビューションをKrylov部分空間の共役反復によって近似することで,クライアントのコントリビューションを除去する手法であるHF-KCUを提案する。
我々は、k がヘッセン条件数である場合、クリロフ近似誤差が O((k 1/2-1)/(k1/2+1) として減少することを示す収束保証を提供する。
論文 参考訳(メタデータ) (2026-05-19T18:00:39Z) - OmniISR: A Unified Framework for Centralized and Federated Learning via Intermediate Supervision and Regularization [58.03221830946145]
我々は、純粋なCL、純粋なFL、ハイブリッドCL-FLトレーニングモードを融合する統合フレームワークであるOmniISRを提案する。
我々は,OmniISRが集中型パラダイムとフェデレーション型パラダイムの両方において,モデル性能を一貫して改善していることを示す。
論文 参考訳(メタデータ) (2026-05-19T04:13:27Z) - Asynchronous Federated Unlearning with Invariance Calibration for Medical Imaging [3.1102602510192736]
フェデレート・アンラーニング(FU)は、フェデレート・ラーニング(FL)における新たなパラダイムである
本稿では,グローバルトレーニングワークフローから消去過程を分離する医用画像の新しいフレームワークであるAFU-ICを提案する。
論文 参考訳(メタデータ) (2026-04-29T15:41:11Z) - Enhancing Continual Learning for Software Vulnerability Prediction: Addressing Catastrophic Forgetting via Hybrid-Confidence-Aware Selective Replay for Temporal LLM Fine-Tuning [43.24339861841546]
本稿では,CVE-linked データセット上でのデコーダ型言語モデル (phi/phi-2 with LoRA) の微調整について検討する。
本研究では,ウィンドウオンリーおよび累積学習,リプレイベースライン,正規化ベースバリアントを含む8つの連続学習戦略を評価する。
ハイブリッドCASRはベースラインと比較してウィンドウ当たりのトレーニング時間を約17%削減する一方、累積トレーニングは15.9倍の計算コストでF1をわずかに増加させる(0.661)。
論文 参考訳(メタデータ) (2026-02-27T09:13:23Z) - FedEMA-Distill: Exponential Moving Average Guided Knowledge Distillation for Robust Federated Learning [1.1393603788068776]
フェデレーテッド・ラーニング(FL)は、クライアントが不均一な非独立性(non-Independent)およびIdentically Distributed(non-IID)データを保持すると、しばしば劣化する。
本稿では,グローバルモデルの指数移動平均(EMA)とクライアント負荷予測ロジットからのアンサンブル知識蒸留を組み合わせたサーバサイドプロシージャであるFedEMA-Distillを提案する。
論文 参考訳(メタデータ) (2026-02-15T01:40:45Z) - FOREVER: Forgetting Curve-Inspired Memory Replay for Language Model Continual Learning [63.20028888397869]
FOREVER(FORgEtting curVe-inspired mEmory)は、リプレイスケジュールをモデル中心の時間の概念と整合させる新しいフレームワークである。
このアプローチに基づいて、ForeVERは、リプレイのタイミングを決定するための曲線ベースのリプレイスケジューラと、リプレイの方法を適応的に制御するインテンシティ対応の正規化機構を組み込んでいる。
論文 参考訳(メタデータ) (2026-01-07T13:55:14Z) - RAPID^3: Tri-Level Reinforced Acceleration Policies for Diffusion Transformer [86.57077884971478]
ディフュージョントランスフォーマー(DiT)は、視覚発生時に優れるが、遅いサンプリングによって妨げられる。
本稿では,RAPID3: Tri-Level Reinforced Acceleration Policies for Diffusion Transformersを紹介する。
ベースジェネレータの更新をゼロにするイメージワイドアクセラレーションを提供する。
競合する生成品質でサンプリングを3倍近く高速化する。
論文 参考訳(メタデータ) (2025-09-26T13:20:52Z) - LATTEO: A Framework to Support Learning Asynchronously Tempered with Trusted Execution and Obfuscation [6.691450146654845]
本稿では,ネットワークエッジにおける非同期FLアグリゲーションをセキュアにするための,勾配難読化機構とTEE(Trusted Execution Environments)を組み合わせたプライバシー保護フレームワークを提案する。
我々のメカニズムは、クライアントが暗黙的にTEEベースのアグリゲーションサービスを確認し、オンデマンドのクライアント参加を効果的に処理し、非同期接続の増加とともにシームレスにスケールできるようにする。
論文 参考訳(メタデータ) (2025-02-07T01:21:37Z) - Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。
一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。
本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
論文 参考訳(メタデータ) (2024-03-27T09:14:36Z) - Towards Instance-adaptive Inference for Federated Learning [80.38701896056828]
Federated Learning(FL)は、複数のクライアントがローカルトレーニングを集約することで、強力なグローバルモデルを学ぶことができる分散学習パラダイムである。
本稿では,FedInsという新しいFLアルゴリズムを提案する。
我々のFedInsは、Tiny-ImageNet上での通信コストが15%未満で、トップパフォーマンスの手法に対して6.64%の改善など、最先端のFLアルゴリズムよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-08-11T09:58:47Z) - Acceleration of Federated Learning with Alleviated Forgetting in Local
Training [61.231021417674235]
フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。
我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。
我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
論文 参考訳(メタデータ) (2022-03-05T02:31:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。