論文の概要: DriftGuard: Mitigating Asynchronous Data Drift in Federated Learning
- arxiv url: http://arxiv.org/abs/2603.18872v1
- Date: Thu, 19 Mar 2026 13:15:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-20 17:19:06.160603
- Title: DriftGuard: Mitigating Asynchronous Data Drift in Federated Learning
- Title(参考訳): DriftGuard: フェデレートラーニングにおける非同期データドリフトの緩和
- Authors: Yizhou Han, Di Wu, Blesson Varghese,
- Abstract要約: DriftGuardは非同期データドリフトに効率的に適応する連立連続学習フレームワークである。
DriftGuardはMixture-of-Experts (MoE)にインスパイアされたアーキテクチャを採用し、グローバルに転送可能な知識をキャプチャする共有パラメータと、グループ固有の分布に適応するローカルパラメータを分離する。
実験の結果、DriftGuardは最先端の精度に適合し、総再トレーニングコストを最大83%削減した。
- 参考スコア(独自算出の注目度): 4.574013630688369
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In real-world Federated Learning (FL) deployments, data distributions on devices that participate in training evolve over time. This leads to asynchronous data drift, where different devices shift at different times and toward different distributions. Mitigating such drift is challenging: frequent retraining incurs high computational cost on resource-constrained devices, while infrequent retraining degrades performance on drifting devices. We propose DriftGuard, a federated continual learning framework that efficiently adapts to asynchronous data drift. DriftGuard adopts a Mixture-of-Experts (MoE) inspired architecture that separates shared parameters, which capture globally transferable knowledge, from local parameters that adapt to group-specific distributions. This design enables two complementary retraining strategies: (i) global retraining, which updates the shared parameters when system-wide drift is identified, and (ii) group retraining, which selectively updates local parameters for clusters of devices identified via MoE gating patterns, without sharing raw data. Experiments across multiple datasets and models show that DriftGuard matches or exceeds state-of-the-art accuracy while reducing total retraining cost by up to 83%. As a result, it achieves the highest accuracy per unit retraining cost, improving over the strongest baseline by up to 2.3x. DriftGuard is available for download from https://github.com/blessonvar/DriftGuard.
- Abstract(参考訳): 実世界のフェデレートラーニング(FL)デプロイメントでは、トレーニングに参加するデバイス上のデータ分散が時間とともに進化する。
これにより非同期データドリフトが発生し、異なるデバイスが異なるタイミングで、異なるディストリビューションへとシフトする。
頻繁なリトレーニングはリソース制約されたデバイスに高い計算コストをもたらし、頻繁なリトレーニングはドリフトデバイスのパフォーマンスを低下させる。
DriftGuardは非同期データドリフトに効率的に適応する連立連続学習フレームワークである。
DriftGuardはMixture-of-Experts (MoE)にインスパイアされたアーキテクチャを採用し、グローバルに転送可能な知識をキャプチャする共有パラメータと、グループ固有の分布に適応するローカルパラメータを分離する。
この設計は2つの補完的な再訓練戦略を可能にする。
i) システム全体のドリフトが特定されたときに共有パラメータを更新するグローバルリトレーニング
(ii)グループ再トレーニングでは、生データを共有することなく、MoE Gatingパターンで識別されたデバイスのクラスタのローカルパラメータを選択的に更新する。
複数のデータセットとモデルにわたる実験によると、DriftGuardは最先端の精度と一致し、最大83%のトレーニングコストを削減している。
その結果、ユニット再訓練コストあたりの最高精度を達成し、最強のベースラインを最大2.3倍改善する。
DriftGuardはhttps://github.com/blessonvar/DriftGuardからダウンロードできる。
関連論文リスト
- FedDAA: Dynamic Client Clustering for Concept Drift Adaptation in Federated Learning [6.327777127276663]
我々は、貴重な歴史的知識を保持しつつ、マルチソース概念のドリフトに適応するように設計された動的クラスタリングFLフレームワークであるFedDAAを提案する。
特に、FedDAAは3つのモジュールを統合している。クラスタ数決定モジュールは最適なクラスタ数を見つけることができ、実際のドリフトと仮想/ラベルドリフトを区別するリアルドリフト検出モジュールは、有用な履歴情報を保持しながら新しいデータに適応するコンセプトドリフト適応モジュールである。
実験の結果、FedDAAはFashion-MNIST、CIFAR-10、CIFAR-100の最先端手法よりも精度が7.84%から8.52%向上した。
論文 参考訳(メタデータ) (2025-06-26T07:09:08Z) - Methods for Generating Drift in Text Streams [49.3179290313959]
コンセプトドリフトは、実世界のデータセットで頻繁に発生する現象であり、時間とともにデータ分布の変化に対応する。
本稿では,ラベル付きドリフトを用いたデータセット作成を容易にするための4つのテキストドリフト生成手法を提案する。
その結果、ドリフトの直後にすべてのメソッドのパフォーマンスが低下し、インクリメンタルなSVMは、以前のパフォーマンスレベルを実行し、回復するのに最も速いことを示している。
論文 参考訳(メタデータ) (2024-03-18T23:48:33Z) - Efficient Asynchronous Federated Learning with Sparsification and
Quantization [55.6801207905772]
フェデレートラーニング(FL)は、生データを転送することなく、機械学習モデルを協調的にトレーニングするために、ますます注目を集めている。
FLは一般的に、モデルトレーニングの全プロセス中にパラメータサーバーと多数のエッジデバイスを利用する。
TEASQ-Fedは、エッジデバイスを利用して、タスクに積極的に適用することで、トレーニングプロセスに非同期に参加する。
論文 参考訳(メタデータ) (2023-12-23T07:47:07Z) - Online Data Selection for Federated Learning with Limited Storage [53.46789303416799]
ネットワークデバイス間での分散機械学習を実現するために、フェデレートラーニング(FL)が提案されている。
デバイス上のストレージがFLの性能に与える影響はまだ調査されていない。
本研究では,デバイス上のストレージを限定したFLのオンラインデータ選択について検討する。
論文 参考訳(メタデータ) (2022-09-01T03:27:33Z) - FedHiSyn: A Hierarchical Synchronous Federated Learning Framework for
Resource and Data Heterogeneity [56.82825745165945]
フェデレートラーニング(FL)は、データプライバシを保護するために複数のデバイスに格納された分散生データを共有することなく、グローバルモデルのトレーニングを可能にする。
本稿では,階層型同期FLフレームワークであるFedHiSynを提案し,トラグラー効果や時代遅れモデルの問題に対処する。
提案手法は,MNIST,EMNIST,CIFAR10,CIFAR100のデータセットと多種多様なデバイス設定に基づいて評価する。
論文 参考訳(メタデータ) (2022-06-21T17:23:06Z) - Acceleration of Federated Learning with Alleviated Forgetting in Local
Training [61.231021417674235]
フェデレートラーニング(FL)は、プライバシを保護しながら機械学習モデルの分散最適化を可能にする。
我々は,FedRegを提案する。FedRegは,局所的な訓練段階において,知識を忘れることなくFLを加速するアルゴリズムである。
我々の実験は、FedRegはFLの収束率を著しく改善するだけでなく、特にニューラルネットワークアーキテクチャが深い場合にも改善することを示した。
論文 参考訳(メタデータ) (2022-03-05T02:31:32Z) - Asynchronous Federated Learning for Sensor Data with Concept Drift [17.390098048134195]
フェデレートラーニング(FL)では、複数の分散デバイスが共有モデルを共同でトレーニングする。
以前のFLアプローチのほとんどは、トレーニングプロセス中にデバイス上のデータが固定され、静止していると仮定している。
コンセプトドリフトは、既存のデータと今後のデータの間に矛盾があるため、学習プロセスを複雑にします。
本稿では,ローカルデバイス上でのドリフトを検知し,対処するための新しいアプローチであるFedConDを提案する。
論文 参考訳(メタデータ) (2021-09-01T02:06:42Z) - MDLdroid: a ChainSGD-reduce Approach to Mobile Deep Learning for
Personal Mobile Sensing [14.574274428615666]
デバイス上でのディープラーニングの実行には、データのプライバシ保護や、モデルの堅牢性とアップデートの両方に対する低レイテンシ応答など、いくつかのメリットがある。
パーソナルモバイルセンシングアプリケーションは、主にユーザ固有であり、環境の影響を受けやすい。
我々は,デバイス上での協調学習を実現するために,新たな分散モバイルディープラーニングフレームワークであるMDLdroidを提案する。
論文 参考訳(メタデータ) (2020-02-07T16:55:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。