論文の概要: Robust Synchronisation for Federated Learning in The Face of Correlated Device Failure
- arxiv url: http://arxiv.org/abs/2604.16090v1
- Date: Fri, 17 Apr 2026 14:21:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-20 22:00:19.951083
- Title: Robust Synchronisation for Federated Learning in The Face of Correlated Device Failure
- Title(参考訳): 相関デバイス障害に直面したフェデレーション学習のためのロバスト同期
- Authors: Stefan Behfar, Richard Mortier,
- Abstract要約: フェデレートラーニング(FL)では、移動性、電力制約、ユーザアクティビティなどの要因によってエッジデバイスが信頼できない場合が多いため、PSPはシステムのスループットを改善するのに役立ちます。
本稿では,不公平サンプリングとデータ可用性の相関問題に対処するPSPの拡張であるAW-PSP(Availability-Weighted PSP)を紹介する。
AW-PSPは、独立性および相関性の両方の障害に対する堅牢性を改善し、ラベルカバレッジを高め、標準PSPと比較して公正さのばらつきを低減する。
- 参考スコア(独自算出の注目度): 0.04910937238451484
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Probabilistic Synchronous Parallel (PSP) is a technique in distributed learning systems to reduce synchronization bottlenecks by sampling a subset of participating nodes per round. In Federated Learning (FL), where edge devices are often unreliable due to factors including mobility, power constraints, and user activity, PSP helps improve system throughput. However, PSP has a key limitation: it assumes device behavior is static and different devices are independent. This can lead to unfair distributed synchronization, due to highly available nodes dominating training while those that are often unavailable rarely participate and so their data may be missed. If both data distribution and node availability are simultaneously correlated with the device, then both PSP and standard FL algorithms will suffer from persistent under-representation of certain classes or groups resulting in inefficient or ineffective learning of certain features. We introduce Availability-Weighted PSP (AW-PSP), an extension to PSP that addresses the issue of co-correlation of unfair sampling and data availability by dynamically adjusting node sampling probabilities using real-time availability predictions, historical behavior, and failure correlation metrics. A Markov-based availability predictor distinguishes transient \emph{vs} chronic failures, while a Distributed Hash Table (DHT) layer decentralizes metadata, including latency, freshness, and utility scores. We implement AW-PSP and trace-driven evaluation shows that it improves robustness to both independent and correlated failures, increases label coverage, and reduces fairness variance compared to standard PSP. AW-PSP thus provides an availability-aware, and fairness-conscious node sampling protocol for FL deployments that will scale to large numbers of nodes even in heterogeneous and failure-prone environments.
- Abstract(参考訳): Probabilistic Synchronous Parallel (PSP) は、分散学習システムにおいて、ラウンド毎に参加ノードのサブセットをサンプリングすることによって同期ボトルネックを低減する技術である。
フェデレートラーニング(FL)では、移動性、電力制約、ユーザアクティビティなどの要因によってエッジデバイスが信頼できない場合が多いため、PSPはシステムのスループットを改善するのに役立ちます。
しかし、PSPには重要な制限がある。デバイス動作が静的であり、異なるデバイスが独立していると仮定する。
これは、高可用性のノードがトレーニングを支配しているのに対して、しばしば利用できないノードがほとんど参加せず、データが欠落する可能性があるため、不公平な分散同期につながる可能性がある。
データ分散とノード可用性の両方がデバイスと同時に相関している場合、PSPと標準FLのアルゴリズムは、特定のクラスやグループの持続的下限表現に悩まされ、特定の特徴の非効率または非効率な学習をもたらす。
本研究では,PSPの拡張であるAW-PSP(Availability-Weighted PSP)を導入する。これは,リアルタイムのアベイラビリティ予測,過去の挙動,障害相関指標を用いて,ノードサンプリング確率を動的に調整することにより,不正サンプリングとデータ可用性の共相関の問題に対処するものだ。
Markovベースの可用性予測器は、一時的な \emph{vs} 慢性障害を区別し、Distributed Hash Table (DHT) 層は、レイテンシ、鮮度、ユーティリティスコアを含むメタデータを分散化する。
AW-PSPの実装とトレース駆動評価により、独立性および相関性の両方の障害に対する堅牢性を向上し、ラベルカバレッジを向上し、標準PSPと比較して公正さのばらつきを低減する。
AW-PSPは、不均一で障害を起こしやすい環境でも、多数のノードにスケールするFLデプロイメントに対して、可用性を意識し、公平性を意識したノードサンプリングプロトコルを提供する。
関連論文リスト
- Learning from Emptiness: De-biasing Listwise Rerankers with Content-Agnostic Probability Calibration [76.08899010904652]
CapCalは、ランキング決定から位置バイアスを機械的に分離する、トレーニング不要のフレームワークである。
シングルパス効率を保ちながら、トレーニング不要の手法で優れた性能を発揮する。
論文 参考訳(メタデータ) (2026-04-11T10:47:22Z) - HALO: Semantic-Aware Distributed LLM Inference in Lossy Edge Network [50.33808558714122]
エッジでの大規模言語モデル(LLM)推論は、ユーザのプライバシを保護すると同時に、サービスの応答性を促進する。
損失エッジネットワークにおける分散LLM推論を向上する新しいフレームワークであるHALOを提案する。
Raspberry Piクラスタによる実験の結果、HALOは信頼性の低いネットワーク条件下でLLaMAシリーズLLMの3.41倍のエンドツーエンドのスピードアップを達成した。
論文 参考訳(メタデータ) (2026-01-16T07:37:23Z) - Impute-MACFM: Imputation based on Mask-Aware Flow Matching [1.9483189922830135]
Impute-MACFMは、表計算のための条件付きフローマッチングフレームワークである。
無作為性、無作為性、無作為性、無作為性、無作為性に対処する。
軌道は欠落したエントリのみに設定され、予測速度は観測されたエントリでほぼゼロに抑えられる。
論文 参考訳(メタデータ) (2025-09-27T05:15:09Z) - Communication-Efficient Device Scheduling for Federated Learning Using Lyapunov Optimization [35.34598274073446]
フェデレートラーニング(FL)は、データを集中的に収集することなく、分散データ上で機械学習モデルのトレーニングを可能にする便利なツールである。
FLを制約された無線環境にデプロイする場合、接続性、断続的な接続品質、および非i.d.データは、機械学習モデルのトレーニングを著しく遅くする。
論文 参考訳(メタデータ) (2025-03-01T17:30:56Z) - Error-quantified Conformal Inference for Time Series [55.11926160774831]
時系列予測の不確かさの定量化は、時系列データの時間的依存と分布シフトのために困難である。
量子化損失関数をスムースにすることで,iError-quantified Conformal Inference (ECI)を提案する。
ECIは有効な誤発見制御と、他のベースラインよりも厳密な予測セットを出力することができる。
論文 参考訳(メタデータ) (2025-02-02T15:02:36Z) - Stragglers-Aware Low-Latency Synchronous Federated Learning via Layer-Wise Model Updates [71.81037644563217]
同期フェデレーションラーニング(FL)は、協調エッジラーニングの一般的なパラダイムである。
一部のデバイスは計算資源が限られており、様々な可用性があるため、FLレイテンシはストラグラーに非常に敏感である。
本稿では,NNの最適化手法をバックプロパゲーションにより活用し,グローバルモデルを階層的に更新するストラグラー対応層対応学習(SALF)を提案する。
論文 参考訳(メタデータ) (2024-03-27T09:14:36Z) - Semi-Synchronous Personalized Federated Learning over Mobile Edge
Networks [88.50555581186799]
我々は,モバイルエッジネットワーク上での半同期パーソナライズフェデレーション(PerFedS$2$)と呼ばれる半同期PFLアルゴリズムを提案する。
我々は、グローバルラウンド当たりの参加者数とラウンド数の観点から、PerFedS2の収束率の上限を導出する。
PerFedS2はトレーニング時間を節約し、トレーニング損失の収束を保証する。
論文 参考訳(メタデータ) (2022-09-27T02:12:43Z) - Joint Privacy Enhancement and Quantization in Federated Learning [23.36363480217293]
Federated Learning(FL)は、エッジデバイスで利用可能なプライベートデータを使用して機械学習モデルをトレーニングするための新興パラダイムである。
共同プライバシー強化・量子化法(JoPEQ)を提案する。
所望のプライバシレベルを保持しながら、必要なビットレートに応じてデータを同時に定量化することを示す。
論文 参考訳(メタデータ) (2022-08-23T11:42:58Z) - Communication-Efficient Device Scheduling for Federated Learning Using
Stochastic Optimization [26.559267845906746]
Time Learning(FL)は、ユーザのローカルデータセットをプライバシ保存形式で利用する分散機械学習において有用なツールである。
本稿では,非効率収束境界アルゴリズムを提案する。
また、電力制約下での収束境界と平均通信の関数を最小化する新しい選択および電力割当アルゴリズムを開発した。
論文 参考訳(メタデータ) (2022-01-19T23:25:24Z) - Federated Dropout -- A Simple Approach for Enabling Federated Learning
on Resource Constrained Devices [40.69663094185572]
フェデレートラーニング(FL)は、分散モバイルデータを使用したAIモデルを無線ネットワークでトレーニングするための一般的なフレームワークである。
実用FLに直面する大きな課題の1つは、リソース制約されたデバイスが、ディープニューラルネットワークモデルを更新する計算集約的なタスクに苦しむことである。
この課題に対処するために,ランダムモデルプルーニングのための古典的なドロップアウト方式に基づいて,フェデレートされたドロップアウト(FedDrop)方式を提案する。
論文 参考訳(メタデータ) (2021-09-30T16:52:13Z) - Device Scheduling and Update Aggregation Policies for Asynchronous
Federated Learning [72.78668894576515]
Federated Learning (FL)は、新しく登場した分散機械学習(ML)フレームワークである。
本稿では,FLシステムにおけるトラグラー問題を排除するために,周期的なアグリゲーションを伴う非同期FLフレームワークを提案する。
論文 参考訳(メタデータ) (2021-07-23T18:57:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。