論文の概要: BlazeFL: Fast and Deterministic Federated Learning Simulation

• arxiv url: http://arxiv.org/abs/2604.03606v1
• Date: Sat, 04 Apr 2026 06:35:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:18.667002
• Title: BlazeFL: Fast and Deterministic Federated Learning Simulation
• Title（参考訳）: BlazeFL: 高速かつ決定論的フェデレーション学習シミュレーション
• Authors: Kitsuya Azuma, Takayuki Nishio,
• Abstract要約: フェデレートラーニング(FL)の研究は、数百から数千の仮想クライアントを持つ単一ノードシミュレーションにますます依存している。 しかし、並列クライアントトレーニングは、共有されたランダム状態とスケジューリングのバリエーションを通じて、非決定性を導入することが多い。 本稿では,単一ノードFLシミュレーションのための軽量フレームワークBlazeFLについて述べる。
• 参考スコア（独自算出の注目度）: 1.3218606066831913
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated learning (FL) research increasingly relies on single-node simulations with hundreds or thousands of virtual clients, making both efficiency and reproducibility essential. Yet parallel client training often introduces nondeterminism through shared random state and scheduling variability, forcing researchers to trade throughput for reproducibility or to implement custom control logic within complex frameworks. We present BlazeFL, a lightweight framework for single-node FL simulation that alleviates this trade-off through free-threaded shared-memory execution and deterministic randomness management. BlazeFL uses thread-based parallelism with in-memory parameter exchange between the server and clients, avoiding serialization and inter-process communication overhead. To support deterministic execution, BlazeFL assigns isolated random number generator (RNG) streams to clients. Under a fixed software/hardware stack, and when stochastic operators consume BlazeFL-managed generators, this design yields bitwise-identical results across repeated high-concurrency runs in both thread-based and process-based modes. In CIFAR-10 image-classification experiments, BlazeFL substantially reduces execution time relative to a widely used open-source baseline, achieving up to 3.1$\times$ speedup on communication-dominated workloads while preserving a lightweight dependency footprint. Our open-source implementation is available at: https://github.com/kitsuyaazuma/blazefl.
• Abstract（参考訳）: フェデレートラーニング(FL)の研究は、数百から数千の仮想クライアントによる単一ノードシミュレーションにますます依存しており、効率性と再現性の両方が不可欠である。 しかし、並列クライアントトレーニングは、多くの場合、共有ランダム状態とスケジューリング変数を通じて非決定性を導入し、研究者は再現性のためにスループットを交換したり、複雑なフレームワーク内でカスタム制御ロジックを実装することを余儀なくされる。 本稿では,単一ノードFLシミュレーションのための軽量フレームワークBlazeFLについて述べる。 BlazeFLは、サーバとクライアント間のインメモリパラメータ交換を伴うスレッドベースの並列処理を使用し、シリアライズとプロセス間通信のオーバーヘッドを回避する。 決定論的実行をサポートするために、BlazeFLは分離された乱数生成器(RNG)ストリームをクライアントに割り当てる。 固定されたソフトウェア/ハードウェアスタックの下で、確率演算子がBlazeFL管理されたジェネレータを消費すると、この設計はスレッドベースのモードとプロセスベースのモードの両方で繰り返される高速実行に対してビットワイズで結果を得る。 CIFAR-10の画像分類実験では、BlazeFLは広く使われているオープンソースベースラインと比較して実行時間を大幅に削減し、軽量な依存性フットプリントを維持しながら通信管理されたワークロードの最大3.1$\times$スピードアップを実現した。 私たちのオープンソース実装は、https://github.com/kitsuyaazuma/blazefl.comで公開しています。

関連論文リスト

• Eliminating Multi-GPU Performance Taxes: A Systems Approach to Efficient Distributed LLMs [61.953548065938385]
  分析フレームワークとして'3つの税'(バルク同期、カーネル間データローカリティ、カーネルローンチオーバーヘッド)を紹介した。 我々は、分散GPU実行におけるキー非効率に対処するために、厳密なBSPモデルを超えて移動することを提案する。 BSPベースのアプローチによるエンドツーエンドのレイテンシの10-20%の高速化を観察する。
  論文  参考訳（メタデータ） (2025-11-04T01:15:44Z)
• AsyncHZP: Hierarchical ZeRO Parallelism with Asynchronous Scheduling for Scalable LLM Training [4.643969942380424]
  単純さとメモリ効率を維持しつつ,優れた性能を実現するために,ZeROの新しい非同期版を提案する。 非効率な通信につながるような細粒度のシャーディングを使用する従来のZeROとは異なり、AsyncHZPはパラメータ、勾配、および異なるレプリカグループ間の状態を適応的に再シャーディングする。 AsyncHZPは古典的なND並列性より一貫して優れており、複雑な戦略的チューニングなしに最先端のパフォーマンスを実現している。
  論文  参考訳（メタデータ） (2025-10-23T01:29:35Z)
• Adaptive Policy Synchronization for Scalable Reinforcement Learning [0.0]
  ClusterEnvは、分散環境実行のための軽量インターフェースである。 オンプレミスとオフラインの両方をサポートし、最小限の変更で既存のトレーニングコードに統合され、クラスタ上で効率的に実行される。
  論文  参考訳（メタデータ） (2025-07-15T05:07:12Z)
• SpaFL: Communication-Efficient Federated Learning with Sparse Models and Low computational Overhead [75.87007729801304]
  SpaFL: 計算オーバーヘッドの少ないスパースモデル構造を最適化する通信効率のよいFLフレームワークを提案する。 プルーニングプロセス自体を最適化するためには、パラメータの代わりにサーバとクライアントの間でしきい値だけが通信される。 グローバルしきい値は、集約されたパラメータの重要度を抽出することで、モデルパラメータの更新に使用される。
  論文  参考訳（メタデータ） (2024-06-01T13:10:35Z)
• Communication Efficient ConFederated Learning: An Event-Triggered SAGA Approach [67.27031215756121]
  Federated Learning(FL)は、さまざまなデータソース上のローカルデータを収集することなく、モデルトレーニングをターゲットとする機械学習パラダイムである。 単一のサーバを使用するStandard FLは、限られた数のユーザしかサポートできないため、学習能力の低下につながる。 本研究では,多数のユーザに対応するために,emphConfederated Learning(CFL)と呼ばれるマルチサーバFLフレームワークを検討する。
  論文  参考訳（メタデータ） (2024-02-28T03:27:10Z)
• Efficient Parallel Reinforcement Learning Framework using the Reactor Model [2.190190313041532]
  強化学習(RL)フレームワークは、RLワークロードを複数の計算リソースにマッピングするために不可欠である。 Rayのような既存のフレームワークは、このオーケストレーションを効率的に管理していない。 我々は,アクターの集合が固定的な通信パターンを持つように強制するリアクターモデルを実装するソリューションを提案している。
  論文  参考訳（メタデータ） (2023-12-07T21:19:57Z)
• Client Orchestration and Cost-Efficient Joint Optimization for NOMA-Enabled Hierarchical Federated Learning [55.49099125128281]
  半同期クラウドモデルアグリゲーションの下で非直交多重アクセス(NOMA)を実現するHFLシステムを提案する。 提案手法は,HFLの性能改善と総コスト削減に関するベンチマークよりも優れていることを示す。
  論文  参考訳（メタデータ） (2023-11-03T13:34:44Z)
• In Situ Framework for Coupling Simulation and Machine Learning with Application to CFD [51.04126395480625]
  近年、流体力学計算を容易にする機械学習(ML)の多くの成功例が報告されている。 シミュレーションが大きくなるにつれて、従来のオフライン学習のための新しいトレーニングデータセットの生成は、I/Oとストレージのボトルネックを生み出します。 この作業は、この結合を単純化し、異種クラスタでのその場トレーニングと推論を可能にするソリューションを提供する。
  論文  参考訳（メタデータ） (2023-06-22T14:07:54Z)
• Federated Learning with Flexible Control [30.65854375019346]
  フェデレートラーニング(FL)は、ユーザが収集したローカルデータから分散モデルトレーニングを可能にする。 制約のあるリソースと潜在的に高いダイナミクスを持つ分散システムでは、例えばモバイルエッジネットワークでは、FLの効率が重要な問題である。 フレキシブルに調整可能な複数のオプションを持つFLアルゴリズムであるFlexFLを提案する。
  論文  参考訳（メタデータ） (2022-12-16T14:21:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。