論文の概要: A Multi-Step Inertial ADMM Algorithm for Federated Learning

• arxiv url: http://arxiv.org/abs/2610.24536v1
• Date: Sat, 17 Oct 2026 07:54:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-22 17:48:55.691054
• Title: A Multi-Step Inertial ADMM Algorithm for Federated Learning
• Title（参考訳）: フェデレーション学習のための多段階慣性ADMMアルゴリズム
• Abstract要約: フェデレートラーニングは大規模分散モデルトレーニングにおいて重要なパラダイムとして登場した。 連合学習のための多段階の慣性ADMMアルゴリズムであるMiFedADMMを提案する。 合成および実世界の両方のデータセットに関する数値実験により,提案手法の有効性と性能の向上が示された。
• 参考スコア（独自算出の注目度）: 11.918111490802518
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Federated learning has recently emerged as an important paradigm for large-scale distributed model training, which can be naturally formulated as a class of distributed learning problems. The alternating direction method of multipliers (ADMM) is a widely used approach for solving such problems. However, its practical performance is often hindered by significant communication overhead and system heterogeneity. In this paper, we propose a multi-step inertial ADMM algorithm, called MiFedADMM, for federated learning. The proposed method leverages multiple historical iterates on the server side to construct a higher-order extrapolation after each aggregation to accelerate the convergence behavior. Under mild assumptions, we establish convergence results for the single-step variant of the proposed method and derive an O(1/K) convergence rate. Numerical experiments on both synthetic and real-world datasets demonstrate the effectiveness and improved performance of the proposed method compared with existing approaches.
• Abstract（参考訳）: フェデレートラーニング(Federated Learning)は、分散学習問題のクラスとして自然に定式化できる、大規模分散モデルトレーニングの重要なパラダイムとして最近登場した。 乗算器の交互方向法(ADMM)はそのような問題を解決するために広く用いられている手法である。 しかし、その実用性能は、通信オーバーヘッドとシステム不均一性によってしばしば妨げられる。 本稿では,多段階の慣性ADMMアルゴリズムであるMiFedADMMを提案する。 提案手法は,サーバ側の複数の履歴的繰り返しを利用して,集約後の高次外挿を構築し,収束挙動を高速化する。 軽度の仮定の下では,提案手法の単一ステップ変種に対する収束結果を確立し,O(1/K)収束率を導出する。 合成と実世界の両方のデータセットに関する数値実験により,提案手法の有効性と性能を既存手法と比較した。

関連論文リスト

• A Momentum-Based Variance-Reduced Algorithm for Federated Multiobjective Optimization [3.8924391892411543]
  現実世界のアプリケーションでは、機械学習モデルは複数の潜在的に矛盾する目標を同時に最適化する必要があることが多い。 本稿では,多目的最適化のためのモーメントに基づく分散推定アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2026-08-24T08:14:44Z)
• Multimodal Representation Learning by Alternating Unimodal Adaptation [73.15829571740866]
  MLA(Multimodal Learning with Alternating Unimodal Adaptation)を提案する。 MLAは、それを交互に一助学習プロセスに変換することで、従来の共同マルチモーダル学習プロセスを再構築する。 共有ヘッドを通じてモーダル間相互作用をキャプチャし、異なるモーダル間で連続的な最適化を行う。 実験は5つの多様なデータセットで行われ、完全なモダリティを持つシナリオと、欠落したモダリティを持つシナリオを含む。
  論文  参考訳（メタデータ） (2023-11-17T18:57:40Z)
• Distributionally Robust Model-based Reinforcement Learning with Large State Spaces [55.14361269378122]
  強化学習における3つの大きな課題は、大きな状態空間を持つ複雑な力学系、コストのかかるデータ取得プロセス、トレーニング環境の展開から現実の力学を逸脱させることである。 広範に用いられているKullback-Leibler, chi-square, および全変分不確実性集合の下で, 連続状態空間を持つ分布ロバストなマルコフ決定過程について検討した。 本稿では,ガウス過程と最大分散削減アルゴリズムを用いて,多出力名目遷移力学を効率的に学習するモデルベースアプローチを提案する。
  論文  参考訳（メタデータ） (2023-09-05T13:42:11Z)
• Stochastic Unrolled Federated Learning [85.6993263983062]
  本稿では,UnRolled Federated Learning (SURF)を導入する。 提案手法は,この拡張における2つの課題,すなわち,非学習者へのデータセット全体の供給の必要性と,フェデレート学習の分散的性質に対処する。
  論文  参考訳（メタデータ） (2023-05-24T17:26:22Z)
• Generalizing Multimodal Variational Methods to Sets [35.69942798534849]
  本稿では,マルチモーダル潜在空間を学習するために,Set Multimodal VAE(SMVAE)と呼ばれる新しい変分法を提案する。 共同モダリティ後部分布を直接モデル化することにより、提案したSMVAEは、複数のモダリティ間で情報を交換し、分解による欠点を補うことを学習する。
  論文  参考訳（メタデータ） (2022-12-19T23:50:19Z)
• Faster Adaptive Federated Learning [84.38913517122619]
  フェデレートラーニングは分散データの出現に伴って注目を集めている。 本稿では,クロスサイロFLにおけるモーメントに基づく分散低減手法に基づく適応アルゴリズム(FAFED)を提案する。
  論文  参考訳（メタデータ） (2022-12-02T05:07:50Z)
• Federated Learning via Inexact ADMM [46.99210047518554]
  本稿では,乗算器の不正確な交互方向法(ADMM)を提案する。 どちらも通信効率が高く、ストラグラー効果と戦うことができ、穏やかな条件下で収束する。 フェデレート学習のためのいくつかの最先端アルゴリズムと比較して高い数値性能を持つ。
  論文  参考訳（メタデータ） (2022-04-22T09:55:33Z)
• The Gradient Convergence Bound of Federated Multi-Agent Reinforcement Learning with Efficient Communication [20.891460617583302]
  連立学習パラダイムにおける協調的意思決定のための独立強化学習(IRL)の検討 FLはエージェントとリモート中央サーバ間の過剰な通信オーバーヘッドを生成する。 本稿では,システムの実用性向上のための2つの高度な最適化手法を提案する。
  論文  参考訳（メタデータ） (2021-03-24T07:21:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。