論文の概要: Decentralised Federated Learning over Temporal Networks: The Role of Heterogeneities

• arxiv url: http://arxiv.org/abs/2607.03171v1
• Date: Fri, 03 Jul 2026 10:12:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-07 22:26:29.542714
• Title: Decentralised Federated Learning over Temporal Networks: The Role of Heterogeneities
• Title（参考訳）: 時間的ネットワークによる分散フェデレーション学習--異種性の役割
• Abstract要約: 分散化された連合学習プロセスは、時間ネットワーク上の遅延ランダムウォーク拡散プロセスと同じダイナミクスによって制御されていることを示す。 実世界の時間ネットワークを分析し、不均一性はしばしば拡散を劇的に遅らせ、したがって収束過程が遅くなる。
• 参考スコア（独自算出の注目度）: 0.8808021343665319
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Decentralised federated learning, based on peer-to-peer communication, is increasingly proposed for on-device training of machine learning models, promising a privacy-preserving, communication-efficient training process with no risk of single-point failure. However, the role of structural and temporal inhomogeneities in such fully decentralised settings remains poorly understood. Here, we investigate their effects when model parameters are locally averaged during aggregation. We show that the decentralised federated learning process is governed, both in the early phase and the late, stationary limit, by the same dynamics as a lazy random-walk diffusion process on temporal networks. Based on this mapping, we demonstrate that the typical experimental scenario used in decentralised federated learning leads to unrealistically rapid convergence because of ignoring the temporal and structural inhomogeneities inherent in the communication network. We analyse real-world temporal networks and find that inhomogeneities most often dramatically slow down diffusion, hence the convergence process.
• Abstract（参考訳）: ピアツーピア通信に基づく分散フェデレーション学習は、シングルポイント障害のリスクのない、プライバシ保存で通信効率のよいトレーニングプロセスを約束する、マシンラーニングモデルのオンデバイストレーニングに対して、ますます提案されている。 しかし、このような完全に分散した環境における構造的・時間的不均一性の役割は、いまだに理解されていない。 そこで本研究では,モデルパラメータがアグリゲーション中に局所的に平均化される場合の効果について検討する。 分散化された連合学習プロセスは、時間ネットワーク上の遅延ランダムウォーク拡散プロセスと同じダイナミクスにより、初期および後期、静止限界の両方で制御されていることを示す。 このマッピングに基づいて、分散化されたフェデレーション学習で使用される典型的な実験シナリオは、通信ネットワークに固有の時間的・構造的不均一性を無視するため、非現実的に急激な収束をもたらすことを示した。 実世界の時間ネットワークを分析し、不均一性はしばしば拡散を劇的に遅らせ、したがって収束過程が遅くなる。

関連論文リスト

• Decentralized Learning via Random Walk with Jumps [4.695082366358543]
  中央コーディネータを使わずにノード間でデータを分散するネットワーク上での分散学習について検討する。 本稿では,メトロポリス・ハスティングス・アルゴリズムによる重み付きサンプリングを行うことにより,未解明現象を包摂と呼ぶことができることを示す。
  論文  参考訳（メタデータ） (2026-04-14T04:23:50Z)
• Event-Triggered Gossip for Distributed Learning [61.70659996356528]
  我々は,ノード間通信を減らすために,分散学習のためのイベントトリガー型ゴシップフレームワークを開発した。 従来のフルテキスト・オブ・ザ・アート分散学習法と比較して,bf71.61%を限界性能損失のみで分析する。
  論文  参考訳（メタデータ） (2026-02-22T10:13:43Z)
• On the Surprising Effectiveness of a Single Global Merging in Decentralized Learning [26.210904912836355]
  我々は、グローバルな一般化を改善するために、どのようにコミュニケーションをスケジュールするかを検討する。 単一のグローバルマージによって実装された最終段階における完全接続通信は、一般化性能を著しく向上させることができる。
  論文  参考訳（メタデータ） (2025-07-09T04:56:56Z)
• Deep-Relative-Trust-Based Diffusion for Decentralized Deep Learning [12.883347524020724]
  分散学習戦略により、エージェントの集合は集中集約やオーケストレーションを必要とせずに、ローカルデータセットから効率的に学習することができる。 本稿では,最近導入されたニューラルネットワークの類似度尺度であるディープ・リレーショナル・トラスト(DRT)に基づく,DRT拡散と呼ばれる新しい分散学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-01-06T17:31:36Z)
• Boosting the Performance of Decentralized Federated Learning via Catalyst Acceleration [66.43954501171292]
  本稿では,Catalytics Accelerationを導入し,DFedCataと呼ばれる促進型分散フェデレート学習アルゴリズムを提案する。 DFedCataは、パラメータの不整合に対処するMoreauエンベロープ関数と、アグリゲーションフェーズを加速するNesterovの外挿ステップの2つの主要コンポーネントで構成されている。 実験により, CIFAR10/100における収束速度と一般化性能の両面において, 提案アルゴリズムの利点を実証した。
  論文  参考訳（メタデータ） (2024-10-09T06:17:16Z)
• Impact of Network Topology on Byzantine Resilience in Decentralized Federated Learning [0.0]
  本研究では、複雑な大規模ネットワーク構造における最先端のビザンチン-ロバスト凝集法の効果について検討する。 最先端のビザンツのロバスト・アグリゲーション戦略は、大規模な非完全連結ネットワークではレジリエントではないことが判明した。
  論文  参考訳（メタデータ） (2024-07-06T17:47:44Z)
• Networked Communication for Decentralised Agents in Mean-Field Games [59.01527054553122]
  平均フィールドゲームフレームワークにネットワーク通信を導入する。 当社のアーキテクチャは、中央集権型と独立した学習ケースの双方で保証されていることを証明しています。 ネットワーク化されたアプローチは、障害の更新や人口規模の変化に対する堅牢性という点において、両方の選択肢に対して大きなメリットがあることが示されています。
  論文  参考訳（メタデータ） (2023-06-05T10:45:39Z)
• Finite-Time Consensus Learning for Decentralized Optimization with Nonlinear Gossiping [77.53019031244908]
  本稿では,非線形ゴシップ(NGO)に基づく分散学習フレームワークを提案する。 コミュニケーション遅延とランダム化チャットが学習にどう影響するかを解析することで,実践的なバリエーションの導出が可能となる。
  論文  参考訳（メタデータ） (2021-11-04T15:36:25Z)
• RelaySum for Decentralized Deep Learning on Heterogeneous Data [71.36228931225362]
  分散機械学習では、労働者はローカルデータのモデル更新を計算する。 労働者は中心的な調整なしに隣人とのみ通信するため、これらの更新はネットワーク上で徐々に伝播する。 このパラダイムは、全接続のないネットワーク上での分散トレーニングを可能にし、データのプライバシ保護と、データセンタでの分散トレーニングの通信コストの削減を支援する。
  論文  参考訳（メタデータ） (2021-10-08T14:55:32Z)
• Decentralized Local Stochastic Extra-Gradient for Variational Inequalities [125.62877849447729]
  我々は、不均一(非IID)で多くのデバイスに分散する問題データを持つ領域上での分散変分不等式(VIs)を考察する。 我々は、完全に分散化された計算の設定を網羅する計算ネットワークについて、非常に一般的な仮定を行う。 理論的には, モノトン, モノトンおよび非モノトンセッティングにおける収束速度を理論的に解析する。
  論文  参考訳（メタデータ） (2021-06-15T17:45:51Z)
• Consensus Control for Decentralized Deep Learning [72.50487751271069]
  ディープラーニングモデルの分散トレーニングは、ネットワーク上のデバイス上での学習と、大規模計算クラスタへの効率的なスケーリングを可能にする。 理論上、トレーニングコンセンサス距離が重要な量よりも低い場合、分散化されたトレーニングは集中的なトレーニングよりも早く収束することを示す。 私たちの経験的な洞察は、パフォーマンス低下を軽減するために、より分散化されたトレーニングスキームの原則設計を可能にします。
  論文  参考訳（メタデータ） (2021-02-09T13:58:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。