論文の概要: HEAL: Resilient and Self-* Hub-based Learning
- arxiv url: http://arxiv.org/abs/2605.27475v1
- Date: Tue, 26 May 2026 11:38:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-28 17:38:55.358526
- Title: HEAL: Resilient and Self-* Hub-based Learning
- Title(参考訳): HEAL: レジリエントでセルフ*なハブベースの学習
- Authors: Mohamed Amine Legheraba, Stefan Galkiewicz, Maria Gradinariu Potop-Butucaru, Sébastien Tixeuil,
- Abstract要約: HEALは、最適化された自己組織化と自己修復の基盤となるP2Pオーバーレイを活用する、層横断的な分散学習フレームワークである。
HEALは、完全に分散化されフォールトトレラントでありながら、クラッシュのない環境でのフェデレートラーニングと同じようなパフォーマンスを示す。
- 参考スコア(独自算出の注目度): 3.1848820580333737
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Decentralized learning enhances privacy, scalability, and fault tolerance by distributing data and computation across nodes. A popular approach is Federated learning, which relies on a central aggregator, yet faces challenges such as server vulnerabilities, scalability issues, privacy risks and most importantly, the single point of failure. Alternatively Gossip Learning and Epidemic Learning offer fully decentralization through peer-to-peer exchanges of model updates, ensuring robustness and privacy, at the price of slower model convergence. In this work, we introduce a novel decentralized learning framework called HEAL. HEAL is the first cross-layer decentralized learning framework that exploits an optimized self-organizing and self-healing underlying P2P overlay combining the strengths of Federated Learning, Gossip and Epidemic Learning. Leveraging the recently proposed Elevator algorithm, HEAL promotes dynamically chosen nodes to act as aggregators. Through simulations, we demonstrate that HEAL has similar performances to that of Federated Learning in crash-free settings, while being fully decentralized and fault-tolerant. In crash and churn prone environments HEAL outperforms Gossip and Epidemic Learning.
- Abstract(参考訳): 分散学習は、ノード間でデータと計算を分散することで、プライバシ、スケーラビリティ、フォールトトレランスを高める。
一般的なアプローチはフェデレーション学習(Federated Learning)で、中心的なアグリゲータに依存しているが、サーバの脆弱性やスケーラビリティの問題、プライバシのリスク、最も重要なのは単一障害点といった課題に直面している。
あるいは、Gossip LearningとEpidemic Learningは、モデル更新のピアツーピア交換を通じて完全な分散化を提供し、モデル収束の遅い価格で堅牢性とプライバシを保証する。
本稿では,HEALと呼ばれる新しい分散学習フレームワークを紹介する。
HEALは、フェデレートラーニング(Federated Learning)、ゴシップ(Gossip)、エピデミックラーニング(Epidemic Learning)の強みを組み合わせた、最適化された自己組織化と自己修復の基盤となるP2Pオーバーレイを利用する、最初の層横断的な分散学習フレームワークである。
最近提案されたエレベータアルゴリズムを活用して、HEALは動的に選択されたノードをアグリゲータとして動作させる。
シミュレーションにより、HEALはクラッシュのない環境でのフェデレートラーニングと同じような性能を持ち、完全に分散化されフォールトトレラントであることを示す。
クラッシュや急激な環境下では、HEALはGossipやEpidemic Learningよりも優れています。
関連論文リスト
- A Secure and Private Distributed Bayesian Federated Learning Design [56.92336577799572]
DFL(Distributed Federated Learning)は、中央パラメータサーバを持たない大規模システム間の分散モデルトレーニングを可能にする。
DFLは、3つの重要な課題に直面している: 正直な隣人からのプライバシー漏洩、中央調整の欠如による収束の遅さ、モデルの精度の低下を目指すビザンティンの敵に対する脆弱性。
本稿では,ビザンチンの堅牢性,プライバシー保護,収束促進を統合した新しいDFLフレームワークを提案する。
論文 参考訳(メタデータ) (2026-02-23T16:12:02Z) - Node Learning: A Framework for Adaptive, Decentralised and Collaborative Network Edge AI [0.6015898117103068]
エッジへのAIの拡大は、cen-tralized Intelligenceのコストと脆弱性を露呈する。
私たちは、個々のエッジノードにインテリジェンスを配置する、十進的な学習パラダイムであるNode Learningを紹介します。
論文 参考訳(メタデータ) (2026-02-18T19:23:47Z) - Decentralized Dynamic Cooperation of Personalized Models for Federated Continual Learning [50.56947843548702]
フェデレーション型連続学習のための分散動的協調フレームワークを提案する。
顧客は、新しい知識の獲得と事前学習の維持のバランスをとるために、動的な協調学習連合を確立する。
また、協調的・動的平衡を達成するために、マージブロックアルゴリズムと動的協調的進化アルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-09-28T06:53:23Z) - Chisme: Fully Decentralized Differentiated Deep Learning for IoT Intelligence [2.5137859989323537]
本稿では,完全分散型分散学習アルゴリズムChismeを紹介する。
Chismeは、ネットワークエッジコンテキストで堅牢なインテリジェンスを実装する上での課題に対処する。
Chismeを使用するクライアントは、より高速なトレーニング収束、トレーニング後の最終損失の低減、クライアント間のパフォーマンス格差の低減を示す。
論文 参考訳(メタデータ) (2025-05-14T23:29:09Z) - RESIST: Resilient Decentralized Learning Using Consensus Gradient Descent [11.22833419439317]
経験的堅牢性リスク(ERM)は、現代の機械学習(ML)の基盤である
本稿では,MITM(man-in-the-middle)攻撃に焦点をあてる。
本稿では,敵に妥協された通信リンクに対して堅牢なアルゴリズムであるRESISTを提案する。
論文 参考訳(メタデータ) (2025-02-11T21:48:10Z) - Boosting the Performance of Decentralized Federated Learning via Catalyst Acceleration [66.43954501171292]
本稿では,Catalytics Accelerationを導入し,DFedCataと呼ばれる促進型分散フェデレート学習アルゴリズムを提案する。
DFedCataは、パラメータの不整合に対処するMoreauエンベロープ関数と、アグリゲーションフェーズを加速するNesterovの外挿ステップの2つの主要コンポーネントで構成されている。
実験により, CIFAR10/100における収束速度と一般化性能の両面において, 提案アルゴリズムの利点を実証した。
論文 参考訳(メタデータ) (2024-10-09T06:17:16Z) - Finite-Time Consensus Learning for Decentralized Optimization with
Nonlinear Gossiping [77.53019031244908]
本稿では,非線形ゴシップ(NGO)に基づく分散学習フレームワークを提案する。
コミュニケーション遅延とランダム化チャットが学習にどう影響するかを解析することで,実践的なバリエーションの導出が可能となる。
論文 参考訳(メタデータ) (2021-11-04T15:36:25Z) - Homogeneous Learning: Self-Attention Decentralized Deep Learning [0.6091702876917281]
本研究では,非IIDデータに自己認識機構を持たせるために,HL(Homogeneous Learning)と呼ばれる分散学習モデルを提案する。
HLはスタンドアローンの学習と比較してパフォーマンスが向上し、トレーニングラウンド全体の50.8%、通信コスト74.6%を大幅に削減できる。
論文 参考訳(メタデータ) (2021-10-11T14:05:29Z) - Blockchain Assisted Decentralized Federated Learning (BLADE-FL):
Performance Analysis and Resource Allocation [119.19061102064497]
ブロックチェーンをFL、すなわちブロックチェーン支援分散学習(BLADE-FL)に統合することで、分散FLフレームワークを提案する。
提案されたBLADE-FLのラウンドでは、各クライアントはトレーニング済みモデルを他のクライアントにブロードキャストし、受信したモデルに基づいてブロックを生成し、次のラウンドのローカルトレーニングの前に生成されたブロックからモデルを集約します。
遅延クライアントがblade-flの学習性能に与える影響を調査し,最適なk,学習パラメータ,遅延クライアントの割合の関係を特徴付ける。
論文 参考訳(メタデータ) (2021-01-18T07:19:08Z) - Byzantine-resilient Decentralized Stochastic Gradient Descent [85.15773446094576]
分散学習システムのビザンチンレジリエンスに関する詳細な研究について述べる。
ビザンチンフォールトトレランスを用いた分散学習を支援する新しいアルゴリズムUBARを提案する。
論文 参考訳(メタデータ) (2020-02-20T05:11:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。