論文の概要: Giskard : Byzantine Robust and Confidential Aggregation for Large-Scale Decentralized Learning
- arxiv url: http://arxiv.org/abs/2606.19129v1
- Date: Wed, 17 Jun 2026 14:40:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-18 17:16:51.208375
- Title: Giskard : Byzantine Robust and Confidential Aggregation for Large-Scale Decentralized Learning
- Title(参考訳): Giskard : 大規模分散学習のためのビザンチンロバストと信頼集約
- Authors: Ousmane Touat, César Sabater, Mohamed Maouche, Sonia Ben Mokhtar,
- Abstract要約: 我々は、極秘かつビザンティン・ロバストな分散アグリゲーションのためのプロトコルであるギスカルドを提示する。
Giskardは、パーティーごとの通信を複雑に減らし、最大$n/4のビザンツのパーティーで同等のモデルユーティリティを提示する。
- 参考スコア(独自算出の注目度): 1.9465112504866975
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Dealing simultaneously with confidentiality and Byzantine behaviors in decentralized learning is a challenging problem. Indeed, in decentralized learning, clients train a machine learning model while keeping their data locally and share their model parameters or gradients with a set of neighbors. While enforcing confidentiality calls for hiding the exchanged model parameters/gradients (e.g., by using cryptographic techniques), dealing with Byzantine contributions often requires inspecting the latter. Hence, most research works address these objectives separately. A recent line of work proposes to employ secure multi-party computation (MPC) to implement robust aggregators against model poisoning, thereby enforcing both confidentiality and Byzantine resilience. However, these solutions scale badly: they either require all-to-all communication between participants or delegate the entire computation to a small subset, whose computational and communication load grows proportionally with the size of the network. In this paper, we present Giskard, a protocol for confidential and Byzantine-robust decentralized aggregation. Giskard organizes $n$ parties into a tree of committees of size $O(\log n)$ and evaluates a coordinate-wise approximate median via a committee-adapted distributed binary search over the value domain, using BGW-style MPC within each committee. We assess Giskard both theoretically by proving its security and confidentiality properties and experimentally through extensive experiments involving up to one million participants. Compared to its closest competitors, Giskard reduces per-party communication complexity asymptotically while exhibiting comparable model utility under up to $n/4$ Byzantine parties.
- Abstract(参考訳): 分散学習における機密性やビザンチンの行動と同時に対処することは難しい問題である。
実際、分散学習では、クライアントはデータをローカルに保持しながら機械学習モデルをトレーニングし、モデルのパラメータや勾配を隣人のセットと共有する。
機密性を強制するためには、交換されたモデルパラメータ/勾配(例えば、暗号技術を使って)を隠す必要があるが、ビザンティンのコントリビューションを扱うには、しばしば後者を検査する必要がある。
したがって、ほとんどの研究はこれらの目的を別々に扱う。
最近の研究は、モデル中毒に対する堅牢なアグリゲータを実装するためにセキュアなマルチパーティ計算(MPC)を採用することを提案しており、それによって機密性とビザンツのレジリエンスの両方を強制する。
しかし、これらのソリューションは、参加者間の全対全通信を必要とするか、ネットワークのサイズに比例して計算と通信の負荷が増加する小さなサブセットに全体の計算を委譲する。
本稿では,極秘かつビザンチン・ロバストな分散アグリゲーションのためのプロトコルであるGiskardについて述べる。
Giskardは$n$パーティを$O(\log n)$の委員会ツリーに整理し、各委員会内でBGWスタイルのMPCを使用して、委員会適応の分散バイナリサーチを通じて座標的に近似的な中央値を評価する。
我々は、ギスカルドのセキュリティと機密性を証明し、最大100万人の参加者を巻き込んだ広範囲な実験を通じて、理論的に評価する。
最寄りのライバルと比べて、ギスカルドはパーティーごとのコミュニケーションの複雑さを漸近的に減らし、同じモデルユーティリティーを最大$n/4のビザンツのパーティーで展示している。
関連論文リスト
- DP-CSGP: Differentially Private Stochastic Gradient Push with Compressed Communication [71.60998478544028]
本稿では,分散学習グラフのための圧縮通信(termedfrac-CSGP)を用いた差分的プライベート・グラディエント・プッシュを提案する。
一般の非数学的かつ滑らかな目的関数に対して,本アルゴリズムは高精度かつ効率的な通信を実現するために設計されていることを示す。
論文 参考訳(メタデータ) (2025-12-15T17:37:02Z) - Robust and Efficient Collaborative Learning [11.2807237249719]
協調的機械学習は、訓練時間の敵対行動によって挑戦される。
本稿では,ロバストプルに基づくエピデミック・ラーニング(RPEL)を提案する。
論文 参考訳(メタデータ) (2025-10-09T14:57:29Z) - Information-Theoretic Decentralized Secure Aggregation with Collusion Resilience [95.33295072401832]
情報理論の観点から分散型セキュアアグリゲーション(DSA)の問題点を考察する。
DSAの最小到達可能な通信量と秘密鍵率を指定する最適レート領域を特徴付ける。
本研究は,DSAの基本性能限界を確立し,信頼性の高い通信効率の高いプロトコルの設計に関する知見を提供する。
論文 参考訳(メタデータ) (2025-08-01T12:51:37Z) - Certifiably Robust Model Evaluation in Federated Learning under Meta-Distributional Shifts [8.700087812420687]
異なるネットワーク "B" 上でモデルの性能を保証する。
我々は、原則付きバニラDKWバウンダリが、同じ(ソース)ネットワーク内の未確認クライアント上で、モデルの真のパフォーマンスの認証を可能にする方法を示す。
論文 参考訳(メタデータ) (2024-10-26T18:45:15Z) - BRFL: A Blockchain-based Byzantine-Robust Federated Learning Model [8.19957400564017]
分散ノードにデータを格納し、モデルパラメータのみを共有するフェデレーション学習は、この問題に対処するために大きな注目を集めている。
悪質なローカルモデルが集約中のグローバルモデルのパフォーマンスを損なうという、ビザンティン攻撃問題(英語版)によるフェデレートラーニング(英語版)において、課題が生じる。
本稿では、フェデレートラーニングとブロックチェーン技術を組み合わせたByzantine-Robust Federated Learning(BRLF)モデルの統合を提案する。
論文 参考訳(メタデータ) (2023-10-20T10:21:50Z) - Federated Stochastic Approximation under Markov Noise and Heterogeneity: Applications in Reinforcement Learning [24.567125948995834]
フェデレーション強化学習は、N$エージェントが協力してグローバルモデルを学ぶためのフレームワークである。
この連立固定点問題の解法において, エージェントの綿密な協調によって, グローバルモデルのN$倍の高速化が期待できることを示す。
論文 参考訳(メタデータ) (2022-06-21T08:39:12Z) - Federated Stochastic Primal-dual Learning with Differential Privacy [15.310299472656533]
差分プライバシ(FedSPDDP)を用いた新しいフェデレーション原始双対アルゴリズムを提案する。
分析の結果、データサンプリング戦略とPCPはデータのプライバシを高めることができる一方で、ローカルなSGDステップが多ければ多いほど、プライバシリークが増大する可能性が示唆された。
提案アルゴリズムの実用性能を評価する実験結果を示す。
論文 参考訳(メタデータ) (2022-04-26T13:10:37Z) - Byzantine-Robust Decentralized Learning via ClippedGossip [61.03711813598128]
ビザンチン・ロバスト・コンセンサス最適化のためのClippedGossipアルゴリズムを提案する。
ClippedGossipの実証実験性能を多数の攻撃下で実証した。
論文 参考訳(メタデータ) (2022-02-03T12:04:36Z) - Secure Distributed Training at Scale [65.7538150168154]
ピアの存在下でのトレーニングには、ビザンティン寛容な特殊な分散トレーニングアルゴリズムが必要である。
本稿では,コミュニケーション効率を重視したセキュアな(ビザンチン耐性)分散トレーニングのための新しいプロトコルを提案する。
論文 参考訳(メタデータ) (2021-06-21T17:00:42Z) - Coded Stochastic ADMM for Decentralized Consensus Optimization with Edge
Computing [113.52575069030192]
セキュリティ要件の高いアプリケーションを含むビッグデータは、モバイルデバイスやドローン、車両など、複数の異種デバイスに収集され、格納されることが多い。
通信コストとセキュリティ要件の制限のため、核融合センターにデータを集約するのではなく、分散的に情報を抽出することが最重要となる。
分散エッジノードを介してデータを局所的に処理するマルチエージェントシステムにおいて,モデルパラメータを学習する問題を考える。
分散学習モデルを開発するために,乗算器アルゴリズムの最小バッチ交互方向法(ADMM)のクラスについて検討した。
論文 参考訳(メタデータ) (2020-10-02T10:41:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。