論文の概要: Verifiable Coded Computing: Towards Fast, Secure and Private Distributed Machine Learning

• arxiv url: http://arxiv.org/abs/2107.12958v1
• Date: Tue, 27 Jul 2021 17:23:09 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-28 14:25:58.372743
• Title: Verifiable Coded Computing: Towards Fast, Secure and Private Distributed Machine Learning
• Title（参考訳）: 検証可能なコードコンピューティング - 高速でセキュアでプライベートな分散機械学習を目指して
• Authors: Tingting Tang, Ramy E. Ali, Hanieh Hashemi, Tynan Gangwani, Salman Avestimehr and Murali Annavaram
• Abstract要約: 分散クラウドコンピューティングの主なボトルネックは、ストラグラー、ビザンチン労働者、データプライバシである。 本稿では,Byzantineノード検出チャレンジをトラグラー耐性から分離する検証可能なコード計算フレームワークを提案する。 実験の結果,VCCは分散ロジスティック回帰の非符号化実装を3.2times-6.9times$で高速化することがわかった。
• 参考スコア（独自算出の注目度）: 13.09925205966904
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Stragglers, Byzantine workers, and data privacy are the main bottlenecks in distributed cloud computing. Several prior works proposed coded computing strategies to jointly address all three challenges. They require either a large number of workers, a significant communication cost or a significant computational complexity to tolerate malicious workers. Much of the overhead in prior schemes comes from the fact that they tightly couple coding for all three problems into a single framework. In this work, we propose Verifiable Coded Computing (VCC) framework that decouples Byzantine node detection challenge from the straggler tolerance. VCC leverages coded computing just for handling stragglers and privacy, and then uses an orthogonal approach of verifiable computing to tackle Byzantine nodes. Furthermore, VCC dynamically adapts its coding scheme to tradeoff straggler tolerance with Byzantine protection and vice-versa. We evaluate VCC on compute intensive distributed logistic regression application. Our experiments show that VCC speeds up the conventional uncoded implementation of distributed logistic regression by $3.2\times-6.9\times$, and also improves the test accuracy by up to $12.6\%$.
• Abstract（参考訳）: stragglers、byzantine workers、data privacyは分散クラウドコンピューティングの主要なボトルネックである。 いくつかの先行研究は、3つの課題すべてに共同で対処するコード化されたコンピューティング戦略を提案した。 悪質な労働者を許容するには、大量の労働者、かなりの通信コスト、あるいはかなりの計算量を必要とする。 以前のスキームのオーバーヘッドの多くは、3つの問題全てを1つのフレームワークに密に結合しているという事実から来ています。 本研究では,Byzantineノード検出の課題をトラグラー耐性から分離する検証可能符号化コンピューティング(VCC)フレームワークを提案する。 vccはストラグラーとプライバシを扱うためだけにコード化されたコンピューティングを利用し、検証可能なコンピューティングの直交アプローチを使用してビザンチンノードに取り組む。 さらにVCCは、そのコーディングスキームを、ビザンティン保護と逆境とのトラグラー耐性のトレードオフに動的に適用する。 計算集約分散ロジスティック回帰アプリケーション上でVCCを評価する。 実験の結果,VCCは分散ロジスティック回帰の非符号化実装を3.2\times-6.9\times$で高速化し,テスト精度を最大12.6\%$に向上した。

関連論文リスト

• ByzSecAgg: A Byzantine-Resistant Secure Aggregation Scheme for Federated Learning Based on Coded Computing and Vector Commitment [90.60126724503662]
  ByzSecAggは、フェデレートラーニングのための効率的なセキュアアグリゲーションスキームである。 ByzSecAggは、ビザンツの攻撃やプライバシーの漏洩から保護されている。
  論文  参考訳（メタデータ） (2023-02-20T11:15:18Z)
• Inception-Based Crowd Counting -- Being Fast while Remaining Accurate [3.274290296343038]
  Inception-V3に基づく新しい手法を提案し,計算量を削減する。 実験の結果、ICCは最大で85.3%の計算を減らし、24.4%のパフォーマンス損失を減らした。
  論文  参考訳（メタデータ） (2022-10-18T12:12:13Z)
• Implementing Reinforcement Learning Datacenter Congestion Control in NVIDIA NICs [64.26714148634228]
  渋滞制御 (CC) アルゴリズムの設計は非常に困難になる。 現在、計算能力に制限があるため、ネットワークデバイスにAIモデルをデプロイすることはできない。 我々は,近年の強化学習CCアルゴリズムに基づく計算軽度解を構築した。
  論文  参考訳（メタデータ） (2022-07-05T20:42:24Z)
• Generalized Lagrange Coded Computing: A Flexible Computation-Communication Tradeoff for Resilient, Secure, and Private Computation [11.951700263976777]
  一般ラグランジュ符号計算(GLCC)符号は、時間内に結果を返さないストラグラーに対してレジリエンスを提供するために提案される。 LCCコードには、特殊なケースとして、最先端のラグランジュ・コードド・コンピューティング(LCC)コードが含まれる。
  論文  参考訳（メタデータ） (2022-04-24T02:48:07Z)
• Secure Bilevel Asynchronous Vertical Federated Learning with Backward Updating [159.48259714642447]
  垂直拡張学習(VFL)は、多人数協調モデリングの要求とプライバシー漏洩の懸念により、注目を集めている。 我々は,vf$b2$を含む3つの新しいアルゴリズムを提案する新しいbftextlevel parallel architecture (vf$bfb2$)を提案する。
  論文  参考訳（メタデータ） (2021-03-01T12:34:53Z)
• Faster Secure Data Mining via Distributed Homomorphic Encryption [108.77460689459247]
  ホモモルフィック暗号化(HE)は、最近、暗号化されたフィールド上で計算を行う能力により、ますます注目を集めている。 本稿では,スケーリング問題の解決に向けて,新しい分散HEベースのデータマイニングフレームワークを提案する。 各種データマイニングアルゴリズムとベンチマークデータセットを用いて,新しいフレームワークの有効性と有効性を検証する。
  論文  参考訳（メタデータ） (2020-06-17T18:14:30Z)
• Byzantine-Robust Learning on Heterogeneous Datasets via Bucketing [55.012801269326594]
  ビザンチンの堅牢な分散学習では、中央サーバは、複数のワーカーに分散したデータよりも、機械学習モデルを訓練したい。 これらの労働者のごく一部は、所定のアルゴリズムから逸脱し、任意のメッセージを送ることができる。 本稿では,既存のロバストなアルゴリズムを無視可能な計算コストでヘテロジニアスなデータセットに適応させる,シンプルなバケット方式を提案する。
  論文  参考訳（メタデータ） (2020-06-16T17:58:53Z)
• Communication-Efficient Gradient Coding for Straggler Mitigation in Distributed Learning [17.454251607446555]
  サーバがワーカマシン間で勾配計算を分散するグラデーションベースのメソッドの分散実装では、2つの制限を克服する必要がある。 Ye氏とAbe氏(ICML 2018)は、ワーカ毎の計算負荷、ワーカ毎の通信オーバーヘッド、ストラグラートレランスの基本的なトレードオフを特徴付ける、コーディング理論のパラダイムを提案した。 これらの欠点を克服するための通信効率のよい勾配符号化フレームワークを開発した。
  論文  参考訳（メタデータ） (2020-05-14T17:57:13Z)
• Straggler-aware Distributed Learning: Communication Computation Latency Trade-off [56.08535873173518]
  ストラグワーカーは冗長な計算を割り当て、データと計算をまたいでコーディングすることで許容できる。 既存のほとんどのスキームでは、各非ストラグリングワーカーは、全ての計算を完了した後、1イテレーションごとに1つのメッセージをパラメータサーバ(PS)に送信する。 このような制限を課すことで、ストレグリング動作の不正確な予測による過剰計算と、ストレグラー/非ストレグラーとしての作業員の処理による未使用の2つの主な欠点が生じる。
  論文  参考訳（メタデータ） (2020-04-10T08:39:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。