論文の概要: MPC-Pipe: an Efficient Pipeline Scheme for Secure Multi-party Machine Learning Inference

• arxiv url: http://arxiv.org/abs/2209.13643v1
• Date: Tue, 27 Sep 2022 19:16:26 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-29 18:15:26.082435
• Title: MPC-Pipe: an Efficient Pipeline Scheme for Secure Multi-party Machine Learning Inference
• Title（参考訳）: MPC-Pipe: セキュアなマルチパーティ機械学習推論のための効率的なパイプラインスキーム
• Authors: Yongqin Wang, Rachit Rajat, Murali Annavaram
• Abstract要約: マルチパーティコンピューティング(MPC)は、セキュアなコンピューティングモデルとしてここ数年で人気を集めている。 MPCは、同型暗号化(HE)よりもオーバーヘッドが少なく、ハードウェアベースの信頼できる実行環境よりも堅牢な脅威モデルを持っている。 MPCプロトコルは、機械学習アルゴリズムに適用した場合の平文と比較して、かなりのパフォーマンス上のペナルティを被っている。
• 参考スコア（独自算出の注目度）: 3.1853566662905943
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Multi-party computing (MPC) has been gaining popularity over the past years as a secure computing model, particularly for machine learning (ML) inference. Compared with its competitors, MPC has fewer overheads than homomorphic encryption (HE) and has a more robust threat model than hardware-based trusted execution environments (TEE) such as Intel SGX. Despite its apparent advantages, MPC protocols still pay substantial performance penalties compared to plaintext when applied to ML algorithms. The overhead is due to added computation and communication costs. For multiplications that are ubiquitous in ML algorithms, MPC protocols add 32x more computational costs and 1 round of broadcasting among MPC servers. Moreover, ML computations that have trivial costs in plaintext, such as Softmax, ReLU, and other non-linear operations become very expensive due to added communication. Those added overheads make MPC less palatable to deploy in real-time ML inference frameworks, such as speech translation. In this work, we present MPC-Pipe, an MPC pipeline inference technique that uses two ML-specific approaches. 1) inter-linear-layer pipeline and 2) inner layer pipeline. Those two techniques shorten the total inference runtime for machine learning models. Our experiments have shown to reduce ML inference latency by up to 12.6% when model weights are private and 14.48\% when model weights are public, compared to current MPC protocol implementations.
• Abstract（参考訳）: マルチパーティコンピューティング(MPC)は、特に機械学習(ML)推論において、セキュアなコンピューティングモデルとして近年人気を集めている。 競合他社と比較して、MPCは同型暗号化(HE)よりもオーバーヘッドが少なく、Intel SGXのようなハードウェアベースの信頼できる実行環境(TEE)よりも堅牢な脅威モデルを持っている。 明らかな優位性にもかかわらず、MPCプロトコルは、MLアルゴリズムに適用した場合の平文よりもかなりパフォーマンス上のペナルティを被っている。 オーバーヘッドは計算と通信コストの増加によるものだ。 mlアルゴリズムでユビキタスな乗算では、mpcプロトコルは32倍の計算コストと1ラウンドのブロードキャストをmpcサーバに付加する。 さらに、Softmax、ReLU、その他の非線形演算などの平文での自明なコストを持つML計算は、通信の追加により非常に高価になる。 これらのオーバーヘッドを追加することで、MPCは、音声翻訳などのリアルタイムML推論フレームワークへのデプロイが楽になる。 本研究では,ML固有の2つのアプローチを用いたMPCパイプライン推論手法であるMPC-Pipeを提案する。 1)リニア層間パイプライン及び 2)内層パイプライン。 これら2つのテクニックは、マシンラーニングモデル全体の推論ランタイムを短縮する。 実験により,モデルウェイトがプライベートな場合のML推論遅延を最大12.6%削減し,モデルウェイトがパブリックな場合の14.48\%を現行のMPCプロトコル実装と比較した。

関連論文リスト

• Low-Latency Privacy-Preserving Deep Learning Design via Secure MPC [31.35072624488929]
  セキュアなマルチパーティ計算(MPC)は、プライベート情報をリークすることなく、複数のパーティ間のプライバシ保護計算を容易にする。 本研究は、MPCプロトコルの実行中に不要な通信ラウンドを減らす、低レイテンシな秘密共有ベースのMPC設計を提案する。
  論文  参考訳（メタデータ） (2024-07-24T07:01:21Z)
• Parameter-Adaptive Approximate MPC: Tuning Neural-Network Controllers without Retraining [50.00291020618743]
  この研究は、大規模なデータセットを再計算し、再トレーニングすることなくオンラインチューニングが可能な、新しいパラメータ適応型AMPCアーキテクチャを導入している。 資源制約の厳しいマイクロコントローラ(MCU)を用いた2種類の実カートポールシステムの揺らぎを制御し,パラメータ適応型AMPCの有効性を示す。 これらの貢献は、現実世界のシステムにおけるAMPCの実践的応用に向けた重要な一歩である。
  論文  参考訳（メタデータ） (2024-04-08T20:02:19Z)
• On Building Myopic MPC Policies using Supervised Learning [0.0]
  本稿では,教師付き学習を用いて最適値関数をオフラインで学習する代替戦略について考察する。 これは、非常に短い予測地平線を持つミオピックMPCのコスト・ツー・ゴー関数として使用できる。
  論文  参考訳（メタデータ） (2024-01-23T08:08:09Z)
• Fast and Private Inference of Deep Neural Networks by Co-designing Activation Functions [26.125340303868335]
  現在のアプローチは大きな推論時間に悩まされている。 推論モデルと精度を競合させる新しいトレーニングアルゴリズムを提案する。 我々の評価では、最大2300万のパラメータを持つ大規模モデルにおいて、推論時間の3ドルから110倍のスピードアップが示されています。
  論文  参考訳（メタデータ） (2023-06-14T14:38:25Z)
• Accelerating Wireless Federated Learning via Nesterov's Momentum and Distributed Principle Component Analysis [59.127630388320036]
  サーバと作業員が無線チャネルを介して未コーディング情報を交換できるようにすることにより、無線連合学習システムについて検討する。 ワーカは、帯域幅に制限のあるチャネルを介して、しばしばサーバにローカルにアップロードするため、ワーカからサーバへのアップリンク送信は、通信ボトルネックとなる。 ワンショット分散原理成分分析(PCA)を利用して通信ボトルネックの次元を縮小する。
  論文  参考訳（メタデータ） (2023-03-31T08:41:42Z)
• Partitioning Distributed Compute Jobs with Reinforcement Learning and Graph Neural Networks [58.720142291102135]
  大規模な機械学習モデルは、幅広い分野に進歩をもたらしている。 これらのモデルの多くは、単一のマシンでトレーニングするには大きすぎるため、複数のデバイスに分散する必要がある。 スループットやブロッキングレートといったユーザクリティカルな指標に対して,並列化の最大化が準最適であることを示す。
  論文  参考訳（メタデータ） (2023-01-31T17:41:07Z)
• Fair and Efficient Distributed Edge Learning with Hybrid Multipath TCP [62.81300791178381]
  無線による分散エッジ学習のボトルネックは、コンピューティングから通信へと移行した。 DEL用の既存のTCPベースのデータネットワークスキームは、アプリケーションに依存しず、アプリケーション層要求に応じて調整を施さない。 DELのためのモデルベースと深部強化学習(DRL)に基づくMP TCPを組み合わせたハイブリッドマルチパスTCP(MP TCP)を開発した。
  論文  参考訳（メタデータ） (2022-11-03T09:08:30Z)
• Towards Semantic Communication Protocols: A Probabilistic Logic Perspective [69.68769942563812]
  我々は,NPMを確率論理型言語ProbLogで記述された解釈可能なシンボルグラフに変換することによって構築された意味プロトコルモデル(SPM)を提案する。 その解釈性とメモリ効率を利用して、衝突回避のためのSPM再構成などのいくつかの応用を実演する。
  論文  参考訳（メタデータ） (2022-07-08T14:19:36Z)
• HD-cos Networks: Efficient Neural Architectures for Secure Multi-Party Computation [26.67099154998755]
  マルチパーティ計算(MPC、Multi-party calculation)は、暗号化の分野の一つで、複数の非解決パーティが関数を安全に計算するためのプロトコルを実行する。 MPC設定下でニューラルネットワークのトレーニングと推論について検討する。 どちらの手法も、MPC設定下での強力な理論的モチベーションと効率的な計算を享受できることを示す。
  論文  参考訳（メタデータ） (2021-10-28T21:15:11Z)
• Adam in Private: Secure and Fast Training of Deep Neural Networks with Adaptive Moment Estimation [6.342794803074475]
  本稿では,最先端の機械学習アルゴリズムを効率的に評価するフレームワークを提案する。 これは、MLアルゴリズムを「MPCフレンドリ」な変種に置き換える以前のほとんどの作業とは対照的である。 我々は、最先端のサードパーティシステムより優れたセキュアなトレーニングを得る。
  論文  参考訳（メタデータ） (2021-06-04T01:40:09Z)
• Einsum Networks: Fast and Scalable Learning of Tractable Probabilistic Circuits [99.59941892183454]
  我々は,PC用の新しい実装設計であるEinsum Networks (EiNets)を提案する。 中心となるのは、E EiNets は単一のモノリシックな einsum-operation に多数の算術演算を組み合わせている。 本稿では,PCにおける予測最大化(EM)の実装を,自動微分を利用した簡易化が可能であることを示す。
  論文  参考訳（メタデータ） (2020-04-13T23:09:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。