論文の概要: Hawk: Accurate and Fast Privacy-Preserving Machine Learning Using Secure Lookup Table Computation

• arxiv url: http://arxiv.org/abs/2403.17296v1
• Date: Tue, 26 Mar 2024 00:51:12 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-27 17:05:31.372419
• Title: Hawk: Accurate and Fast Privacy-Preserving Machine Learning Using Secure Lookup Table Computation
• Title（参考訳）: Hawk: セキュアルックアップテーブル計算を用いた高精度かつ高速なプライバシ保護機械学習
• Authors: Hamza Saleem, Amir Ziashahabi, Muhammad Naveed, Salman Avestimehr,
• Abstract要約: 直接的なデータ共有のない複数のエンティティからのデータに対する機械学習モデルのトレーニングは、ビジネス、法的、倫理的制約によって妨げられるようなアプリケーションをアンロックすることができる。 我々はロジスティック回帰モデルとニューラルネットワークモデルのための新しいプライバシ保護機械学習プロトコルの設計と実装を行う。 評価の結果,ロジスティック回帰プロトコルは最大9倍高速であり,ニューラルネットワークトレーニングはSecureMLの最大688倍高速であることがわかった。
• 参考スコア（独自算出の注目度）: 11.265356632908846
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Training machine learning models on data from multiple entities without direct data sharing can unlock applications otherwise hindered by business, legal, or ethical constraints. In this work, we design and implement new privacy-preserving machine learning protocols for logistic regression and neural network models. We adopt a two-server model where data owners secret-share their data between two servers that train and evaluate the model on the joint data. A significant source of inefficiency and inaccuracy in existing methods arises from using Yao's garbled circuits to compute non-linear activation functions. We propose new methods for computing non-linear functions based on secret-shared lookup tables, offering both computational efficiency and improved accuracy. Beyond introducing leakage-free techniques, we initiate the exploration of relaxed security measures for privacy-preserving machine learning. Instead of claiming that the servers gain no knowledge during the computation, we contend that while some information is revealed about access patterns to lookup tables, it maintains epsilon-dX-privacy. Leveraging this relaxation significantly reduces the computational resources needed for training. We present new cryptographic protocols tailored to this relaxed security paradigm and define and analyze the leakage. Our evaluations show that our logistic regression protocol is up to 9x faster, and the neural network training is up to 688x faster than SecureML. Notably, our neural network achieves an accuracy of 96.6% on MNIST in 15 epochs, outperforming prior benchmarks that capped at 93.4% using the same architecture.
• Abstract（参考訳）: 直接的なデータ共有のない複数のエンティティからのデータに対する機械学習モデルのトレーニングは、ビジネス、法的、倫理的制約によって妨げられるようなアプリケーションをアンロックすることができる。 本研究では、ロジスティック回帰とニューラルネットワークモデルのための新しいプライバシ保護機械学習プロトコルの設計と実装を行う。 データ所有者がデータを2つのサーバ間で秘密に共有し、そのデータをトレーニングし評価する2サーバモデルを採用しています。 既存の手法における非効率性と不正確性の重要な原因は、ヤオのガーブロード回路を用いて非線形活性化関数を計算することにある。 本研究では,秘密共有ルックアップテーブルに基づく非線形関数の計算手法を提案し,計算効率と精度の向上を両立させた。 漏洩のないテクニックを導入するだけでなく、プライバシー保護機械学習のための緩和されたセキュリティ対策の探求も開始します。 サーバが計算中に知識を得られないと主張するのではなく、ルックアップテーブルへのアクセスパターンに関する情報が明らかにされている一方で、epsilon-dX-privacyを維持している、と我々は主張する。 この緩和を活用すれば、トレーニングに必要な計算資源が大幅に削減される。 我々は、この緩和されたセキュリティパラダイムに合わせた新しい暗号プロトコルを提案し、漏洩を定義し、分析する。 評価の結果,ロジスティック回帰プロトコルは最大9倍高速であり,ニューラルネットワークトレーニングはSecureMLの最大688倍高速であることがわかった。 特に、我々のニューラルネットワークは15年代におけるMNISTの96.6%の精度を達成し、同じアーキテクチャを使用して93.4%の上限に達した以前のベンチマークを上回った。

関連論文リスト

• Pseudo-Probability Unlearning: Towards Efficient and Privacy-Preserving Machine Unlearning [59.29849532966454]
  本稿では,PseudoProbability Unlearning (PPU)を提案する。 提案手法は,最先端の手法に比べて20%以上の誤りを忘れる改善を実現している。
  論文  参考訳（メタデータ） (2024-11-04T21:27:06Z)
• Edge Unlearning is Not "on Edge"! An Adaptive Exact Unlearning System on Resource-Constrained Devices [26.939025828011196]
  忘れられる権利は、機械学習モデルがデータ所有者のデータと訓練されたモデルからの情報の消去を可能にすることを義務付ける。 本稿では,ネットワークエッジ(CAUSE)における制約対応適応エクササイズ学習システムを提案する。
  論文  参考訳（メタデータ） (2024-10-14T03:28:09Z)
• Online Efficient Secure Logistic Regression based on Function Secret Sharing [15.764294489590041]
  機能秘密共有(FSS)に基づくプライバシー保護ロジスティック回帰のためのオンライン効率的なプロトコルを提案する。 我々のプロトコルは、サードパーティのディーラーの存在を前提とした2つの非凝固サーバで設計されている。 我々は,Sigmoid 関数の精度と MPC フレンドリな代替案を提案し,ロジスティック回帰学習プロセスを関数秘密共有ゲートにカプセル化する。
  論文  参考訳（メタデータ） (2023-09-18T04:50:54Z)
• Partially Oblivious Neural Network Inference [4.843820624525483]
  CNNのようなニューラルネットワークモデルでは、いくつかの情報漏洩が許容可能であることを示す。 我々は,CIFAR-10ネットワークにおいて,モデル重量の最大80%を,事実上のセキュリティ上の影響なく漏洩させることができることを実験的に実証した。
  論文  参考訳（メタデータ） (2022-10-27T05:39:36Z)
• Augmented Bilinear Network for Incremental Multi-Stock Time-Series Classification [83.23129279407271]
  本稿では,有価証券のセットで事前学習したニューラルネットワークで利用可能な知識を効率的に保持する手法を提案する。 本手法では,既存の接続を固定することにより,事前学習したニューラルネットワークに符号化された事前知識を維持する。 この知識は、新しいデータを用いて最適化された一連の拡張接続によって、新しい証券に対して調整される。
  論文  参考訳（メタデータ） (2022-07-23T18:54:10Z)
• Federated Split GANs [12.007429155505767]
  ユーザデバイス自体でMLモデルをトレーニングするための代替手法を提案する。 我々は、GAN(ジェネレーティブ・逆境ネットワーク)に注目し、その固有のプライバシー保護属性を活用する。 我々のシステムはデータのプライバシを保ち、短時間のトレーニング時間を保ち、制約のないデバイスで同じ精度でモデルトレーニングを行う。
  論文  参考訳（メタデータ） (2022-07-04T23:53:47Z)
• Knowledge Distillation as Efficient Pre-training: Faster Convergence, Higher Data-efficiency, and Better Transferability [53.27240222619834]
  効率的な事前学習としての知識蒸留は、学習した特徴表現を学習済みモデルから将来の下流タスクのための新しい学生モデルに効率的に転送することを目的としている。 提案手法は,3つの下流タスクにおける教師付き事前学習タスクと,10倍少ないデータと5倍少ない事前学習時間を必要とする9つの下流データセットとを比較検討する。
  論文  参考訳（メタデータ） (2022-03-10T06:23:41Z)
• Do Gradient Inversion Attacks Make Federated Learning Unsafe? [70.0231254112197]
  フェデレートラーニング(FL)は、生データを共有することなく、AIモデルの協調トレーニングを可能にする。 モデル勾配からのディープニューラルネットワークの反転に関する最近の研究は、トレーニングデータの漏洩を防止するためのFLの安全性に関する懸念を提起した。 本研究では,本論文で提示されたこれらの攻撃が実際のFLユースケースでは実行不可能であることを示し,新たなベースライン攻撃を提供する。
  論文  参考訳（メタデータ） (2022-02-14T18:33:12Z)
• LCS: Learning Compressible Subspaces for Adaptive Network Compression at Inference Time [57.52251547365967]
  本稿では,ニューラルネットワークの「圧縮可能な部分空間」を訓練する手法を提案する。 構造的・非構造的空間に対する推定時間における微粒な精度・効率のトレードオフを任意に達成するための結果を示す。 我々のアルゴリズムは、可変ビット幅での量子化にまで拡張し、個別に訓練されたネットワークと同等の精度を実現する。
  論文  参考訳（メタデータ） (2021-10-08T17:03:34Z)
• Federated Learning with Unreliable Clients: Performance Analysis and Mechanism Design [76.29738151117583]
  Federated Learning(FL)は、分散クライアント間で効果的な機械学習モデルをトレーニングするための有望なツールとなっている。 しかし、低品質のモデルは信頼性の低いクライアントによってアグリゲータサーバにアップロードすることができ、劣化やトレーニングの崩壊につながる。 クライアントの信頼できない振る舞いをモデル化し、このようなセキュリティリスクを軽減するための防御メカニズムを提案する。
  論文  参考訳（メタデータ） (2021-05-10T08:02:27Z)
• With Great Dispersion Comes Greater Resilience: Efficient Poisoning Attacks and Defenses for Linear Regression Models [28.680562906669216]
  我々は,攻撃者が有害データセットによる回帰学習の結果にどう干渉するかを分析する。 Noptと呼ばれる我々の攻撃は、同じ量の有毒なデータポイントでより大きなエラーを発生させることができる。 新たな防御アルゴリズムであるProdaは,誤りの低減に有効であることを示す。
  論文  参考訳（メタデータ） (2020-06-21T22:36:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。