論文の概要: Privacy-Preserving Machine Learning with Fully Homomorphic Encryption
for Deep Neural Network
- arxiv url: http://arxiv.org/abs/2106.07229v1
- Date: Mon, 14 Jun 2021 08:30:45 GMT
- ステータス: 処理完了
- システム内更新日: 2021-06-16 02:58:25.430868
- Title: Privacy-Preserving Machine Learning with Fully Homomorphic Encryption
for Deep Neural Network
- Title(参考訳): ディープニューラルネットワークのための完全同型暗号化によるプライバシ保護機械学習
- Authors: Joon-Woo Lee, HyungChul Kang, Yongwoo Lee, Woosuk Choi, Jieun Eom,
Maxim Deryabin, Eunsang Lee, Junghyun Lee, Donghoon Yoo, Young-Sik Kim,
Jong-Seon No
- Abstract要約: ホモモルフィック暗号化(FHE)は、プライバシ保護機械学習(PPML)のためのツールの1つである。
FHEデータ上の従来のPPMLモデルは、単純な機械学習モデルと非標準的な機械学習モデルにのみ暗号化される。
本研究では,ReLUのような非算術的関数を十分精度で評価するために,最先端の近似法を用いる。
- 参考スコア(独自算出の注目度): 8.2840469490081
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Fully homomorphic encryption (FHE) is one of the prospective tools for
privacypreserving machine learning (PPML), and several PPML models have been
proposed based on various FHE schemes and approaches. Although the FHE schemes
are known as suitable tools to implement PPML models, previous PPML models on
FHE encrypted data are limited to only simple and non-standard types of machine
learning models. These non-standard machine learning models are not proven
efficient and accurate with more practical and advanced datasets. Previous PPML
schemes replace non-arithmetic activation functions with simple arithmetic
functions instead of adopting approximation methods and do not use
bootstrapping, which enables continuous homomorphic evaluations. Thus, they
could not use standard activation functions and could not employ a large number
of layers. The maximum classification accuracy of the existing PPML model with
the FHE for the CIFAR-10 dataset was only 77% until now. In this work, we
firstly implement the standard ResNet-20 model with the RNS-CKKS FHE with
bootstrapping and verify the implemented model with the CIFAR-10 dataset and
the plaintext model parameters. Instead of replacing the non-arithmetic
functions with the simple arithmetic function, we use state-of-the-art
approximation methods to evaluate these non-arithmetic functions, such as the
ReLU, with sufficient precision [1]. Further, for the first time, we use the
bootstrapping technique of the RNS-CKKS scheme in the proposed model, which
enables us to evaluate a deep learning model on the encrypted data. We
numerically verify that the proposed model with the CIFAR-10 dataset shows
98.67% identical results to the original ResNet-20 model with non-encrypted
data. The classification accuracy of the proposed model is 90.67%, which is
pretty close to that of the original ResNet-20 CNN model...
- Abstract(参考訳): 完全同型暗号化(FHE)は、プライバシ保護機械学習(PPML)のための予測ツールの1つであり、様々なFHEスキームとアプローチに基づいて、いくつかのPPMLモデルが提案されている。
FHEのスキームはPPMLモデルを実装するのに適したツールとして知られているが、以前のFHE暗号化データ上のPPMLモデルは、単純な機械学習モデルと非標準的な機械学習モデルに限られていた。
これらの非標準機械学習モデルは、より実用的で高度なデータセットで効率的で正確なものではない。
従来のPPMLスキームは、近似法を使わずに、非算術的アクティベーション関数を単純な算術関数に置き換え、ブートストラップを使用しない。
そのため、標準的なアクティベーション関数は使用できず、多数のレイヤを使用できなかった。
CIFAR-10データセットのFHEを用いた既存のPPMLモデルの最大分類精度は、これまでわずか77%であった。
本研究では、まず、起動ストラップ付きRSS-CKKS FHEを用いて標準ResNet-20モデルを実装し、CIFAR-10データセットと平文モデルパラメータを用いて実装されたモデルを検証する。
単純な算術関数に置き換える代わりに、ReLUのようなこれらの非算術関数を十分精度 [1] で評価するために、最先端の近似法を用いる。
さらに,提案モデルでは,RSS-CKKSスキームのブートストラップ手法を初めて使用し,暗号化データ上でのディープラーニングモデルの評価を可能にする。
CIFAR-10データセットを用いた提案モデルでは,非暗号化データを用いたResNet-20モデルと98.67%の同一結果が得られた。
提案されたモデルの分類精度は90.67%で、オリジナルのResNet-20 CNNモデルにかなり近い。
関連論文リスト
- CaBaGe: Data-Free Model Extraction using ClAss BAlanced Generator Ensemble [4.029642441688877]
少数のクエリで高いモデル抽出精度を実現するために,データフリーモデル抽出手法であるCaBaGeを提案する。
評価の結果,CaBaGeは7つのデータセット上で既存の手法よりも優れていた。
論文 参考訳(メタデータ) (2024-09-16T18:19:19Z) - ANLS* -- A Universal Document Processing Metric for Generative Large Language Models [40.94659575657584]
本稿ではANLS*と呼ばれる生成モデルを評価するための新しい指標を提案する。
ANLS*メトリックは、既存のANLSメトリクスをドロップ・イン・リプレースとして拡張し、以前報告されたANLSスコアと互換性がある。
また、SFTと呼ばれる文書のプロンプトを生成する新しい手法を、LATINなどの他のプロンプト技術に対してベンチマークする。
論文 参考訳(メタデータ) (2024-02-06T09:50:08Z) - Universal Domain Adaptation from Foundation Models: A Baseline Study [58.51162198585434]
基礎モデルを用いた最先端UniDA手法の実証的研究を行った。
CLIPモデルからターゲット知識を抽出するためのパラメータフリーな手法であるtextitCLIP 蒸留を導入する。
単純な手法ではあるが、ほとんどのベンチマークタスクでは従来の手法よりも優れている。
論文 参考訳(メタデータ) (2023-05-18T16:28:29Z) - A Meta-Learning Approach to Predicting Performance and Data Requirements [163.4412093478316]
本稿では,モデルが目標性能に達するために必要なサンプル数を推定する手法を提案する。
モデル性能を推定するデファクト原理であるパワー法則が,小さなデータセットを使用する場合の誤差が大きいことが判明した。
本稿では,2つのデータを異なる方法で処理するPPL法について紹介する。
論文 参考訳(メタデータ) (2023-03-02T21:48:22Z) - Predictable MDP Abstraction for Unsupervised Model-Based RL [93.91375268580806]
予測可能なMDP抽象化(PMA)を提案する。
元のMDPで予測モデルを訓練する代わりに、学習されたアクション空間を持つ変換MDPでモデルを訓練する。
我々はPMAを理論的に解析し、PMAが以前の教師なしモデルベースRLアプローチよりも大幅に改善することを示す。
論文 参考訳(メタデータ) (2023-02-08T07:37:51Z) - Prompt Tuning for Parameter-efficient Medical Image Segmentation [79.09285179181225]
2つの医用画像データセットのセマンティックセグメンテーションにパラメータ効率が良いが効果的な適応を実現するために,いくつかのコントリビューションを提案し,検討する。
我々はこのアーキテクチャを、オンライン生成プロトタイプへの割り当てに基づく専用密集型セルフスーパービジョンスキームで事前訓練する。
得られたニューラルネットワークモデルにより、完全に微調整されたモデルとパラメータに適応したモデルとのギャップを緩和できることを実証する。
論文 参考訳(メタデータ) (2022-11-16T21:55:05Z) - Model-Agnostic Multitask Fine-tuning for Few-shot Vision-Language
Transfer Learning [59.38343286807997]
未知タスクの視覚言語モデルのためのモデル非依存型マルチタスクファインチューニング(MAMF)を提案する。
モデルに依存しないメタラーニング(MAML)と比較して、MAMFは二段階最適化を捨て、一階勾配のみを使用する。
MAMFは5つのベンチマークデータセット上で、数ショットの転送学習において古典的な微調整法よりも一貫して優れていることを示す。
論文 参考訳(メタデータ) (2022-03-09T17:26:53Z) - Mismatched No More: Joint Model-Policy Optimization for Model-Based RL [172.37829823752364]
本稿では,モデルとポリシーを共同でトレーニングする単一目的について提案する。
我々の目標は、期待されるリターンのグローバルな低い境界であり、この境界は特定の仮定の下で厳密になる。
結果のアルゴリズム(MnM)は概念的にはGANと似ている。
論文 参考訳(メタデータ) (2021-10-06T13:43:27Z) - PSD2 Explainable AI Model for Credit Scoring [0.0]
本研究の目的は、信用リスクモデルの予測精度を向上させるための高度な分析手法の開発と試験である。
このプロジェクトは、銀行関連のデータベースに説明可能な機械学習モデルを適用することに焦点を当てている。
論文 参考訳(メタデータ) (2020-11-20T12:12:38Z) - Privacy-Preserving Gaussian Process Regression -- A Modular Approach to
the Application of Homomorphic Encryption [4.1499725848998965]
ホモモルフィック暗号化(FHE)は、データを暗号化しながら計算することができる。
ガウス過程回帰のような一般的な機械学習アルゴリズムは、FHEにはあまり適していない。
保護を必要とするワークフローのセンシティブなステップのみにFHEを適用するモジュラーアプローチは、あるパーティがデータに対して予測できることを示している。
論文 参考訳(メタデータ) (2020-01-28T11:50:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。