論文の概要: Highly Accurate CNN Inference Using Approximate Activation Functions
over Homomorphic Encryption
- arxiv url: http://arxiv.org/abs/2009.03727v2
- Date: Wed, 2 Dec 2020 15:09:48 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-20 20:53:25.523041
- Title: Highly Accurate CNN Inference Using Approximate Activation Functions
over Homomorphic Encryption
- Title(参考訳): 正則暗号上の近似活性化関数を用いた高精度CNN推論
- Authors: Takumi Ishiyama, Takuya Suzuki, Hayato Yamana
- Abstract要約: クラウド上の機密データを扱う一般的な方法は、暗号化を復号することなく暗号化されたデータの計算を可能にする、同型暗号化を使用する。
従来の研究では、データ分類に二乗関数のような低次写像関数が用いられていた。
我々は,Microsoft の Simple Encrypted Arithmetic Library for the Cheon-Kim-Kim-Song scheme を用いて,同型暗号に対するCNN推論を実装した。
- 参考スコア(独自算出の注目度): 0.1933681537640272
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In the big data era, cloud-based machine learning as a service (MLaaS) has
attracted considerable attention. However, when handling sensitive data, such
as financial and medical data, a privacy issue emerges, because the cloud
server can access clients' raw data. A common method of handling sensitive data
in the cloud uses homomorphic encryption, which allows computation over
encrypted data without decryption. Previous research usually adopted a
low-degree polynomial mapping function, such as the square function, for data
classification. However, this technique results in low classification accuracy.
In this study, we seek to improve the classification accuracy for inference
processing in a convolutional neural network (CNN) while using homomorphic
encryption. We adopt an activation function that approximates Google's Swish
activation function while using a fourth-order polynomial. We also adopt batch
normalization to normalize the inputs for the Swish function to fit the input
range to minimize the error. We implemented CNN inference labeling over
homomorphic encryption using the Microsoft's Simple Encrypted Arithmetic
Library for the Cheon-Kim-Kim-Song (CKKS) scheme. The experimental evaluations
confirmed classification accuracies of 99.22% and 80.48% for MNIST and
CIFAR-10, respectively, which entails 0.04% and 4.11% improvements,
respectively, over previous methods.
- Abstract(参考訳): ビッグデータ時代において、クラウドベースの機械学習・アズ・ア・サービス(MLaaS)が注目されている。
しかし、金融データや医療データなどの機密データを扱う場合には、クラウドサーバがクライアントの生データにアクセスできるため、プライバシの問題が発生する。
クラウド上の機密データを扱う一般的な方法は、暗号を復号することなく暗号化されたデータの計算を可能にする同型暗号化を使用する。
これまでの研究では通常、データ分類のために平方関数のような低次多項式写像関数を採用した。
しかし、この手法は分類精度が低い。
本研究では,同相暗号を用いて,畳み込みニューラルネットワーク(CNN)における推論処理の分類精度の向上を図る。
4階多項式を用いてGoogleのSwishアクティベーション関数を近似するアクティベーション関数を採用する。
また,スウィッシュ関数の入力を正規化するためにバッチ正規化を採用し,誤差を最小限に抑える。
我々は,Microsoft の Simple Encrypted Arithmetic Library for the Cheon-Kim-Kim-Song (CKKS) スキームを用いて,同型暗号上のCNN推論ラベリングを実装した。
実験の結果, mnist と cifar-10 はそれぞれ 99.22% と 80.48% であり, それぞれ 0.04% と 4.11% の改善がみられた。
関連論文リスト
- NeuroPlug: Plugging Side-Channel Leaks in NPUs using Space Filling Curves [0.4143603294943439]
全ての公表された対策(CM)は、信号XにノイズNを付加する。
本研究では,このノイズを,対象の計測値,統計的解析値,様々な種類の推定側情報を用いて除去することが容易であることを示す。
我々はこれらの攻撃手法に免疫を持つ新しいCM NeuroPlugを提案する。
論文 参考訳(メタデータ) (2024-07-18T10:40:41Z) - FoC: Figure out the Cryptographic Functions in Stripped Binaries with LLMs [54.27040631527217]
削除されたバイナリの暗号関数を抽出するFoCと呼ばれる新しいフレームワークを提案する。
まず、自然言語における暗号関数のセマンティクスを要約するために、バイナリ大言語モデル(FoC-BinLLM)を構築した。
次に、FoC-BinLLM上にバイナリコード類似モデル(FoC-Sim)を構築し、変更に敏感な表現を作成し、データベース内の未知の暗号関数の類似実装を検索する。
論文 参考訳(メタデータ) (2024-03-27T09:45:33Z) - HETAL: Efficient Privacy-preserving Transfer Learning with Homomorphic Encryption [4.164336621664897]
HETALは、効率的な同型暗号化に基づく転送学習アルゴリズムである。
本稿では,従来の手法よりも1.8~323倍高速な暗号化行列乗算アルゴリズムを提案する。
実験では、合計訓練時間は567-3442秒であり、1時間未満である。
論文 参考訳(メタデータ) (2024-03-21T03:47:26Z) - Efficient Privacy-Preserving Convolutional Spiking Neural Networks with
FHE [1.437446768735628]
ホモモルフィック暗号化(FHE)は、プライバシ保護計算の鍵となる技術である。
FHEは連続非ポリノミカル関数の処理に制限がある。
準同型SNNのためのFHE-DiCSNNというフレームワークを提案する。
FHE-DiCSNNの精度は97.94%で、元のネットワークの精度98.47%に比べて0.53%しか失われていない。
論文 参考訳(メタデータ) (2023-09-16T15:37:18Z) - Provable Data Subset Selection For Efficient Neural Network Training [73.34254513162898]
本稿では,任意の放射基底関数ネットワーク上での入力データの損失を近似する,emphRBFNNのコアセットを構成するアルゴリズムについて紹介する。
次に、一般的なネットワークアーキテクチャやデータセット上で、関数近似とデータセットサブセットの選択に関する経験的評価を行う。
論文 参考訳(メタデータ) (2023-03-09T10:08:34Z) - Attention-based Feature Compression for CNN Inference Offloading in Edge
Computing [93.67044879636093]
本稿では,デバイスエッジ共振器におけるCNN推論の計算負荷について検討する。
エンドデバイスにおける効率的な特徴抽出のための新しいオートエンコーダベースのCNNアーキテクチャ(AECNN)を提案する。
実験の結果、AECNNは中間データを約4%の精度で256倍圧縮できることがわかった。
論文 参考訳(メタデータ) (2022-11-24T18:10:01Z) - Verifiable Encodings for Secure Homomorphic Analytics [10.402772462535884]
ホモモルフィック暗号化は、機密データ上のクラウドで除算された計算のプライバシを保護するための有望なソリューションである。
本稿では,クラウドベースの同型計算のクライアント検証を実現するための2つの誤り検出符号化とビルド認証手法を提案する。
我々は,暗号化されたデータ上で実行されたアウトソース計算の検証システムであるVERITASにソリューションを実装した。
論文 参考訳(メタデータ) (2022-07-28T13:22:21Z) - THE-X: Privacy-Preserving Transformer Inference with Homomorphic
Encryption [112.02441503951297]
トランスフォーマーモデルのプライバシ保護推論は、クラウドサービスユーザの要求に基づいています。
我々は、事前訓練されたモデルのプライバシ保存推論を可能にするトランスフォーマーの近似アプローチである$textitTHE-X$を紹介した。
論文 参考訳(メタデータ) (2022-06-01T03:49:18Z) - COIN++: Data Agnostic Neural Compression [55.27113889737545]
COIN++は、幅広いデータモダリティをシームレスに扱うニューラルネットワーク圧縮フレームワークである。
様々なデータモダリティを圧縮することで,本手法の有効性を示す。
論文 参考訳(メタデータ) (2022-01-30T20:12:04Z) - Faster Secure Data Mining via Distributed Homomorphic Encryption [108.77460689459247]
ホモモルフィック暗号化(HE)は、最近、暗号化されたフィールド上で計算を行う能力により、ますます注目を集めている。
本稿では,スケーリング問題の解決に向けて,新しい分散HEベースのデータマイニングフレームワークを提案する。
各種データマイニングアルゴリズムとベンチマークデータセットを用いて,新しいフレームワークの有効性と有効性を検証する。
論文 参考訳(メタデータ) (2020-06-17T18:14:30Z) - Privacy-Preserving Gaussian Process Regression -- A Modular Approach to
the Application of Homomorphic Encryption [4.1499725848998965]
ホモモルフィック暗号化(FHE)は、データを暗号化しながら計算することができる。
ガウス過程回帰のような一般的な機械学習アルゴリズムは、FHEにはあまり適していない。
保護を必要とするワークフローのセンシティブなステップのみにFHEを適用するモジュラーアプローチは、あるパーティがデータに対して予測できることを示している。
論文 参考訳(メタデータ) (2020-01-28T11:50:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。