Fugu-MT 論文翻訳(概要): Audit and Improve Robustness of Private Neural Networks on Encrypted Data

論文の概要: Audit and Improve Robustness of Private Neural Networks on Encrypted Data

arxiv url: http://arxiv.org/abs/2209.09996v1
Date: Tue, 20 Sep 2022 21:05:08 GMT
ステータス: 翻訳完了
システム内更新日: 2022-09-22 17:27:49.812294
Title: Audit and Improve Robustness of Private Neural Networks on Encrypted Data
Title（参考訳）: 暗号化データに対するプライベートニューラルネットワークの監査とロバスト性向上
Authors: Jiaqi Xue, Lei Xu, Lin Chen, Weidong Shi, Kaidi Xu, Qian Lou
Abstract要約: 復号化のない暗号化データ上でニューラルネットワーク推論を実行することは、プライバシ保護ニューラルネットワーク(PNet)をサービスとして実現するための一般的な方法のひとつだ。暗号化された入力はまた、敵の堅牢性やセキュリティといった新しい課題も導入している。我々はPNet-Attackを提案し、ターゲットとターゲットの両方でPNetを攻撃できるブラックボックスの敵例を生成する。
参考スコア（独自算出の注目度）: 28.02982222123337
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Performing neural network inference on encrypted data without decryption is one popular method to enable privacy-preserving neural networks (PNet) as a service. Compared with regular neural networks deployed for machine-learning-as-a-service, PNet requires additional encoding, e.g., quantized-precision numbers, and polynomial activation. Encrypted input also introduces novel challenges such as adversarial robustness and security. To the best of our knowledge, we are the first to study questions including (i) Whether PNet is more robust against adversarial inputs than regular neural networks? (ii) How to design a robust PNet given the encrypted input without decryption? We propose PNet-Attack to generate black-box adversarial examples that can successfully attack PNet in both target and untarget manners. The attack results show that PNet robustness against adversarial inputs needs to be improved. This is not a trivial task because the PNet model owner does not have access to the plaintext of the input values, which prevents the application of existing detection and defense methods such as input tuning, model normalization, and adversarial training. To tackle this challenge, we propose a new fast and accurate noise insertion method, called RPNet, to design Robust and Private Neural Networks. Our comprehensive experiments show that PNet-Attack reduces at least $2.5\times$ queries than prior works. We theoretically analyze our RPNet methods and demonstrate that RPNet can decrease $\sim 91.88\%$ attack success rate.
Abstract（参考訳）: 暗号化データを復号化せずにニューラルネットワークを推論することは、プライバシ保存ニューラルネットワーク(pnet)をサービスとして有効化する一般的な方法である。マシンラーニング・アズ・ア・サービス用にデプロイされる通常のニューラルネットワークと比較して、pnetには、量子化精度数や多項式活性化といった追加のエンコーディングが必要である。暗号化入力はまた、敵対的ロバスト性やセキュリティといった新しい課題も導入している。私たちの知識を最大限に活用するために、私たちは最初に質問などを研究する。 (i)PNetが通常のニューラルネットワークよりも敵入力に対して堅牢であるかどうか。 (ii)暗号化入力を復号化せずにロバストなpnetを設計する方法我々はPNet-Attackを提案し、ターゲットとターゲットの両方でPNetを攻撃できるブラックボックスの敵例を生成する。攻撃結果から,pnetの対向入力に対するロバスト性が向上することが示唆された。 PNetモデルオーナが入力値の平文にアクセスできないため、入力チューニングやモデル正規化、敵の訓練といった既存の検出および防御手法が適用されないため、これは簡単なタスクではない。この課題に対処するために,ロバストニューラルネットワークとプライベートニューラルネットワークを設計するRPNetという,高速かつ高精度なノイズ挿入手法を提案する。我々の総合的な実験によると、PNet-Attack は以前の作業よりも少なくとも$2.5\times$クエリを削減している。理論的にRPNet法を解析し、RPNetが$\sim 91.88\%$攻撃成功率を下げることを示す。

関連論文リスト

Secure Deep Learning-based Distributed Intelligence on Pocket-sized Drones [75.80952211739185]
パームサイズのナノドロンはエッジノードの魅力的なクラスであるが、その限られた計算資源は大規模なディープラーニングモデルの実行を妨げている。エッジフォッグ計算のパラダイムを採用することで、計算の一部をフォグにオフロードすることができるが、フォグノードや通信リンクが信頼できない場合、セキュリティ上の懸念が生じる。ナノドローン上でランダムなサブネットワークを冗長に実行することにより,霧の計算を検証する分散エッジフォッグ実行方式を提案する。
論文参考訳（メタデータ） (2023-07-04T08:29:41Z)
Robust Training and Verification of Implicit Neural Networks: A Non-Euclidean Contractive Approach [64.23331120621118]
本稿では,暗黙的ニューラルネットワークのトレーニングとロバスト性検証のための理論的および計算的枠組みを提案する。組込みネットワークを導入し、組込みネットワークを用いて、元のネットワークの到達可能な集合の超近似として$ell_infty$-normボックスを提供することを示す。 MNISTデータセット上で暗黙的なニューラルネットワークをトレーニングするためにアルゴリズムを適用し、我々のモデルの堅牢性と、文献における既存のアプローチを通じてトレーニングされたモデルを比較する。
論文参考訳（メタデータ） (2022-08-08T03:13:24Z)
Robustness Certificates for Implicit Neural Networks: A Mixed Monotone Contractive Approach [60.67748036747221]
暗黙のニューラルネットワークは、競合性能とメモリ消費の削減を提供する。入力逆流の摂動に関して、それらは不安定なままである。本稿では,暗黙的ニューラルネットワークのロバスト性検証のための理論的および計算的枠組みを提案する。
論文参考訳（メタデータ） (2021-12-10T03:08:55Z)
Efficiently Learning Any One Hidden Layer ReLU Network From Queries [27.428198343906352]
ネットワークへのブラックボックスアクセスを提供するニューラルネットワークアクティベーションを任意の1つの隠蔽層で学習するアルゴリズムを初めて提供する。最悪のネットワークであっても、完全時間で効率を保証できるのはこれが初めてです。
論文参考訳（メタデータ） (2021-11-08T18:59:40Z)
RED++ : Data-Free Pruning of Deep Neural Networks via Input Splitting and Output Merging [36.027765880474526]
Pruning Deep Neural Networks (DNN) は、推論ランタイムアクセラレーションの目標において、顕著な研究分野である。本稿では,新しいデータフリープルーニングプロトコルRED++を紹介する。ハッシュによる精度の保存に関する理論的および実証的な保証について検討する。
論文参考訳（メタデータ） (2021-09-30T09:31:11Z)
Online Adversarial Attacks [57.448101834579624]
我々は、実世界のユースケースで見られる2つの重要な要素を強調し、オンライン敵攻撃問題を定式化する。まず、オンライン脅威モデルの決定論的変種を厳格に分析する。このアルゴリズムは、現在の最良の単一しきい値アルゴリズムよりも、$k=2$の競争率を確実に向上させる。
論文参考訳（メタデータ） (2021-03-02T20:36:04Z)
Enabling certification of verification-agnostic networks via memory-efficient semidefinite programming [97.40955121478716]
本稿では,ネットワークアクティベーションの総数にのみ線形なメモリを必要とする一階二重SDPアルゴリズムを提案する。 L-inf の精度は 1% から 88% ,6% から 40% に改善した。また,変分オートエンコーダの復号器に対する2次安定性仕様の厳密な検証を行った。
論文参考訳（メタデータ） (2020-10-22T12:32:29Z)
Add a SideNet to your MainNet [0.0]
そこで我々は、SideNetと呼ぶ小さな分類層をMainNetと呼ぶ大規模な事前学習ネットワークにアタッチすることで、適応的なネットワーク複雑性を実現する手法を開発した。入力が与えられた場合、SideNetは、その信頼性レベルがユーザ決定しきい値を超え、信頼度が低すぎる場合にのみ大きなMainNetに渡す。実験結果から,プレトレーニング済みのResNetとBERT MainNetに加えられた単純な単一層パーセプトロン・サイドネットは,画像やテキストの分類タスクのパフォーマンスを最小限に抑えることができることがわかった。
論文参考訳（メタデータ） (2020-07-14T19:25:32Z)
Adversarial Robustness Guarantees for Random Deep Neural Networks [15.68430580530443]
逆の例は、正しく分類された入力に非常に近い誤った分類された入力です。任意の$pge1$に対して、分類境界からの任意の入力の$ellp$距離は、入力の$ellp$ノルムの入力時間の次元の平方根の1つとしてスケールする。この結果は、敵の例を理論的に理解する上での基本的な進歩であり、ネットワークアーキテクチャと敵の摂動に対する頑健性との関係を理論的に解明する道を開くものである。
論文参考訳（メタデータ） (2020-04-13T13:07:26Z)
CryptoSPN: Privacy-preserving Sum-Product Network Inference [84.88362774693914]
総生産ネットワーク(SPN)のプライバシ保護のためのフレームワークを提案する。 CryptoSPNは、中規模のSPNに対して秒の順序で高効率で正確な推論を行う。
論文参考訳（メタデータ） (2020-02-03T14:49:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。