論文の概要: Private and Reliable Neural Network Inference
- arxiv url: http://arxiv.org/abs/2210.15614v1
- Date: Thu, 27 Oct 2022 16:58:45 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-28 13:37:39.417830
- Title: Private and Reliable Neural Network Inference
- Title(参考訳): プライベートで信頼性の高いニューラルネットワーク推論
- Authors: Nikola Jovanovi\'c, Marc Fischer, Samuel Steffen, Martin Vechev
- Abstract要約: 本稿では,信頼できるNN上でのプライバシ保護推論を可能にする最初のシステムを提案する。
我々はこれらのビルディングブロックを用いて、Phoenixと呼ばれるシステムにおいて、堅牢性と公正性を保証するプライバシー保護NN推論を可能にする。
- 参考スコア(独自算出の注目度): 6.7386666699567845
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reliable neural networks (NNs) provide important inference-time reliability
guarantees such as fairness and robustness. Complementarily, privacy-preserving
NN inference protects the privacy of client data. So far these two emerging
areas have been largely disconnected, yet their combination will be
increasingly important. In this work, we present the first system which enables
privacy-preserving inference on reliable NNs. Our key idea is to design
efficient fully homomorphic encryption (FHE) counterparts for the core
algorithmic building blocks of randomized smoothing, a state-of-the-art
technique for obtaining reliable models. The lack of required control flow in
FHE makes this a demanding task, as na\"ive solutions lead to unacceptable
runtime. We employ these building blocks to enable privacy-preserving NN
inference with robustness and fairness guarantees in a system called Phoenix.
Experimentally, we demonstrate that Phoenix achieves its goals without
incurring prohibitive latencies. To our knowledge, this is the first work which
bridges the areas of client data privacy and reliability guarantees for NNs.
- Abstract(参考訳): 信頼性ニューラルネットワーク(NN)は、公正性や堅牢性といった重要な推論時の信頼性を保証する。
補完的に、プライバシ保存nn推論は、クライアントデータのプライバシを保護する。
これまでのところ、これらの2つの新興地域は大部分が切り離されているが、それらの組み合わせはますます重要になるだろう。
本研究では,信頼性の高いNN上でのプライバシ保護推論を可能にする最初のシステムを提案する。
我々のキーとなる考え方は、信頼度の高いモデルを得るための最先端技術であるランダム化スムーシングのアルゴリズム構築ブロックに対して、効率的な完全同型暗号化(FHE)を設計することである。
要求される制御フローの欠如は、na\" ソリューションが許容できないランタイムにつながるため、これを要求すべきタスクにする。
我々はこれらのビルディングブロックを用いて、Phoenixと呼ばれるシステムにおいて、堅牢性と公正性を保証するプライバシー保護NN推論を可能にする。
実験により,フェニックスは禁止レイテンシーを伴わずに目標を達成することを示した。
私たちの知る限り、これはクライアントデータのプライバシとNNの信頼性保証の領域を橋渡しする最初の作業です。
関連論文リスト
- TernaryVote: Differentially Private, Communication Efficient, and
Byzantine Resilient Distributed Optimization on Heterogeneous Data [50.797729676285876]
本稿では, 3次圧縮機と多数決機構を組み合わせて, 差分プライバシー, 勾配圧縮, ビザンチンレジリエンスを同時に実現するternaryVoteを提案する。
提案アルゴリズムのF差分プライバシー(DP)とビザンチンレジリエンスのレンズによるプライバシー保証を理論的に定量化する。
論文 参考訳(メタデータ) (2024-02-16T16:41:14Z) - Privacy-preserving Federated Primal-dual Learning for Non-convex and
Non-smooth Problems with Model Sparsification [54.767648945613004]
フェデレートラーニング(FL)は急速に成長している分野として認識されている。
パラメータの非平滑性と非共有性は、FLアプリケーションで一般的である。
論文 参考訳(メタデータ) (2023-10-30T14:15:47Z) - Unveiling the Role of Message Passing in Dual-Privacy Preservation on
GNNs [7.626349365968476]
グラフニューラルネットワーク(GNN)は、ソーシャルネットワークなどのグラフ上で表現を学習するための強力なツールである。
プライバシを保存するGNNは、ノードやリンクのプライバシの保護に重点を置いて提案されている。
本稿では,ノードとリンクの両方を効果的に保護するプライバシー保護型GNNフレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-25T17:46:43Z) - Enumerating Safe Regions in Deep Neural Networks with Provable
Probabilistic Guarantees [86.1362094580439]
安全プロパティとDNNが与えられた場合、安全であるプロパティ入力領域のすべての領域の集合を列挙する。
この問題の #P-hardness のため,epsilon-ProVe と呼ばれる効率的な近似法を提案する。
提案手法は, 許容限界の統計的予測により得られた出力可到達集合の制御可能な過小評価を利用する。
論文 参考訳(メタデータ) (2023-08-18T22:30:35Z) - Data Privacy with Homomorphic Encryption in Neural Networks Training and
Inference [0.0]
ホモモルフィック暗号化(HE)は、ニューラルネットワーク(NN)におけるデータのプライバシを保護するソリューションとして使われる可能性がある。
本研究は,データプライバシとセキュリティを強化する技術と戦略に焦点を当てる。
HEは、NNに対して強力なデータプライバシ保証を提供する可能性があるが、いくつかの課題に対処する必要がある。
論文 参考訳(メタデータ) (2023-05-03T16:05:26Z) - On the Interaction between Node Fairness and Edge Privacy in Graph
Neural Networks [54.922084348041864]
本稿では,GNNの公平性とプライバシとの相互作用を初めて考察する。
ノードの個別の公平性が向上すると、エッジプライバシのリスクが増加することを実証的に確認する。
本稿では, 公正な再重み付けとプライバシに配慮したグラフ構造摂動モジュールをリトレーニング機構に実装することを提案する。
論文 参考訳(メタデータ) (2023-01-30T14:52:23Z) - PRECAD: Privacy-Preserving and Robust Federated Learning via
Crypto-Aided Differential Privacy [14.678119872268198]
フェデレートラーニング(FL)は、複数の参加するクライアントがデータセットをローカルに保持し、モデル更新のみを交換することで、機械学習モデルを協調的にトレーニングすることを可能にする。
既存のFLプロトコルの設計は、データのプライバシやモデルの堅牢性を損なうような攻撃に対して脆弱であることが示されている。
我々はPreCADと呼ばれるフレームワークを開発し、同時に差分プライバシー(DP)を実現し、暗号の助けを借りてモデル中毒攻撃に対する堅牢性を高める。
論文 参考訳(メタデータ) (2021-10-22T04:08:42Z) - Understanding Clipping for Federated Learning: Convergence and
Client-Level Differential Privacy [67.4471689755097]
本稿では, 切断したFedAvgが, 実質的なデータ均一性でも驚くほど良好に動作できることを実証的に示す。
本稿では,差分プライベート(DP)FedAvgアルゴリズムの収束解析を行い,クリッピングバイアスとクライアント更新の分布との関係を明らかにする。
論文 参考訳(メタデータ) (2021-06-25T14:47:19Z) - Federated Neural Collaborative Filtering [0.0]
我々は、アイテムレコメンデーションのための最先端のニューラルコラボレーティブ・フィルタリング(NCF)アプローチのフェデレーション版を提案する。
FedNCFと名付けられたこのシステムは、ユーザが生データを公開したり送信したりすることなく、学習ができる。
FLの協調フィルタリング(CF)タスクにおける特殊性について検討するとともに,計算コストの観点からプライバシ保護機構の評価を行った。
論文 参考訳(メタデータ) (2021-06-02T21:05:41Z) - CryptoSPN: Privacy-preserving Sum-Product Network Inference [84.88362774693914]
総生産ネットワーク(SPN)のプライバシ保護のためのフレームワークを提案する。
CryptoSPNは、中規模のSPNに対して秒の順序で高効率で正確な推論を行う。
論文 参考訳(メタデータ) (2020-02-03T14:49:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。