論文の概要: PRICURE: Privacy-Preserving Collaborative Inference in a Multi-Party
Setting
- arxiv url: http://arxiv.org/abs/2102.09751v1
- Date: Fri, 19 Feb 2021 05:55:53 GMT
- ステータス: 処理完了
- システム内更新日: 2021-02-22 13:20:13.024553
- Title: PRICURE: Privacy-Preserving Collaborative Inference in a Multi-Party
Setting
- Title(参考訳): PRICURE: マルチパーティ設定におけるプライバシー保護型協調推論
- Authors: Ismat Jarin, Birhanu Eshete
- Abstract要約: 本稿では,セキュアなマルチパーティ計算とディファレンシャルプライバシの補完的強みを組み合わせたシステムpricureを提案する。
PRICUREは、複数のモデルオーナー間のプライバシー保護共同予測を可能にします。
ベンチマーク医療画像分類データセットを含む4つのデータセットのニューラルネットワーク上でPRICUREを評価する。
- 参考スコア(独自算出の注目度): 3.822543555265593
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When multiple parties that deal with private data aim for a collaborative
prediction task such as medical image classification, they are often
constrained by data protection regulations and lack of trust among
collaborating parties. If done in a privacy-preserving manner, predictive
analytics can benefit from the collective prediction capability of multiple
parties holding complementary datasets on the same machine learning task. This
paper presents PRICURE, a system that combines complementary strengths of
secure multi-party computation (SMPC) and differential privacy (DP) to enable
privacy-preserving collaborative prediction among multiple model owners. SMPC
enables secret-sharing of private models and client inputs with non-colluding
secure servers to compute predictions without leaking model parameters and
inputs. DP masks true prediction results via noisy aggregation so as to deter a
semi-honest client who may mount membership inference attacks. We evaluate
PRICURE on neural networks across four datasets including benchmark medical
image classification datasets. Our results suggest PRICURE guarantees privacy
for tens of model owners and clients with acceptable accuracy loss. We also
show that DP reduces membership inference attack exposure without hurting
accuracy.
- Abstract(参考訳): プライベートデータを扱う複数の当事者が医用画像分類のような協調的予測タスクを目標とする場合、それらはしばしばデータ保護規則や協力者間の信頼の欠如によって制約される。
プライバシー保護の方法で行われる場合、予測分析は、同じ機械学習タスクで補完的なデータセットを保持する複数の当事者の集団予測機能から恩恵を受けることができます。
本稿では,セキュアなマルチパーティ計算(smpc)とディファレンシャルプライバシ(dp)の強みを相補的に組み合わせ,複数のモデル所有者間のプライバシ保全協調予測を可能にするシステムpricureを提案する。
SMPCは、プライベートモデルとクライアント入力を非クローズドセキュアサーバと秘密共有することで、モデルパラメータや入力をリークすることなく予測を計算できます。
DPマスクはノイズアグリゲーションを介して真の予測結果をマスクし、メンバーシップ推論攻撃をマウントする半正直なクライアントを阻止する。
ベンチマーク医療画像分類データセットを含む4つのデータセットのニューラルネットワーク上でPRICUREを評価する。
私たちの結果は、PRICUREが許容される精度の損失を持つ数十のモデル所有者とクライアントのプライバシーを保証します。
また,DPは精度を損なうことなく,メンバーシップ推論攻撃の被曝を減少させることを示した。
関連論文リスト
- Pseudo-Probability Unlearning: Towards Efficient and Privacy-Preserving Machine Unlearning [59.29849532966454]
本稿では,PseudoProbability Unlearning (PPU)を提案する。
提案手法は,最先端の手法に比べて20%以上の誤りを忘れる改善を実現している。
論文 参考訳(メタデータ) (2024-11-04T21:27:06Z) - Segmented Private Data Aggregation in the Multi-message Shuffle Model [6.436165623346879]
我々は、差分プライバシーのマルチメッセージシャッフルモデルにおいて、セグメント化されたプライベートデータアグリゲーションの研究を開拓した。
当社のフレームワークでは,ユーザに対するフレキシブルなプライバシ保護と,アグリゲーションサーバのための拡張ユーティリティを導入している。
提案手法は,既存手法と比較して推定誤差を約50%削減する。
論文 参考訳(メタデータ) (2024-07-29T01:46:44Z) - Enhanced Privacy Bound for Shuffle Model with Personalized Privacy [32.08637708405314]
Differential Privacy(DP)は、ローカルユーザと中央データキュレーターの間の中間信頼サーバを導入する、強化されたプライバシプロトコルである。
これは、局所的にランダム化されたデータを匿名化しシャッフルすることで、中央のDP保証を著しく増幅する。
この研究は、各ユーザーごとにパーソナライズされたローカルプライバシを必要とする、より実践的な設定のために、中央のプライバシ境界を導出することに焦点を当てている。
論文 参考訳(メタデータ) (2024-07-25T16:11:56Z) - Incentives in Private Collaborative Machine Learning [56.84263918489519]
コラボレーション型機械学習は、複数のパーティのデータに基づいてモデルをトレーニングする。
インセンティブとして差分プライバシー(DP)を導入する。
合成および実世界のデータセットに対するアプローチの有効性と実用性を実証的に実証した。
論文 参考訳(メタデータ) (2024-04-02T06:28:22Z) - Privacy Amplification for the Gaussian Mechanism via Bounded Support [64.86780616066575]
インスタンスごとの差分プライバシー(pDP)やフィッシャー情報損失(FIL)といったデータ依存のプライバシ会計フレームワークは、固定されたトレーニングデータセット内の個人に対してきめ細かいプライバシー保証を提供する。
本稿では,データ依存会計下でのプライバシ保証を向上することを示すとともに,バウンドサポートによるガウス機構の簡単な修正を提案する。
論文 参考訳(メタデータ) (2024-03-07T21:22:07Z) - Federated Experiment Design under Distributed Differential Privacy [31.06808163362162]
我々は,サービス提供者に対する信頼を最小限にしつつ,ユーザのプライバシの厳格な保護に注力する。
現代のA/Bテストにおいて重要な要素であるが、これまではプライベート分散実験は研究されていない。
これらのメカニズムは、実際に一般的に見られる非常に多くの参加者を扱うために、どのようにスケールアップできるかを示す。
論文 参考訳(メタデータ) (2023-11-07T22:38:56Z) - Privacy-Engineered Value Decomposition Networks for Cooperative
Multi-Agent Reinforcement Learning [19.504842607744457]
協力的マルチエージェント強化学習では、エージェントのチームは、指定されたタスクを学ぶために、チームの長期的な報酬を共同で最適化する必要がある。
プライバシエンジニアリングされた価値分解ネットワーク(PE-VDN)は、エージェントの環境相互作用データの機密性を保護しながら、マルチエージェント調整をモデル化する。
我々は,StarCraft Multi-Agent Competition (SMAC) にPE-VDNを実装し,バニラVDNの勝利率の80%を達成することを示す。
論文 参考訳(メタデータ) (2023-09-13T02:50:57Z) - A Randomized Approach for Tight Privacy Accounting [63.67296945525791]
推定検証リリース(EVR)と呼ばれる新しい差分プライバシーパラダイムを提案する。
EVRパラダイムは、まずメカニズムのプライバシパラメータを推定し、その保証を満たすかどうかを確認し、最後にクエリ出力を解放する。
我々の実証的な評価は、新たに提案されたEVRパラダイムが、プライバシ保護機械学習のユーティリティプライバシトレードオフを改善することを示している。
論文 参考訳(メタデータ) (2023-04-17T00:38:01Z) - Mixed Differential Privacy in Computer Vision [133.68363478737058]
AdaMixは、プライベートとパブリックの両方の画像データを使用して、ディープニューラルネットワーク分類器をトレーニングするための適応型微分プライベートアルゴリズムである。
プライベートデータを無視する数ショットあるいはゼロショットの学習ベースラインは、大規模なプライベートデータセットの微調整よりも優れています。
論文 参考訳(メタデータ) (2022-03-22T06:15:43Z) - Collusion Resistant Federated Learning with Oblivious Distributed
Differential Privacy [4.951247283741297]
プライバシ保護フェデレーション学習は、分散クライアントの集団が共同で共有モデルを学ぶことを可能にする。
本稿では、このようなクライアントの共謀に対して最初に保護する、難解な分散差分プライバシーに基づく効率的なメカニズムを提案する。
我々は,プロトコルの実行速度,学習精度,および2つのデータセットのプライバシ性能を実証的に分析した。
論文 参考訳(メタデータ) (2022-02-20T19:52:53Z) - Private Prediction Sets [72.75711776601973]
機械学習システムは、個人のプライバシーの確実な定量化と保護を必要とする。
これら2つのデシラタを共同で扱う枠組みを提案する。
本手法を大規模コンピュータビジョンデータセット上で評価する。
論文 参考訳(メタデータ) (2021-02-11T18:59:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。