論文の概要: Is Private Learning Possible with Instance Encoding?

• arxiv url: http://arxiv.org/abs/2011.05315v2
• Date: Wed, 28 Apr 2021 01:18:36 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-27 07:14:02.430109
• Title: Is Private Learning Possible with Instance Encoding?
• Title（参考訳）: プライベートラーニングはインスタンスエンコーディングで可能か?
• Authors: Nicholas Carlini, Samuel Deng, Sanjam Garg, Somesh Jha, Saeed Mahloujifar, Mohammad Mahmoody, Shuang Song, Abhradeep Thakurta, Florian Tramer
• Abstract要約: 本研究では,インスタンスエンコーディング機構を用いて,非プライベートな学習アルゴリズムをプライベートにすることができるかを検討する。 2つの攻撃モデルを提供することで、インスタンスエンコーディングの概念とプライバシの両方を形式化する。
• 参考スコア（独自算出の注目度）: 68.84324434746765
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: A private machine learning algorithm hides as much as possible about its training data while still preserving accuracy. In this work, we study whether a non-private learning algorithm can be made private by relying on an instance-encoding mechanism that modifies the training inputs before feeding them to a normal learner. We formalize both the notion of instance encoding and its privacy by providing two attack models. We first prove impossibility results for achieving a (stronger) model. Next, we demonstrate practical attacks in the second (weaker) attack model on InstaHide, a recent proposal by Huang, Song, Li and Arora [ICML'20] that aims to use instance encoding for privacy.
• Abstract（参考訳）: プライベート機械学習アルゴリズムは、精度を維持しながら、トレーニングデータについて可能な限り隠蔽する。 本研究では,通常の学習者に提供する前に,トレーニング入力を変更するインスタンスエンコーディング機構を用いて,非プライベート学習アルゴリズムをプライベートにすることができるかを検討する。 2つの攻撃モデルを提供することで、インスタンスエンコーディングの概念とプライバシの両方を形式化する。 まず、(ストロンガー)モデルを達成するための不可能な結果を示す。 次に,インスタンスエンコーディングをプライバシに活用することを目的としたhuang,song,li,arora [icml'20] の最近の提案である,instahideに対する第2(weaker)攻撃モデルの実用的攻撃を実証する。

関連論文リスト

• Why Is Public Pretraining Necessary for Private Model Training? [50.054565310457306]
  公開データに対する事前トレーニングは、非プライベートな設定よりも顕著な利益をもたらすことを示す。 トレードオフは、アルゴリズムが2つのフェーズを通過する必要のある、より深い損失モデルかもしれない、と私たちは主張する。 直観によって導かれた理論的な構成は、公的な事前訓練なしでの私的分離を確実に実証するものである。
  論文  参考訳（メタデータ） (2023-02-19T05:32:20Z)
• Tight Auditing of Differentially Private Machine Learning [77.38590306275877]
  プライベート機械学習では、既存の監査メカニズムは厳格である。 彼らは不確実な最悪の仮定の下でのみ厳密な見積もりを行う。 我々は、自然(逆向きではない)データセットの厳密なプライバシー推定を得られる改善された監査スキームを設計する。
  論文  参考訳（メタデータ） (2023-02-15T21:40:33Z)
• Learning to Unlearn: Instance-wise Unlearning for Pre-trained Classifiers [71.70205894168039]
  そこでは、事前訓練されたモデルからインスタンスのセットに関する情報を削除することを目標としています。 本稿では,1)表現レベルでの忘れを克服するために,敵の例を活用すること,2)不必要な情報を伝播するネットワークパラメータをピンポイントする重み付け指標を活用すること,の2つの方法を提案する。
  論文  参考訳（メタデータ） (2023-01-27T07:53:50Z)
• Pre-trained Encoders in Self-Supervised Learning Improve Secure and Privacy-preserving Supervised Learning [63.45532264721498]
  自己教師付き学習は、ラベルのないデータを使ってエンコーダを事前訓練するための新しいテクニックである。 我々は、事前訓練されたエンコーダがセキュア・プライバシ保護型学習アルゴリズムの限界に対処できるかどうかを理解するための、最初の体系的、原則的な測定研究を行う。
  論文  参考訳（メタデータ） (2022-12-06T21:35:35Z)
• Fine-Tuning with Differential Privacy Necessitates an Additional Hyperparameter Search [38.83524780461911]
  トレーニング済みニューラルネットワークで微調整されたレイヤを慎重に選択することで、プライバシと正確性の間に新たな最先端のトレードオフを確立することができることを示す。 ImageNetで事前トレーニングされたモデルに対して、CIFAR-100上で$(varepsilon, delta)= (2, 10-5)$に対して77.9%の精度を達成する。
  論文  参考訳（メタデータ） (2022-10-05T11:32:49Z)
• Defending against Reconstruction Attacks with R\'enyi Differential Privacy [72.1188520352079]
  レコンストラクション攻撃により、敵は訓練されたモデルのみにアクセスすることで、トレーニングセットのデータサンプルを再生することができる。 差別化プライバシはこのような攻撃に対する既知の解決策であるが、比較的大きなプライバシ予算で使用されることが多い。 また、同機構により、従来の文献よりも優れた復元攻撃に対するプライバシー保証を導出できることを示す。
  論文  参考訳（メタデータ） (2022-02-15T18:09:30Z)
• On the Importance of Encrypting Deep Features [15.340540198612823]
  ユーザデータの特徴ベクトルが知られ、推論のためのブラックボックスAPIが提供される。 個人再識別における最先端モデルの実験を行い,2つの攻撃シナリオ(補助属性の認識とユーザデータの再構築)について検討した。 その結果、厳しい制約下であっても、敵は機密情報を推測することに成功した。
  論文  参考訳（メタデータ） (2021-08-16T15:22:33Z)
• Manipulating SGD with Data Ordering Attacks [23.639512087220137]
  基礎となるモデルデータセットやアーキテクチャを変更する必要のない,一連のトレーニングタイムアタックを提示する。 特に、アタッカーはトレーニングバッチをリオーダーするだけでモデルの完全性と可用性を損なう可能性がある。 攻撃は、攻撃後数百エポックというモデル性能を低下させるという長期的な影響をもたらす。
  論文  参考訳（メタデータ） (2021-04-19T22:17:27Z)
• When Machine Unlearning Jeopardizes Privacy [25.167214892258567]
  機械学習による意図しない情報漏洩について検討する。 高い性能を実現する新しいメンバーシップ推論攻撃を提案する。 我々の結果は、機械学習の実践的な実装におけるプライバシー保護の改善に役立つ。
  論文  参考訳（メタデータ） (2020-05-05T14:11:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。