論文の概要: An Overview of Privacy in Machine Learning
- arxiv url: http://arxiv.org/abs/2005.08679v1
- Date: Mon, 18 May 2020 13:05:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-01 22:43:50.255898
- Title: An Overview of Privacy in Machine Learning
- Title(参考訳): 機械学習におけるプライバシの概要
- Authors: Emiliano De Cristofaro
- Abstract要約: この文書は、機械学習とプライバシに関する関連する概念に関する背景情報を提供する。
本稿では,個人および/または機密情報漏洩に関連する広範囲な攻撃を網羅する,敵対的モデルと設定について論じる。
- 参考スコア(独自算出の注目度): 2.8935588665357077
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Over the past few years, providers such as Google, Microsoft, and Amazon have
started to provide customers with access to software interfaces allowing them
to easily embed machine learning tasks into their applications. Overall,
organizations can now use Machine Learning as a Service (MLaaS) engines to
outsource complex tasks, e.g., training classifiers, performing predictions,
clustering, etc. They can also let others query models trained on their data.
Naturally, this approach can also be used (and is often advocated) in other
contexts, including government collaborations, citizen science projects, and
business-to-business partnerships. However, if malicious users were able to
recover data used to train these models, the resulting information leakage
would create serious issues. Likewise, if the inner parameters of the model are
considered proprietary information, then access to the model should not allow
an adversary to learn such parameters. In this document, we set to review
privacy challenges in this space, providing a systematic review of the relevant
research literature, also exploring possible countermeasures. More
specifically, we provide ample background information on relevant concepts
around machine learning and privacy. Then, we discuss possible adversarial
models and settings, cover a wide range of attacks that relate to private
and/or sensitive information leakage, and review recent results attempting to
defend against such attacks. Finally, we conclude with a list of open problems
that require more work, including the need for better evaluations, more
targeted defenses, and the study of the relation to policy and data protection
efforts.
- Abstract(参考訳): 過去数年間、Google、Microsoft、Amazonといったプロバイダは、顧客が簡単に機械学習タスクをアプリケーションに組み込めるように、ソフトウェアインターフェースへのアクセスを提供し始めている。
組織全体で、マシンラーニング・アズ・ア・サービス(MLaaS)エンジンを使用して、分類器のトレーニング、予測の実行、クラスタリングなどの複雑なタスクをアウトソースできるようになった。
また、データに基づいてトレーニングされたモデルを他の人にクエリさせることもできる。
当然、このアプローチは政府のコラボレーション、市民科学プロジェクト、ビジネスとビジネスのパートナーシップなど、他のコンテキストでも使われる(そしてしばしば推奨される)。
しかし、もし悪意のあるユーザーがこれらのモデルのトレーニングに使われたデータを復元できたら、その結果の情報漏洩は深刻な問題を引き起こすだろう。
同様に、モデルの内部パラメータがプロプライエタリな情報と見なされる場合、モデルへのアクセスは、敵がそのようなパラメータを学習することを許さない。
本論文では,この領域におけるプライバシー問題について,関連する研究文献の体系的レビューを行い,対策の可能性を探る。
具体的には、マシンラーニングとプライバシに関する関連する概念に関する十分なバックグラウンド情報を提供します。
そして、敵のモデルや設定について論じ、個人情報や機密情報漏洩に関連する幅広い攻撃をカバーし、そのような攻撃を防ごうとする最近の結果をレビューする。
最後に、より良い評価の必要性、よりターゲティングな防御の必要性、ポリシーとデータ保護の取り組みとの関係の研究など、より多くの作業を必要とするオープンな問題のリストで締めくくります。
関連論文リスト
- Rethinking Privacy in Machine Learning Pipelines from an Information
Flow Control Perspective [16.487545258246932]
現代の機械学習システムは、成長を続けるコーパスで訓練されたモデルを使用する。
オーナシップ、アクセス制御、ライセンス情報などのメタデータは、トレーニング中に無視される。
情報フロー制御の観点から機械学習システムを記述する。
論文 参考訳(メタデータ) (2023-11-27T13:14:39Z) - Privacy-Preserving Graph Machine Learning from Data to Computation: A
Survey [67.7834898542701]
我々は,グラフ機械学習のプライバシ保護手法の見直しに重点を置いている。
まずプライバシ保護グラフデータを生成する方法を検討する。
次に,プライバシ保護情報を送信する方法について述べる。
論文 参考訳(メタデータ) (2023-07-10T04:30:23Z) - A Survey on Differential Privacy with Machine Learning and Future
Outlook [0.0]
差分プライバシーは、あらゆる攻撃や脆弱性から機械学習モデルを保護するために使用される。
本稿では,2つのカテゴリに分類される差分プライベート機械学習アルゴリズムについて述べる。
論文 参考訳(メタデータ) (2022-11-19T14:20:53Z) - Privacy-Preserving Machine Learning for Collaborative Data Sharing via
Auto-encoder Latent Space Embeddings [57.45332961252628]
データ共有プロセスにおけるプライバシ保護機械学習は、極めて重要なタスクである。
本稿では、オートエンコーダによる表現学習を用いて、プライバシーを保護した組込みデータを生成する革新的なフレームワークを提案する。
論文 参考訳(メタデータ) (2022-11-10T17:36:58Z) - Learnware: Small Models Do Big [69.88234743773113]
自然言語処理やコンピュータビジョンの応用で目覚ましい成果を上げてきた、一般的なビッグモデルパラダイムは、これらの問題にまだ対応していないが、炭素排出量の深刻な源となっている。
この記事では、マシンラーニングモデルをスクラッチから構築する必要がないようにするための学習ソフトウェアパラダイムの概要を紹介します。
論文 参考訳(メタデータ) (2022-10-07T15:55:52Z) - A Framework for Understanding Model Extraction Attack and Defense [48.421636548746704]
我々は,モデルユーティリティとユーザとのトレードオフと,敵の視点によるプライバシについて検討する。
我々は,このようなトレードオフを定量化し,その理論的特性を分析し,最適な敵攻撃・防衛戦略を理解するための最適化問題を開発する。
論文 参考訳(メタデータ) (2022-06-23T05:24:52Z) - Survey: Leakage and Privacy at Inference Time [59.957056214792665]
公開されている機械学習(ML)モデルからのデータの漏洩は、ますます重要になっている分野である。
公開モデルの最も可能性の高いシナリオとして、推論時のリークに注目します。
本稿では,不随意・不随意の漏洩,防御,そして現在利用可能な評価指標と応用にまたがる分類法を提案する。
論文 参考訳(メタデータ) (2021-07-04T12:59:16Z) - Dataset Security for Machine Learning: Data Poisoning, Backdoor Attacks,
and Defenses [150.64470864162556]
この作業は体系的に分類され、幅広いデータセット脆弱性とエクスプロイトを議論する。
様々な毒とバックドアの脅威モデルとそれらの関係を記述することに加えて,それらの統一分類法を展開する。
論文 参考訳(メタデータ) (2020-12-18T22:38:47Z) - Confidential Machine Learning on Untrusted Platforms: A Survey [10.45742327204133]
我々は機密機械学習(CML)の暗号的アプローチに焦点を当てる。
また、ハードウェア支援の機密コンピューティング環境における摂動ベースのアプローチやCMLなどの他の方向もカバーします。
この議論は、関連する脅威モデル、セキュリティの仮定、攻撃、設計哲学、およびデータユーティリティ、コスト、機密性間の関連するトレードオフの豊富なコンテキストを考慮するための包括的な方法を取ります。
論文 参考訳(メタデータ) (2020-12-15T08:57:02Z) - ML Privacy Meter: Aiding Regulatory Compliance by Quantifying the
Privacy Risks of Machine Learning [10.190911271176201]
機械学習モデルは、モデル予測とパラメータを通じて間接的にデータについて明らかにすることで、データにさらなるプライバシーリスクをもたらす。
モデルからのデータに対して、プライバシのリスクを定量化するツールがすぐに必要になります。
ML Privacy Meterは、アートメンバーシップ推論攻撃手法の状態を通じ、モデルからのデータに対するプライバシリスクを定量化するツールである。
論文 参考訳(メタデータ) (2020-07-18T06:21:35Z) - Privacy in Deep Learning: A Survey [16.278779275923448]
多くの分野でのディープラーニングの継続的な進歩は、プロダクションシステムにDeep Neural Networks(DNN)の採用につながっている。
大規模なデータセットと高い計算能力がこれらの進歩の主な貢献者である。
このデータはさまざまな脆弱性によって誤用または漏洩される可能性があるため、プライバシー上の深刻な懸念が生じる。
論文 参考訳(メタデータ) (2020-04-25T23:47:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。