論文の概要: A Survey of Privacy Attacks in Machine Learning

• arxiv url: http://arxiv.org/abs/2007.07646v3
• Date: Sat, 16 Sep 2023 15:12:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2023-09-20 02:29:43.249422
• Title: A Survey of Privacy Attacks in Machine Learning
• Title（参考訳）: 機械学習におけるプライバシ攻撃に関する調査
• Authors: Maria Rigaki and Sebastian Garcia
• Abstract要約: この研究は、機械学習に対するプライバシー攻撃に関連する40以上の論文の分析である。 プライバシリークの原因についての最初の調査と、異なる攻撃の詳細な分析が紹介されている。 本稿では,最も一般的に提案されている防衛の概観と,分析において確認されたオープンな問題と今後の方向性について論じる。
• 参考スコア（独自算出の注目度）: 0.7614628596146599
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: As machine learning becomes more widely used, the need to study its implications in security and privacy becomes more urgent. Although the body of work in privacy has been steadily growing over the past few years, research on the privacy aspects of machine learning has received less focus than the security aspects. Our contribution in this research is an analysis of more than 40 papers related to privacy attacks against machine learning that have been published during the past seven years. We propose an attack taxonomy, together with a threat model that allows the categorization of different attacks based on the adversarial knowledge, and the assets under attack. An initial exploration of the causes of privacy leaks is presented, as well as a detailed analysis of the different attacks. Finally, we present an overview of the most commonly proposed defenses and a discussion of the open problems and future directions identified during our analysis.
• Abstract（参考訳）: 機械学習がより広く使われるようになると、セキュリティとプライバシにおけるその影響を研究する必要性がより緊急になる。 プライバシの本体はここ数年着実に成長しているが、機械学習のプライバシー面の研究は、セキュリティ面よりもあまり注目されていない。 この研究への私たちの貢献は、過去7年間に発表された機械学習に対するプライバシ攻撃に関する40以上の論文の分析です。 そこで本研究では,敵の知識と攻撃対象の資産に基づいて,異なる攻撃の分類を可能にする脅威モデルとともに,攻撃分類を提案する。 プライバシリークの原因に関する最初の調査と、さまざまな攻撃に関する詳細な分析が紹介されている。 最後に、最も一般的に提案されている防衛の概観と、分析中に特定されるオープンな問題と今後の方向性について論じる。

関連論文リスト

• How Secure is Forgetting? Linking Machine Unlearning to Machine Learning Attacks [1.6874375111244329]
  機械学習(ML)におけるセキュリティ脅威の構造的分析と,そのマシン・アンラーニング(MU)への影響について述べる。 本研究では,バックドアアタック,メンバーシップ推論アタック(MIA),アタック,インバージョンアタックの4つの主要な攻撃クラスについて検討する。 倫理的考察を含むオープンな課題を特定し、将来有望な研究方向性を探求する。
  論文  参考訳（メタデータ） (2025-03-26T05:49:34Z)
• Model Inversion Attacks: A Survey of Approaches and Countermeasures [59.986922963781]
  近年、新しいタイプのプライバシ攻撃であるモデル反転攻撃(MIA)は、トレーニングのためのプライベートデータの機密性を抽出することを目的としている。 この重要性にもかかわらず、総合的な概要とMIAに関する深い洞察を提供する体系的な研究が欠如している。 本調査は、攻撃と防御の両方において、最新のMIA手法を要約することを目的としている。
  論文  参考訳（メタデータ） (2024-11-15T08:09:28Z)
• New Emerged Security and Privacy of Pre-trained Model: a Survey and Outlook [54.24701201956833]
  セキュリティとプライバシーの問題は、事前訓練されたモデルに対するユーザーの信頼を損なう。 現在の文献は、事前訓練されたモデルに対する攻撃と防御の明確な分類を欠いている。 この分類法は、攻撃と防御をNo-Change、Input-Change、Model-Changeアプローチに分類する。
  論文  参考訳（メタデータ） (2024-11-12T10:15:33Z)
• A Survey on Machine Unlearning: Techniques and New Emerged Privacy Risks [42.3024294376025]
  機械学習は、プライバシー保護分野における研究ホットスポットである。 最近の研究者は、さまざまな機械学習アプローチの潜在的なプライバシー漏洩を発見した。 我々は、定義、実装方法、現実世界のアプリケーションなど、さまざまな面でプライバシーリスクを分析します。
  論文  参考訳（メタデータ） (2024-06-10T11:31:04Z)
• A Survey of Privacy-Preserving Model Explanations: Privacy Risks, Attacks, and Countermeasures [50.987594546912725]
  AIのプライバシと説明可能性に関する研究が増えているにもかかわらず、プライバシを保存するモデル説明にはほとんど注意が払われていない。 本稿では,モデル説明に対するプライバシ攻撃とその対策に関する,最初の徹底的な調査を紹介する。
  論文  参考訳（メタデータ） (2024-03-31T12:44:48Z)
• Privacy Leakage on DNNs: A Survey of Model Inversion Attacks and Defenses [40.77270226912783]
  Model Inversion(MI)攻撃は、トレーニングされたモデルへのアクセスを悪用することで、トレーニングデータセットに関するプライベート情報を開示する。 この分野の急速な進歩にもかかわらず、我々は既存のMI攻撃と防衛の包括的かつ体系的な概要を欠いている。 我々は,近年のDeep Neural Networks(DNN)に対する攻撃と防御を,複数のモダリティと学習タスクで詳細に分析し,比較する。
  論文  参考訳（メタデータ） (2024-02-06T14:06:23Z)
• "Why do so?" -- A Practical Perspective on Machine Learning Security [21.538956161215555]
  我々は139人の産業従事者との攻撃発生と懸念を分析した。 私たちの結果は、デプロイされた機械学習に対する現実世界の攻撃に光を当てています。 我々の研究は、現実の敵対的機械学習に関するさらなる研究の道を開くものだ。
  論文  参考訳（メタデータ） (2022-07-11T19:58:56Z)
• The Privacy Onion Effect: Memorization is Relative [76.46529413546725]
  もっとも脆弱な外接点の"層"を取り除くことで、前もって安全だった点の新たな層を同じ攻撃に晒す。 これは、機械学習のようなプライバシー強化技術が、他のユーザーのプライバシーに悪影響を及ぼす可能性を示唆している。
  論文  参考訳（メタデータ） (2022-06-21T15:25:56Z)
• Privacy Threats Analysis to Secure Federated Learning [34.679990191199224]
  産業レベルのフェデレーション学習フレームワークにおけるプライバシの脅威をセキュアな計算で分析する。 我々は,攻撃者が被害者のプライベート入力全体を逆転させることが可能であるという理論的分析を通して示す。
  論文  参考訳（メタデータ） (2021-06-24T15:02:54Z)
• Adversarial Machine Learning Attacks and Defense Methods in the Cyber Security Domain [58.30296637276011]
  本稿では,機械学習技術に基づくセキュリティソリューションに対する敵攻撃に関する最新の研究を要約する。 サイバーセキュリティドメインでエンドツーエンドの敵攻撃を実装するという、ユニークな課題を議論するのは、これが初めてである。
  論文  参考訳（メタデータ） (2020-07-05T18:22:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。