論文の概要: Holistic risk assessment of inference attacks in machine learning

• arxiv url: http://arxiv.org/abs/2212.10628v1
• Date: Thu, 15 Dec 2022 08:14:18 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-25 02:52:25.413344
• Title: Holistic risk assessment of inference attacks in machine learning
• Title（参考訳）: 機械学習における推論攻撃の総合的リスク評価
• Authors: Yang Yang
• Abstract要約: 本稿では,機械学習モデルに対する異なる推論攻撃の全体的リスク評価を行う。 AlexNet、ResNet18、Simple CNNを含む3つのモデルアーキテクチャを使用して、合計12のターゲットモデルが4つのデータセットでトレーニングされている。
• 参考スコア（独自算出の注目度）: 4.493526120297708
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As machine learning expanding application, there are more and more unignorable privacy and safety issues. Especially inference attacks against Machine Learning models allow adversaries to infer sensitive information about the target model, such as training data, model parameters, etc. Inference attacks can lead to serious consequences, including violating individuals privacy, compromising the intellectual property of the owner of the machine learning model. As far as concerned, researchers have studied and analyzed in depth several types of inference attacks, albeit in isolation, but there is still a lack of a holistic rick assessment of inference attacks against machine learning models, such as their application in different scenarios, the common factors affecting the performance of these attacks and the relationship among the attacks. As a result, this paper performs a holistic risk assessment of different inference attacks against Machine Learning models. This paper focuses on three kinds of representative attacks: membership inference attack, attribute inference attack and model stealing attack. And a threat model taxonomy is established. A total of 12 target models using three model architectures, including AlexNet, ResNet18 and Simple CNN, are trained on four datasets, namely CelebA, UTKFace, STL10 and FMNIST.
• Abstract（参考訳）: 機械学習がアプリケーションを拡大するにつれて、プライバシと安全性の問題はますます増えています。 特に機械学習モデルに対する推論攻撃では、トレーニングデータやモデルパラメータなど、ターゲットモデルに関する機密情報を敵が推測することができる。 推論攻撃は個人のプライバシーを侵害し、機械学習モデルの所有者の知的財産権を侵害するなど、深刻な結果をもたらす可能性がある。 研究者らは、いくつかの種類の推論攻撃の研究と分析を行っているが、さまざまなシナリオにおける推論攻撃、これらの攻撃のパフォーマンスに影響を与える一般的な要因、攻撃間の関係など、機械学習モデルに対する推論攻撃に関する総合的なリック評価はいまだに存在しない。 そこで本研究では,機械学習モデルに対する様々な推論攻撃の総合的リスク評価を行う。 本稿では,メンバシップ推論攻撃,属性推論攻撃,モデルステルス攻撃の3種類の代表的な攻撃に焦点を当てた。 そして、脅威モデル分類が確立される。 AlexNet、ResNet18、Simple CNNを含む3つのモデルアーキテクチャを使用した12のターゲットモデルは、CelebA、UTKFace、STL10、FMNISTという4つのデータセットでトレーニングされている。

関連論文リスト

• Privacy Backdoors: Enhancing Membership Inference through Poisoning Pre-trained Models [112.48136829374741]
  本稿では、プライバシーバックドア攻撃という新たな脆弱性を明らかにします。 被害者がバックドアモデルに微調整を行った場合、トレーニングデータは通常のモデルに微調整された場合よりも大幅に高い速度でリークされる。 我々の発見は、機械学習コミュニティにおける重要なプライバシー上の懸念を浮き彫りにし、オープンソースの事前訓練モデルの使用における安全性プロトコルの再評価を求めている。
  論文  参考訳（メタデータ） (2024-04-01T16:50:54Z)
• Unified Physical-Digital Face Attack Detection [66.14645299430157]
  顔認識(FR)システムは物理的(印刷写真)とデジタル(ディープフェイク)攻撃に悩まされることがある。 以前の関連する作業では、両方の状況が同時に考慮されることはめったにありません。 視覚言語モデル(VLM)に基づく一元攻撃検出フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-01-31T09:38:44Z)
• Improved Membership Inference Attacks Against Language Classification Models [0.0]
  分類モデルに対するメンバシップ推論攻撃を実行するための新しいフレームワークを提案する。 本手法は,単一攻撃モデルやクラスラベル毎の攻撃モデルよりも精度が高いことを示す。
  論文  参考訳（メタデータ） (2023-10-11T06:09:48Z)
• Investigating Human-Identifiable Features Hidden in Adversarial Perturbations [54.39726653562144]
  我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。 対人摂動における人間の識別可能な特徴を同定する。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
  論文  参考訳（メタデータ） (2023-09-28T22:31:29Z)
• Can Adversarial Examples Be Parsed to Reveal Victim Model Information? [62.814751479749695]
  本研究では,データ固有の敵インスタンスから,データに依存しない被害者モデル(VM)情報を推測できるかどうかを問う。 我々は,135件の被害者モデルから生成された7種類の攻撃に対して,敵攻撃のデータセットを収集する。 単純な教師付きモデル解析ネットワーク(MPN)は、見えない敵攻撃からVM属性を推測できることを示す。
  論文  参考訳（メタデータ） (2023-03-13T21:21:49Z)
• Are Your Sensitive Attributes Private? Novel Model Inversion Attribute Inference Attacks on Classification Models [22.569705869469814]
  トレーニングデータ中のレコードの非感受性属性を敵が知る場合のモデル反転攻撃に着目した。 我々は,信頼性スコアに基づくモデル逆属性推論攻撃を考案し,その精度を著しく向上させる。 また、ターゲットレコードの他の(非感受性の)属性が敵に未知なシナリオにまで攻撃を拡大します。
  論文  参考訳（メタデータ） (2022-01-23T21:27:20Z)
• Enhanced Membership Inference Attacks against Machine Learning Models [9.26208227402571]
  メンバーシップ推論攻撃は、モデルがトレーニングセット内の個々のデータポイントについてリークする個人情報の定量化に使用される。 我々は,AUCスコアを高い精度で達成できる新たな攻撃アルゴリズムを導き,その性能に影響を及ぼすさまざまな要因を強調した。 我々のアルゴリズムは、モデルにおけるプライバシ損失の極めて正確な近似を捉え、機械学習モデルにおけるプライバシリスクの正確かつ詳細な推定を行うためのツールとして使用することができる。
  論文  参考訳（メタデータ） (2021-11-18T13:31:22Z)
• ML-Doctor: Holistic Risk Assessment of Inference Attacks Against Machine Learning Models [64.03398193325572]
  機械学習(ML)モデルに対する推論攻撃により、敵はトレーニングデータやモデルパラメータなどを学ぶことができる。 私たちは、メンバシップ推論、モデル反転、属性推論、モデル盗難の4つの攻撃に集中しています。 私たちの分析では、MLモデルオーナがモデルをデプロイするリスクを評価することができる、モジュール化された再使用可能なソフトウェアであるML-Doctorに依存しています。
  論文  参考訳（メタデータ） (2021-02-04T11:35:13Z)
• Learning to Attack: Towards Textual Adversarial Attacking in Real-world Situations [81.82518920087175]
  敵攻撃は、敵の例でディープニューラルネットワークを騙すことを目的としている。 本稿では、攻撃履歴から学習し、より効率的に攻撃を開始することができる強化学習に基づく攻撃モデルを提案する。
  論文  参考訳（メタデータ） (2020-09-19T09:12:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。