論文の概要: Revisiting Membership Inference Under Realistic Assumptions

• arxiv url: http://arxiv.org/abs/2005.10881v5
• Date: Wed, 13 Jan 2021 20:44:44 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-30 23:13:43.979182
• Title: Revisiting Membership Inference Under Realistic Assumptions
• Title（参考訳）: 現実的前提下における会員推定の再検討
• Authors: Bargav Jayaraman, Lingxiao Wang, Katherine Knipmeyer, Quanquan Gu, David Evans
• Abstract要約: 従来研究でよく用いられていた仮定のいくつかが緩和された環境での会員推定について検討する。 この設定は、研究者が通常考慮するバランスのとれた事前設定よりも現実的である。 我々は、トレーニングセットメンバーに対応する入力が損失関数の局所最小値に近いという直感に基づく新しい推論攻撃を開発する。
• 参考スコア（独自算出の注目度）: 87.13552321332988
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: We study membership inference in settings where some of the assumptions typically used in previous research are relaxed. First, we consider skewed priors, to cover cases such as when only a small fraction of the candidate pool targeted by the adversary are actually members and develop a PPV-based metric suitable for this setting. This setting is more realistic than the balanced prior setting typically considered by researchers. Second, we consider adversaries that select inference thresholds according to their attack goals and develop a threshold selection procedure that improves inference attacks. Since previous inference attacks fail in imbalanced prior setting, we develop a new inference attack based on the intuition that inputs corresponding to training set members will be near a local minimum in the loss function, and show that an attack that combines this with thresholds on the per-instance loss can achieve high PPV even in settings where other attacks appear to be ineffective. Code for our experiments can be found here: https://github.com/bargavj/EvaluatingDPML.
• Abstract（参考訳）: 従来研究でよく用いられていた仮定のいくつかが緩和された環境での会員推定について検討する。 まず, 相手を対象とする候補プールのごく一部のみが実際にメンバーであるような場合を対象とし, この設定に適したppvベースのメトリクスを開発する。 この設定は、研究者が通常考慮するバランスのとれた事前設定よりも現実的である。 第2に,攻撃目標に応じて推論しきい値を選択する敵を検討し,推論攻撃を改善するしきい値選択手順を開発する。 従来の推論攻撃は事前設定が不均衡であるため、トレーニングセットメンバーに対応する入力が損失関数の局所最小値に近いという直観に基づく新たな推論攻撃を開発し、これと入力毎損失のしきい値を組み合わせた攻撃が、他の攻撃が有効でないと思われる設定でも高いppvを達成可能であることを示す。 実験のコードは、https://github.com/bargavj/evaluatingdpml。

関連論文リスト

• Minimax rates of convergence for nonparametric regression under adversarial attacks [3.244945627960733]
  非パラメトリック回帰設定における敵攻撃に対する堅牢性の限界を理論的に解析する。 我々の研究は、入力中の敵攻撃時の最小値レートが2項の和と同じであることを明らかにした。
  論文  参考訳（メタデータ） (2024-10-12T07:11:38Z)
• AdvQDet: Detecting Query-Based Adversarial Attacks with Adversarial Contrastive Prompt Tuning [93.77763753231338]
  CLIP画像エンコーダを微調整し、2つの中間対向クエリに対して同様の埋め込みを抽出するために、ACPT(Adversarial Contrastive Prompt Tuning)を提案する。 我々は,ACPTが7つの最先端クエリベースの攻撃を検出できることを示す。 また,ACPTは3種類のアダプティブアタックに対して堅牢であることを示す。
  論文  参考訳（メタデータ） (2024-08-04T09:53:50Z)
• The Pitfalls and Promise of Conformal Inference Under Adversarial Attacks [90.52808174102157]
  医療画像や自律運転などの安全クリティカルな応用においては、高い敵の堅牢性を維持し、潜在的敵の攻撃から保護することが不可欠である。 敵対的に訓練されたモデルに固有の不確実性に関して、注目すべき知識ギャップが残っている。 本研究では,共形予測(CP)の性能を標準対向攻撃の文脈で検証することにより,ディープラーニングモデルの不確実性について検討する。
  論文  参考訳（メタデータ） (2024-05-14T18:05:19Z)
• AttackBench: Evaluating Gradient-based Attacks for Adversarial Examples [26.37278338032268]
  アドリシャルな例は、通常、勾配ベースの攻撃に最適化される。 それぞれ異なる実験装置を用いて前任者を上回る性能を発揮する。 これは過度に最適化され、偏見のある評価を提供する。
  論文  参考訳（メタデータ） (2024-04-30T11:19:05Z)
• Membership inference attack with relative decision boundary distance [9.764492069791991]
  メンバシップ推論攻撃は、マシンラーニングにおける最も一般的なプライバシ攻撃の1つだ。 ラベルのみの設定において,ミューティクラス適応型メンバシップ推論攻撃と呼ばれる新たな攻撃手法を提案する。
  論文  参考訳（メタデータ） (2023-06-07T02:29:58Z)
• Implicit Poisoning Attacks in Two-Agent Reinforcement Learning: Adversarial Policies for Training-Time Attacks [21.97069271045167]
  標的毒攻撃では、攻撃者はエージェントと環境の相互作用を操作して、ターゲットポリシーと呼ばれる利害政策を採用するように強制する。 本研究では,攻撃者がエージェントの有効環境を暗黙的に毒殺する2エージェント環境での標的毒殺攻撃について,仲間の方針を変更して検討した。 最適な攻撃を設計するための最適化フレームワークを開発し、攻撃のコストは、ピアエージェントが想定するデフォルトポリシーからどの程度逸脱するかを測定する。
  論文  参考訳（メタデータ） (2023-02-27T14:52:15Z)
• Versatile Weight Attack via Flipping Limited Bits [68.45224286690932]
  本研究では,展開段階におけるモデルパラメータを変更する新たな攻撃パラダイムについて検討する。 有効性とステルスネスの目標を考慮し、ビットフリップに基づく重み攻撃を行うための一般的な定式化を提供する。 SSA(Single sample attack)とTSA(Singr sample attack)の2例を報告した。
  論文  参考訳（メタデータ） (2022-07-25T03:24:58Z)
• Zero-Query Transfer Attacks on Context-Aware Object Detectors [95.18656036716972]
  敵は、ディープニューラルネットワークが誤った分類結果を生成するような摂動画像を攻撃する。 自然の多目的シーンに対する敵対的攻撃を防御するための有望なアプローチは、文脈整合性チェックを課すことである。 本稿では,コンテキスト整合性チェックを回避可能な,コンテキスト整合性攻撃を生成するための最初のアプローチを提案する。
  論文  参考訳（メタデータ） (2022-03-29T04:33:06Z)
• Membership Inference Attacks From First Principles [24.10746844866869]
  メンバシップ推論攻撃では、トレーニングされた機械学習モデルをクエリして、モデルのトレーニングデータセットに特定のサンプルが含まれているかどうかを予測することが可能になる。 これらの攻撃は現在、平均ケースの"精度"メトリクスを使用して評価されており、攻撃がトレーニングセットの任意のメンバを確実に識別できるかどうかを特徴付けることができない。 攻撃は偽陽性率の低い偽陽性率で計算することで評価されるべきであり、このような評価を行った場合、ほとんどの事前攻撃は不十分である。 我々の攻撃は偽陽性率の低いところで10倍強力であり、既存の指標に対する以前の攻撃を厳密に支配している。
  論文  参考訳（メタデータ） (2021-12-07T08:47:00Z)
• Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
  本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。 本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。 ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
  論文  参考訳（メタデータ） (2021-10-24T05:46:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。