論文の概要: Hide in Plain Sight: Clean-Label Backdoor for Auditing Membership Inference

• arxiv url: http://arxiv.org/abs/2411.16763v1
• Date: Sun, 24 Nov 2024 20:56:18 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-27 13:36:18.233272
• Title: Hide in Plain Sight: Clean-Label Backdoor for Auditing Membership Inference
• Title（参考訳）: 清潔なバックドア「Hide in Plain Sight」
• Authors: Depeng Chen, Hao Chen, Hulin Jin, Jie Cui, Hong Zhong,
• Abstract要約: 本研究では,ステルスデータ監査のための新しいクリーンラベルバックドア方式を提案する。 我々のアプローチでは、ターゲットモデルの振る舞いを模倣するシャドウモデルによって生成される最適なトリガを用いる。 提案手法は,ブラックボックスアクセスによるロバストなデータ監査を可能にし,多様なデータセット間で高い攻撃成功率を達成する。
• 参考スコア（独自算出の注目度）: 16.893873979953593
• License:
• Abstract: Membership inference attacks (MIAs) are critical tools for assessing privacy risks and ensuring compliance with regulations like the General Data Protection Regulation (GDPR). However, their potential for auditing unauthorized use of data remains under explored. To bridge this gap, we propose a novel clean-label backdoor-based approach for MIAs, designed specifically for robust and stealthy data auditing. Unlike conventional methods that rely on detectable poisoned samples with altered labels, our approach retains natural labels, enhancing stealthiness even at low poisoning rates. Our approach employs an optimal trigger generated by a shadow model that mimics the target model's behavior. This design minimizes the feature-space distance between triggered samples and the source class while preserving the original data labels. The result is a powerful and undetectable auditing mechanism that overcomes limitations of existing approaches, such as label inconsistencies and visual artifacts in poisoned samples. The proposed method enables robust data auditing through black-box access, achieving high attack success rates across diverse datasets and model architectures. Additionally, it addresses challenges related to trigger stealthiness and poisoning durability, establishing itself as a practical and effective solution for data auditing. Comprehensive experiments validate the efficacy and generalizability of our approach, outperforming several baseline methods in both stealth and attack success metrics.
• Abstract（参考訳）: メンバーシップ推論攻撃(MIA)は、プライバシーリスクを評価し、GDPR(General Data Protection Regulation)のような規則に準拠するための重要なツールである。 しかし、不正なデータの使用を監査する可能性はまだ検討されていない。 このギャップを埋めるために、我々は、堅牢でステルスなデータ監査に特化したMIAのための新しいクリーンラベルバックドアベースのアプローチを提案する。 ラベルを変えて検出可能な毒を採取する従来の方法とは異なり、本手法は天然のラベルを保持し、低毒性率でもステルス性を高める。 我々のアプローチでは、ターゲットモデルの振る舞いを模倣するシャドウモデルによって生成される最適なトリガを用いる。 この設計は、元のデータラベルを保存しながら、トリガサンプルとソースクラス間の特徴空間距離を最小化する。 その結果、ラベルの不整合や有毒試料の視覚的アーティファクトといった既存のアプローチの限界を克服する、強力で検出不能な監査機構が実現した。 提案手法は,ブラックボックスアクセスによるロバストなデータ監査を可能にし,多様なデータセットやモデルアーキテクチャで高い攻撃成功率を達成する。 さらに、ステルスネスと中毒の耐久性の引き金となる課題に対処し、データ監査の実践的で効果的なソリューションとしての地位を確立している。 総合的な実験により、我々のアプローチの有効性と一般化性が検証され、ステルスとアタック成功の両指標において、いくつかのベースライン法よりも優れていた。

関連論文リスト

• BoBa: Boosting Backdoor Detection through Data Distribution Inference in Federated Learning [26.714674251814586]
  フェデレーテッド・ラーニングは、その分散した性質のため、毒殺の被害を受けやすい。 本稿では,この問題を解決するために,分布認識型異常検出機構であるBoBaを提案する。
  論文  参考訳（メタデータ） (2024-07-12T19:38:42Z)
• Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
  新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。 拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。 MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
  論文  参考訳（メタデータ） (2024-05-01T12:03:39Z)
• Can We Trust the Unlabeled Target Data? Towards Backdoor Attack and Defense on Model Adaptation [120.42853706967188]
  本研究は, よく設計された毒物標的データによるモデル適応に対するバックドア攻撃の可能性を探る。 既存の適応アルゴリズムと組み合わせたMixAdaptというプラグイン・アンド・プレイ方式を提案する。
  論文  参考訳（メタデータ） (2024-01-11T16:42:10Z)
• DataElixir: Purifying Poisoned Dataset to Mitigate Backdoor Attacks via Diffusion Models [12.42597979026873]
  汚染されたデータセットを浄化するための新しい衛生手法であるDataElixirを提案する。 我々は拡散モデルを利用してトリガーの特徴を排除し、良性の特徴を復元し、毒を盛ったサンプルを良性のものに変える。 9つの人気のある攻撃で実施された実験は、DataElixirが様々な複雑な攻撃を効果的に軽減し、良識の正確さに最小限の影響を与えることを示した。
  論文  参考訳（メタデータ） (2023-12-18T09:40:38Z)
• Model Stealing Attack against Graph Classification with Authenticity, Uncertainty and Diversity [80.16488817177182]
  GNNは、クエリ許可を通じてターゲットモデルを複製するための悪行であるモデル盗難攻撃に対して脆弱である。 異なるシナリオに対応するために,3つのモデルステルス攻撃を導入する。
  論文  参考訳（メタデータ） (2023-12-18T05:42:31Z)
• FedCC: Robust Federated Learning against Model Poisoning Attacks [0.0]
  フェデレートラーニング(Federated Learning)は、学習モデルにおけるプライバシの問題に対処するように設計されている。 新しい分散パラダイムは、データのプライバシを保護するが、サーバがローカルデータセットにアクセスできないため、攻撃面を区別する。
  論文  参考訳（メタデータ） (2022-12-05T01:52:32Z)
• WSSOD: A New Pipeline for Weakly- and Semi-Supervised Object Detection [75.80075054706079]
  弱機能および半教師付きオブジェクト検出フレームワーク(WSSOD)を提案する。 エージェント検出器は、まず関節データセット上でトレーニングされ、弱注釈画像上で擬似境界ボックスを予測するために使用される。 提案フレームワークはPASCAL-VOC と MSCOCO のベンチマークで顕著な性能を示し,完全教師付き環境で得られたものと同等の性能を達成している。
  論文  参考訳（メタデータ） (2021-05-21T11:58:50Z)
• Black-Box Dissector: Towards Erasing-based Hard-Label Model Stealing Attack [90.6076825117532]
  モデル盗み攻撃は、被害者のターゲットモデルの能力を盗む代替モデルを作ることを目的としている。 既存の手法のほとんどは、最も現実的なシナリオでは利用できない被害者モデルからの完全な確率出力に依存する。 被害者モデルからハードラベルに隠された情報をマイニングするためのCAM駆動の消去戦略を含む,Emphblack-box Dissectorと呼ばれる新しいハードラベルモデルステアリング手法を提案する。
  論文  参考訳（メタデータ） (2021-05-03T04:12:31Z)
• Detecting Anomalies Through Contrast in Heterogeneous Data [21.56932906044264]
  先行モデルの欠点に対処するために,コントラスト学習に基づく異種異常検出器を提案する。 我々のモデルは非対称オートエンコーダを使い、大きなarity カテゴリ変数を効果的に処理できる。 木材取引における異常検出におけるモデルの有効性を示す質的研究を行った。
  論文  参考訳（メタデータ） (2021-04-02T17:21:12Z)
• Exploiting Sample Uncertainty for Domain Adaptive Person Re-Identification [137.9939571408506]
  各サンプルに割り当てられた擬似ラベルの信頼性を推定・活用し,ノイズラベルの影響を緩和する。 不確実性に基づく最適化は大幅な改善をもたらし、ベンチマークデータセットにおける最先端のパフォーマンスを達成します。
  論文  参考訳（メタデータ） (2020-12-16T04:09:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。