論文の概要: Adversarial Attacks and Identity Leakage in De-Identification Systems: An Empirical Study

• arxiv url: http://arxiv.org/abs/2609.27022v1
• Date: Tue, 22 Sep 2026 20:07:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:17.746825
• Title: Adversarial Attacks and Identity Leakage in De-Identification Systems: An Empirical Study
• Title（参考訳）: 識別解除システムにおける敵攻撃と身元漏洩 : 実証的研究
• Abstract要約: 本研究では,現実的な非識別フレームワークにおける識別エンコーダに対する敵攻撃の影響について検討する。 敵の例を微調整することで、この効果が歪みに基づく攻撃に対して緩和されることを示す。 我々の緩和は、敵の雑音に対してはるかに頑健でありながら、その機能を保ちながら、識別を解除するシステムをもたらす。
• 参考スコア（独自算出の注目度）: 38.802018414676645
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: In this paper, we investigate the impact of adversarial attacks on identity encoders within a realistic de-identification framework. Our experiments show that the transferability of attacks transfers from an external surrogate model to the system model (e.g., CosFace to ArcFace) allows the adversary to cause identity information to leak in a sufficiently sensitive face recognition system. We present experimental evidence and propose strategies to mitigate this vulnerability. Specifically, we show how fine-tuning on adversarial examples helps to mitigate this effect for distortion-based attacks (i.e., snow, fog, etc.), while a simple low-pass filter can attenuate the effect of adversarial noise without affecting the de-identified images. Our mitigation results in a de-identification system that preserves its functionality while being significantly more robust to adversarial noise.
• Abstract（参考訳）: 本稿では,現実的な非識別フレームワークにおいて,敵攻撃がアイデンティティエンコーダに与える影響について検討する。 実験により,外部サロゲートモデルからシステムモデル(例えばCosFaceからArcFace)への攻撃の転送可能性を示す。 我々は、この脆弱性を緩和するための実験的な証拠と戦略を提案する。 具体的には、逆方向の例を微調整することで、歪みに基づく攻撃(例えば、雪、霧など)に対するこの効果を緩和し、一方、単純な低域通過フィルタは、逆方向の雑音の影響を非特定画像に影響を及ぼすことなく軽減することができることを示す。 我々の緩和は、敵の雑音に対してはるかに頑健でありながら、その機能を保ちながら、識別を解除するシステムをもたらす。

関連論文リスト

• DecoyFace: Beyond Obfuscation via Controllable and Imperceptible Identity Misdirection for Privacy-Preserving Face Recognition [7.701542549152122]
  Split Face Recognitionはクライアント側の計算を減らしますが、中間機能をインバージョンアタックとHBCサーバによる不正解析に公開しています。 既存のプライバシ保護顔認証方式は、主に無許可の復元に抵抗することを目的としている。 提案するDecoyFaceは,不許可なデコイ指向のフレームワークである。
  論文  参考訳（メタデータ） (2026-07-20T03:19:00Z)
• Boundary-targeted Membership Inference Attacks on Safety Classifiers [70.20833439671131]
  安全分類器は、セルフハームとメンタルヘルスの議論を含むセンシティブなデータセットに基づいて訓練される。 低信頼例を識別する新たな境界目標選択戦略を導入する。 実験により、相手は会話の19%を安全分類器が5%の偽陽性率でユーザーの苦痛を示すようにフラグ付けして回復できることが示された。 これは最先端のMIAメソッドだけで攻撃するより3.5ドル高い。
  論文  参考訳（メタデータ） (2026-05-21T12:05:22Z)
• Diffusion-Driven Deceptive Patches: Adversarial Manipulation and Forensic Detection in Facial Identity Verification [0.20973843981871568]
  この研究は、顔の生体認証システムに侵入するための敵対パッチの生成、精製、評価のためのエンドツーエンドパイプラインを提供する。 顔画像に修正パッチを適用し、自然な視覚特性を維持しながら認識システムを回避する能力をテストする。 このパイプラインは、対向条件下での顔認証と表情認識におけるアイデンティティ分類、キャプション結果、および脆弱性の変化を評価する。
  論文  参考訳（メタデータ） (2026-01-14T19:12:54Z)
• ID-Guard: A Universal Framework for Combating Facial Manipulation via Breaking Identification [60.73617868629575]
  深層学習に基づく顔操作の誤用は、公民権に重大な脅威をもたらす。 この不正行為を防止するため、操作過程を妨害する積極的な防御法が提案されている。 本稿では,IDガード(ID-Guard)と呼ばれる顔の操作に対処するための普遍的な枠組みを提案する。
  論文  参考訳（メタデータ） (2024-09-20T09:30:08Z)
• Versatile Backdoor Attack with Visible, Semantic, Sample-Specific, and Compatible Triggers [38.67988745745853]
  我々はtextbfVisible, textbfSemantic, textbfSample-lang, textbfCompatible (VSSC) と呼ばれる新しいトリガを提案する。 VSSCトリガは、効果的でステルス的で堅牢な同時実行を実現しており、対応するオブジェクトを使用して物理的シナリオに効果的にデプロイすることもできる。
  論文  参考訳（メタデータ） (2023-06-01T15:42:06Z)
• Curse or Redemption? How Data Heterogeneity Affects the Robustness of Federated Learning [51.15273664903583]
  データの不均一性は、フェデレートラーニングにおける重要な特徴の1つとして認識されているが、しばしば敵対的攻撃に対する堅牢性のレンズで見過ごされる。 本稿では, 複合学習におけるバックドア攻撃の影響を, 総合的な実験を通じて評価し, 理解することを目的とした。
  論文  参考訳（メタデータ） (2021-02-01T06:06:21Z)
• Temporal Sparse Adversarial Attack on Sequence-based Gait Recognition [56.844587127848854]
  このような攻撃に対して,最先端の歩行認識モデルが脆弱であることを示す。 生成した対向ネットワークに基づくアーキテクチャを用いて、対向的な高品質な歩行シルエットやビデオフレームを意味的に生成する。 実験結果から, フレームの1分の1しか攻撃されない場合, 対象モデルの精度は劇的に低下することがわかった。
  論文  参考訳（メタデータ） (2020-02-22T10:08:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。