論文の概要: RAID: An In-Training Defense against Attribute Inference Attacks in Recommender Systems

• arxiv url: http://arxiv.org/abs/2504.11510v1
• Date: Tue, 15 Apr 2025 10:24:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-17 14:40:58.034560
• Title: RAID: An In-Training Defense against Attribute Inference Attacks in Recommender Systems
• Title（参考訳）: RAID:Recommenderシステムにおける属性推論攻撃に対する訓練中の防御
• Authors: Xiaohua Feng, Yuyuan Li, Fengyuan Yu, Ke Xiong, Junjie Fang, Li Zhang, Tianyu Du, Chaochao Chen,
• Abstract要約: RAIDは、レコメンデーションシステムにおける属性推論攻撃に対する訓練中の防御手法である。 推奨目的に加えて,保護属性の分布がクラスラベルから独立することを保証するための防衛目的を定義する。
• 参考スコア（独自算出の注目度）: 20.165247039993574
• License:
• Abstract: In various networks and mobile applications, users are highly susceptible to attribute inference attacks, with particularly prevalent occurrences in recommender systems. Attackers exploit partially exposed user profiles in recommendation models, such as user embeddings, to infer private attributes of target users, such as gender and political views. The goal of defenders is to mitigate the effectiveness of these attacks while maintaining recommendation performance. Most existing defense methods, such as differential privacy and attribute unlearning, focus on post-training settings, which limits their capability of utilizing training data to preserve recommendation performance. Although adversarial training extends defenses to in-training settings, it often struggles with convergence due to unstable training processes. In this paper, we propose RAID, an in-training defense method against attribute inference attacks in recommender systems. In addition to the recommendation objective, we define a defensive objective to ensure that the distribution of protected attributes becomes independent of class labels, making users indistinguishable from attribute inference attacks. Specifically, this defensive objective aims to solve a constrained Wasserstein barycenter problem to identify the centroid distribution that makes the attribute indistinguishable while complying with recommendation performance constraints. To optimize our proposed objective, we use optimal transport to align users with the centroid distribution. We conduct extensive experiments on four real-world datasets to evaluate RAID. The experimental results validate the effectiveness of RAID and demonstrate its significant superiority over existing methods in multiple aspects.
• Abstract（参考訳）: 様々なネットワークやモバイルアプリケーションにおいて、ユーザーは属性推論攻撃に非常に敏感であり、特にレコメンデーションシステムにおいて顕著である。 攻撃者は、ユーザー埋め込みのようなレコメンデーションモデルで部分的に露出したユーザープロファイルを利用して、性別や政治的見解などのターゲットユーザーの個人属性を推測する。 ディフェンダーの目標は、レコメンデーションパフォーマンスを維持しながら、これらの攻撃の有効性を緩和することである。 差分プライバシーや属性アンラーニングといった既存の防御手法は、トレーニング後の設定に重点を置いており、レコメンデーションパフォーマンスを維持するためにトレーニングデータを活用する能力を制限する。 敵の訓練は防御を訓練中の設定まで拡張するが、不安定な訓練プロセスのため、しばしば収束に苦しむ。 本稿では,レコメンデータシステムにおける属性推論攻撃に対する訓練中の防御手法であるRAIDを提案する。 推奨目的に加えて,保護属性の分布がクラスラベルから独立することを保証するための防御目標を定義し,属性推測攻撃と区別できないようにした。 具体的には,制約付きワッサースタインバリセンタ問題の解決を目標とし,推奨性能制約に従って属性を区別不能にするセントロイド分布を同定する。 提案する目的を最適化するために,ユーザをセントロイド分布に合わせるために最適なトランスポートを利用する。 我々は、RAIDを評価するために、4つの実世界のデータセットについて広範な実験を行った。 実験により, RAIDの有効性を検証し, 既存手法に比較して有意な優位性を示した。

関連論文リスト

• Improving the Shortest Plank: Vulnerability-Aware Adversarial Training for Robust Recommender System [60.719158008403376]
  VAT(Vulnerability-aware Adversarial Training)は、レコメンデーションシステムにおける中毒攻撃に対する防御を目的とした訓練である。 VATは、システムの適合度に基づいて、ユーザの脆弱性を推定するために、新たな脆弱性認識機能を採用している。
  論文  参考訳（メタデータ） (2024-09-26T02:24:03Z)
• Robust Federated Learning Mitigates Client-side Training Data Distribution Inference Attacks [48.70867241987739]
  InferGuardは、クライアント側のトレーニングデータ分散推論攻撃に対する防御を目的とした、新しいビザンチン・ロバスト集約ルールである。 実験の結果,我々の防衛機構はクライアント側のトレーニングデータ分布推定攻撃に対する防御に極めて有効であることが示唆された。
  論文  参考訳（メタデータ） (2024-03-05T17:41:35Z)
• Optimal Zero-Shot Detector for Multi-Armed Attacks [30.906457338347447]
  本稿では,悪意あるアクターが多武器攻撃戦略を用いてデータサンプルを操作するシナリオについて考察する。 私たちの中心的な目的は、入力の変更を検出してデータを保護することです。 我々はこれらの検出器による決定を最適に集約する革新的な情報理論防衛手法を導出する。
  論文  参考訳（メタデータ） (2024-02-24T13:08:39Z)
• Discriminative Adversarial Unlearning [40.30974185546541]
  我々は、min-max最適化パラダイムの確立した原則に基づいて、新しい機械学習フレームワークを導入する。 我々は、訓練されたモデルから特定のサンプルの学習を容易にするために、強力なメンバーシップ推論攻撃(MIA)の能力を利用する。 提案アルゴリズムは,スクラッチから再学習する理想的なベンチマークを,ランダムサンプルの忘れ方とクラスワイドの忘れ方の両方に近似する。
  論文  参考訳（メタデータ） (2024-02-10T03:04:57Z)
• DAD++: Improved Data-free Test Time Adversarial Defense [12.606555446261668]
  本稿では,検出・修正フレームワークを含むDAD(Data-free Adversarial Defense)を提案する。 提案手法の有効性を示すため,いくつかのデータセットとネットワークアーキテクチャについて幅広い実験と改善を行った。 私たちのDAD++は、クリーンな精度を最小限に抑えながら、様々な敵攻撃に対して印象的なパフォーマンスを提供します。
  論文  参考訳（メタデータ） (2023-09-10T20:39:53Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Purifier: Defending Data Inference Attacks via Transforming Confidence Scores [27.330482508047428]
  そこで本研究では,PURIFIER(PURIFIER)を用いたメンバシップ推論攻撃に対する防御手法を提案する。 PURIFIERはメンバーシップ推論攻撃を高い効率と効率で防御する。 PURIFIERは、敵のモデル反転攻撃や属性推論攻撃の防御にも有効である。
  論文  参考訳（メタデータ） (2022-12-01T16:09:50Z)
• Effective Targeted Attacks for Adversarial Self-Supervised Learning [58.14233572578723]
  ラベル情報を持たないモデルにおいて堅牢性を達成する手段として、教師なしの敵訓練(AT)が強調されている。 本稿では,敵のSSLフレームワークを効果的に生成するために,敵の攻撃を標的とした新たな正のマイニングを提案する。 提案手法は,非コントラスト型SSLフレームワークに適用した場合のロバストネスの大幅な向上と,コントラスト型SSLフレームワークによるロバストネスの向上を示す。
  論文  参考訳（メタデータ） (2022-10-19T11:43:39Z)
• Debiasing Learning for Membership Inference Attacks Against Recommender Systems [79.48353547307887]
  学習されたレコメンデータシステムは、トレーニングデータに関する情報を不注意に漏洩させ、プライバシー侵害につながる可能性がある。 我々は,推薦者システムによるプライバシー上の脅威を,会員推定のレンズを通して調査する。 本稿では,4つの主要コンポーネントを持つリコメンダシステム(DL-MIA)フレームワークに対する,メンバシップ推論攻撃に対するバイアス学習を提案する。
  論文  参考訳（メタデータ） (2022-06-24T17:57:34Z)
• LTU Attacker for Membership Inference [23.266710407178078]
  我々は,会員推定攻撃に対する予測モデルを守るという課題に対処する。 ユーティリティとプライバシの両方を、アタッカーと評価器を含む外部装置で評価する。 特定の条件下では、単純な攻撃戦略によって、LTU攻撃者でさえ、プライバシー損失の低い境界を達成できることを証明します。
  論文  参考訳（メタデータ） (2022-02-04T18:06:21Z)
• Guided Adversarial Attack for Evaluating and Enhancing Adversarial Defenses [59.58128343334556]
  我々は、より適切な勾配方向を見つけ、攻撃効果を高め、より効率的な対人訓練をもたらす標準損失に緩和項を導入する。 本稿では, クリーン画像の関数マッピングを用いて, 敵生成を誘導するGAMA ( Guided Adversarial Margin Attack) を提案する。 また,一段防衛における最先端性能を実現するためのGAT ( Guided Adversarial Training) を提案する。
  論文  参考訳（メタデータ） (2020-11-30T16:39:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。