論文の概要: Shadow-Free Membership Inference Attacks: Recommender Systems Are More Vulnerable Than You Thought

• arxiv url: http://arxiv.org/abs/2405.07018v1
• Date: Sat, 11 May 2024 13:52:22 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-14 18:57:41.819209
• Title: Shadow-Free Membership Inference Attacks: Recommender Systems Are More Vulnerable Than You Thought
• Title（参考訳）: シャドウフリーの会員推論攻撃:リコメンダーシステムは思った以上に危険
• Authors: Xiaoxiao Chi, Xuyun Zhang, Yan Wang, Lianyong Qi, Amin Beheshti, Xiaolong Xu, Kim-Kwang Raymond Choo, Shuo Wang, Hongsheng Hu,
• Abstract要約: 本稿では,ユーザによる会員推論の推奨を直接活用するシャドウフリーMIAを提案する。 我々の攻撃は、ベースラインよりも偽陽性率の低い攻撃精度をはるかに向上させる。
• 参考スコア（独自算出の注目度）: 43.490918008927
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recommender systems have been successfully applied in many applications. Nonetheless, recent studies demonstrate that recommender systems are vulnerable to membership inference attacks (MIAs), leading to the leakage of users' membership privacy. However, existing MIAs relying on shadow training suffer a large performance drop when the attacker lacks knowledge of the training data distribution and the model architecture of the target recommender system. To better understand the privacy risks of recommender systems, we propose shadow-free MIAs that directly leverage a user's recommendations for membership inference. Without shadow training, the proposed attack can conduct MIAs efficiently and effectively under a practice scenario where the attacker is given only black-box access to the target recommender system. The proposed attack leverages an intuition that the recommender system personalizes a user's recommendations if his historical interactions are used by it. Thus, an attacker can infer membership privacy by determining whether the recommendations are more similar to the interactions or the general popular items. We conduct extensive experiments on benchmark datasets across various recommender systems. Remarkably, our attack achieves far better attack accuracy with low false positive rates than baselines while with a much lower computational cost.
• Abstract（参考訳）: Recommender システムは、多くのアプリケーションでうまく適用されている。 それにもかかわらず、最近の研究では、リコメンダシステムは、メンバーシップ推論攻撃(MIA)に弱いことが示されており、ユーザのメンバシッププライバシの漏洩につながっている。 しかし、既存のMIAは、攻撃者が訓練データ分布とターゲットレコメンデータシステムのモデルアーキテクチャの知識を欠いている場合、大きな性能低下を被っている。 推薦システムのプライバシリスクをよりよく理解するために,ユーザによるメンバシップ推論のレコメンデーションを直接活用するシャドーフリーMIAを提案する。 シャドウトレーニングがなければ、攻撃者にターゲットレコメンデータシステムへのブラックボックスアクセスのみを与えるプラクティスシナリオにおいて、提案した攻撃はMIAを効率的かつ効果的に実行することができる。 提案攻撃は,過去のインタラクションが使用される場合,レコメンダシステムがユーザのレコメンデーションをパーソナライズする直感を利用する。 これにより、アタッカーは、リコメンデーションがインタラクションや一般的な人気アイテムとより類似しているかどうかを判断することで、メンバーシップのプライバシを推測することができる。 様々なレコメンデーションシステムでベンチマークデータセットを広範囲に実験する。 目立ったことに、我々の攻撃は、ベースラインよりも低い偽陽性率で、計算コストをはるかに低くして、はるかに優れた攻撃精度を達成する。

関連論文リスト

• Improving the Shortest Plank: Vulnerability-Aware Adversarial Training for Robust Recommender System [60.719158008403376]
  VAT(Vulnerability-aware Adversarial Training)は、レコメンデーションシステムにおける中毒攻撃に対する防御を目的とした訓練である。 VATは、システムの適合度に基づいて、ユーザの脆弱性を推定するために、新たな脆弱性認識機能を採用している。
  論文  参考訳（メタデータ） (2024-09-26T02:24:03Z)
• User Consented Federated Recommender System Against Personalized Attribute Inference Attack [55.24441467292359]
  本稿では,ユーザの異なるプライバシーニーズを柔軟に満たすために,ユーザ合意型フェデレーションレコメンデーションシステム(UC-FedRec)を提案する。 UC-FedRecは、ユーザーが様々な要求を満たすためにプライバシー設定を自己定義し、ユーザーの同意を得てレコメンデーションを行うことを可能にする。
  論文  参考訳（メタデータ） (2023-12-23T09:44:57Z)
• Debiasing Learning for Membership Inference Attacks Against Recommender Systems [79.48353547307887]
  学習されたレコメンデータシステムは、トレーニングデータに関する情報を不注意に漏洩させ、プライバシー侵害につながる可能性がある。 我々は,推薦者システムによるプライバシー上の脅威を,会員推定のレンズを通して調査する。 本稿では,4つの主要コンポーネントを持つリコメンダシステム(DL-MIA)フレームワークに対する,メンバシップ推論攻撃に対するバイアス学習を提案する。
  論文  参考訳（メタデータ） (2022-06-24T17:57:34Z)
• Poisoning Deep Learning based Recommender Model in Federated Learning Scenarios [7.409990425668484]
  我々は、統合学習シナリオにおけるディープラーニングに基づくレコメンデータモデルをターゲットにしたアタックアプローチを設計する。 私たちのよく設計された攻撃は、ターゲットモデルに効果的に毒を盛ることができ、攻撃の有効性は最先端のものである。
  論文  参考訳（メタデータ） (2022-04-26T15:23:05Z)
• PipAttack: Poisoning Federated Recommender Systems forManipulating Item Promotion [58.870444954499014]
  一般的な実践は、分散化された連邦学習パラダイムの下でレコメンデーターシステムをサブスクライブすることである。 本稿では,対象項目の促進のために,フェデレートされたレコメンデータシステムをバックドア化するための体系的アプローチを提案する。
  論文  参考訳（メタデータ） (2021-10-21T06:48:35Z)
• Membership Inference Attacks Against Recommender Systems [33.66394989281801]
  我々は,会員推論のレンズを用いて,レコメンデータシステムのプライバシー漏洩を定量化するための最初の試みを行う。 私たちの攻撃はユーザレベルにありますが、データサンプルレベルではありません。 シャドーレコメンデータは、ラベル付きトレーニングデータを導出し、攻撃モデルを訓練する。
  論文  参考訳（メタデータ） (2021-09-16T15:19:19Z)
• Data Poisoning Attacks to Deep Learning Based Recommender Systems [26.743631067729677]
  深層学習に基づくレコメンダシステムに対するデータ中毒攻撃に関する最初の体系的研究を行う。 攻撃者の目標は、攻撃者選択対象項目が多くのユーザーに推奨されるように推奨システムを操作することです。 この目標を達成するために、この攻撃は、注意深い評価を施した偽ユーザーをレコメンダシステムへ注入する。
  論文  参考訳（メタデータ） (2021-01-07T17:32:56Z)
• Knowledge Transfer via Pre-training for Recommendation: A Review and Prospect [89.91745908462417]
  実験による推薦システムに対する事前学習の利点を示す。 事前学習を伴うレコメンデータシステムの今後の研究に向けて,いくつかの将来的な方向性について論じる。
  論文  参考訳（メタデータ） (2020-09-19T13:06:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。