論文の概要: Improving the Shortest Plank: Vulnerability-Aware Adversarial Training for Robust Recommender System

• arxiv url: http://arxiv.org/abs/2409.17476v1
• Date: Thu, 26 Sep 2024 02:24:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-10 14:58:01.255293
• Title: Improving the Shortest Plank: Vulnerability-Aware Adversarial Training for Robust Recommender System
• Title（参考訳）: 最短プランの改善:ロバストレコメンダシステムのための脆弱性認識型対人訓練
• Authors: Kaike Zhang, Qi Cao, Yunfan Wu, Fei Sun, Huawei Shen, Xueqi Cheng,
• Abstract要約: VAT(Vulnerability-aware Adversarial Training)は、レコメンデーションシステムにおける中毒攻撃に対する防御を目的とした訓練である。 VATは、システムの適合度に基づいて、ユーザの脆弱性を推定するために、新たな脆弱性認識機能を採用している。
• 参考スコア（独自算出の注目度）: 60.719158008403376
• License:
• Abstract: Recommender systems play a pivotal role in mitigating information overload in various fields. Nonetheless, the inherent openness of these systems introduces vulnerabilities, allowing attackers to insert fake users into the system's training data to skew the exposure of certain items, known as poisoning attacks. Adversarial training has emerged as a notable defense mechanism against such poisoning attacks within recommender systems. Existing adversarial training methods apply perturbations of the same magnitude across all users to enhance system robustness against attacks. Yet, in reality, we find that attacks often affect only a subset of users who are vulnerable. These perturbations of indiscriminate magnitude make it difficult to balance effective protection for vulnerable users without degrading recommendation quality for those who are not affected. To address this issue, our research delves into understanding user vulnerability. Considering that poisoning attacks pollute the training data, we note that the higher degree to which a recommender system fits users' training data correlates with an increased likelihood of users incorporating attack information, indicating their vulnerability. Leveraging these insights, we introduce the Vulnerability-aware Adversarial Training (VAT), designed to defend against poisoning attacks in recommender systems. VAT employs a novel vulnerability-aware function to estimate users' vulnerability based on the degree to which the system fits them. Guided by this estimation, VAT applies perturbations of adaptive magnitude to each user, not only reducing the success ratio of attacks but also preserving, and potentially enhancing, the quality of recommendations. Comprehensive experiments confirm VAT's superior defensive capabilities across different recommendation models and against various types of attacks.
• Abstract（参考訳）: レコメンダシステムは、様々な分野の情報過負荷を軽減する上で重要な役割を担っている。 それにもかかわらず、これらのシステムの固有のオープン性は脆弱性を導入し、攻撃者はシステムのトレーニングデータに偽のユーザーを挿入して、毒殺攻撃として知られる特定のアイテムを露出させる。 敵の訓練は、レコメンデーターシステム内のこのような中毒攻撃に対する防衛機構として注目されている。 既存の敵の訓練方法は、攻撃に対するシステムの堅牢性を高めるために、全ユーザに対して同じ大きさの摂動を適用している。 しかし実際には、攻撃は脆弱性のあるユーザーのごく一部にしか影響しないことが多い。 このような無差別な規模の摂動は、影響を受けない人たちの推奨品質を低下させることなく、脆弱なユーザに対する効果的な保護のバランスをとるのを難しくする。 この問題に対処するため、我々の研究はユーザーの脆弱性を理解することに注力している。 有害な攻撃がトレーニングデータを汚染していることを考えると、推奨者がトレーニングデータに適合するほど、攻撃情報が組み込まれている可能性が高くなり、その脆弱性が示される。 これらの知見を生かして、リコメンデータシステムにおける毒殺攻撃に対する防御を目的とした、脆弱性認識型適応訓練(VAT)を導入する。 VATは、システムの適合度に基づいて、ユーザの脆弱性を推定するために、新たな脆弱性認識機能を採用している。 この推定によって導かれたVATは、攻撃の成功率を減少させるだけでなく、レコメンデーションの品質を低下させ、潜在的に向上させる。 総合的な実験により、様々なレコメンデーションモデルと様々な種類の攻撃に対するVATの優れた防御能力が確認された。

関連論文リスト

• Rethinking the Vulnerabilities of Face Recognition Systems:From a Practical Perspective [53.24281798458074]
  顔認識システム(FRS)は、監視やユーザー認証を含む重要なアプリケーションにますます統合されている。 最近の研究によると、FRSの脆弱性は敵(例えば、敵パッチ攻撃)やバックドア攻撃(例えば、データ中毒の訓練)であることが明らかになっている。
  論文  参考訳（メタデータ） (2024-05-21T13:34:23Z)
• Shadow-Free Membership Inference Attacks: Recommender Systems Are More Vulnerable Than You Thought [43.490918008927]
  本稿では,ユーザによる会員推論の推奨を直接活用するシャドウフリーMIAを提案する。 我々の攻撃は、ベースラインよりも偽陽性率の低い攻撃精度をはるかに向上させる。
  論文  参考訳（メタデータ） (2024-05-11T13:52:22Z)
• Poisoning Federated Recommender Systems with Fake Users [48.70867241987739]
  フェデレーテッド・レコメンデーションは、フェデレーテッド・ラーニングにおける顕著なユースケースである。 本稿では,攻撃対象のアイテムを宣伝するために,PisonFRSという偽ユーザによる新たな毒殺攻撃を導入する。 複数の実世界のデータセットに対する実験では、PoisonFRSが攻撃者-チョセンアイテムを真のユーザの大部分に効果的にプロモートできることが示されている。
  論文  参考訳（メタデータ） (2024-02-18T16:34:12Z)
• Poisoning Deep Learning based Recommender Model in Federated Learning Scenarios [7.409990425668484]
  我々は、統合学習シナリオにおけるディープラーニングに基づくレコメンデータモデルをターゲットにしたアタックアプローチを設計する。 私たちのよく設計された攻撃は、ターゲットモデルに効果的に毒を盛ることができ、攻撃の有効性は最先端のものである。
  論文  参考訳（メタデータ） (2022-04-26T15:23:05Z)
• PipAttack: Poisoning Federated Recommender Systems forManipulating Item Promotion [58.870444954499014]
  一般的な実践は、分散化された連邦学習パラダイムの下でレコメンデーターシステムをサブスクライブすることである。 本稿では,対象項目の促進のために,フェデレートされたレコメンデータシステムをバックドア化するための体系的アプローチを提案する。
  論文  参考訳（メタデータ） (2021-10-21T06:48:35Z)
• Membership Inference Attacks Against Recommender Systems [33.66394989281801]
  我々は,会員推論のレンズを用いて,レコメンデータシステムのプライバシー漏洩を定量化するための最初の試みを行う。 私たちの攻撃はユーザレベルにありますが、データサンプルレベルではありません。 シャドーレコメンデータは、ラベル付きトレーニングデータを導出し、攻撃モデルを訓練する。
  論文  参考訳（メタデータ） (2021-09-16T15:19:19Z)
• Adversarial defense for automatic speaker verification by cascaded self-supervised learning models [101.42920161993455]
  ますます悪意のある攻撃者は、自動話者検証(ASV)システムで敵攻撃を仕掛けようとする。 本稿では,逐次的自己教師付き学習モデルに基づく標準的かつ攻撃非依存な手法を提案する。 実験により, 本手法は効果的な防御性能を実現し, 敵攻撃に対抗できることを示した。
  論文  参考訳（メタデータ） (2021-02-14T01:56:43Z)
• Investigating Robustness of Adversarial Samples Detection for Automatic Speaker Verification [78.51092318750102]
  本研究は,ASVシステムに対して,別個の検出ネットワークによる敵攻撃から防御することを提案する。 VGGライクな二分分類検出器を導入し、対向サンプルの検出に有効であることが実証された。
  論文  参考訳（メタデータ） (2020-06-11T04:31:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。