論文の概要: Towards Adversarially Robust Recommendation from Adaptive Fraudster
Detection
- arxiv url: http://arxiv.org/abs/2211.11534v3
- Date: Sat, 20 May 2023 08:30:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-24 05:09:56.176004
- Title: Towards Adversarially Robust Recommendation from Adaptive Fraudster
Detection
- Title(参考訳): 適応型フレーダ検出からの逆ロバスト勧告に向けて
- Authors: Yuni Lai, Yulin Zhu, Wenqi Fan, Xiaoge Zhang, Kai Zhou
- Abstract要約: GNNベースのレコメンデータシステムであるGraphRfiが提案され、注入された偽ユーザの影響を効果的に緩和することを示した。
我々は、GraphRfiが不正検出コンポーネントの教師付き性質のため、攻撃に対して脆弱なままであることを示す。
特に,GNNベースとMFベースの両方のレコメンデーターシステムに対して,強力な毒殺攻撃であるMetaCを提案する。
- 参考スコア(独自算出の注目度): 9.756305372960423
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The robustness of recommender systems under node injection attacks has
garnered significant attention. Recently, GraphRfi, a GNN-based recommender
system, was proposed and shown to effectively mitigate the impact of injected
fake users. However, we demonstrate that GraphRfi remains vulnerable to attacks
due to the supervised nature of its fraudster detection component, where
obtaining clean labels is challenging in practice. In particular, we propose a
powerful poisoning attack, MetaC, against both GNN-based and MF-based
recommender systems. Furthermore, we analyze why GraphRfi fails under such an
attack. Then, based on our insights obtained from vulnerability analysis, we
design an adaptive fraudster detection module that explicitly considers label
uncertainty. This module can serve as a plug-in for different recommender
systems, resulting in a robust framework named PDR. Comprehensive experiments
show that our defense approach outperforms other benchmark methods under
attacks. Overall, our research presents an effective framework for integrating
fraudster detection into recommendation systems to achieve adversarial
robustness.
- Abstract(参考訳): ノードインジェクション攻撃によるリコメンダシステムの堅牢性は大きな注目を集めている。
近年,GNNベースのレコメンデーションシステムであるGraphRfiが提案され,インジェクトされた偽ユーザの影響を効果的に緩和することを示した。
しかし我々は、GraphRfiが不正検出コンポーネントの監督された性質のため、攻撃に対して脆弱であることを示し、クリーンなラベルを取得することは実際は困難である。
特に,GNNベースおよびMFベースのレコメンデーターシステムに対する強力な毒殺攻撃であるMetaCを提案する。
さらに、このような攻撃でGraphRfiがフェールする理由を分析する。
そして,脆弱性分析から得られた知見に基づいて,ラベルの不確実性を明確に考慮した適応型不正検出モジュールを設計する。
このモジュールは、異なるレコメンデータシステムのプラグインとして機能し、PDRと呼ばれる堅牢なフレームワークとなる。
総合的な実験によって、我々の防御アプローチは攻撃下の他のベンチマークメソッドよりも優れています。
本研究は,不正検出をレコメンデーションシステムに統合し,敵対的堅牢性を実現するための効果的な枠組みを提案する。
関連論文リスト
- Node-aware Bi-smoothing: Certified Robustness against Graph Injection
Attacks [5.660584039688214]
ディープグラフラーニング(DGL)は、さまざまな分野において重要なテクニックとして登場した。
近年の研究では、脱走や中毒攻撃に対する感受性など、DGLモデルの脆弱性が明らかにされている。
本稿では,GAAに対する一般ノード分類タスクにおいて,最も堅牢なアプローチであるノード認識バイスムーシングフレームワークを提案する。
論文 参考訳(メタデータ) (2023-12-07T01:24:48Z) - Adversarial Camouflage for Node Injection Attack on Graphs [64.5888846198005]
グラフニューラルネットワーク(GNN)に対するノードインジェクション攻撃は、GNNのパフォーマンスを高い攻撃成功率で低下させる能力のため、近年注目を集めている。
本研究は,これらの攻撃が現実的なシナリオでしばしば失敗することを示す。
これを解決するため,我々はカモフラージュノードインジェクション攻撃(camouflage node Injection attack)に取り組んだ。
論文 参考訳(メタデータ) (2022-08-03T02:48:23Z) - PipAttack: Poisoning Federated Recommender Systems forManipulating Item
Promotion [58.870444954499014]
一般的な実践は、分散化された連邦学習パラダイムの下でレコメンデーターシステムをサブスクライブすることである。
本稿では,対象項目の促進のために,フェデレートされたレコメンデータシステムをバックドア化するための体系的アプローチを提案する。
論文 参考訳(メタデータ) (2021-10-21T06:48:35Z) - Indicators of Attack Failure: Debugging and Improving Optimization of
Adversarial Examples [29.385242714424624]
機械学習モデルの頑健さを敵の例に評価することは難しい問題である。
我々は、勾配に基づく攻撃の最適化において共通の障害を明らかにするための定量的指標のセットを定義する。
実験により,現在の対向ロバスト性評価を可視化し,デバッグし,改善するために,提案した障害指標が有効であることを示す。
論文 参考訳(メタデータ) (2021-06-18T06:57:58Z) - Data Poisoning Attacks to Deep Learning Based Recommender Systems [26.743631067729677]
深層学習に基づくレコメンダシステムに対するデータ中毒攻撃に関する最初の体系的研究を行う。
攻撃者の目標は、攻撃者選択対象項目が多くのユーザーに推奨されるように推奨システムを操作することです。
この目標を達成するために、この攻撃は、注意深い評価を施した偽ユーザーをレコメンダシステムへ注入する。
論文 参考訳(メタデータ) (2021-01-07T17:32:56Z) - Detection of Adversarial Supports in Few-shot Classifiers Using Feature
Preserving Autoencoders and Self-Similarity [89.26308254637702]
敵対的なサポートセットを強調するための検出戦略を提案する。
我々は,特徴保存型オートエンコーダフィルタリングと,この検出を行うサポートセットの自己相似性の概念を利用する。
提案手法は攻撃非依存であり, 最善の知識まで, 数発分類器の検出を探索する最初の方法である。
論文 参考訳(メタデータ) (2020-12-09T14:13:41Z) - No Need to Know Physics: Resilience of Process-based Model-free Anomaly
Detection for Industrial Control Systems [95.54151664013011]
本稿では,システムの物理的特性に反する逆スプーフ信号を生成するための新しい枠組みを提案する。
トップセキュリティカンファレンスで公表された4つの異常検知器を分析した。
論文 参考訳(メタデータ) (2020-12-07T11:02:44Z) - On Detecting Data Pollution Attacks On Recommender Systems Using
Sequential GANs [9.497749999148107]
悪意のあるアクターは、悪意のあるデータポイントを注入することでレコメンダシステムの出力を低下させる動機があるかもしれない。
悪意のあるデータポイントを特定するための半教師付き攻撃検出アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-12-04T10:31:28Z) - Information Obfuscation of Graph Neural Networks [96.8421624921384]
本稿では,グラフ構造化データを用いた学習において,情報難読化による機密属性保護の問題について検討する。
本稿では,全変動量とワッサーシュタイン距離を交互に学習することで,事前決定された機密属性を局所的にフィルタリングするフレームワークを提案する。
論文 参考訳(メタデータ) (2020-09-28T17:55:04Z) - Bayesian Optimization with Machine Learning Algorithms Towards Anomaly
Detection [66.05992706105224]
本稿では,ベイズ最適化手法を用いた効果的な異常検出フレームワークを提案する。
ISCX 2012データセットを用いて検討したアルゴリズムの性能を評価する。
実験結果から, 精度, 精度, 低コストアラームレート, リコールの観点から, 提案手法の有効性が示された。
論文 参考訳(メタデータ) (2020-08-05T19:29:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。