論文の概要: Targeted Data Poisoning Attack on News Recommendation System
- arxiv url: http://arxiv.org/abs/2203.03560v1
- Date: Fri, 4 Mar 2022 16:01:11 GMT
- ステータス: 処理完了
- システム内更新日: 2022-03-08 15:15:53.468748
- Title: Targeted Data Poisoning Attack on News Recommendation System
- Title（参考訳）: ニュースレコメンデーションシステムにおけるターゲットデータ中毒攻撃
- Authors: Xudong Zhang, Zan Wang, Jingke Zhao, Lanjun Wang
- Abstract要約: ニュースレコメンデーションシステム(NRS)は多くのオンラインニュースサービスの基本技術となっている。
対象ニュースのランクを操作できる閲覧ニュースの内容に摂動を与えるため,NRSに毒を盛る新しい手法を提案する。
探索空間を縮小する2段階階層モデルを含む強化学習フレームワークであるTDP-CPを設計する。
- 参考スコア（独自算出の注目度）: 10.1794489884216
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: News Recommendation System(NRS) has become a fundamental technology to many
online news services. Meanwhile, several studies show that recommendation
systems(RS) are vulnerable to data poisoning attacks, and the attackers have
the ability to mislead the system to perform as their desires. A widely studied
attack approach, injecting fake users, can be applied on the NRS when the NRS
is treated the same as the other systems whose items are fixed. However, in the
NRS, as each item (i.e. news) is more informative, we propose a novel approach
to poison the NRS, which is to perturb contents of some browsed news that
results in the manipulation of the rank of the target news. Intuitively, an
attack is useless if it is highly likely to be caught, i.e., exposed. To
address this, we introduce a notion of the exposure risk and propose a novel
problem of attacking a history news dataset by means of perturbations where the
goal is to maximize the manipulation of the target news rank while keeping the
risk of exposure under a given budget. We design a reinforcement learning
framework, called TDP-CP, which contains a two-stage hierarchical model to
reduce the searching space. Meanwhile, influence estimation is also applied to
save the time on retraining the NRS for rewards. We test the performance of
TDP-CP under three NRSs and on different target news. Our experiments show that
TDP-CP can increase the rank of the target news successfully with a limited
exposure budget.
- Abstract（参考訳）: ニュースレコメンデーションシステム(NRS)は多くのオンラインニュースサービスの基本技術となっている。
一方で、いくつかの研究は、レコメンデーションシステム(rs)がデータ中毒攻撃に弱いことを示しており、攻撃者はシステムを欲望として実行するように誤解させることができる。
偽ユーザを注入する攻撃アプローチは、NRSがアイテムが固定された他のシステムと同じ扱いを受けた場合、NRSに適用することができる。
しかし、NRSでは、各項目(すなわちニュース)がより情報的であるため、ターゲットニュースのランクを操作できる閲覧ニュースの内容の摂動を抑えるため、NRSに毒を盛る新たなアプローチを提案する。
直感的には、攻撃が捕捉される可能性が高い場合、すなわち露出した場合は役に立たない。
そこで本稿では,露出リスクの概念を導入し,所定の予算下での露出リスクを維持しつつ,目標とするニュースランクの操作を最大化することを目的とした摂動を用いて,ヒストリーニュースデータセットを攻撃する新たな課題を提案する。
探索空間を縮小する2段階階層モデルを含む強化学習フレームワークであるTDP-CPを設計する。
また、報酬のためにNRSを再訓練する時間を節約するために影響推定を適用する。
3つのNRSと異なるターゲットニュースに基づいてTDP-CPの性能を検証した。
実験の結果,TDP-CPは限られた露出予算で目標ニュースのランクを上げることができることがわかった。
関連論文リスト
- Not So Robust After All: Evaluating the Robustness of Deep Neural
Networks to Unseen Adversarial Attacks [5.024667090792856]
ディープニューラルネットワーク(DNN)は、分類、認識、予測など、さまざまなアプリケーションで注目を集めている。
従来のDNNの基本的属性は、入力データの修正に対する脆弱性である。
本研究の目的は、敵攻撃に対する現代の防御機構の有効性と一般化に挑戦することである。
論文 参考訳（メタデータ） (2023-08-12T05:21:34Z) - Uncertainty-Aware Reward-based Deep Reinforcement Learning for Intent
Analysis of Social Media Information [17.25399815431264]
フェイクニュースのスプレッドラーのタイプを、その意図に基づいて取り除くことが重要だ。
フェイクニュースの正しい意図を最もよく識別できる意図分類フレームワークを提案する。
論文 参考訳（メタデータ） (2023-02-19T00:54:33Z) - PipAttack: Poisoning Federated Recommender Systems forManipulating Item
Promotion [58.870444954499014]
一般的な実践は、分散化された連邦学習パラダイムの下でレコメンデーターシステムをサブスクライブすることである。
本稿では,対象項目の促進のために,フェデレートされたレコメンデータシステムをバックドア化するための体系的アプローチを提案する。
論文 参考訳（メタデータ） (2021-10-21T06:48:35Z) - The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。
敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
論文 参考訳（メタデータ） (2021-06-26T10:50:07Z) - A Targeted Attack on Black-Box Neural Machine Translation with Parallel
Data Poisoning [60.826628282900955]
ブラックボックスNMTシステムに対する標的攻撃は、並列トレーニングデータのごく一部を毒殺することで実現可能であることを示す。
この攻撃は、システムのトレーニングデータを形成するために、クローリングされたWebドキュメントのターゲットの破損によって現実的に実現可能であることを示す。
大量の並列データで訓練された最先端のシステムでさえ、この攻撃は驚くほど低予算で(50%以上の成功率で)成功している。
論文 参考訳（メタデータ） (2020-11-02T01:52:46Z) - DeepDyve: Dynamic Verification for Deep Neural Networks [16.20238078882485]
DeepDyveでは、トレーニング済みのニューラルネットワークを使用している。
我々は,DeepDyveにおけるリスク/オーバヘッドトレードオフの最適化を実現するために,効率的かつ効率的なアーキテクチャとタスク探索手法を開発した。
論文 参考訳（メタデータ） (2020-09-21T07:58:18Z) - Adversarial Exposure Attack on Diabetic Retinopathy Imagery Grading [75.73437831338907]
糖尿病網膜症(DR)は、世界中の視覚障害の主要な原因である。
診断を助けるために、多くの最先端の作業が強力なディープニューラルネットワーク(DNN)を構築し、網膜基底画像(RFI)を介してDRを自動的にグレードする。
RFIは一般的に、不正グレードにつながる可能性のあるカメラ露出の問題によって影響を受ける。
本稿では,敵攻撃の観点からこの問題を考察する。
論文 参考訳（メタデータ） (2020-09-19T13:47:33Z) - Measurement-driven Security Analysis of Imperceptible Impersonation
Attacks [54.727945432381716]
本稿では,ディープニューラルネットワークを用いた顔認識システムの実用性について検討する。
皮膚の色,性別,年齢などの要因が,特定の標的に対する攻撃を行う能力に影響を及ぼすことを示す。
また,攻撃者の顔のさまざまなポーズや視点に対して堅牢なユニバーサルアタックを構築する可能性についても検討した。
論文 参考訳（メタデータ） (2020-08-26T19:27:27Z) - With Great Dispersion Comes Greater Resilience: Efficient Poisoning
Attacks and Defenses for Linear Regression Models [28.680562906669216]
我々は,攻撃者が有害データセットによる回帰学習の結果にどう干渉するかを分析する。
Noptと呼ばれる我々の攻撃は、同じ量の有毒なデータポイントでより大きなエラーを発生させることができる。
新たな防御アルゴリズムであるProdaは,誤りの低減に有効であることを示す。
論文 参考訳（メタデータ） (2020-06-21T22:36:42Z) - Transferable, Controllable, and Inconspicuous Adversarial Attacks on
Person Re-identification With Deep Mis-Ranking [83.48804199140758]
システム出力のランキングを乱す学習とミスランクの定式化を提案する。
また,新たなマルチステージネットワークアーキテクチャを開発することで,バックボックス攻撃を行う。
そこで本手法では, 異なるマルチショットサンプリングにより, 悪意のある画素数を制御することができる。
論文 参考訳（メタデータ） (2020-04-08T18:48:29Z) - Adversarial Ranking Attack and Defense [36.221005892593595]
本稿では,敵対的摂動によって選抜された候補者のランクを引き上げたり下げたりできる,ディープランキングシステムに対する2つの攻撃を提案する。
また,全ての攻撃を同時に軽減し,ロバスト性向上のための防御手法も提案している。
我々は,MNIST,Fashion-MNIST,Stanford-Online-Productsなどのデータセットを用いて,敵のランク付け攻撃と防御を評価した。
論文 参考訳（メタデータ） (2020-02-26T04:03:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。