論文の概要: Poisoning Attack against Estimating from Pairwise Comparisons

• arxiv url: http://arxiv.org/abs/2107.01854v1
• Date: Mon, 5 Jul 2021 08:16:01 GMT
• ステータス: 処理完了
• システム内更新日: 2021-07-06 15:09:57.546329
• Title: Poisoning Attack against Estimating from Pairwise Comparisons
• Title（参考訳）: 対比較による推定に対する中毒攻撃
• Authors: Ke Ma and Qianqian Xu and Jinshan Zeng and Xiaochun Cao and Qingming Huang
• Abstract要約: 攻撃者はランクリストを操作するための強い動機と動機を持っている。 ペアワイズランキングアルゴリズムに対するデータ中毒攻撃は、ローダとアタッカーの間の動的および静的ゲームとして形式化することができる。 本稿では、2つの効率的な毒殺攻撃アルゴリズムを提案し、関連する理論的保証を確立する。
• 参考スコア（独自算出の注目度）: 140.9033911097995
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: As pairwise ranking becomes broadly employed for elections, sports competitions, recommendations, and so on, attackers have strong motivation and incentives to manipulate the ranking list. They could inject malicious comparisons into the training data to fool the victim. Such a technique is called poisoning attack in regression and classification tasks. In this paper, to the best of our knowledge, we initiate the first systematic investigation of data poisoning attacks on pairwise ranking algorithms, which can be formalized as the dynamic and static games between the ranker and the attacker and can be modeled as certain kinds of integer programming problems. To break the computational hurdle of the underlying integer programming problems, we reformulate them into the distributionally robust optimization (DRO) problems, which are computationally tractable. Based on such DRO formulations, we propose two efficient poisoning attack algorithms and establish the associated theoretical guarantees. The effectiveness of the suggested poisoning attack strategies is demonstrated by a series of toy simulations and several real data experiments. These experimental results show that the proposed methods can significantly reduce the performance of the ranker in the sense that the correlation between the true ranking list and the aggregated results can be decreased dramatically.
• Abstract（参考訳）: 選挙やスポーツ競技、レコメンデーションなどでペアのランキングが広く採用されるようになると、攻撃者はランキングを操作する動機やインセンティブが強くなる。 被害者を騙すために 訓練データに悪質な比較を注入する このような手法は回帰や分類タスクにおいて毒殺攻撃と呼ばれる。 本稿では,本研究の知識を最大限に活用するために,ランク付けアルゴリズムにおけるデータ中毒攻撃を初めて体系的に検討し,ランク付けと攻撃者間の動的および静的ゲームとして形式化し,ある種の整数プログラミング問題としてモデル化する。 基礎となる整数プログラミング問題の計算ハードルを打破するため、計算的に抽出可能な分散ロバスト最適化(DRO)問題に修正する。 このようなdro定式化に基づき, 2つの効率的な中毒攻撃アルゴリズムを提案し, 関連する理論的保証を確立する。 提案した毒殺対策の有効性は,一連の玩具シミュレーションと実データ実験によって実証された。 これらの実験結果から,提案手法は,真のランキングリストと集計結果との相関を劇的に低減できるという意味で,ランキング器の性能を著しく低下させることができることが示された。

関連論文リスト

• Sequential Manipulation Against Rank Aggregation: Theory and Algorithm [119.57122943187086]
  脆弱なデータ収集プロセスに対するオンライン攻撃を活用します。 ゲーム理論の観点からは、対決シナリオは分布的に堅牢なゲームとして定式化される。 提案手法は,ランクアグリゲーション手法の結果を逐次的に操作する。
  論文  参考訳（メタデータ） (2024-07-02T03:31:21Z)
• Outlier Robust Adversarial Training [57.06824365801612]
  本研究では,アウトリー・ロバスト・アドバイザリアル・トレーニング(ORAT)を紹介する。 ORATは、強靭なランクに基づく損失関数を持つ対向訓練の2レベル最適化の定式化に基づいている。 ORATの学習目的はバイナリ分類における$mathcalH$-consistencyを満たすことが示され、これは敵の0/1損失に対する適切なサロゲートとして確立されている。
  論文  参考訳（メタデータ） (2023-09-10T21:36:38Z)
• Adversarial Attacks on Online Learning to Rank with Stochastic Click Models [34.725468803108754]
  本稿では,オンライン学習に対する敵対的攻撃のランク付けに関する最初の研究を提案する。 敵の目標は、オンライン学習がアルゴリズムをランク付けしてランキングリストの上位にターゲット項目を置くことを誤解し、サブ線形攻撃コストで時間水平線をT$に設定することである。
  論文  参考訳（メタデータ） (2023-05-30T17:05:49Z)
• A Tale of HodgeRank and Spectral Method: Target Attack Against Rank Aggregation Is the Fixed Point of Adversarial Game [153.74942025516853]
  ランクアグリゲーション手法の本質的な脆弱性は文献ではよく研究されていない。 本稿では,ペアデータの変更による集計結果の指定を希望する目的のある敵に焦点をあてる。 提案した標的攻撃戦略の有効性は,一連の玩具シミュレーションと実世界のデータ実験によって実証された。
  論文  参考訳（メタデータ） (2022-09-13T05:59:02Z)
• Detection and Mitigation of Byzantine Attacks in Distributed Training [24.951227624475443]
  ワーカノードの異常なビザンチン挙動は、トレーニングを脱線させ、推論の品質を損なう可能性がある。 最近の研究は、幅広い攻撃モデルを検討し、歪んだ勾配を補正するために頑健な集約と/または計算冗長性を探究している。 本研究では、強力な攻撃モデルについて検討する:$q$ omniscient adversaries with full knowledge of the defense protocol that can change from iteration to iteration to weak one: $q$ randomly selected adversaries with limited collusion abilities。
  論文  参考訳（メタデータ） (2022-08-17T05:49:52Z)
• Versatile Weight Attack via Flipping Limited Bits [68.45224286690932]
  本研究では,展開段階におけるモデルパラメータを変更する新たな攻撃パラダイムについて検討する。 有効性とステルスネスの目標を考慮し、ビットフリップに基づく重み攻撃を行うための一般的な定式化を提供する。 SSA(Single sample attack)とTSA(Singr sample attack)の2例を報告した。
  論文  参考訳（メタデータ） (2022-07-25T03:24:58Z)
• Distributed Adversarial Training to Robustify Deep Neural Networks at Scale [100.19539096465101]
  現在のディープニューラルネットワーク(DNN)は、入力に対する敵の摂動が分類を変更したり操作したりする敵の攻撃に対して脆弱である。 このような攻撃を防御するために、敵の訓練(AT)として知られる効果的なアプローチが、堅牢な訓練を緩和するために示されている。 複数のマシンにまたがって実装された大規模バッチ対逆トレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-06-13T15:39:43Z)
• The Hammer and the Nut: Is Bilevel Optimization Really Needed to Poison Linear Classifiers? [27.701693158702753]
  データ中毒は特に厄介な中毒攻撃のサブセットである。 直感的だが効率的なデータ中毒対策の枠組みを提案する。 我々のフレームワークは攻撃者の目的に匹敵する、あるいはさらに優れたパフォーマンスを達成します。
  論文  参考訳（メタデータ） (2021-03-23T09:08:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。