論文の概要: Practical Relative Order Attack in Deep Ranking

• arxiv url: http://arxiv.org/abs/2103.05248v1
• Date: Tue, 9 Mar 2021 06:41:18 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-10 15:03:07.778513
• Title: Practical Relative Order Attack in Deep Ranking
• Title（参考訳）: ディープランキングにおける実用的相対順序攻撃
• Authors: Mo Zhou, Le Wang, Zhenxing Niu, Qilin Zhang, Yinghui Xu, Nanning Zheng, Gang Hua
• Abstract要約: ディープランキングシステム、すなわちオーダーアタックに対する新しい敵の攻撃を定式化します。 順序攻撃は、攻撃者が特定した順列に応じて、選択された候補群間の相対順序を暗黙的に変更する。 主要なeコマースプラットフォームでうまく実装されている。
• 参考スコア（独自算出の注目度）: 99.332629807873
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent studies unveil the vulnerabilities of deep ranking models, where an imperceptible perturbation can trigger dramatic changes in the ranking result. While previous attempts focus on manipulating absolute ranks of certain candidates, the possibility of adjusting their relative order remains under-explored. In this paper, we formulate a new adversarial attack against deep ranking systems, i.e., the Order Attack, which covertly alters the relative order among a selected set of candidates according to an attacker-specified permutation, with limited interference to other unrelated candidates. Specifically, it is formulated as a triplet-style loss imposing an inequality chain reflecting the specified permutation. However, direct optimization of such white-box objective is infeasible in a real-world attack scenario due to various black-box limitations. To cope with them, we propose a Short-range Ranking Correlation metric as a surrogate objective for black-box Order Attack to approximate the white-box method. The Order Attack is evaluated on the Fashion-MNIST and Stanford-Online-Products datasets under both white-box and black-box threat models. The black-box attack is also successfully implemented on a major e-commerce platform. Comprehensive experimental evaluations demonstrate the effectiveness of the proposed methods, revealing a new type of ranking model vulnerability.
• Abstract（参考訳）: 最近の研究では、知覚不能な摂動がランキング結果の劇的な変化を引き起こす可能性がある深層ランキングモデルの脆弱性が明らかにされている。 以前の試みでは、特定の候補者の絶対ランクの操作に焦点が当てられていたが、相対順序を調整する可能性はまだ未定のままである。 本稿では,攻撃者特定順列に従って選択された候補の相対順序を隠蔽的に変更し,他の非関連候補に限定的に干渉する,ディープランキングシステムに対する新たな敵攻撃,すなわちオーダーアタックを定式化する。 具体的には、指定された置換を反映する不等鎖を引き起こす三重項式損失として定式化される。 しかし、このようなホワイトボックスの目的の直接的最適化は、ブラックボックスの制限により、現実世界のアタックシナリオでは実現不可能である。 それらに対処するため, ホワイトボックス法を近似するブラックボックスオーダー攻撃のサーロゲート目標として, 短距離ランキング相関指標を提案する。 Order Attackは、ホワイトボックスとブラックボックスの脅威モデルの両方の下で、Fashion-MNISTとStanford-Online-Productsデータセットで評価される。 ブラックボックス攻撃は、主要なeコマースプラットフォームでもうまく実装されている。 包括的実験評価により,提案手法の有効性が示され,新しいタイプのランキングモデルの脆弱性が明らかになった。

関連論文リスト

• Query Efficient Cross-Dataset Transferable Black-Box Attack on Action Recognition [99.29804193431823]
  ブラックボックスの敵攻撃は、行動認識システムに現実的な脅威をもたらす。 本稿では,摂動を発生させることにより,これらの欠点に対処する新たな行動認識攻撃を提案する。 提案手法は,最先端のクエリベースおよび転送ベース攻撃と比較して,8%,12%の偽装率を達成する。
  論文  参考訳（メタデータ） (2022-11-23T17:47:49Z)
• Order-Disorder: Imitation Adversarial Attacks for Black-box Neural Ranking Models [48.93128542994217]
  ブラックボックスニューラルパスランキングモデルに対する模倣逆攻撃を提案する。 重要クエリ/候補を列挙することで,対象経路ランキングモデルを透明化し,模倣することができることを示す。 また,一対の目的関数によって強化された革新的な勾配に基づく攻撃手法を提案し,敵の引き金を発生させる。
  論文  参考訳（メタデータ） (2022-09-14T09:10:07Z)
• A Tale of HodgeRank and Spectral Method: Target Attack Against Rank Aggregation Is the Fixed Point of Adversarial Game [153.74942025516853]
  ランクアグリゲーション手法の本質的な脆弱性は文献ではよく研究されていない。 本稿では,ペアデータの変更による集計結果の指定を希望する目的のある敵に焦点をあてる。 提案した標的攻撃戦略の有効性は,一連の玩具シミュレーションと実世界のデータ実験によって実証された。
  論文  参考訳（メタデータ） (2022-09-13T05:59:02Z)
• Unrestricted Black-box Adversarial Attack Using GAN with Limited Queries [1.7205106391379026]
  GANを用いた非制限逆例を生成するための新しい手法を提案する。 提案手法は遅延空間における決定に基づく攻撃の利点を効果的に活用する。 提案手法は,ブラックボックス設定における限定クエリを用いた分類モデルのロバスト性を評価するのに有効であることを示す。
  論文  参考訳（メタデータ） (2022-08-24T15:28:46Z)
• Query-Efficient and Scalable Black-Box Adversarial Attacks on Discrete Sequential Data via Bayesian Optimization [10.246596695310176]
  ブラックボックス設定における離散的な逐次データに基づくモデルに対する敵攻撃の問題に焦点をあてる。 我々はベイジアン最適化を用いたクエリ効率の良いブラックボックス攻撃を提案し、重要な位置を動的に計算する。 そこで我々は,摂動サイズを小さくした逆例を求めるポスト最適化アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2022-06-17T06:11:36Z)
• Adversarial Attack and Defense in Deep Ranking [100.17641539999055]
  本稿では,敵対的摂動によって選抜された候補者のランクを引き上げたり下げたりできる,ディープランキングシステムに対する2つの攻撃を提案する。 逆に、全ての攻撃に対するランキングモデルロバスト性を改善するために、反崩壊三重項防御法が提案されている。 MNIST, Fashion-MNIST, CUB200-2011, CARS196およびStanford Online Productsデータセットを用いて, 敵のランク付け攻撃と防御を評価した。
  論文  参考訳（メタデータ） (2021-06-07T13:41:45Z)
• Adversarial Ranking Attack and Defense [36.221005892593595]
  本稿では,敵対的摂動によって選抜された候補者のランクを引き上げたり下げたりできる,ディープランキングシステムに対する2つの攻撃を提案する。 また,全ての攻撃を同時に軽減し,ロバスト性向上のための防御手法も提案している。 我々は,MNIST,Fashion-MNIST,Stanford-Online-Productsなどのデータセットを用いて,敵のランク付け攻撃と防御を評価した。
  論文  参考訳（メタデータ） (2020-02-26T04:03:14Z)
• Towards Query-Efficient Black-Box Adversary with Zeroth-Order Natural Gradient Descent [92.4348499398224]
  ブラックボックスの敵攻撃手法は、実用性や単純さから特に注目されている。 敵攻撃を設計するためのゼロ階自然勾配降下法(ZO-NGD)を提案する。 ZO-NGDは、最先端攻撃法と比較して、モデルクエリの複雑さが大幅に低い。
  論文  参考訳（メタデータ） (2020-02-18T21:48:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。