論文の概要: RetrievalGuard: Provably Robust 1-Nearest Neighbor Image Retrieval
- arxiv url: http://arxiv.org/abs/2206.11225v1
- Date: Fri, 17 Jun 2022 16:50:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-06-26 21:40:40.073449
- Title: RetrievalGuard: Provably Robust 1-Nearest Neighbor Image Retrieval
- Title(参考訳): RetrievalGuard: おそらく一番近い隣のイメージ検索
- Authors: Yihan Wu, Hongyang Zhang, Heng Huang
- Abstract要約: 本稿では, 対向性摂動に対して確実に頑健な1-nearest neighbor(NN)画像検索アルゴリズムであるRetrievalGuardを提案する。
このスムーズな検索モデルはリプシッツ定数を一定に保ち、従って検索スコアは$ell$逆転摂動に不変であることを示す。
- 参考スコア(独自算出の注目度): 84.33752026418045
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent research works have shown that image retrieval models are vulnerable
to adversarial attacks, where slightly modified test inputs could lead to
problematic retrieval results. In this paper, we aim to design a provably
robust image retrieval model which keeps the most important evaluation metric
Recall@1 invariant to adversarial perturbation. We propose the first 1-nearest
neighbor (NN) image retrieval algorithm, RetrievalGuard, which is provably
robust against adversarial perturbations within an $\ell_2$ ball of calculable
radius. The challenge is to design a provably robust algorithm that takes into
consideration the 1-NN search and the high-dimensional nature of the embedding
space. Algorithmically, given a base retrieval model and a query sample, we
build a smoothed retrieval model by carefully analyzing the 1-NN search
procedure in the high-dimensional embedding space. We show that the smoothed
retrieval model has bounded Lipschitz constant and thus the retrieval score is
invariant to $\ell_2$ adversarial perturbations. Experiments on image retrieval
tasks validate the robustness of our RetrievalGuard method.
- Abstract(参考訳): 近年の研究では、画像検索モデルは、わずかに修正されたテスト入力が問題のある検索結果につながる可能性のある敵攻撃に弱いことが示されている。
本稿では,最も重要な評価基準であるrecall@1を逆摂動に不変に保ちながら,頑健な画像検索モデルを設計することを目的とする。
計算可能な半径が$$\ell_2$の球内における対向摂動に対して確実に頑健な,最初の1-nearest neighbor(NN)画像検索アルゴリズムであるRetrievalGuardを提案する。
課題は、1-NN探索と埋め込み空間の高次元性を考慮した、証明可能な堅牢なアルゴリズムを設計することである。
高次元埋め込み空間における1-NN探索手順を慎重に解析することにより,ベース検索モデルとクエリーサンプルからスムーズな検索モデルを構築する。
平滑化検索モデルは境界リプシッツ定数を持つので, 探索スコアは$\ell_2$ 逆摂動に不変である。
画像検索におけるRetrievalGuard法のロバスト性を検証した。
関連論文リスト
- Black-box Adversarial Attacks against Dense Retrieval Models: A
Multi-view Contrastive Learning Method [115.29382166356478]
本稿では,敵探索攻撃(AREA)タスクを紹介する。
DRモデルは、DRモデルによって取得された候補文書の初期セットの外側にあるターゲット文書を取得するように、DRモデルを騙すことを目的としている。
NRM攻撃で報告された有望な結果は、DRモデルに一般化されない。
マルチビュー表現空間における対照的な学習問題として,DRモデルに対する攻撃を形式化する。
論文 参考訳(メタデータ) (2023-08-19T00:24:59Z) - Composed Image Retrieval with Text Feedback via Multi-grained
Uncertainty Regularization [73.04187954213471]
粗い検索ときめ細かい検索を同時にモデル化する統合学習手法を提案する。
提案手法は、強いベースラインに対して+4.03%、+3.38%、+2.40%のRecall@50精度を達成した。
論文 参考訳(メタデータ) (2022-11-14T14:25:40Z) - Geometrically Adaptive Dictionary Attack on Face Recognition [23.712389625037442]
顔認証に対するクエリ効率の良いブラックボックス攻撃のための戦略を提案する。
中心となるアイデアは、UVテクスチャマップに逆方向の摂動を作り、それを画像の顔に投影することです。
LFWデータセットとCPLFWデータセットの実験において、圧倒的な性能改善を示す。
論文 参考訳(メタデータ) (2021-11-08T10:26:28Z) - Robust lEarned Shrinkage-Thresholding (REST): Robust unrolling for
sparse recover [87.28082715343896]
我々は、モデルミス特定を前進させるのに堅牢な逆問題を解決するためのディープニューラルネットワークについて検討する。
我々は,アルゴリズムの展開手法を根底にある回復問題のロバストバージョンに適用することにより,新しい堅牢なディープニューラルネットワークアーキテクチャを設計する。
提案したRESTネットワークは,圧縮センシングとレーダイメージングの両問題において,最先端のモデルベースおよびデータ駆動アルゴリズムを上回る性能を示す。
論文 参考訳(メタデータ) (2021-10-20T06:15:45Z) - Detection as Regression: Certified Object Detection by Median Smoothing [50.89591634725045]
この研究は、ランダム化平滑化による認定分類の最近の進歩によって動機付けられている。
我々は、$ell$-bounded攻撃に対するオブジェクト検出のための、最初のモデル非依存、トレーニング不要、認定された防御条件を得る。
論文 参考訳(メタデータ) (2020-07-07T18:40:19Z) - GeoDA: a geometric framework for black-box adversarial attacks [79.52980486689287]
我々は,最も困難なブラックボックス設定の1つにおいて,逆例を生成するためのフレームワークを提案する。
我々のフレームワークは、ディープネットワークの決定境界は通常、データサンプルの近傍で小さな平均曲率を持つという観察に基づいている。
論文 参考訳(メタデータ) (2020-03-13T20:03:01Z) - Contextual Search in the Presence of Adversarial Corruptions [33.28268414842846]
より高次元における二項探索の一般化である文脈探索について検討する。
これらのアルゴリズムは, 敵対的腐敗がない場合に, ほぼ最適に後悔することを示す。
我々の手法は学習理論、ゲーム理論、高次元幾何学、凸解析からインスピレーションを得ている。
論文 参考訳(メタデータ) (2020-02-26T17:25:53Z) - Progressive Local Filter Pruning for Image Retrieval Acceleration [43.97722250091591]
画像検索高速化のための新しいプログレッシブ・ローカルフィルタ・プルーニング(PLFP)法を提案する。
具体的には、各フィルタの局所的な幾何学的性質を分析し、隣人に置き換えられるものを選択する。
このように、モデルの表現能力は保持される。
論文 参考訳(メタデータ) (2020-01-24T04:28:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。