論文の概要: On the Robustness of Deep Clustering Models: Adversarial Attacks and Defenses

• arxiv url: http://arxiv.org/abs/2210.01940v1
• Date: Tue, 4 Oct 2022 22:32:02 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-06 13:34:40.900330
• Title: On the Robustness of Deep Clustering Models: Adversarial Attacks and Defenses
• Title（参考訳）: 深部クラスタリングモデルのロバスト性について:敵攻撃と防御
• Authors: Anshuman Chhabra, Ashwin Sekhari, Prasant Mohapatra
• Abstract要約: クラスタリングモデルは、多数のアプリケーションパイプラインで使用される教師なしの機械学習メソッドのクラスを構成する。 本稿では,GAN(Generative Adversarial Networks)を用いたブラックボックス攻撃を提案する。 我々は、複数の最先端のディープクラスタリングモデルと実世界のデータセットに対する攻撃を分析し、それが非常に成功したことを発見した。
• 参考スコア（独自算出の注目度）: 14.951655356042947
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Clustering models constitute a class of unsupervised machine learning methods which are used in a number of application pipelines, and play a vital role in modern data science. With recent advancements in deep learning -- deep clustering models have emerged as the current state-of-the-art over traditional clustering approaches, especially for high-dimensional image datasets. While traditional clustering approaches have been analyzed from a robustness perspective, no prior work has investigated adversarial attacks and robustness for deep clustering models in a principled manner. To bridge this gap, we propose a blackbox attack using Generative Adversarial Networks (GANs) where the adversary does not know which deep clustering model is being used, but can query it for outputs. We analyze our attack against multiple state-of-the-art deep clustering models and real-world datasets, and find that it is highly successful. We then employ some natural unsupervised defense approaches, but find that these are unable to mitigate our attack. Finally, we attack Face++, a production-level face clustering API service, and find that we can significantly reduce its performance as well. Through this work, we thus aim to motivate the need for truly robust deep clustering models.
• Abstract（参考訳）: クラスタリングモデルは、多数のアプリケーションパイプラインで使用される教師なし機械学習メソッドのクラスを構成し、現代のデータサイエンスにおいて重要な役割を果たす。 ディープラーニングの最近の進歩により、深層クラスタリングモデルは従来のクラスタリングアプローチ、特に高次元画像データセットよりも最先端のものとして登場してきた。 従来のクラスタリングアプローチはロバストネスの観点から分析されてきたが,従来の研究では,深いクラスタリングモデルに対する敵攻撃やロバストネスを原則的に検討することはなかった。 このギャップを埋めるために,敵がどのディープクラスタリングモデルを使っているのかを知らないが,出力にクエリできるgan(generative adversarial networks)を用いたブラックボックス攻撃を提案する。 我々は,最先端のディープクラスタリングモデルと実世界のデータセットに対する攻撃を分析し,その成功を見出す。 その後、我々は、自然に監視されていない防御アプローチを採用するが、これらが我々の攻撃を緩和できないことに気付く。 最後に、プロダクションレベルの顔クラスタリングAPIサービスであるFace++を攻撃し、パフォーマンスも大幅に削減できることがわかった。 この作業を通じて、真に堅牢なディープクラスタリングモデルの必要性を動機付けることを目標としています。

関連論文リスト

• MEAOD: Model Extraction Attack against Object Detectors [45.817537875368956]
  モデル抽出攻撃は、攻撃者が被害者モデルに匹敵する機能を持つ代替モデルを複製することを可能にする。 本稿では,オブジェクト検出モデルに対するMEAODと呼ばれる効果的な攻撃手法を提案する。 10kのクエリ予算の所定の条件下で,抽出性能を70%以上達成する。
  論文  参考訳（メタデータ） (2023-12-22T13:28:50Z)
• OMG-ATTACK: Self-Supervised On-Manifold Generation of Transferable Evasion Attacks [17.584752814352502]
  Evasion Attacks (EA) は、入力データを歪ませることで、トレーニングされたニューラルネットワークの堅牢性をテストするために使用される。 本稿では, 自己教師型, 計算的経済的な手法を用いて, 対逆例を生成する手法を提案する。 我々の実験は、この手法が様々なモデル、目に見えないデータカテゴリ、さらには防御されたモデルで有効であることを一貫して実証している。
  論文  参考訳（メタデータ） (2023-10-05T17:34:47Z)
• A Deep Dive into Deep Cluster [0.2578242050187029]
  DeepClusterは、ビジュアル表現のシンプルでスケーラブルな教師なし事前トレーニングである。 本稿では,DeepClusterの収束と性能が,畳み込み層のランダムフィルタの品質と選択されたクラスタ数の相互作用に依存することを示す。
  論文  参考訳（メタデータ） (2022-07-24T22:55:09Z)
• DST: Dynamic Substitute Training for Data-free Black-box Attack [79.61601742693713]
  そこで本研究では,対象モデルからより高速に学習するための代用モデルの促進を目的とした,新しい動的代用トレーニング攻撃手法を提案する。 タスク駆動型グラフに基づく構造情報学習の制約を導入し、生成したトレーニングデータの質を向上させる。
  論文  参考訳（メタデータ） (2022-04-03T02:29:11Z)
• Delving into Data: Effectively Substitute Training for Black-box Attack [84.85798059317963]
  本稿では,知識盗むプロセスで使用されるデータの分散設計に焦点をあてた,新しい視点代替トレーニングを提案する。 これら2つのモジュールの組み合わせにより、代替モデルとターゲットモデルの一貫性がさらに向上し、敵攻撃の有効性が大幅に向上する。
  論文  参考訳（メタデータ） (2021-04-26T07:26:29Z)
• Explainable Adversarial Attacks in Deep Neural Networks Using Activation Profiles [69.9674326582747]
  本稿では,敵対的事例に基づくニューラルネットワークモデルを検討するためのビジュアルフレームワークを提案する。 これらの要素を観察することで、モデル内の悪用領域を素早く特定できることを示す。
  論文  参考訳（メタデータ） (2021-03-18T13:04:21Z)
• Model Extraction Attacks on Graph Neural Networks: Taxonomy and Realization [40.37373934201329]
  GNNモデルに対するモデル抽出攻撃について検討・開発する。 まず、GNNモデル抽出の文脈で脅威モデリングを定式化する。 次に、攻撃を実装するために、各脅威においてアクセス可能な知識を利用する詳細な方法を示す。
  論文  参考訳（メタデータ） (2020-10-24T03:09:37Z)
• Knowledge-Enriched Distributional Model Inversion Attacks [49.43828150561947]
  モデルインバージョン(MI)攻撃は、モデルパラメータからトレーニングデータを再構成することを目的としている。 本稿では,パブリックデータからプライベートモデルに対する攻撃を行うのに役立つ知識を抽出する,新しい反転型GANを提案する。 実験の結果,これらの手法を組み合わせることで,最先端MI攻撃の成功率を150%向上させることができることがわかった。
  論文  参考訳（メタデータ） (2020-10-08T16:20:48Z)
• Orthogonal Deep Models As Defense Against Black-Box Attacks [71.23669614195195]
  攻撃者が標的モデルに類似したモデルを用いて攻撃を発生させるブラックボックス設定における深層モデル固有の弱点について検討する。 本稿では,深部モデルの内部表現を他のモデルに直交させる新しい勾配正規化手法を提案する。 様々な大規模モデルにおいて,本手法の有効性を検証する。
  論文  参考訳（メタデータ） (2020-06-26T08:29:05Z)
• Plausible Counterfactuals: Auditing Deep Learning Classifiers with Realistic Adversarial Examples [84.8370546614042]
  ディープラーニングモデルのブラックボックスの性質は、彼らがデータから何を学ぶかについて、未回答の疑問を提起している。 GAN(Generative Adversarial Network)とマルチオブジェクトは、監査されたモデルに妥当な攻撃を与えるために使用される。 その実用性は人間の顔の分類タスクの中で示され、提案されたフレームワークの潜在的可能性を明らかにしている。
  論文  参考訳（メタデータ） (2020-03-25T11:08:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。