論文の概要: Adversarial Machine Learning in Image Classification: A Survey Towards the Defender's Perspective

• arxiv url: http://arxiv.org/abs/2009.03728v1
• Date: Tue, 8 Sep 2020 13:21:55 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-20 21:22:46.575086
• Title: Adversarial Machine Learning in Image Classification: A Survey Towards the Defender's Perspective
• Title（参考訳）: 画像分類における敵対的機械学習 : ディフェンダーの視点をめざして
• Authors: Gabriel Resende Machado, Eug\^enio Silva and Ronaldo Ribeiro Goldschmidt
• Abstract要約: 逆の例は、悪意のある最適化アルゴリズムによって生成される微妙な摂動を含む画像である。 ディープラーニングアルゴリズムは、生体認証システムや自動運転車など、セキュリティクリティカルなアプリケーションで使われてきた。
• 参考スコア（独自算出の注目度）: 1.933681537640272
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Deep Learning algorithms have achieved the state-of-the-art performance for Image Classification and have been used even in security-critical applications, such as biometric recognition systems and self-driving cars. However, recent works have shown those algorithms, which can even surpass the human capabilities, are vulnerable to adversarial examples. In Computer Vision, adversarial examples are images containing subtle perturbations generated by malicious optimization algorithms in order to fool classifiers. As an attempt to mitigate these vulnerabilities, numerous countermeasures have been constantly proposed in literature. Nevertheless, devising an efficient defense mechanism has proven to be a difficult task, since many approaches have already shown to be ineffective to adaptive attackers. Thus, this self-containing paper aims to provide all readerships with a review of the latest research progress on Adversarial Machine Learning in Image Classification, however with a defender's perspective. Here, novel taxonomies for categorizing adversarial attacks and defenses are introduced and discussions about the existence of adversarial examples are provided. Further, in contrast to exisiting surveys, it is also given relevant guidance that should be taken into consideration by researchers when devising and evaluating defenses. Finally, based on the reviewed literature, it is discussed some promising paths for future research.
• Abstract（参考訳）: ディープラーニングアルゴリズムは、画像分類の最先端のパフォーマンスを達成し、生体認証システムや自動運転車のようなセキュリティクリティカルなアプリケーションでも使われてきた。 しかし、最近の研究では、人間の能力を超えたアルゴリズムは敵の例に弱いことが示されている。 コンピュータビジョンでは、逆例(adversarial examples)は、悪意のある最適化アルゴリズムによって生成される微妙な摂動を含む画像である。 これらの脆弱性を和らげるため、文学では数多くの対策が常に提案されている。 それにもかかわらず、効率的な防御機構の開発は、多くのアプローチがアダプティブアタッカーには効果がないことを示したため、難しい課題であることが証明されている。 そこで,本論文は,画像分類における機械学習の最近の研究動向をディフェンダーの視点から概観し,すべての読者に提供することを目的としている。 ここでは,敵の攻撃と防御を分類する新しい分類法を導入し,敵の事例の存在について議論する。 また, 外部調査とは対照的に, 防衛の整備・評価において研究者が考慮すべき適切な指針も与えられている。 最後に、レビューした文献に基づき、今後の研究に有望な道筋について論じる。

関連論文リスト

• A Survey of Defenses against AI-generated Visual Media: Detection, Disruption, and Authentication [15.879482578829489]
  深層生成モデルは様々なコンピュータビジョンアプリケーションで顕著な性能を示した。 これらのモデルは、誤情報、偽造、著作権侵害などの悪意ある目的のために使用されることがある。 本稿では,AI生成したビジュアルメディアに対する防衛研究の体系的かつタイムリーなレビューを行う。
  論文  参考訳（メタデータ） (2024-07-15T09:46:02Z)
• Defense of Adversarial Ranking Attack in Text Retrieval: Benchmark and Baseline via Detection [12.244543468021938]
  本稿では,敵対的文書に対する2種類の検出タスクを提案する。 敵のランク防衛の調査を容易にするために、ベンチマークデータセットが確立されている。 いくつかの検出基準線の性能を総合的に調査する。
  論文  参考訳（メタデータ） (2023-07-31T16:31:24Z)
• Uncertainty-based Detection of Adversarial Attacks in Semantic Segmentation [16.109860499330562]
  本稿では,セマンティックセグメンテーションにおける敵攻撃検出のための不確実性に基づくアプローチを提案する。 本研究は,複数種類の敵対的攻撃を対象とする摂動画像の検出能力を示す。
  論文  参考訳（メタデータ） (2023-05-22T08:36:35Z)
• A Review of Adversarial Attack and Defense for Classification Methods [78.50824774203495]
  本稿では,敵対的事例の生成と保護に焦点をあてる。 この論文は、多くの統計学者が、この重要かつエキサイティングな分野において、敵の事例を生成・防御することを奨励するものである。
  論文  参考訳（メタデータ） (2021-11-18T22:13:43Z)
• Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
  本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。 本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。 ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
  論文  参考訳（メタデータ） (2021-10-24T05:46:03Z)
• Identification of Attack-Specific Signatures in Adversarial Examples [62.17639067715379]
  異なる攻撃アルゴリズムは, その効果だけでなく, 被害者の質的な影響も示している。 以上の結果から, 予測的対人攻撃は, 模擬モデルにおける成功率だけでなく, 被害者に対するより深い下流効果によって比較されるべきであることが示唆された。
  論文  参考訳（メタデータ） (2021-10-13T15:40:48Z)
• Searching for an Effective Defender: Benchmarking Defense against Adversarial Word Substitution [83.84968082791444]
  ディープニューラルネットワークは、意図的に構築された敵の例に対して脆弱である。 ニューラルNLPモデルに対する敵対的単語置換攻撃を防御する様々な方法が提案されている。
  論文  参考訳（メタデータ） (2021-08-29T08:11:36Z)
• Adversarial Examples Detection beyond Image Space [88.7651422751216]
  摂動と予測信頼の間にはコンプライアンスが存在することが分かり、予測信頼の面から少数の摂動攻撃を検出するための指針となる。 本研究では,画像ストリームが画素アーティファクトに注目し,勾配ストリームが信頼度アーティファクトに対応する2ストリームアーキテクチャによる画像空間を超えた手法を提案する。
  論文  参考訳（メタデータ） (2021-02-23T09:55:03Z)
• Detection of Adversarial Supports in Few-shot Classifiers Using Feature Preserving Autoencoders and Self-Similarity [89.26308254637702]
  敵対的なサポートセットを強調するための検出戦略を提案する。 我々は,特徴保存型オートエンコーダフィルタリングと,この検出を行うサポートセットの自己相似性の概念を利用する。 提案手法は攻撃非依存であり, 最善の知識まで, 数発分類器の検出を探索する最初の方法である。
  論文  参考訳（メタデータ） (2020-12-09T14:13:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。