論文の概要: SoK: Analyzing Adversarial Examples: A Framework to Study Adversary Knowledge

• arxiv url: http://arxiv.org/abs/2402.14937v1
• Date: Thu, 22 Feb 2024 19:44:19 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-26 16:27:53.208843
• Title: SoK: Analyzing Adversarial Examples: A Framework to Study Adversary Knowledge
• Title（参考訳）: SoK: 敵の事例を分析する: 敵の知識を研究するフレームワーク
• Authors: Lucas Fenaux and Florian Kerschbaum
• Abstract要約: 逆の例は、誤分類を引き起こす機械学習モデルに対する悪意のある入力である。 画像分類領域に焦点をあて、秩序理論における作業にインスパイアされた敵の知識を研究するための理論的枠組みを提供する。
• 参考スコア（独自算出の注目度）: 34.39273915926214
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Adversarial examples are malicious inputs to machine learning models that trigger a misclassification. This type of attack has been studied for close to a decade, and we find that there is a lack of study and formalization of adversary knowledge when mounting attacks. This has yielded a complex space of attack research with hard-to-compare threat models and attacks. We focus on the image classification domain and provide a theoretical framework to study adversary knowledge inspired by work in order theory. We present an adversarial example game, inspired by cryptographic games, to standardize attacks. We survey recent attacks in the image classification domain and classify their adversary's knowledge in our framework. From this systematization, we compile results that both confirm existing beliefs about adversary knowledge, such as the potency of information about the attacked model as well as allow us to derive new conclusions on the difficulty associated with the white-box and transferable threat models, for example, that transferable attacks might not be as difficult as previously thought.
• Abstract（参考訳）: 逆の例は、誤分類を引き起こす機械学習モデルに対する悪意のある入力である。 この種の攻撃は10年近く前から研究されており、攻撃を仕掛ける際の敵の知識の形式化や研究の欠如が判明している。 これにより、難解な脅威モデルと攻撃を伴う攻撃研究の複雑な空間が得られる。 我々は,画像分類領域に着目し,作業順序理論に触発された敵意知識を研究するための理論的枠組みを提供する。 暗号ゲームに触発されて,攻撃を標準化する敵の例ゲームを提案する。 画像分類領域における最近の攻撃を調査し,我々のフレームワークにおける敵の知識を分類する。 このシステム化から,攻撃モデルに関する情報の多さや,ホワイトボックスモデルやトランスファー可能な脅威モデルに関連する困難さ,例えば従来考えられていたような転送可能な攻撃は難しくない,という新たな結論を導き出すことができる。

関連論文リスト

• Analyzing the Impact of Adversarial Examples on Explainable Machine Learning [0.31498833540989407]
  敵対的攻撃は機械学習モデルに対する攻撃の一種であり、攻撃者は入力を意図的に修正し、モデルに誤った予測をさせる。 ディープラーニングモデルと敵攻撃の脆弱性に取り組むことで、モデルに望まないことを予測させるサンプルを非常に簡単に作成できることが示されています。 本研究では,テキスト分類問題に対する逆攻撃によるモデル解釈可能性の影響を解析する。
  論文  参考訳（メタデータ） (2023-07-17T08:50:36Z)
• Understanding the Vulnerability of Skeleton-based Human Activity Recognition via Black-box Attack [53.032801921915436]
  HAR(Human Activity Recognition)は、自動運転車など、幅広い用途に採用されている。 近年,敵対的攻撃に対する脆弱性から,骨格型HAR法の堅牢性に疑問が呈されている。 攻撃者がモデルの入出力しかアクセスできない場合でも、そのような脅威が存在することを示す。 BASARと呼ばれる骨格をベースとしたHARにおいて,最初のブラックボックス攻撃手法を提案する。
  論文  参考訳（メタデータ） (2022-11-21T09:51:28Z)
• The Space of Adversarial Strategies [6.295859509997257]
  機械学習モデルにおける最悪のケース動作を誘発するインプットである逆例は、過去10年間に広く研究されてきた。 最悪の場合(すなわち最適な)敵を特徴づける体系的なアプローチを提案する。
  論文  参考訳（メタデータ） (2022-09-09T20:53:11Z)
• Adversarial Robustness of Deep Reinforcement Learning based Dynamic Recommender Systems [50.758281304737444]
  本稿では,強化学習に基づく対話型レコメンデーションシステムにおける敵例の探索と攻撃検出を提案する。 まず、入力に摂動を加え、カジュアルな要因に介入することで、異なる種類の逆例を作成する。 そこで,本研究では,人工データに基づく深層学習に基づく分類器による潜在的攻撃を検出することにより,推薦システムを強化した。
  論文  参考訳（メタデータ） (2021-12-02T04:12:24Z)
• Adversarial Transfer Attacks With Unknown Data and Class Overlap [19.901933940805684]
  現在の移動攻撃の研究は、攻撃者にとって非現実的な優位性を持っている。 攻撃者および被害者が不完全な設定で利用可能なデータに着目した敵攻撃の転送に関する最初の研究について述べる。 この脅威モデルは、医学、マルウェアなどの応用に関係している。
  論文  参考訳（メタデータ） (2021-09-23T03:41:34Z)
• Learning and Certification under Instance-targeted Poisoning [49.55596073963654]
  インスタンスターゲット中毒攻撃におけるPAC学習性と認証について検討する。 敵の予算がサンプルの複雑さに比例してスケールすると、PACの学習性と認定が達成可能であることを示す。 実データセット上でのK近傍, ロジスティック回帰, 多層パーセプトロン, 畳み込みニューラルネットワークの堅牢性を実証的に検討する。
  論文  参考訳（メタデータ） (2021-05-18T17:48:15Z)
• BAARD: Blocking Adversarial Examples by Testing for Applicability, Reliability and Decidability [12.079529913120593]
  敵防衛は、機械学習モデルを敵攻撃から保護するが、しばしばある種類のモデルや攻撃に適合する。 ケミノフォマティクスにおける応用可能性ドメインの概念から着想を得た。 本稿では,グローバルかつローカルにインプットをチェックする,シンプルで堅牢な3段階データ駆動フレームワークを提案する。
  論文  参考訳（メタデータ） (2021-05-02T15:24:33Z)
• ExAD: An Ensemble Approach for Explanation-based Adversarial Detection [17.455233006559734]
  説明手法のアンサンブルを用いて逆例を検出するフレームワークであるExADを提案する。 3つの画像データセットに対する6つの最先端の敵攻撃によるアプローチの評価を行った。
  論文  参考訳（メタデータ） (2021-03-22T00:53:07Z)
• Adversarial Example Games [51.92698856933169]
  Adrial Example Games (AEG) は、敵の例の製作をモデル化するフレームワークである。 AEGは、ある仮説クラスからジェネレータとアバーサを反対に訓練することで、敵の例を設計する新しい方法を提供する。 MNIST と CIFAR-10 データセットに対する AEG の有効性を示す。
  論文  参考訳（メタデータ） (2020-07-01T19:47:23Z)
• Adversarial examples are useful too! [47.64219291655723]
  モデルがバックドア攻撃を受けたかどうかを判断する新しい手法を提案する。 その考え方は、FGSMのような従来の攻撃を用いて、標的または未標的の敵の例を生成することである。 障害のある地域を視覚的に見つけて、攻撃を露呈することができる。
  論文  参考訳（メタデータ） (2020-05-13T01:38:56Z)
• Adversarial Imitation Attack [63.76805962712481]
  現実的な敵攻撃は、攻撃されたモデルの知識をできるだけ少なくする必要がある。 現在の代替攻撃では、敵の例を生成するために事前訓練されたモデルが必要である。 本研究では,新たな敵模倣攻撃を提案する。
  論文  参考訳（メタデータ） (2020-03-28T10:02:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。