Fugu-MT 論文翻訳(概要): Fortify Machine Learning Production Systems: Detect and Classify Adversarial Attacks

論文の概要: Fortify Machine Learning Production Systems: Detect and Classify Adversarial Attacks

arxiv url: http://arxiv.org/abs/2102.09695v1
Date: Fri, 19 Feb 2021 00:47:16 GMT
ステータス: 処理完了
システム内更新日: 2021-02-22 16:30:52.066685
Title: Fortify Machine Learning Production Systems: Detect and Classify Adversarial Attacks
Title（参考訳）: fortify machine learning production systems: 敵の攻撃の検出と分類
Authors: Matthew Ciolino, Josh Kalin, David Noever
Abstract要約: 本研究では,入ってくる敵の攻撃とその特性を検出する生産保護システムを提案する。基盤となるモデルは、これらの攻撃から堅牢になるように構造化された方法でトレーニングすることができる。逆画像分類空間は、転送学習でよく使われるモデルについて検討される。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Production machine learning systems are consistently under attack by adversarial actors. Various deep learning models must be capable of accurately detecting fake or adversarial input while maintaining speed. In this work, we propose one piece of the production protection system: detecting an incoming adversarial attack and its characteristics. Detecting types of adversarial attacks has two primary effects: the underlying model can be trained in a structured manner to be robust from those attacks and the attacks can be potentially filtered out in realtime before causing any downstream damage. The adversarial image classification space is explored for models commonly used in transfer learning.
Abstract（参考訳）: 生産機械学習システムは、敵のアクターによる攻撃を受け続けている。様々なディープラーニングモデルは、速度を維持しながら、偽または逆入力を正確に検出できなければならない。本研究では,入ってくる敵の攻撃とその特性を検出する生産保護システムを提案する。根本的なモデルは構造化された方法で訓練され、それらの攻撃から堅牢になることができ、攻撃は下流の損傷を引き起こす前にリアルタイムでフィルタリングされる可能性があります。逆画像分類空間は、転送学習でよく使われるモデルについて検討される。

関連論文リスト

Time-Aware Face Anti-Spoofing with Rotation Invariant Local Binary Patterns and Deep Learning [50.79277723970418]
模倣攻撃は不正な識別とその後の攻撃者の認証につながる顔認識と同様に、模倣攻撃も機械学習で検出できる。本稿では,未使用の機能と時間認識の深層学習戦略を組み合わせることで,高い分類精度を実現する新しい手法を提案する。
論文参考訳（メタデータ） (2024-08-27T07:26:10Z)
Black-box Adversarial Transferability: An Empirical Study in Cybersecurity Perspective [0.0]
敵対的機械学習では、悪意のあるユーザは、トレーニングまたはテストフェーズ中に、相手の摂動入力をモデルに挿入することで、ディープラーニングモデルを騙そうとします。サイバー攻撃検知システムにおけるブラックボックスの逆転現象を実証的に検証する。その結果,攻撃者が対象モデルの内部情報にアクセスできなくても,どんなディープラーニングモデルでも敵攻撃に強い影響を受けやすいことが示唆された。
論文参考訳（メタデータ） (2024-04-15T06:56:28Z)
Can Adversarial Examples Be Parsed to Reveal Victim Model Information? [62.814751479749695]
本研究では,データ固有の敵インスタンスから,データに依存しない被害者モデル(VM)情報を推測できるかどうかを問う。我々は,135件の被害者モデルから生成された7種類の攻撃に対して,敵攻撃のデータセットを収集する。単純な教師付きモデル解析ネットワーク(MPN)は、見えない敵攻撃からVM属性を推測できることを示す。
論文参考訳（メタデータ） (2023-03-13T21:21:49Z)
Btech thesis report on adversarial attack detection and purification of adverserially attacked images [0.0]
本論文は, 負の攻撃を受けた画像の検出と浄化に関するものである。ディープラーニングモデルは、分類、回帰などの様々なタスクのための特定のトレーニング例に基づいて訓練される。
論文参考訳（メタデータ） (2022-05-09T09:24:11Z)
Detect & Reject for Transferability of Black-box Adversarial Attacks Against Network Intrusion Detection Systems [0.0]
本稿では,機械学習による侵入検知システムに対する敵ネットワークトラフィックの転送可能性について検討する。本研究では,機械学習による侵入検知システムに対する対向的ネットワークトラフィックの転送可能性特性の影響を抑えるための防御機構として検出・削除を検討した。
論文参考訳（メタデータ） (2021-12-22T17:54:54Z)
Adversarial Robustness of Deep Reinforcement Learning based Dynamic Recommender Systems [50.758281304737444]
本稿では,強化学習に基づく対話型レコメンデーションシステムにおける敵例の探索と攻撃検出を提案する。まず、入力に摂動を加え、カジュアルな要因に介入することで、異なる種類の逆例を作成する。そこで,本研究では,人工データに基づく深層学習に基づく分類器による潜在的攻撃を検出することにより,推薦システムを強化した。
論文参考訳（メタデータ） (2021-12-02T04:12:24Z)
Towards A Conceptually Simple Defensive Approach for Few-shot classifiers Against Adversarial Support Samples [107.38834819682315]
本研究は,数発の分類器を敵攻撃から守るための概念的簡便なアプローチについて検討する。本稿では,自己相似性とフィルタリングの概念を用いた簡易な攻撃非依存検出法を提案する。ミニイメージネット(MI)とCUBデータセットの攻撃検出性能は良好である。
論文参考訳（メタデータ） (2021-10-24T05:46:03Z)
Adversarial Attack Attribution: Discovering Attributable Signals in Adversarial ML Attacks [0.7883722807601676]
自動運転車やML-as-a-serviceのような生産システムでさえ、逆の入力の影響を受けやすい。摂動入力は、攻撃を生成するために使われるメソッドに起因できるだろうか? 敵対攻撃属性の概念を導入し、敵対攻撃における攻撃可能信号の発見可能性を調べるための単純な教師付き学習実験フレームワークを作成する。
論文参考訳（メタデータ） (2021-01-08T08:16:41Z)
Adversarial Attacks and Detection on Reinforcement Learning-Based Interactive Recommender Systems [47.70973322193384]
敵の攻撃は、早期にそれらを検出する上で大きな課題となる。本稿では,強化学習に基づく対話型レコメンデーションシステムにおける攻撃非依存の検出を提案する。まず, 多様な分布を示すために敵の例を作成し, 潜在的な攻撃を検知して推薦システムを強化した。
論文参考訳（メタデータ） (2020-06-14T15:41:47Z)
Adversarial Attacks on Machine Learning Cybersecurity Defences in Industrial Control Systems [2.86989372262348]
本稿では, 教師付きモデルを対象として, 対戦型サンプルを生成することで, 対戦型学習をいかに活用できるかを考察する。また、このようなサンプルが敵の訓練を用いて教師付きモデルの堅牢性をサポートする方法についても検討している。その結果,広く使用されている2種類の分類器であるランダムフォレスト(Random Forest)とJ48(J48)の分類性能は,逆に16～20ポイント低下した。
論文参考訳（メタデータ） (2020-04-10T12:05:33Z)
Block Switching: A Stochastic Approach for Deep Learning Security [75.92824098268471]
近年の敵対的攻撃の研究は、現代のディープラーニングモデルの脆弱性を明らかにしている。本稿では、オン性に基づく敵攻撃に対する防御戦略であるBlock Switching(BS)を紹介する。
論文参考訳（メタデータ） (2020-02-18T23:14:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。