Fugu-MT 論文翻訳(概要): MISLEAD: Manipulating Importance of Selected features for Learning Epsilon in Evasion Attack Deception

論文の概要: MISLEAD: Manipulating Importance of Selected features for Learning Epsilon in Evasion Attack Deception

arxiv url: http://arxiv.org/abs/2404.15656v1
Date: Wed, 24 Apr 2024 05:22:38 GMT
ステータス: 処理完了
システム内更新日: 2024-04-26 20:09:25.137629
Title: MISLEAD: Manipulating Importance of Selected features for Learning Epsilon in Evasion Attack Deception
Title（参考訳）: MISLEAD:エスプレッションアタックにおけるエプシロン学習のための選択機能の重要性の操作
Authors: Vidit Khazanchi, Pavan Kulkarni, Yuvaraj Govindarajulu, Manojkumar Parmar,
Abstract要約: 回避攻撃は入力データに正確な摂動を導入してモデルを操作し、誤った予測を引き起こす。私たちのアプローチは、モデル脆弱性を理解するためのSHAPベースの分析から始まり、ターゲットの回避戦略の考案に不可欠です。バイナリ探索アルゴリズムを用いた最適エプシロン法は,回避に要する最小エプシロンを効率的に決定する。
参考スコア（独自算出の注目度）: 0.35998666903987897
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Emerging vulnerabilities in machine learning (ML) models due to adversarial attacks raise concerns about their reliability. Specifically, evasion attacks manipulate models by introducing precise perturbations to input data, causing erroneous predictions. To address this, we propose a methodology combining SHapley Additive exPlanations (SHAP) for feature importance analysis with an innovative Optimal Epsilon technique for conducting evasion attacks. Our approach begins with SHAP-based analysis to understand model vulnerabilities, crucial for devising targeted evasion strategies. The Optimal Epsilon technique, employing a Binary Search algorithm, efficiently determines the minimum epsilon needed for successful evasion. Evaluation across diverse machine learning architectures demonstrates the technique's precision in generating adversarial samples, underscoring its efficacy in manipulating model outcomes. This study emphasizes the critical importance of continuous assessment and monitoring to identify and mitigate potential security risks in machine learning systems.
Abstract（参考訳）: 敵攻撃による機械学習(ML)モデルの新たな脆弱性は、その信頼性に対する懸念を引き起こす。特に、回避攻撃は入力データに正確な摂動を導入してモデルを操作し、誤った予測を引き起こす。そこで本稿では,SHAP(SHapley Additive exPlanations)を特徴量分析に用いた手法と,回避攻撃を行うためのイノベーティブな最適エプシロン手法を提案する。私たちのアプローチは、モデル脆弱性を理解するためのSHAPベースの分析から始まり、ターゲットの回避戦略の考案に不可欠です。バイナリ探索アルゴリズムを用いた最適エプシロン法は,回避に要する最小エプシロンを効率的に決定する。多様な機械学習アーキテクチャによる評価は、敵のサンプルを生成する際のテクニックの精度を示し、モデル結果を操作する上での有効性を裏付けている。本研究は,機械学習システムにおける潜在的なセキュリティリスクを特定し,軽減するための,継続的評価とモニタリングの重要性を強調する。

関連論文リスト

ExAL: An Exploration Enhanced Adversarial Learning Algorithm [0.0]
探索強化適応学習アルゴリズム(ExAL)を提案する。 ExALは探索駆動機構を統合し、モデル決定境界への影響を最大化する摂動を発見する。 MNISTの手書きディジットとBlended Malwareデータセット上でのExALの性能を評価する。
論文参考訳（メタデータ） (2024-11-24T15:37:29Z)
Attention Tracker: Detecting Prompt Injection Attacks in LLMs [62.247841717696765]
大型言語モデル (LLM) は様々なドメインに革命をもたらしたが、インジェクション攻撃に弱いままである。そこで本研究では,特定の注意点が本来の指示から注入指示へと焦点を移す,注意散逸効果の概念を紹介した。本研究では,アテンション・トラッカーを提案する。アテンション・トラッカーは,インジェクション・アタックを検出するために,インストラクション上の注意パターンを追跡する訓練不要な検出手法である。
論文参考訳（メタデータ） (2024-11-01T04:05:59Z)
Multi-agent Reinforcement Learning-based Network Intrusion Detection System [3.4636217357968904]
侵入検知システム(IDS)は,コンピュータネットワークのセキュリティ確保において重要な役割を担っている。本稿では,自動,効率的,堅牢なネットワーク侵入検出が可能な,新しいマルチエージェント強化学習(RL)アーキテクチャを提案する。我々のソリューションは、新しい攻撃の追加に対応し、既存の攻撃パターンの変更に効果的に適応するように設計されたレジリエントなアーキテクチャを導入します。
論文参考訳（メタデータ） (2024-07-08T09:18:59Z)
Efficient Adversarial Training in LLMs with Continuous Attacks [99.5882845458567]
大規模言語モデル(LLM)は、安全ガードレールをバイパスできる敵攻撃に対して脆弱である。本稿では,2つの損失からなる高速対向訓練アルゴリズム(C-AdvUL)を提案する。 C-AdvIPOは、対向的に堅牢なアライメントのためのユーティリティデータを必要としない、対向型のIPOである。
論文参考訳（メタデータ） (2024-05-24T14:20:09Z)
Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
論文参考訳（メタデータ） (2024-02-07T21:58:40Z)
Enhancing ML-Based DoS Attack Detection Through Combinatorial Fusion Analysis [2.7973964073307265]
サービス拒否(DoS)攻撃の緩和は、オンラインサービスのセキュリティと可用性にとって不可欠である。先進的なアルゴリズムを用いて複数のMLモデルを組み合わせた,革新的な融合法を提案する。本研究は,DoS攻撃の検出を改良し,防御機構の強化に寄与する手法の可能性を強調した。
論文参考訳（メタデータ） (2023-10-02T02:21:48Z)
EvCenterNet: Uncertainty Estimation for Object Detection using Evidential Learning [26.535329379980094]
EvCenterNetは、新しい不確実性を認識した2Dオブジェクト検出フレームワークである。分類と回帰の不確実性の両方を推定するために、顕在的学習を用いる。我々は、KITTIデータセット上でモデルをトレーニングし、配布外のデータセットに挑戦して評価する。
論文参考訳（メタデータ） (2023-03-06T11:07:11Z)
Improving robustness of jet tagging algorithms with adversarial training [56.79800815519762]
本研究では,フレーバータグ付けアルゴリズムの脆弱性について,敵攻撃による検証を行った。シミュレーション攻撃の影響を緩和する対人訓練戦略を提案する。
論文参考訳（メタデータ） (2022-03-25T19:57:19Z)
A Deep Marginal-Contrastive Defense against Adversarial Attacks on 1D Models [3.9962751777898955]
ディープラーニングアルゴリズムは最近、脆弱性のために攻撃者がターゲットとしている。非連続的深層モデルは、いまだに敵対的な攻撃に対して頑健ではない。本稿では,特徴を特定のマージン下に置くことによって予測を容易にする新しい目的/損失関数を提案する。
論文参考訳（メタデータ） (2020-12-08T20:51:43Z)
Adversarial Attacks on Machine Learning Systems for High-Frequency Trading [55.30403936506338]
逆機械学習の観点から,アルゴリズム取引のバリュエーションモデルについて検討する。攻撃コストを最小限に抑えるサイズ制約で、このドメインに特有の新たな攻撃を導入する。本稿では、金融モデルのロバスト性について研究・評価するための分析ツールとして、これらの攻撃がどのように利用できるかについて論じる。
論文参考訳（メタデータ） (2020-02-21T22:04:35Z)
Adversarial Distributional Training for Robust Deep Learning [53.300984501078126]
逆行訓練(AT)は、逆行例によるトレーニングデータを増やすことにより、モデルロバスト性を改善する最も効果的な手法の一つである。既存のAT手法の多くは、敵の例を作らせるために特定の攻撃を採用しており、他の目に見えない攻撃に対する信頼性の低い堅牢性につながっている。本稿では,ロバストモデル学習のための新しいフレームワークであるADTを紹介する。
論文参考訳（メタデータ） (2020-02-14T12:36:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。