論文の概要: An Empirical Study of Aegis

• arxiv url: http://arxiv.org/abs/2404.15784v1
• Date: Wed, 24 Apr 2024 10:12:43 GMT
• ステータス: 処理完了
• システム内更新日: 2024-04-26 19:30:27.572521
• Title: An Empirical Study of Aegis
• Title（参考訳）: Aegisの実証的研究
• Authors: Daniel Saragih, Paridhi Goel, Tejas Balaji, Alyssa Li,
• Abstract要約: ビット・フリップ攻撃(ビット・フリップ・アタック、Bit flipping attack)は、ニューラルネットワークに対する攻撃の一種であり、その有効性を緩和するために多くの防御機構が発明された。 我々は、低エントロピーデータ(MNIST)に基づいて、Aegisのベースラインメカニズムを評価する。 Aegisのダイナミックエグジット戦略とロバストネストレーニングの両方に欠点があることが判明した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Bit flipping attacks are one class of attacks on neural networks with numerous defense mechanisms invented to mitigate its potency. Due to the importance of ensuring the robustness of these defense mechanisms, we perform an empirical study on the Aegis framework. We evaluate the baseline mechanisms of Aegis on low-entropy data (MNIST), and we evaluate a pre-trained model with the mechanisms fine-tuned on MNIST. We also compare the use of data augmentation to the robustness training of Aegis, and how Aegis performs under other adversarial attacks, such as the generation of adversarial examples. We find that both the dynamic-exit strategy and robustness training of Aegis has some drawbacks. In particular, we see drops in accuracy when testing on perturbed data, and on adversarial examples, as compared to baselines. Moreover, we found that the dynamic exit-strategy loses its uniformity when tested on simpler datasets. The code for this project is available on GitHub.
• Abstract（参考訳）: ビット・フリップ攻撃(ビット・フリップ・アタック、Bit flipping attack)は、ニューラルネットワークに対する攻撃の一種であり、その有効性を緩和するために多くの防御機構が発明された。 これらの防御機構の堅牢性を確保することの重要性から,我々はイージスフレームワークに関する実証的研究を行った。 我々は、低エントロピーデータ(MNIST)に基づいて、Aegisのベースラインメカニズムを評価し、MNISTを微調整した事前学習モデルを評価する。 また,データ強化とAegisのロバストネストレーニングの併用,およびAegisが他の敵攻撃(例えば,敵の事例の生成)でどのように機能するかを比較した。 Aegisのダイナミックエグジット戦略とロバストネストレーニングの両方に欠点があることが判明した。 特に、摂動データや逆の例をベースラインと比較すると、精度の低下が見られる。 さらに、より単純なデータセットでテストすると、ダイナミックエグゼクティブ・ストラテジーが一様性を失うことが判明した。 プロジェクトのコードはGitHubで公開されている。

関連論文リスト

• Towards Robust Federated Learning via Logits Calibration on Non-IID Data [49.286558007937856]
  Federated Learning(FL)は、エッジネットワークにおける分散デバイスの共同モデルトレーニングに基づく、プライバシ保護のための分散管理フレームワークである。 近年の研究では、FLは敵の例に弱いことが示されており、その性能は著しく低下している。 本研究では,対戦型訓練(AT)フレームワークを用いて,対戦型実例(AE)攻撃に対するFLモデルの堅牢性を向上させる。
  論文  参考訳（メタデータ） (2024-03-05T09:18:29Z)
• Constrained Adaptive Attacks: Realistic Evaluation of Adversarial Examples and Robust Training of Deep Neural Networks for Tabular Data [19.579837693614326]
  本稿では,制約付きディープラーニングモデルに対する最初の効率的な回避攻撃であるCAAを提案する。 CAAを活用して、クレジットスコア、フィッシング、ボットネット攻撃検出という3つの一般的なユースケースにわたる、ディープタブモデルのベンチマークを構築します。
  論文  参考訳（メタデータ） (2023-11-08T07:35:28Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Attacks on Online Learners: a Teacher-Student Analysis [8.567831574941252]
  本稿では,オンライン学習環境における機械学習モデルに対する敵対的攻撃事例について検討する。 攻撃強度が臨界しきい値を超えると,学習者の精度が不連続に変化することが証明される。 以上の結果から,特にデータストリームを小さなバッチで処理した場合,強欲な攻撃は極めて効果的であることが示唆された。
  論文  参考訳（メタデータ） (2023-05-18T17:26:03Z)
• RelaxLoss: Defending Membership Inference Attacks without Losing Utility [68.48117818874155]
  より達成可能な学習目標を持つ緩和された損失に基づく新しい学習フレームワークを提案する。 RelaxLossは、簡単な実装と無視可能なオーバーヘッドのメリットを加えた任意の分類モデルに適用できる。 当社のアプローチはMIAに対するレジリエンスの観点から,常に最先端の防御機構より優れています。
  論文  参考訳（メタデータ） (2022-07-12T19:34:47Z)
• CARLA-GeAR: a Dataset Generator for a Systematic Evaluation of Adversarial Robustness of Vision Models [61.68061613161187]
  本稿では,合成データセットの自動生成ツールであるCARLA-GeARについて述べる。 このツールは、Python APIを使用して、CARLAシミュレータ上に構築されており、自律運転のコンテキストにおいて、いくつかのビジョンタスク用のデータセットを生成することができる。 本稿では,CARLA-GeARで生成されたデータセットが,現実世界の敵防衛のベンチマークとして今後どのように利用されるかを示す。
  論文  参考訳（メタデータ） (2022-06-09T09:17:38Z)
• On Trace of PGD-Like Adversarial Attacks [77.75152218980605]
  敵対的攻撃は、ディープラーニングアプリケーションに対する安全性とセキュリティ上の懸念を引き起こす。 モデルの勾配一貫性を反映した適応応答特性(ARC)特性を構築する。 私たちの方法は直感的で、軽量で、非侵襲的で、データ不要です。
  論文  参考訳（メタデータ） (2022-05-19T14:26:50Z)
• Improving robustness of jet tagging algorithms with adversarial training [56.79800815519762]
  本研究では,フレーバータグ付けアルゴリズムの脆弱性について,敵攻撃による検証を行った。 シミュレーション攻撃の影響を緩和する対人訓練戦略を提案する。
  論文  参考訳（メタデータ） (2022-03-25T19:57:19Z)
• Get your Foes Fooled: Proximal Gradient Split Learning for Defense against Model Inversion Attacks on IoMT data [5.582293277542012]
  本研究では,モデル反転攻撃に対する防御のための近勾配分割学習(PSGL)手法を提案する。 本稿では,勾配マップの復元に近似勾配法を用い,認識性能を向上させるための決定レベル融合戦略を提案する。
  論文  参考訳（メタデータ） (2022-01-12T17:01:19Z)
• Evaluation of Neural Networks Defenses and Attacks using NDCG and Reciprocal Rank Metrics [6.6389732792316]
  分類タスクにおけるニューラルネットワークの出力に対する攻撃効果、防衛効果の回復効果を特に測定するために設計された2つの指標を示す。 正規化された累積ゲインと、情報検索文献で使用される相互ランクの指標に着想を得て、ニューラルネットワーク予測を結果のランクリストとして扱う。 一般的な分類指標と比較すると,提案指標は優れた情報的・独特性を示す。
  論文  参考訳（メタデータ） (2022-01-10T12:54:45Z)
• SparseFed: Mitigating Model Poisoning Attacks in Federated Learning with Sparsification [24.053704318868043]
  モデル中毒攻撃では、攻撃者は"poisoned"アップデートをアップロードすることで、ターゲットのサブタスクのパフォーマンスを低下させる。 本稿では,グローバルなトップk更新スペーシフィケーションとデバイスレベルのクリッピング勾配を利用して,モデル中毒攻撃を緩和する新しいディフェンスであるalgonameを紹介する。
  論文  参考訳（メタデータ） (2021-12-12T16:34:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。