論文の概要: Concealed Adversarial attacks on neural networks for sequential data

• arxiv url: http://arxiv.org/abs/2502.20948v1
• Date: Fri, 28 Feb 2025 11:03:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-03 13:43:25.676921
• Title: Concealed Adversarial attacks on neural networks for sequential data
• Title（参考訳）: 逐次データに対するニューラルネットワークの競合攻撃
• Authors: Petr Sokerin, Dmitry Anikin, Sofia Krehova, Alexey Zaytsev,
• Abstract要約: 我々は、異なる時系列モデルに対する隠れた敵攻撃を開発する。 より現実的な摂動を提供し、人間またはモデル判別器によって検出するのが困難である。 この結果から,堅牢な時系列モデルを設計する上での課題が浮き彫りになった。
• 参考スコア（独自算出の注目度）: 2.1879059908547482
• License:
• Abstract: The emergence of deep learning led to the broad usage of neural networks in the time series domain for various applications, including finance and medicine. While powerful, these models are prone to adversarial attacks: a benign targeted perturbation of input data leads to significant changes in a classifier's output. However, formally small attacks in the time series domain become easily detected by the human eye or a simple detector model. We develop a concealed adversarial attack for different time-series models: it provides more realistic perturbations, being hard to detect by a human or model discriminator. To achieve this goal, the proposed adversarial attack maximizes an aggregation of a classifier and a trained discriminator loss. To make the attack stronger, we also propose a training procedure for a discriminator that provides broader coverage of possible attacks. Extensive benchmarking on six UCR time series datasets across four diverse architectures - including recurrent, convolutional, state-space, and transformer-based models - demonstrates the superiority of our attack for a concealability-efficiency trade-off. Our findings highlight the growing challenge of designing robust time series models, emphasizing the need for improved defenses against realistic and effective attacks.
• Abstract（参考訳）: ディープラーニングの出現は、金融や医療など、さまざまな用途に時系列領域におけるニューラルネットワークの広範な使用につながった。 入力データの良質な標的摂動は、分類器の出力に大きな変化をもたらす。 しかし、時系列領域における正式な小さな攻撃は、人間の目や単純な検出器モデルによって容易に検出される。 我々は、より現実的な摂動を提供し、人間やモデル判別器による検出が困難である、異なる時系列モデルに対する隠れた敵攻撃を開発する。 この目的を達成するため、提案した敵攻撃は、分類器の集約と訓練された識別器損失を最大化する。 また,攻撃を強固にするために,攻撃の可能性の広範な報道を提供する識別器の訓練手順を提案する。 再帰性、畳み込み、状態空間、トランスフォーマーベースのモデルを含む4つのアーキテクチャにわたる6つのUCR時系列データセットの大規模なベンチマークは、隠れ可能性と効率のトレードオフに対する攻撃の優位性を示しています。 この結果から,堅牢な時系列モデルを設計する上での課題が強調され,現実的かつ効果的な攻撃に対する防御の改善の必要性が強調された。

関連論文リスト

• Sustainable Self-evolution Adversarial Training [51.25767996364584]
  対戦型防衛モデルのための持続的自己進化支援訓練(SSEAT)フレームワークを提案する。 本研究は,様々な種類の対角的事例から学習を実現するために,連続的な対向防衛パイプラインを導入する。 また,より多様で重要な再学習データを選択するために,逆データ再生モジュールを提案する。
  論文  参考訳（メタデータ） (2024-12-03T08:41:11Z)
• MOREL: Enhancing Adversarial Robustness through Multi-Objective Representation Learning [1.534667887016089]
  ディープニューラルネットワーク(DNN)は、わずかに敵対的な摂動に対して脆弱である。 トレーニング中の強力な特徴表現学習は、元のモデルの堅牢性を大幅に向上させることができることを示す。 本稿では,多目的特徴表現学習手法であるMORELを提案する。
  論文  参考訳（メタデータ） (2024-10-02T16:05:03Z)
• Black-box Adversarial Transferability: An Empirical Study in Cybersecurity Perspective [0.0]
  敵対的機械学習では、悪意のあるユーザは、トレーニングまたはテストフェーズ中に、相手の摂動入力をモデルに挿入することで、ディープラーニングモデルを騙そうとします。 サイバー攻撃検知システムにおけるブラックボックスの逆転現象を実証的に検証する。 その結果,攻撃者が対象モデルの内部情報にアクセスできなくても,どんなディープラーニングモデルでも敵攻撃に強い影響を受けやすいことが示唆された。
  論文  参考訳（メタデータ） (2024-04-15T06:56:28Z)
• FreqFed: A Frequency Analysis-Based Approach for Mitigating Poisoning Attacks in Federated Learning [98.43475653490219]
  フェデレート・ラーニング(Federated Learning, FL)は、毒素による攻撃を受けやすい。 FreqFedは、モデルの更新を周波数領域に変換する新しいアグリゲーションメカニズムである。 FreqFedは, 凝集モデルの有用性に悪影響を及ぼすことなく, 毒性攻撃を効果的に軽減できることを実証した。
  論文  参考訳（メタデータ） (2023-12-07T16:56:24Z)
• Investigating Human-Identifiable Features Hidden in Adversarial Perturbations [54.39726653562144]
  我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。 対人摂動における人間の識別可能な特徴を同定する。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
  論文  参考訳（メタデータ） (2023-09-28T22:31:29Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Targeted Attacks on Timeseries Forecasting [0.6719751155411076]
  本稿では,時系列予測モデルに対する指向性,振幅性,時間的標的攻撃の新たな定式化を提案する。 これらの攻撃は、出力予測の振幅と方向に特定の影響を与える。 実験結果から,時系列モデルに対する標的攻撃が有効であり,統計的類似性の観点からもより強力であることが示唆された。
  論文  参考訳（メタデータ） (2023-01-27T06:09:42Z)
• Recent improvements of ASR models in the face of adversarial attacks [28.934863462633636]
  音声認識モデルは敵攻撃に対して脆弱である。 異なる攻撃アルゴリズムの相対的強度は、モデルアーキテクチャを変更する際に大きく異なることを示す。 ソースコードをパッケージとしてリリースし、将来の攻撃と防御の評価に役立ちます。
  論文  参考訳（メタデータ） (2022-03-29T22:40:37Z)
• Towards Adversarial Patch Analysis and Certified Defense against Crowd Counting [61.99564267735242]
  安全クリティカルな監視システムの重要性から、群衆のカウントは多くの注目を集めています。 近年の研究では、ディープニューラルネットワーク(DNN)の手法が敵の攻撃に弱いことが示されている。 群衆カウントモデルのロバスト性を評価するために,Momentumを用いた攻撃戦略としてAdversarial Patch Attackを提案する。
  論文  参考訳（メタデータ） (2021-04-22T05:10:55Z)
• Learning to Attack: Towards Textual Adversarial Attacking in Real-world Situations [81.82518920087175]
  敵攻撃は、敵の例でディープニューラルネットワークを騙すことを目的としている。 本稿では、攻撃履歴から学習し、より効率的に攻撃を開始することができる強化学習に基づく攻撃モデルを提案する。
  論文  参考訳（メタデータ） (2020-09-19T09:12:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。