論文の概要: Triggering Stealthy Feature Map Backdoors via Physical Fault Injection in Embedded Neural Networks

• arxiv url: http://arxiv.org/abs/2607.09473v1
• Date: Fri, 10 Jul 2026 14:44:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-13 16:48:13.451535
• Title: Triggering Stealthy Feature Map Backdoors via Physical Fault Injection in Embedded Neural Networks
• Title（参考訳）: 埋め込みニューラルネットワークにおける物理欠陥注入による定常特徴マップバックドアのトリガ
• Authors: Steyn Hommes, Vincent Dankbaar, Tanguy Stekke, Xiaomeng Wang, Lisanne Weidmann, Senna van Hoek, Durba Chatterjee, Lejla Batina, Zhuoran Liu,
• Abstract要約: 本稿では,実装レベルの物理障害をアルゴリズムレベルの逆攻撃にブリッジするクロスレベル攻撃を提案する。 本研究では,実行中にターゲットレジスタ値をトラクタブルな状態に確実に操作する,高精度なフォールトインジェクション手法を提案する。 従来の入力ベースのバックドアとは異なり、我々のトリガーは物理的欠陥の下でのみ活性化され、NNは敵対行動を示す。
• 参考スコア（独自算出の注目度）: 8.074065181544496
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Fault injection (FI) attacks on embedded neural network (NN) implementations primarily focus on inducing misclassification by corrupting weights or intermediate computations, overlooking their interaction with algorithmic adversarial threats. In this work, we present a cross-level attack that bridges implementation-level physical faults to algorithm-level adversarial attacks. By characterizing fault-induced data perturbations during NN inference, we connect FI with backdoor learning, enabling system-level attacks that jointly exploit implementation- and algorithm-level vulnerabilities. Specifically, we propose a precise fault-injection method that reliably manipulates targeted register values to tractable states during execution. Leveraging this level of FI precision, we propose a novel end-to-end feature map-level backdoor attack, where physically induced intermediate perturbations serve as stealthy triggers. Unlike conventional input-based backdoors, our trigger is activated only under physical faults, causing the NN to exhibit adversarial behavior that compromises system integrity while remaining benign during normal operation. We demonstrate that such physically triggered backdoors can be mounted on embedded NN platforms and remain effective against existing backdoor defenses that typically assume input-space triggers. We showcase the attack practicality using electromagnetic FI on convolutional neural networks implemented on ARM Cortex-M4 microcontroller, which is a common platform for constrained embedded applications. Our results highlight a novel attack vector at the intersection of hardware and algorithmic levels, stressing the need for defenses across abstraction levels.
• Abstract（参考訳）: 組み込みニューラルネットワーク(NN)実装に対するフォールトインジェクション(FI)攻撃は主に、アルゴリズムの敵対的脅威との相互作用を見越して、重みや中間計算を破損させることによる誤分類の誘発に焦点を当てている。 本研究では,実装レベルの物理障害をアルゴリズムレベルの逆攻撃にブリッジするクロスレベル攻撃を提案する。 NN推論中の障害誘発データ摂動を特徴付けることにより、FIとバックドアラーニングを接続し、実装レベルとアルゴリズムレベルの脆弱性を共同で悪用するシステムレベルの攻撃を可能にする。 具体的には,実行中にターゲットレジスタ値をトラクタブルな状態に確実に操作する,高精度なフォールトインジェクション手法を提案する。 このようなFIの精度を生かして、物理的に誘導される中間摂動がステルストリガーとなる、新しいエンドツーエンドのマップレベルのバックドア攻撃を提案する。 従来の入力方式のバックドアとは異なり、我々のトリガーは物理的欠陥の下でのみ活性化されるため、NNは通常の操作中に良性を維持しながらシステム完全性を損なう敵の動作を示す。 このような物理的にトリガされたバックドアは、組み込みNNプラットフォームに実装可能であり、通常は入力空間トリガを前提とする既存のバックドアディフェンスに対して有効であることを示す。 本稿では、ARM Cortex-M4マイクロコントローラ上に実装された畳み込みニューラルネットワークにおける電磁FIを用いた攻撃実践について紹介する。 ハードウェアとアルゴリズムのレベルでの新しい攻撃ベクトルが注目され,抽象化レベルを越えた防御の必要性が強調された。

関連論文リスト

• Kill it with FIRE: On Leveraging Latent Space Directions for Runtime Backdoor Mitigation in Deep Neural Networks [1.9517610560768623]
  よく知られた脆弱性は、有毒なトレーニングデータや悪意のあるトレーニングプロセスによってニューラルネットワークに導入されたバックドアである。 提案手法はFIRE (Inference-time backdoor mitigation approach) である。 我々はトリガーを、推論機構を補正するために逆に適用できる層間の潜伏空間の方向と見なす。
  論文  参考訳（メタデータ） (2026-02-11T12:13:25Z)
• Towards Effective, Stealthy, and Persistent Backdoor Attacks Targeting Graph Foundation Models [62.87838888016534]
  Graph Foundation Models(GFM)は、さまざまなソースドメインで事前トレーニングされ、目に見えないターゲットに適応する。 GFMに対するバックドア攻撃は、3つの主要な課題のために簡単ではない。 グラフ基礎モデルに対する新たなバックドア攻撃モデルであるGFM-BAを提案する。
  論文  参考訳（メタデータ） (2025-11-22T08:52:09Z)
• Mitigating Adversarial Effects of False Data Injection Attacks in Power Grid [7.64743281201963]
  Deep Neural Networksの利点は、False Data Injection Attacks (FDIA)を検出するために電力グリッドに取り入れられている。 本稿では, ランダム化を利用して, 入力をパディングすることで, 逆効果を緩和するフレームワークを提案する。 IEEE 14-bus, 30-bus, 118-bus, 300-bus を用いたシミュレーションにより, フレームワークの良好な結果を示す。
  論文  参考訳（メタデータ） (2023-01-29T16:50:16Z)
• An anomaly detection approach for backdoored neural networks: face recognition as a case study [77.92020418343022]
  本稿では,異常検出の原理に基づく新しいバックドアネットワーク検出手法を提案する。 バックドアネットワークの新たなデータセット上で本手法を検証し,完全スコアで検出可能性について報告する。
  論文  参考訳（メタデータ） (2022-08-22T12:14:13Z)
• Don't Knock! Rowhammer at the Backdoor of DNN Models [19.13129153353046]
  Rowhammerをフォールトインジェクション法として用いたモデル上で,実際のハードウェア上で実現したエンドツーエンドのバックドアインジェクション攻撃を提案する。 ハードウェアにおけるリアルなバックドアインジェクション攻撃を実現するために,制約付き最適化に基づく新しいネットワークトレーニングアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2021-10-14T19:43:53Z)
• FooBaR: Fault Fooling Backdoor Attack on Neural Network Training [5.639451539396458]
  ニューラルネットワークのトレーニングフェーズ中に障害を注入することで,新たな攻撃パラダイムを探索する。 このような攻撃は、トレーニングフェーズの障害攻撃がネットワークにバックドアを注入し、攻撃者が不正な入力を生成できるようにするような、不正なバックドアと呼ばれる。
  論文  参考訳（メタデータ） (2021-09-23T09:43:19Z)
• Discriminator-Free Generative Adversarial Attack [87.71852388383242]
  生成的ベースの敵攻撃は、この制限を取り除くことができる。 ASymmetric Saliency-based Auto-Encoder (SSAE) は摂動を生成する。 SSAEが生成した敵の例は、広く使われているモデルを崩壊させるだけでなく、優れた視覚的品質を実現する。
  論文  参考訳（メタデータ） (2021-07-20T01:55:21Z)
• The Feasibility and Inevitability of Stealth Attacks [63.14766152741211]
  我々は、攻撃者が汎用人工知能システムにおける決定を制御できる新しい敵の摂動について研究する。 敵対的なデータ修正とは対照的に、ここで考慮する攻撃メカニズムには、AIシステム自体の変更が含まれる。
  論文  参考訳（メタデータ） (2021-06-26T10:50:07Z)
• Towards Adversarial-Resilient Deep Neural Networks for False Data Injection Attack Detection in Power Grids [7.351477761427584]
  偽データインジェクション攻撃(FDIA)は、電力システムの状態推定に重大なセキュリティ上の脅威をもたらす。 最近の研究では、機械学習(ML)技術、特にディープニューラルネットワーク(DNN)が提案されている。
  論文  参考訳（メタデータ） (2021-02-17T22:26:34Z)
• Adversarial Attacks on Deep Learning Based Power Allocation in a Massive MIMO Network [62.77129284830945]
  本稿では,大規模なマルチインプット・マルチアウトプット(MAMIMO)ネットワークのダウンリンクにおいて,逆攻撃がDLベースの電力割り当てを損なう可能性があることを示す。 我々はこれらの攻撃のパフォーマンスをベンチマークし、ニューラルネットワーク(NN)の入力に小さな摂動がある場合、ホワイトボックス攻撃は最大86%まで実現不可能な解決策をもたらすことを示した。
  論文  参考訳（メタデータ） (2021-01-28T16:18:19Z)
• A Self-supervised Approach for Adversarial Robustness [105.88250594033053]
  敵対的な例は、ディープニューラルネットワーク(DNN)ベースの視覚システムにおいて破滅的な誤りを引き起こす可能性がある。 本稿では,入力空間における自己教師型対向学習機構を提案する。 これは、反逆攻撃に対する強力な堅牢性を提供する。
  論文  参考訳（メタデータ） (2020-06-08T20:42:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。