論文の概要: Do Spikes Protect Privacy? Investigating Black-Box Model Inversion Attacks in Spiking Neural Networks

• arxiv url: http://arxiv.org/abs/2502.05509v1
• Date: Sat, 08 Feb 2025 10:02:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-11 18:57:49.924413
• Title: Do Spikes Protect Privacy? Investigating Black-Box Model Inversion Attacks in Spiking Neural Networks
• Title（参考訳）: スパイクはプライバシを保護するか? スパイクニューラルネットワークにおけるブラックボックスモデルインバージョン攻撃を調査
• Authors: Hamed Poursiami, Ayana Moshruba, Maryam Parsa,
• Abstract要約: この研究は、スパイキングニューラルネットワーク(SNN)に対するブラックボックスモデル反転(MI)攻撃の最初の研究である。 我々は、入力変換のためのレートベースの符号化と出力解釈のための復号機構を組み込むことにより、生成逆MIフレームワークをスパイク領域に適用する。 以上の結果から,SNNはANNよりもMI攻撃に対する抵抗性が有意に高いことが示唆された。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: As machine learning models become integral to security-sensitive applications, concerns over data leakage from adversarial attacks continue to rise. Model Inversion (MI) attacks pose a significant privacy threat by enabling adversaries to reconstruct training data from model outputs. While MI attacks on Artificial Neural Networks (ANNs) have been widely studied, Spiking Neural Networks (SNNs) remain largely unexplored in this context. Due to their event-driven and discrete computations, SNNs introduce fundamental differences in information processing that may offer inherent resistance to such attacks. A critical yet underexplored aspect of this threat lies in black-box settings, where attackers operate through queries without direct access to model parameters or gradients-representing a more realistic adversarial scenario in deployed systems. This work presents the first study of black-box MI attacks on SNNs. We adapt a generative adversarial MI framework to the spiking domain by incorporating rate-based encoding for input transformation and decoding mechanisms for output interpretation. Our results show that SNNs exhibit significantly greater resistance to MI attacks than ANNs, as demonstrated by degraded reconstructions, increased instability in attack convergence, and overall reduced attack effectiveness across multiple evaluation metrics. Further analysis suggests that the discrete and temporally distributed nature of SNN decision boundaries disrupts surrogate modeling, limiting the attacker's ability to approximate the target model.
• Abstract（参考訳）: 機械学習モデルがセキュリティに敏感なアプリケーションにとって不可欠なものになるにつれ、敵対的攻撃によるデータ漏洩に対する懸念が高まっている。 モデルインバージョン(MI)攻撃は、敵がモデル出力からトレーニングデータを再構築できるようにすることで、重大なプライバシー上の脅威となる。 ニューラルネットワーク(ANN)に対するMI攻撃は広く研究されているが、スパイキングニューラルネットワーク(SNN)はこの文脈では探索されていない。 イベント駆動で離散的な計算のため、SNNはそのような攻撃に固有の抵抗を与える可能性のある情報処理の基本的な違いを導入している。 モデルパラメータや勾配に直接アクセスすることなく、クエリを通じて攻撃者が操作するブラックボックス設定は、デプロイされたシステムにおけるより現実的な敵シナリオを表している。 本研究は,SNNに対するブラックボックスMI攻撃に関する最初の研究である。 我々は、入力変換のためのレートベースの符号化と出力解釈のための復号機構を組み込むことにより、生成逆MIフレームワークをスパイキング領域に適用する。 以上の結果から,SNNはANNよりもMI攻撃に対する抵抗性が有意に高いことが示唆された。 さらに分析したところ、SNN決定境界の離散的かつ時間的に分散した性質が代理モデリングを妨害し、攻撃者がターゲットモデルを近似する能力を制限することが示唆された。

関連論文リスト

• Quantitative Analysis of Deeply Quantized Tiny Neural Networks Robust to Adversarial Attacks [1.6975640673527588]
  ディープニューラルネットワーク(DNN)の欠点は、敵の攻撃に対する感受性にある。 本稿では,ブラックボックス攻撃とホワイトボックス攻撃の両方に対してレジリエンスを示すコンパクトDNNモデルの結果を示す。 このレジリエンスは、QKeras量子化対応トレーニングフレームワークを使用したトレーニングを通じて達成されている。
  論文  参考訳（メタデータ） (2025-03-12T00:34:25Z)
• Concealed Adversarial attacks on neural networks for sequential data [2.1879059908547482]
  我々は、異なる時系列モデルに対する隠れた敵攻撃を開発する。 より現実的な摂動を提供し、人間またはモデル判別器によって検出するのが困難である。 この結果から,堅牢な時系列モデルを設計する上での課題が浮き彫りになった。
  論文  参考訳（メタデータ） (2025-02-28T11:03:32Z)
• Problem space structural adversarial attacks for Network Intrusion Detection Systems based on Graph Neural Networks [8.629862888374243]
  本稿では,ネットワーク侵入検知におけるGNNに適した敵攻撃の最初の形式化を提案する。 我々は、現実のシナリオにおいて、実行可能な構造攻撃を実行するために、攻撃者が考慮すべき問題空間の制約を概説し、モデル化する。 以上の結果から,古典的特徴に基づく攻撃に対するモデルの堅牢性の向上が示唆された。
  論文  参考訳（メタデータ） (2024-03-18T14:40:33Z)
• Securing Graph Neural Networks in MLaaS: A Comprehensive Realization of Query-based Integrity Verification [68.86863899919358]
  我々は機械学習におけるGNNモデルをモデル中心の攻撃から保護するための画期的なアプローチを導入する。 提案手法は,GNNの完全性に対する包括的検証スキーマを含み,トランスダクティブとインダクティブGNNの両方を考慮している。 本稿では,革新的なノード指紋生成アルゴリズムを組み込んだクエリベースの検証手法を提案する。
  論文  参考訳（メタデータ） (2023-12-13T03:17:05Z)
• Adversarial Evasion Attacks Practicality in Networks: Testing the Impact of Dynamic Learning [1.6574413179773757]
  敵攻撃は、MLモデルを騙して欠陥予測を生成することを目的としている。 敵攻撃はMLベースのNIDSを妥協する。 本実験は, 対人訓練を伴わない継続的再訓練は, 対人攻撃の有効性を低下させる可能性が示唆された。
  論文  参考訳（メタデータ） (2023-06-08T18:32:08Z)
• Avoid Adversarial Adaption in Federated Learning by Multi-Metric Investigations [55.2480439325792]
  Federated Learning(FL)は、分散機械学習モデルのトレーニング、データのプライバシの保護、通信コストの低減、多様化したデータソースによるモデルパフォーマンスの向上を支援する。 FLは、中毒攻撃、標的外のパフォーマンス劣化とターゲットのバックドア攻撃の両方でモデルの整合性を損なうような脆弱性に直面している。 我々は、複数の目的に同時に適応できる、強い適応的敵の概念を新たに定義する。 MESASは、実際のデータシナリオで有効であり、平均オーバーヘッドは24.37秒である。
  論文  参考訳（メタデータ） (2023-06-06T11:44:42Z)
• Latent Boundary-guided Adversarial Training [61.43040235982727]
  モデルトレーニングに敵の例を注入する最も効果的な戦略は、敵のトレーニングであることが証明されている。 本稿では, LAtent bounDary-guided aDvErsarial tRaining という新たな逆トレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-06-08T07:40:55Z)
• Learning from Attacks: Attacking Variational Autoencoder for Improving Image Classification [17.881134865491063]
  敵対的攻撃はディープニューラルネットワーク(DNN)の堅牢性に対する脅威と見なされることが多い。 この研究は、異なる視点から敵の攻撃を分析する。つまり、敵の例は、予測に有用な暗黙の情報を含んでいる。 データ自己表現とタスク固有の予測にDNNの利点を利用するアルゴリズムフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-03-11T08:48:26Z)
• Adversarial Attacks on Deep Learning Based Power Allocation in a Massive MIMO Network [62.77129284830945]
  本稿では,大規模なマルチインプット・マルチアウトプット(MAMIMO)ネットワークのダウンリンクにおいて,逆攻撃がDLベースの電力割り当てを損なう可能性があることを示す。 我々はこれらの攻撃のパフォーマンスをベンチマークし、ニューラルネットワーク(NN)の入力に小さな摂動がある場合、ホワイトボックス攻撃は最大86%まで実現不可能な解決策をもたらすことを示した。
  論文  参考訳（メタデータ） (2021-01-28T16:18:19Z)
• Towards Robust Neural Networks via Orthogonal Diversity [30.77473391842894]
  敵の訓練とその変種に代表される一連の手法は、ディープニューラルネットワークの堅牢性を高める最も効果的な手法の1つとして証明されている。 本稿では, 多様な入力に適応する特徴を学習するために, モデルの拡張を目的とした新しい防御手法を提案する。 このようにして、提案したDIOは、これらの相互直交経路によって学習された特徴を補正できるため、モデルを強化し、DNN自体の堅牢性を高める。
  論文  参考訳（メタデータ） (2020-10-23T06:40:56Z)
• Measurement-driven Security Analysis of Imperceptible Impersonation Attacks [54.727945432381716]
  本稿では,ディープニューラルネットワークを用いた顔認識システムの実用性について検討する。 皮膚の色,性別,年齢などの要因が,特定の標的に対する攻撃を行う能力に影響を及ぼすことを示す。 また,攻撃者の顔のさまざまなポーズや視点に対して堅牢なユニバーサルアタックを構築する可能性についても検討した。
  論文  参考訳（メタデータ） (2020-08-26T19:27:27Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)
• Boosting Black-Box Attack with Partially Transferred Conditional Adversarial Distribution [83.02632136860976]
  深層ニューラルネットワーク(DNN)に対するブラックボックス攻撃の研究 我々は, 代理バイアスに対して頑健な, 対向移動可能性の新たなメカニズムを開発する。 ベンチマークデータセットの実験と実世界のAPIに対する攻撃は、提案手法の優れた攻撃性能を示す。
  論文  参考訳（メタデータ） (2020-06-15T16:45:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。