論文の概要: Do Spikes Protect Privacy? Investigating Black-Box Model Inversion Attacks in Spiking Neural Networks

• arxiv url: http://arxiv.org/abs/2502.05509v1
• Date: Sat, 08 Feb 2025 10:02:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-11 14:36:22.697789
• Title: Do Spikes Protect Privacy? Investigating Black-Box Model Inversion Attacks in Spiking Neural Networks
• Title（参考訳）: スパイクはプライバシを保護するか? スパイクニューラルネットワークにおけるブラックボックスモデルインバージョン攻撃を調査
• Authors: Hamed Poursiami, Ayana Moshruba, Maryam Parsa,
• Abstract要約: この研究は、スパイキングニューラルネットワーク(SNN)に対するブラックボックスモデル反転(MI)攻撃の最初の研究である。 我々は、入力変換のためのレートベースの符号化と出力解釈のための復号機構を組み込むことにより、生成逆MIフレームワークをスパイク領域に適用する。 以上の結果から,SNNはANNよりもMI攻撃に対する抵抗性が有意に高いことが示唆された。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: As machine learning models become integral to security-sensitive applications, concerns over data leakage from adversarial attacks continue to rise. Model Inversion (MI) attacks pose a significant privacy threat by enabling adversaries to reconstruct training data from model outputs. While MI attacks on Artificial Neural Networks (ANNs) have been widely studied, Spiking Neural Networks (SNNs) remain largely unexplored in this context. Due to their event-driven and discrete computations, SNNs introduce fundamental differences in information processing that may offer inherent resistance to such attacks. A critical yet underexplored aspect of this threat lies in black-box settings, where attackers operate through queries without direct access to model parameters or gradients-representing a more realistic adversarial scenario in deployed systems. This work presents the first study of black-box MI attacks on SNNs. We adapt a generative adversarial MI framework to the spiking domain by incorporating rate-based encoding for input transformation and decoding mechanisms for output interpretation. Our results show that SNNs exhibit significantly greater resistance to MI attacks than ANNs, as demonstrated by degraded reconstructions, increased instability in attack convergence, and overall reduced attack effectiveness across multiple evaluation metrics. Further analysis suggests that the discrete and temporally distributed nature of SNN decision boundaries disrupts surrogate modeling, limiting the attacker's ability to approximate the target model.
• Abstract（参考訳）: 機械学習モデルがセキュリティに敏感なアプリケーションにとって不可欠なものになるにつれ、敵対的攻撃によるデータ漏洩に対する懸念が高まっている。 モデルインバージョン(MI)攻撃は、敵がモデル出力からトレーニングデータを再構築できるようにすることで、重大なプライバシー上の脅威となる。 ニューラルネットワーク(ANN)に対するMI攻撃は広く研究されているが、スパイキングニューラルネットワーク(SNN)はこの文脈では探索されていない。 イベント駆動で離散的な計算のため、SNNはそのような攻撃に固有の抵抗を与える可能性のある情報処理の基本的な違いを導入している。 モデルパラメータや勾配に直接アクセスすることなく、クエリを通じて攻撃者が操作するブラックボックス設定は、デプロイされたシステムにおけるより現実的な敵シナリオを表している。 本研究は,SNNに対するブラックボックスMI攻撃に関する最初の研究である。 我々は、入力変換のためのレートベースの符号化と出力解釈のための復号機構を組み込むことにより、生成逆MIフレームワークをスパイキング領域に適用する。 以上の結果から,SNNはANNよりもMI攻撃に対する抵抗性が有意に高いことが示唆された。 さらに分析したところ、SNN決定境界の離散的かつ時間的に分散した性質が代理モデリングを妨害し、攻撃者がターゲットモデルを近似する能力を制限することが示唆された。

関連論文リスト

• Problem space structural adversarial attacks for Network Intrusion Detection Systems based on Graph Neural Networks [8.629862888374243]
  本稿では,ネットワーク侵入検知におけるGNNに適した敵攻撃の最初の形式化を提案する。 我々は、現実のシナリオにおいて、実行可能な構造攻撃を実行するために、攻撃者が考慮すべき問題空間の制約を概説し、モデル化する。 以上の結果から,古典的特徴に基づく攻撃に対するモデルの堅牢性の向上が示唆された。
  論文  参考訳（メタデータ） (2024-03-18T14:40:33Z)
• Securing Graph Neural Networks in MLaaS: A Comprehensive Realization of Query-based Integrity Verification [68.86863899919358]
  我々は機械学習におけるGNNモデルをモデル中心の攻撃から保護するための画期的なアプローチを導入する。 提案手法は,GNNの完全性に対する包括的検証スキーマを含み,トランスダクティブとインダクティブGNNの両方を考慮している。 本稿では,革新的なノード指紋生成アルゴリズムを組み込んだクエリベースの検証手法を提案する。
  論文  参考訳（メタデータ） (2023-12-13T03:17:05Z)
• Not So Robust After All: Evaluating the Robustness of Deep Neural Networks to Unseen Adversarial Attacks [5.024667090792856]
  ディープニューラルネットワーク(DNN)は、分類、認識、予測など、さまざまなアプリケーションで注目を集めている。 従来のDNNの基本的属性は、入力データの修正に対する脆弱性である。 本研究の目的は、敵攻撃に対する現代の防御機構の有効性と一般化に挑戦することである。
  論文  参考訳（メタデータ） (2023-08-12T05:21:34Z)
• Adversarial Evasion Attacks Practicality in Networks: Testing the Impact of Dynamic Learning [1.6574413179773757]
  敵攻撃は、MLモデルを騙して欠陥予測を生成することを目的としている。 敵攻撃はMLベースのNIDSを妥協する。 本実験は, 対人訓練を伴わない継続的再訓練は, 対人攻撃の有効性を低下させる可能性が示唆された。
  論文  参考訳（メタデータ） (2023-06-08T18:32:08Z)
• On the Robustness of Bayesian Neural Networks to Adversarial Attacks [11.277163381331137]
  敵対的攻撃に対する脆弱性は、安全クリティカルなアプリケーションでディープラーニングを採用する上で、大きなハードルのひとつです。 データ分布の縮退の結果、勾配に基づく攻撃に対する脆弱性が生じることを示す。 BNN後部分布に対する損失の予測勾配は、後部からサンプリングされた各ニューラルネットワークが勾配に基づく攻撃に対して脆弱である場合でも消滅していることを示す。
  論文  参考訳（メタデータ） (2022-07-13T12:27:38Z)
• Latent Boundary-guided Adversarial Training [61.43040235982727]
  モデルトレーニングに敵の例を注入する最も効果的な戦略は、敵のトレーニングであることが証明されている。 本稿では, LAtent bounDary-guided aDvErsarial tRaining という新たな逆トレーニングフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-06-08T07:40:55Z)
• Learning from Attacks: Attacking Variational Autoencoder for Improving Image Classification [17.881134865491063]
  敵対的攻撃はディープニューラルネットワーク(DNN)の堅牢性に対する脅威と見なされることが多い。 この研究は、異なる視点から敵の攻撃を分析する。つまり、敵の例は、予測に有用な暗黙の情報を含んでいる。 データ自己表現とタスク固有の予測にDNNの利点を利用するアルゴリズムフレームワークを提案する。
  論文  参考訳（メタデータ） (2022-03-11T08:48:26Z)
• Adversarial Attacks on Deep Learning Based Power Allocation in a Massive MIMO Network [62.77129284830945]
  本稿では,大規模なマルチインプット・マルチアウトプット(MAMIMO)ネットワークのダウンリンクにおいて,逆攻撃がDLベースの電力割り当てを損なう可能性があることを示す。 我々はこれらの攻撃のパフォーマンスをベンチマークし、ニューラルネットワーク(NN)の入力に小さな摂動がある場合、ホワイトボックス攻撃は最大86%まで実現不可能な解決策をもたらすことを示した。
  論文  参考訳（メタデータ） (2021-01-28T16:18:19Z)
• Measurement-driven Security Analysis of Imperceptible Impersonation Attacks [54.727945432381716]
  本稿では,ディープニューラルネットワークを用いた顔認識システムの実用性について検討する。 皮膚の色,性別,年齢などの要因が,特定の標的に対する攻撃を行う能力に影響を及ぼすことを示す。 また,攻撃者の顔のさまざまなポーズや視点に対して堅牢なユニバーサルアタックを構築する可能性についても検討した。
  論文  参考訳（メタデータ） (2020-08-26T19:27:27Z)
• Graph Backdoor [53.70971502299977]
  GTAはグラフニューラルネットワーク(GNN)に対する最初のバックドア攻撃である。 GTAは、トポロジカル構造と記述的特徴の両方を含む特定の部分グラフとしてトリガーを定義する。 トランスダクティブ(ノード分類など)とインダクティブ(グラフ分類など)の両方のタスクに対してインスタンス化することができる。
  論文  参考訳（メタデータ） (2020-06-21T19:45:30Z)
• Boosting Black-Box Attack with Partially Transferred Conditional Adversarial Distribution [83.02632136860976]
  深層ニューラルネットワーク(DNN)に対するブラックボックス攻撃の研究 我々は, 代理バイアスに対して頑健な, 対向移動可能性の新たなメカニズムを開発する。 ベンチマークデータセットの実験と実世界のAPIに対する攻撃は、提案手法の優れた攻撃性能を示す。
  論文  参考訳（メタデータ） (2020-06-15T16:45:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。