論文の概要: Against Membership Inference Attack: Pruning is All You Need

• arxiv url: http://arxiv.org/abs/2008.13578v4
• Date: Sun, 4 Jul 2021 13:49:31 GMT
• ステータス: 処理完了
• システム内更新日: 2022-10-24 01:39:39.477537
• Title: Against Membership Inference Attack: Pruning is All You Need
• Title（参考訳）: メンバーシップ推論に対する攻撃: プルーニングは必要なすべて
• Authors: Yijue Wang, Chenghong Wang, Zigeng Wang, Shanglin Zhou, Hang Liu, Jinbo Bi, Caiwen Ding, Sanguthevar Rajasekaran
• Abstract要約: 我々は、この重み付け技術が、深層学習ネットワーク(DNN)の会員推論攻撃(MIA)に対する効果を期待する。 そこで本研究では,プライバシの漏洩を防止するサブネットワークが提案されている。 実験の結果,モデル圧縮による攻撃精度は,ベースラインゲームとMin-Maxゲームよりも最大13.6%,10%低いことがわかった。
• 参考スコア（独自算出の注目度）: 22.13027338667513
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The large model size, high computational operations, and vulnerability against membership inference attack (MIA) have impeded deep learning or deep neural networks (DNNs) popularity, especially on mobile devices. To address the challenge, we envision that the weight pruning technique will help DNNs against MIA while reducing model storage and computational operation. In this work, we propose a pruning algorithm, and we show that the proposed algorithm can find a subnetwork that can prevent privacy leakage from MIA and achieves competitive accuracy with the original DNNs. We also verify our theoretical insights with experiments. Our experimental results illustrate that the attack accuracy using model compression is up to 13.6% and 10% lower than that of the baseline and Min-Max game, accordingly.
• Abstract（参考訳）: 大規模なモデルサイズ、高い計算操作、およびメンバーシップ推論攻撃(MIA)に対する脆弱性は、特にモバイルデバイスにおいてディープラーニングやディープニューラルネットワーク(DNN)の人気を阻害している。 この課題に対処するために,重みの刈り取り技術はモデルストレージと計算操作を削減しつつ,miaに対するdnn対策に役立つと期待する。 そこで本研究では,プライバシリークを防止し,元のdnnと競合する精度を実現するサブネットワークを提案できるpruningアルゴリズムを提案する。 また、理論的な洞察を実験で検証する。 実験の結果,モデル圧縮による攻撃精度は,ベースラインおよびmin-maxゲームより最大13.6%,10%低いことがわかった。

関連論文リスト

• Augmented Neural Fine-Tuning for Efficient Backdoor Purification [16.74156528484354]
  最近の研究では、様々なバックドア攻撃に対するディープニューラルネットワーク(DNN)の脆弱性が明らかにされている。 神経活動の最適再編成を目的としたニューラルマスクファインチューニング(NFT)を提案する。 NFTはトリガー合成プロセスを緩和し、逆探索モジュールの要求をなくす。
  論文  参考訳（メタデータ） (2024-07-14T02:36:54Z)
• A Geometrical Approach to Evaluate the Adversarial Robustness of Deep Neural Networks [52.09243852066406]
  対向収束時間スコア(ACTS)は、対向ロバストネス指標として収束時間を測定する。 我々は,大規模画像Netデータセットに対する異なる敵攻撃に対して,提案したACTSメトリックの有効性と一般化を検証する。
  論文  参考訳（メタデータ） (2023-10-10T09:39:38Z)
• Secure Deep Learning-based Distributed Intelligence on Pocket-sized Drones [75.80952211739185]
  パームサイズのナノドロンはエッジノードの魅力的なクラスであるが、その限られた計算資源は大規模なディープラーニングモデルの実行を妨げている。 エッジフォッグ計算のパラダイムを採用することで、計算の一部をフォグにオフロードすることができるが、フォグノードや通信リンクが信頼できない場合、セキュリティ上の懸念が生じる。 ナノドローン上でランダムなサブネットワークを冗長に実行することにより,霧の計算を検証する分散エッジフォッグ実行方式を提案する。
  論文  参考訳（メタデータ） (2023-07-04T08:29:41Z)
• Bridging the Gap between ANNs and SNNs by Calibrating Offset Spikes [19.85338979292052]
  スパイキングニューラルネットワーク(SNN)は低消費電力と時間情報処理の特徴的な特徴から注目されている。 ANN-SNN変換は、SNNに適用するための最も一般的な訓練方法であり、変換されたSNNが大規模データセット上でANNに匹敵するパフォーマンスを達成することを確実にする。 本稿では、異なる変換誤差を評価してこれらの誤りを除去する代わりに、実際のSNN発射速度と所望のSNN発射速度のずれ度を測定するためにオフセットスパイクを定義する。
  論文  参考訳（メタデータ） (2023-02-21T14:10:56Z)
• Publishing Efficient On-device Models Increases Adversarial Vulnerability [58.6975494957865]
  本稿では,大規模モデルのオンデバイス版を公開する際のセキュリティ上の考慮事項について検討する。 まず、敵がデバイス上のモデルを悪用し、大きなモデルを攻撃しやすくすることを示す。 次に、フルスケールと効率的なモデルとの類似性が増加するにつれて、脆弱性が増加することを示す。
  論文  参考訳（メタデータ） (2022-12-28T05:05:58Z)
• Partially Oblivious Neural Network Inference [4.843820624525483]
  CNNのようなニューラルネットワークモデルでは、いくつかの情報漏洩が許容可能であることを示す。 我々は,CIFAR-10ネットワークにおいて,モデル重量の最大80%を,事実上のセキュリティ上の影響なく漏洩させることができることを実験的に実証した。
  論文  参考訳（メタデータ） (2022-10-27T05:39:36Z)
• Versatile Weight Attack via Flipping Limited Bits [68.45224286690932]
  本研究では,展開段階におけるモデルパラメータを変更する新たな攻撃パラダイムについて検討する。 有効性とステルスネスの目標を考慮し、ビットフリップに基づく重み攻撃を行うための一般的な定式化を提供する。 SSA(Single sample attack)とTSA(Singr sample attack)の2例を報告した。
  論文  参考訳（メタデータ） (2022-07-25T03:24:58Z)
• Efficient and Accurate Conversion of Spiking Neural Network with Burst Spikes [9.210531698373256]
  脳にインスパイアされたエネルギー効率の高いニューラルネットワークとしてのスパイキングニューラルネットワーク(SNN)は、研究者の関心を集めている。 1つの効果的な方法は、訓練されたANNの重量をSNNにマッピングし、高い推論能力を達成することである。 変換されたスパイクニューラルネットワークは、しばしば性能劣化とかなりの遅延に悩まされる。 本稿では,残余情報の解法として,安価で高効率なバーストスパイクを放出するニューロンモデルを提案する。
  論文  参考訳（メタデータ） (2022-04-28T03:48:17Z)
• BreakingBED -- Breaking Binary and Efficient Deep Neural Networks by Adversarial Attacks [65.2021953284622]
  CNNのホワイトボックス攻撃やブラックボックス攻撃に対する堅牢性について検討する。 結果は、蒸留されたCNN、エージェントベースの最新のprunedモデル、およびバイナライズニューラルネットワークのために示されています。
  論文  参考訳（メタデータ） (2021-03-14T20:43:19Z)
• Targeted Attack against Deep Neural Networks via Flipping Limited Weight Bits [55.740716446995805]
  我々は,悪質な目的で展開段階におけるモデルパラメータを修飾する新しい攻撃パラダイムについて検討する。 私たちのゴールは、特定のサンプルをサンプル修正なしでターゲットクラスに誤分類することです。 整数プログラミングにおける最新の手法を利用することで、このBIP問題を連続最適化問題として等価に再構成する。
  論文  参考訳（メタデータ） (2021-02-21T03:13:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。