Fugu-MT 論文翻訳(概要): A Protection against the Extraction of Neural Network Models

論文の概要: A Protection against the Extraction of Neural Network Models

arxiv url: http://arxiv.org/abs/2005.12782v3
Date: Fri, 31 Jul 2020 09:41:41 GMT
ステータス: 処理完了
システム内更新日: 2022-11-28 23:47:14.690235
Title: A Protection against the Extraction of Neural Network Models
Title（参考訳）: ニューラルネットワークモデルの抽出に対する保護
Authors: Herv\'e Chabanne and Vincent Despiegel and Linda Guiga
Abstract要約: NNの予測をほとんど変更しない寄生層を追加することで保護を導入する。本対策は,畳み込みNNを用いた雑音性同一性マッピングの近似に頼っている。
参考スコア（独自算出の注目度）: 0.0
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Given oracle access to a Neural Network (NN), it is possible to extract its underlying model. We here introduce a protection by adding parasitic layers which keep the underlying NN's predictions mostly unchanged while complexifying the task of reverse-engineering. Our countermeasure relies on approximating a noisy identity mapping with a Convolutional NN. We explain why the introduction of new parasitic layers complexifies the attacks. We report experiments regarding the performance and the accuracy of the protected NN.
Abstract（参考訳）: oracleがニューラルネットワーク(nn)にアクセスすると、その基盤となるモデルを抽出することができる。ここでは,基盤となるnnの予測をほとんど変更せず,リバースエンジニアリングのタスクを複雑化させる寄生層を追加することで保護を導入する。提案手法は,畳み込みnnを用いた雑音idマッピングを近似する。新たな寄生層の導入が攻撃を複雑化する理由を説明する。我々は,保護されたNNの性能と精度に関する実験を報告する。

関連論文リスト

Problem space structural adversarial attacks for Network Intrusion Detection Systems based on Graph Neural Networks [8.629862888374243]
本稿では,ネットワーク侵入検知におけるGNNに適した敵攻撃の最初の形式化を提案する。我々は、現実のシナリオにおいて、実行可能な構造攻撃を実行するために、攻撃者が考慮すべき問題空間の制約を概説し、モデル化する。以上の結果から,古典的特徴に基づく攻撃に対するモデルの堅牢性の向上が示唆された。
論文参考訳（メタデータ） (2024-03-18T14:40:33Z)
Provably Safe Neural Network Controllers via Differential Dynamic Logic [2.416907802598482]
NNCS検証のための制御理論の再利用を可能にする最初の一般手法を提案する。 dLの安全な制御エンベロープに基づいて、NN検証によって証明されたNNの仕様を導出する。本稿では,NNCS の無限時間安全に関する dL 証明によって,仕様に忠実な NNCS の証明が反映されていることを示す。
論文参考訳（メタデータ） (2024-02-16T16:15:25Z)
Securing Graph Neural Networks in MLaaS: A Comprehensive Realization of Query-based Integrity Verification [68.86863899919358]
我々は機械学習におけるGNNモデルをモデル中心の攻撃から保護するための画期的なアプローチを導入する。提案手法は,GNNの完全性に対する包括的検証スキーマを含み,トランスダクティブとインダクティブGNNの両方を考慮している。本稿では,革新的なノード指紋生成アルゴリズムを組み込んだクエリベースの検証手法を提案する。
論文参考訳（メタデータ） (2023-12-13T03:17:05Z)
Reconstructive Neuron Pruning for Backdoor Defense [96.21882565556072]
本稿では, バックドアニューロンの露出とプルーンの抑制を目的とした, emphReconstructive Neuron Pruning (RNP) という新しい防御法を提案する。 RNPでは、アンラーニングはニューロンレベルで行われ、リカバリはフィルタレベルで行われ、非対称再構成学習手順を形成する。このような非対称なプロセスは、少数のクリーンサンプルだけが、広範囲の攻撃によって移植されたバックドアニューロンを効果的に露出し、刺激することができることを示す。
論文参考訳（メタデータ） (2023-05-24T08:29:30Z)
NASCTY: Neuroevolution to Attack Side-channel Leakages Yielding Convolutional Neural Networks [1.1602089225841632]
サイドチャネル解析(SCA)は、デバイスが生成した漏洩を利用して秘密鍵に関する情報を得ることができる。研究者らは先日、ニューラルネットワーク(NN)が強力なプロファイリングSCAを実行可能であることを発見した。本稿では,畳み込みニューラルネットワーク(NASCTY-CNN)を応用した攻撃側チャネルトレースに対する神経進化の有効性について検討する。
論文参考訳（メタデータ） (2023-01-25T19:31:04Z)
Generating Adversarial Examples with Graph Neural Networks [26.74003742013481]
両手法の強みを生かしたグラフニューラルネットワーク(GNN)に基づく新たな攻撃を提案する。 PGDアタック,MI-FGSM,Carini,Wagnerアタックなど,最先端の敵攻撃に勝っていることを示す。我々は、敵攻撃のより実証的な比較を可能にするために特別に設計された、新しい挑戦的なデータセットを提供する。
論文参考訳（メタデータ） (2021-05-30T22:46:41Z)
Online Limited Memory Neural-Linear Bandits with Likelihood Matching [53.18698496031658]
本研究では,探索学習と表現学習の両方が重要な役割を果たす課題を解決するために,ニューラルネットワークの帯域について検討する。破滅的な忘れ込みに対して耐性があり、完全にオンラインである可能性の高いマッチングアルゴリズムを提案する。
論文参考訳（メタデータ） (2021-02-07T14:19:07Z)
Neural Networks with Recurrent Generative Feedback [61.90658210112138]
畳み込みニューラルネットワーク(CNN)でこの設計をインスタンス化する実験では、標準ベンチマーク上の従来のフィードフォワードCNNに対して、CNN-Fは敵のロバスト性を大幅に改善した。
論文参考訳（メタデータ） (2020-07-17T19:32:48Z)
Modeling from Features: a Mean-field Framework for Over-parameterized Deep Neural Networks [54.27962244835622]
本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
論文参考訳（メタデータ） (2020-07-03T01:37:16Z)
Entropy-Based Modeling for Estimating Soft Errors Impact on Binarized Neural Network Inference [2.249916681499244]
本稿では,SEU(Single-event upset)とMBU(Multi-bit upset)の影響を階層間および選択した畳み込みニューラルネットワークの各層で明らかにする比較的正確な統計モデルを提案する。これらのモデルは、安全クリティカルなアプリケーションで採用する前に、NNトポロジのエラー-レジリエンスのマグニチュードを評価するために使用できる。
論文参考訳（メタデータ） (2020-04-10T16:10:24Z)
Phase Detection with Neural Networks: Interpreting the Black Box [58.720142291102135]
ニューラルネットワーク(NN)は通常、予測の背後にある推論に対する洞察を妨げます。本研究では,1次元拡張スピンレスFermi-Hubbardモデルの位相を半充足で予測するために,NNのブラックボックスをいかに影響関数が解き放つかを示す。
論文参考訳（メタデータ） (2020-04-09T17:45:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。