論文の概要: Older and Wiser: The Marriage of Device Aging and Intellectual Property Protection of Deep Neural Networks
- arxiv url: http://arxiv.org/abs/2406.14863v1
- Date: Fri, 21 Jun 2024 04:49:17 GMT
- ステータス: 処理完了
- システム内更新日: 2024-06-24 14:52:36.105779
- Title: Older and Wiser: The Marriage of Device Aging and Intellectual Property Protection of Deep Neural Networks
- Title(参考訳): 高齢化とWiser:Deep Neural Networksのデバイス老化と知的財産保護の結婚
- Authors: Ning Lin, Shaocong Wang, Yue Zhang, Yangu He, Kwunhang Wong, Arindam Basu, Dashan Shang, Xiaoming Chen, Zhongrui Wang,
- Abstract要約: 深層ニューラルネットワーク(DNN)は、高いトレーニングコストとプライバシー上の懸念から秘密にされることが多い。
本稿では,DNN知的財産権(IP)保護のためのハードウェア・ソフトウェア共同設計手法を提案する。
ハードウェア面では、承認されたチップを生成するためにランダムな老化を用いる。
ソフトウェア面では、未学習のDNNが認証チップ上で元の精度を維持することができる新しいDOFTを提案する。
- 参考スコア(独自算出の注目度): 10.686965180113118
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep neural networks (DNNs), such as the widely-used GPT-3 with billions of parameters, are often kept secret due to high training costs and privacy concerns surrounding the data used to train them. Previous approaches to securing DNNs typically require expensive circuit redesign, resulting in additional overheads such as increased area, energy consumption, and latency. To address these issues, we propose a novel hardware-software co-design approach for DNN intellectual property (IP) protection that capitalizes on the inherent aging characteristics of circuits and a novel differential orientation fine-tuning (DOFT) to ensure effective protection. Hardware-wise, we employ random aging to produce authorized chips. This process circumvents the need for chip redesign, thereby eliminating any additional hardware overhead during the inference procedure of DNNs. Moreover, the authorized chips demonstrate a considerable disparity in DNN inference performance when compared to unauthorized chips. Software-wise, we propose a novel DOFT, which allows pre-trained DNNs to maintain their original accuracy on authorized chips with minimal fine-tuning, while the model's performance on unauthorized chips is reduced to random guessing. Extensive experiments on various models, including MLP, VGG, ResNet, Mixer, and SwinTransformer, with lightweight binary and practical multi-bit weights demonstrate that the proposed method achieves effective IP protection, with only 10\% accuracy on unauthorized chips, while preserving nearly the original accuracy on authorized ones.
- Abstract(参考訳): 数十億のパラメータを持つ広く使われているGPT-3のようなディープニューラルネットワーク(DNN)は、トレーニングに使用されるデータを取り巻く高いトレーニングコストとプライバシー上の懸念のために秘密にされていることが多い。
従来のDNNの安全性確保には、通常、高価な回路の再設計が必要であり、その結果、面積の増加、エネルギー消費、遅延などのオーバーヘッドが生じる。
そこで本研究では,DNN知的財産権(IP)保護のためのハードウェア・ソフトウェア共同設計手法を提案する。
ハードウェア面では、承認されたチップを生成するためにランダムな老化を用いる。
このプロセスはチップの再設計を回避し、DNNの推論手順中に追加のハードウェアオーバーヘッドをなくす。
さらに、認証チップは、未承認チップと比較して、DNN推論性能にかなりの差があることを示す。
ソフトウェア面では、事前学習したDNNが最小限の微調整で認証チップ上で元の精度を維持することができる新しいDOFTを提案する一方、未承認チップ上でのモデルの性能はランダムな推測に還元される。
MLP、VGG、ResNet、Mixer、SwinTransformerなど、軽量なバイナリと実用的なマルチビット重みを持つ多種多様なモデルに対する大規模な実験により、提案手法が有効なIP保護を実現することを示し、未承認チップでは10倍の精度しか得られず、認証されたチップではほぼ元の精度を保っている。
関連論文リスト
- SNNGX: Securing Spiking Neural Networks with Genetic XOR Encryption on RRAM-based Neuromorphic Accelerator [34.474841993360855]
スパイキングニューラルネットワーク(SNN)はスパイクスパシティを特徴とするもので、知的エッジデバイスや重要なバイオメディカル応用に対して大きな注目を集めている。
しかし、SNNからホワイトボックス情報を抽出しようとする悪意のある試みにはかなりのリスクがある。
我々は,SNNのIPを保護するために,セキュアなRRAMベースのニューロモルフィックアクセラレータを提案する。
論文 参考訳(メタデータ) (2024-07-21T13:08:05Z) - Deep Intellectual Property Protection: A Survey [70.98782484559408]
近年、ディープニューラルネットワーク(DNN)は革命的な進歩を遂げており、様々な分野で広く利用されている。
本研究の目的は,ディープウォーターマーキングとディープフィンガープリントの2つの主要なDNNIP保護手法を総合的に調査することである。
論文 参考訳(メタデータ) (2023-04-28T03:34:43Z) - Robust and Lossless Fingerprinting of Deep Neural Networks via Pooled
Membership Inference [17.881686153284267]
ディープニューラルネットワーク(DNN)は、すでに多くのアプリケーション分野で大きな成功を収めており、私たちの社会に大きな変化をもたらしています。
DNNの知的財産権(IP)を侵害から保護する方法は、最も重要かつ非常に困難なトピックの1つである。
本稿では,DNNモデルのIPを保護するために,Emphpooled Memberation Inference (PMI) と呼ばれる新しい手法を提案する。
論文 参考訳(メタデータ) (2022-09-09T04:06:29Z) - RL-DistPrivacy: Privacy-Aware Distributed Deep Inference for low latency
IoT systems [41.1371349978643]
本稿では,流通戦略の再考を通じて協調的深層推論の安全性を目標とするアプローチを提案する。
我々は、この手法を最適化として定式化し、コ推論のレイテンシとプライバシーレベルのデータのトレードオフを確立する。
論文 参考訳(メタデータ) (2022-08-27T14:50:00Z) - FPGA-optimized Hardware acceleration for Spiking Neural Networks [69.49429223251178]
本研究は,画像認識タスクに適用したオフライントレーニングによるSNN用ハードウェアアクセラレータの開発について述べる。
この設計はXilinx Artix-7 FPGAをターゲットにしており、利用可能なハードウェアリソースの40%を合計で使用している。
分類時間を3桁に短縮し、ソフトウェアと比較すると精度にわずか4.5%の影響を与えている。
論文 参考訳(メタデータ) (2022-01-18T13:59:22Z) - An Adaptive Device-Edge Co-Inference Framework Based on Soft
Actor-Critic [72.35307086274912]
高次元パラメータモデルと大規模数学的計算は、特にIoT(Internet of Things)デバイスにおける実行効率を制限する。
本稿では,ソフトポリシーの繰り返しによるエフェキシット点,エフェキシット点,エンフェキシット点を生成する離散的(SAC-d)のための新しい深層強化学習(DRL)-ソフトアクタ批判法を提案する。
レイテンシと精度を意識した報酬設計に基づいて、そのような計算は動的無線チャンネルや任意の処理のような複雑な環境によく適応でき、5G URLをサポートすることができる。
論文 参考訳(メタデータ) (2022-01-09T09:31:50Z) - Deep Serial Number: Computational Watermarking for DNN Intellectual
Property Protection [53.40245698216239]
DSN(Deep Serial Number)はディープニューラルネットワーク(DNN)に特化した透かしアルゴリズムである。
従来のソフトウェアIPの保護においてシリアル番号に着想を得て,DNNに埋め込まれたシリアル番号の最初の実装を提案する。
論文 参考訳(メタデータ) (2020-11-17T21:42:40Z) - DeepPeep: Exploiting Design Ramifications to Decipher the Architecture
of Compact DNNs [2.3651168422805027]
DeepPeepは、コンパクトDNNにおけるビルディングブロックのアーキテクチャをリバースエンジニアリングするための2段階攻撃手法である。
セキュアなMobileNet-V1"は、推論遅延の大幅な削減と予測性能の改善を提供する。
論文 参考訳(メタデータ) (2020-07-30T06:01:41Z) - DeepHammer: Depleting the Intelligence of Deep Neural Networks through
Targeted Chain of Bit Flips [29.34622626909906]
量子化ディープニューラルネットワーク(DNN)に対するハードウェアベースの最初の攻撃を実演する。
DeepHammerは、数分で実行時にDNNの推論動作を修正することができる。
私たちの研究は、将来のディープラーニングシステムにセキュリティメカニズムを組み込む必要性を強調しています。
論文 参考訳(メタデータ) (2020-03-30T18:51:59Z) - A Privacy-Preserving-Oriented DNN Pruning and Mobile Acceleration
Framework [56.57225686288006]
モバイルエッジデバイスの限られたストレージとコンピューティング能力を満たすために、ディープニューラルネットワーク(DNN)の軽量プルーニングが提案されている。
従来のプルーニング手法は主に、ユーザデータのプライバシを考慮せずに、モデルのサイズを減らしたり、パフォーマンスを向上させることに重点を置いていた。
プライベートトレーニングデータセットを必要としないプライバシ保護指向のプルーニングおよびモバイルアクセラレーションフレームワークを提案する。
論文 参考訳(メタデータ) (2020-03-13T23:52:03Z) - PatDNN: Achieving Real-Time DNN Execution on Mobile Devices with
Pattern-based Weight Pruning [57.20262984116752]
粗粒構造の内部に新しい次元、きめ細かなプルーニングパターンを導入し、これまで知られていなかった設計空間の点を明らかにした。
きめ細かいプルーニングパターンによって高い精度が実現されているため、コンパイラを使ってハードウェア効率を向上し、保証することがユニークな洞察である。
論文 参考訳(メタデータ) (2020-01-01T04:52:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。