論文の概要: RRAM-DP: Device-Calibrated Differential Privacy for In-Memory Edge Learning
- arxiv url: http://arxiv.org/abs/2607.18169v1
- Date: Mon, 20 Jul 2026 17:11:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.717972
- Title: RRAM-DP: Device-Calibrated Differential Privacy for In-Memory Edge Learning
- Title(参考訳): RRAM-DP:インメモリエッジ学習のためのデバイスキャリブレーションによる微分プライバシー
- Abstract要約: 抵抗スイッチングランダムアクセスメモリ(RRAM)は、効率的なエッジ人工知能(AIoT)のための魅力的な基板である
本稿では,RRAM書き込み検証操作を緩和し,固有(エプシロン,デルタ)-DPに対して校正ノイズを注入するハードウェアアルゴリズムの共同設計であるRRAM-DPを提案する。
同じプライバシーレベルでは、RRAM-DP-SGDはA100とDiVaGEMMでそれぞれ57倍と3.2倍の省エネと2.7倍と1.8倍のスピードアップを提供する。
- 参考スコア(独自算出の注目度): 21.69171006139815
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Edge Artificial Intelligence of Things (AIoT) systems often collect sensitive data in situ, raising serious privacy concerns. Resistive-switching random-access memory (RRAM) is an attractive substrate for efficient AIoT thanks to its multi-bit storage and compute-in-memory (CiM) capabilities, while its inherently stochastic write behavior provides a natural source of randomness that can be leveraged for differential privacy (DP) protection. Yet how to transform this device-level randomness-typically viewed as detrimental to accuracy-into a principled randomized mechanism while preserving model utility remains underexplored. We propose RRAM-DP, a hardware-algorithm co-design that relaxes RRAM write-verify operations to inject calibrated noise for inherently (epsilon, delta)-DP with formal DP analysis; together with pretraining techniques, it renders a novel private, high-utility CiM training paradigm. On CIFAR-10/100, STS-B, and SST-2, RRAM-DP-SGD incurs at best only a 3.8% accuracy drop at (epsilon=2, delta=O(1/n))-DP relative to non-private SGD. At the same privacy level, RRAM-DP-SGD delivers up to 57x and 3.2x energy savings and 2.7x and 1.8x speedups over A100 and DiVa-GEMM, respectively. These results point toward efficient, privacy-preserving in-memory training on RRAM at the edge.
- Abstract(参考訳): Edge Artificial Intelligence of Things (AIoT)システムは、しばしば機密データをその場で収集し、重大なプライバシー上の懸念を引き起こす。
抵抗スイッチングランダムアクセスメモリ(RRAM)は、マルチビットストレージとコンピュートインメモリ(CiM)機能のおかげで、効率的なAIoTのための魅力的な基板である。
しかし、このデバイスレベルのランダム性(典型的には精度の低下)を原則化されたランダム化メカニズムに変換するには、モデルユーティリティの保存は未熟である。
本稿では,RRAM書き込み検証操作を緩和し,固有な(エプシロン,デルタ)-DPのキャリブレーションノイズを正式なDP解析で注入するハードウェア・アルゴリズムの共同設計であるRRAM-DPを提案する。
CIFAR-10/100, STS-B, SST-2では、RRAM-DP-SGDは、非プライベートSGDと比較して、(epsilon=2, delta=O(1/n))-DPで3.8%の精度で低下する。
同じプライバシーレベルでは、RRAM-DP-SGDはA100とDiVa-GEMMでそれぞれ57倍と3.2倍の省エネと2.7倍と1.8倍のスピードアップを提供する。
これらの結果は、エッジのRRAM上での効率よく、プライバシを保存するインメモリトレーニングに向けられている。
関連論文リスト
- SMA-DP: Spectral Memory-Aware Differential Privacy for Deep Learning [0.0]
ディファレンシャル・プライベート・勾配降下(DP-SGD)は、サンプルごとのクリッピングとガウス雑音の校正によるプライベート・ディープ・ラーニングを可能にする。
DP-SGDを分数メモリ分岐で拡張する textbfSpectral MemoryAware 法である textbfSMA-DPSGD を提案する。
CIFAR-100、CIFAR-10、MNISTの実験は、いくつかのDP最適化ベースラインよりも、競争力または優れた精度を示している。
論文 参考訳(メタデータ) (2026-05-19T20:02:19Z) - RPWithPrior: Label Differential Privacy in Regression [0.0]
本稿では,$$-label差分プライバシー保証の下での回帰タスクに着目した。
元の応答とランダムな応答を連続確率変数としてモデル化し、離散化を完全に回避する。
我々のアルゴリズムであるRPWithPriorは、$$-label差分プライバシーを保証する。
論文 参考訳(メタデータ) (2026-01-30T06:27:13Z) - CNN-Based Automated Parameter Extraction Framework for Modeling Memristive Devices [0.0]
抵抗ランダムアクセスメモリ(RRAM)は、次世代の非揮発性メモリ(NVM)およびインメモリコンピューティングアプリケーションにとって有望な候補である。
実験RRAMデバイスの回路およびシステムレベルの性能解析には,小型モデルが不可欠である。
本研究は,デバイスI-V特性から直接,広く使用されているスタンフォードRRAMモデルの適合パラメータを抽出する自動フレームワークを提案する。
論文 参考訳(メタデータ) (2025-11-11T07:24:39Z) - Machine Learning with Privacy for Protected Attributes [56.44253915927481]
差分プライバシー(DP)の定義を洗練し、機能差分プライバシー(FDP)と呼ばれるより汎用的で柔軟なフレームワークを作成する。
私たちの定義はシミュレーションに基づいており、プライバシの追加/削除と置き換えの両方が可能で、保護された機能と非保護された機能の任意の分離を処理できます。
各種機械学習タスクにフレームワークを適用し,パブリック機能が利用可能であればDP学習モデルの実用性を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2025-06-24T17:53:28Z) - Two Birds with One Stone: Differential Privacy by Low-power SRAM Memory [3.574643703197513]
設計による差分プライバシーを実現するためのハードウェアベースの手法を開発した。
本設計では,メモリに格納されたデータに対して,固有のハードウェアノイズを制御されたLDPノイズに利用することにより,ローカルディファレンシャルプライバシ(LDP)を実現する。
結果は、開発技術は差分プライベートであり、88.58%のシステムパワーを節約し、ソフトウェアベースのDPメカニズムを106回以上高速化する一方で、2.46%のチップオーバーヘッドと7.81%のデータリカバリしか発生しないことを確認した。
論文 参考訳(メタデータ) (2024-03-26T01:14:55Z) - Private Fine-tuning of Large Language Models with Zeroth-order Optimization [51.19403058739522]
差分的プライベート勾配降下(DP-SGD)により、モデルはプライバシ保護の方法でトレーニングできる。
DP-ZO(DP-ZO)は,ゼロオーダー最適化手法を民営化することで,大規模言語モデルのためのプライベートな微調整フレームワークである。
論文 参考訳(メタデータ) (2024-01-09T03:53:59Z) - Pruning random resistive memory for optimizing analogue AI [54.21621702814583]
AIモデルは、エネルギー消費と環境持続可能性に前例のない課題を提示する。
有望な解決策の1つは、アナログコンピューティングを再考することである。
ここでは、構造的塑性に着想を得たエッジプルーニングを用いたユニバーサルソリューション、ソフトウェア・ハードウエアの共設計について報告する。
論文 参考訳(メタデータ) (2023-11-13T08:59:01Z) - DDC-PIM: Efficient Algorithm/Architecture Co-design for Doubling Data
Capacity of SRAM-based Processing-In-Memory [6.367916611208411]
等価データ容量を効果的に2倍にする効率的なアルゴリズム/アーキテクチャ共設計手法であるDDC-PIMを提案する。
DDC-PIMはMobileNetV2で約2.84タイム、EfficientNet-B0で約2.69タイム、精度の損失は無視できる。
最先端のマクロと比較して、DDC-PIMは重量密度と面積効率をそれぞれ最大8.41タイムと2.75タイムに改善する。
論文 参考訳(メタデータ) (2023-10-31T12:49:54Z) - DPZero: Private Fine-Tuning of Language Models without Backpropagation [49.365749361283704]
DPZeroは、ほぼ次元に依存しない新しいゼロオーダーアルゴリズムである。
DPZeroのメモリ効率は、いくつかの下流タスクでプライベートに微調整されたRoBERTaとOPTで実証される。
論文 参考訳(メタデータ) (2023-10-14T18:42:56Z) - DP-Forward: Fine-tuning and Inference on Language Models with Differential Privacy in Forward Pass [22.578388829171157]
DP-フォワードの摂動は言語モデルの前方通過に埋め込まれる。
ほぼ民間のベースラインに到達し、プライバシーレベルではDP-SGDを7.7ppまで上回っている。
論文 参考訳(メタデータ) (2023-09-13T06:37:53Z) - Self-Gated Memory Recurrent Network for Efficient Scalable HDR
Deghosting [59.04604001936661]
本稿では,任意の長さの動的シーケンスを浮き彫りにする新しいネットワーク型HDRデゴースト法を提案する。
本稿では,SGM(Self-Gated Memory)セルという新たなリカレントセルアーキテクチャを導入する。
提案手法は,既存の3つの公開データセットを定量的に比較して,最先端の性能を実現する。
論文 参考訳(メタデータ) (2021-12-24T12:36:33Z) - SreaMRAK a Streaming Multi-Resolution Adaptive Kernel Algorithm [60.61943386819384]
既存のKRRの実装では、すべてのデータがメインメモリに格納される必要がある。
KRRのストリーミング版であるStreaMRAKを提案する。
本稿では,2つの合成問題と2重振り子の軌道予測について紹介する。
論文 参考訳(メタデータ) (2021-08-23T21:03:09Z) - Lossless Compression of Efficient Private Local Randomizers [55.657133416044104]
Locally Differentially Private (LDP) Reportsは、フェデレーション設定における統計と機械学習の収集に一般的に使用されます。
多くの場合、最もよく知られたldpアルゴリズムは、クライアントデバイスからサーバに強制的に大きなメッセージを送信する必要がある。
これにより、LDPアルゴリズムの通信コストの削減に大きく貢献しています。
論文 参考訳(メタデータ) (2021-02-24T07:04:30Z) - A Privacy-Preserving-Oriented DNN Pruning and Mobile Acceleration
Framework [56.57225686288006]
モバイルエッジデバイスの限られたストレージとコンピューティング能力を満たすために、ディープニューラルネットワーク(DNN)の軽量プルーニングが提案されている。
従来のプルーニング手法は主に、ユーザデータのプライバシを考慮せずに、モデルのサイズを減らしたり、パフォーマンスを向上させることに重点を置いていた。
プライベートトレーニングデータセットを必要としないプライバシ保護指向のプルーニングおよびモバイルアクセラレーションフレームワークを提案する。
論文 参考訳(メタデータ) (2020-03-13T23:52:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。