論文の概要: RQP-SGD: Differential Private Machine Learning through Noisy SGD and
Randomized Quantization
- arxiv url: http://arxiv.org/abs/2402.06606v1
- Date: Fri, 9 Feb 2024 18:34:08 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-12 15:35:31.590275
- Title: RQP-SGD: Differential Private Machine Learning through Noisy SGD and
Randomized Quantization
- Title(参考訳): RQP-SGD:ノイズSGDとランダム量子化による微分プライベート機械学習
- Authors: Ce Feng, Parv Venkitasubramaniam
- Abstract要約: 我々は、機械学習モデルをトレーニングするためのプライバシー保護量子化の新しいアプローチであるRQP-SGDを提案する。
このアプローチは、微分プライベートな勾配降下とランダムな量子化を組み合わせることで、測定可能なプライバシー保証を提供する。
- 参考スコア(独自算出の注目度): 8.04975023021212
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The rise of IoT devices has prompted the demand for deploying machine
learning at-the-edge with real-time, efficient, and secure data processing. In
this context, implementing machine learning (ML) models with real-valued weight
parameters can prove to be impractical particularly for large models, and there
is a need to train models with quantized discrete weights. At the same time,
these low-dimensional models also need to preserve privacy of the underlying
dataset. In this work, we present RQP-SGD, a new approach for
privacy-preserving quantization to train machine learning models for low-memory
ML-at-the-edge. This approach combines differentially private stochastic
gradient descent (DP-SGD) with randomized quantization, providing a measurable
privacy guarantee in machine learning. In particular, we study the utility
convergence of implementing RQP-SGD on ML tasks with convex objectives and
quantization constraints and demonstrate its efficacy over deterministic
quantization. Through experiments conducted on two datasets, we show the
practical effectiveness of RQP-SGD.
- Abstract(参考訳): iotデバイスの台頭により、リアルタイム、効率的、セキュアなデータ処理で最先端の機械学習を展開する必要性が高まっている。
この文脈では、実数値重みパラメータを用いた機械学習(ML)モデルの実装は、特に大規模モデルでは実用的でないことが証明され、量子化された離散重みを持つモデルを訓練する必要がある。
同時に、これらの低次元モデルは、基礎となるデータセットのプライバシを保持する必要がある。
本研究では、低メモリのML-at-the-edgeのための機械学習モデルをトレーニングするためのプライバシー保護量子化の新しいアプローチであるRQP-SGDを提案する。
このアプローチは、微分プライベート確率勾配勾配(DP-SGD)とランダムな量子化を組み合わせることで、機械学習における測定可能なプライバシー保証を提供する。
特に、凸目標と量子化制約を持つMLタスク上でのRQP-SGDの実装の有用性の収束について検討し、決定論的量子化よりも有効であることを示す。
2つのデータセットを用いて実験を行い、RQP-SGDの有効性を示す。
関連論文リスト
- QMGeo: Differentially Private Federated Learning via Stochastic
Quantization with Mixed Truncated Geometric Distribution [1.8492669447784602]
Federated Learning(FL)は、複数のユーザがグローバル機械学習(ML)モデルを共同でトレーニングできるフレームワークである。
このような分散フレームワークの重要な動機の1つは、ユーザにプライバシ保証を提供することである。
本稿では,DPを提供するのに必要なランダム性を導入するために,混合幾何分布を用いた新しい量子化法を提案する。
論文 参考訳(メタデータ) (2023-12-10T04:44:53Z) - Vertical Layering of Quantized Neural Networks for Heterogeneous
Inference [57.42762335081385]
量子化モデル全体を1つのモデルにカプセル化するための,ニューラルネットワーク重みの新しい垂直層表現について検討する。
理論的には、1つのモデルのトレーニングとメンテナンスのみを必要としながら、オンデマンドサービスの正確なネットワークを達成できます。
論文 参考訳(メタデータ) (2022-12-10T15:57:38Z) - A didactic approach to quantum machine learning with a single qubit [68.8204255655161]
我々は、データ再ロード技術を用いて、単一のキュービットで学習するケースに焦点を当てる。
我々は、Qiskit量子コンピューティングSDKを用いて、おもちゃと現実世界のデータセットに異なる定式化を実装した。
論文 参考訳(メタデータ) (2022-11-23T18:25:32Z) - Incremental Online Learning Algorithms Comparison for Gesture and Visual
Smart Sensors [68.8204255655161]
本稿では,加速度センサデータに基づくジェスチャー認識と画像分類の2つの実例として,最先端の4つのアルゴリズムを比較した。
以上の結果から,これらのシステムの信頼性と小型メモリMCUへのデプロイの可能性が確認された。
論文 参考訳(メタデータ) (2022-09-01T17:05:20Z) - Physics-informed machine learning with differentiable programming for
heterogeneous underground reservoir pressure management [64.17887333976593]
地下貯水池の過圧化を避けることは、CO2の沈殿や排水の注入といった用途に欠かせない。
地中における複雑な不均一性のため, 噴射・抽出制御による圧力管理は困難である。
過圧化防止のための流体抽出速度を決定するために、フル物理モデルと機械学習を用いた微分可能プログラミングを用いる。
論文 参考訳(メタデータ) (2022-06-21T20:38:13Z) - Direct parameter estimations from machine-learning enhanced quantum
state tomography [3.459382629188014]
機械学習による量子状態トモグラフィ(QST)は、量子状態に関する完全な情報を抽出する際の利点を実証している。
我々は,目標パラメータを直接生成することにより,高性能で軽量で容易に教師付き特性モデルを構築する。
このような特性モデルに基づく ML-QST は、ヒルベルト空間を扱う問題を回避することができるが、高い精度で特徴抽出を維持することができる。
論文 参考訳(メタデータ) (2022-03-30T15:16:02Z) - Quantum-tailored machine-learning characterization of a superconducting
qubit [50.591267188664666]
我々は,量子デバイスのダイナミクスを特徴付ける手法を開発し,デバイスパラメータを学習する。
このアプローチは、数値的に生成された実験データに基づいてトレーニングされた物理に依存しないリカレントニューラルネットワークより優れている。
このデモンストレーションは、ドメイン知識を活用することで、この特徴付けタスクの正確性と効率が向上することを示す。
論文 参考訳(メタデータ) (2021-06-24T15:58:57Z) - Structural risk minimization for quantum linear classifiers [0.0]
qml(quantum machine learning)は、量子コンピューティングの短期的"キラーアプリケーション"の典型的な候補の1つとして注目される。
明示的および暗黙的量子線形分類器と呼ばれる2つの密接に関連したQMLモデルの容量測定を研究する。
我々は,QMLモデルで使用される観測値のランクとフロベニウスノルムが,モデルのキャパシティを密接に制御していることを確認した。
論文 参考訳(メタデータ) (2021-05-12T10:39:55Z) - Quantum machine learning with differential privacy [3.2442879131520126]
微分プライベート最適化アルゴリズムを用いて,プライバシ保存を訓練したハイブリッド量子古典モデルを開発した。
実験では、差分プライベートQMLは、モデル精度を低下させることなく、ユーザに敏感な情報を保護することができる。
論文 参考訳(メタデータ) (2021-03-10T18:06:15Z) - Transfer Learning without Knowing: Reprogramming Black-box Machine
Learning Models with Scarce Data and Limited Resources [78.72922528736011]
そこで我々は,ブラックボックス・アタベラル・リプログラミング (BAR) という新しい手法を提案する。
ゼロオーダー最適化とマルチラベルマッピング技術を用いて、BARは入力出力応答のみに基づいてブラックボックスMLモデルをプログラムする。
BARは最先端の手法より優れ、バニラ対逆プログラミング法に匹敵する性能を得る。
論文 参考訳(メタデータ) (2020-07-17T01:52:34Z) - Macroscopic Traffic Flow Modeling with Physics Regularized Gaussian
Process: A New Insight into Machine Learning Applications [14.164058812512371]
本研究では,古典的トラフィックフローモデルを機械学習アーキテクチャにエンコードする,物理正規化機械学習(PRML)という新しいモデリングフレームワークを提案する。
提案手法の有効性を実証するため,ユタ州I-15高速道路から収集した実世界のデータセットについて実験的検討を行った。
論文 参考訳(メタデータ) (2020-02-06T17:22:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。