論文の概要: RQP-SGD: Differential Private Machine Learning through Noisy SGD and Randomized Quantization

• arxiv url: http://arxiv.org/abs/2402.06606v1
• Date: Fri, 9 Feb 2024 18:34:08 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-12 15:35:31.590275
• Title: RQP-SGD: Differential Private Machine Learning through Noisy SGD and Randomized Quantization
• Title（参考訳）: RQP-SGD:ノイズSGDとランダム量子化による微分プライベート機械学習
• Authors: Ce Feng, Parv Venkitasubramaniam
• Abstract要約: 我々は、機械学習モデルをトレーニングするためのプライバシー保護量子化の新しいアプローチであるRQP-SGDを提案する。 このアプローチは、微分プライベートな勾配降下とランダムな量子化を組み合わせることで、測定可能なプライバシー保証を提供する。
• 参考スコア（独自算出の注目度）: 8.04975023021212
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The rise of IoT devices has prompted the demand for deploying machine learning at-the-edge with real-time, efficient, and secure data processing. In this context, implementing machine learning (ML) models with real-valued weight parameters can prove to be impractical particularly for large models, and there is a need to train models with quantized discrete weights. At the same time, these low-dimensional models also need to preserve privacy of the underlying dataset. In this work, we present RQP-SGD, a new approach for privacy-preserving quantization to train machine learning models for low-memory ML-at-the-edge. This approach combines differentially private stochastic gradient descent (DP-SGD) with randomized quantization, providing a measurable privacy guarantee in machine learning. In particular, we study the utility convergence of implementing RQP-SGD on ML tasks with convex objectives and quantization constraints and demonstrate its efficacy over deterministic quantization. Through experiments conducted on two datasets, we show the practical effectiveness of RQP-SGD.
• Abstract（参考訳）: iotデバイスの台頭により、リアルタイム、効率的、セキュアなデータ処理で最先端の機械学習を展開する必要性が高まっている。 この文脈では、実数値重みパラメータを用いた機械学習(ML)モデルの実装は、特に大規模モデルでは実用的でないことが証明され、量子化された離散重みを持つモデルを訓練する必要がある。 同時に、これらの低次元モデルは、基礎となるデータセットのプライバシを保持する必要がある。 本研究では、低メモリのML-at-the-edgeのための機械学習モデルをトレーニングするためのプライバシー保護量子化の新しいアプローチであるRQP-SGDを提案する。 このアプローチは、微分プライベート確率勾配勾配(DP-SGD)とランダムな量子化を組み合わせることで、機械学習における測定可能なプライバシー保証を提供する。 特に、凸目標と量子化制約を持つMLタスク上でのRQP-SGDの実装の有用性の収束について検討し、決定論的量子化よりも有効であることを示す。 2つのデータセットを用いて実験を行い、RQP-SGDの有効性を示す。

関連論文リスト

• Learning Density Functionals from Noisy Quantum Data [0.0]
  ノイズの多い中間スケール量子(NISQ)デバイスは、機械学習(ML)モデルのトレーニングデータを生成するために使用される。 NISQアルゴリズムの典型的なノイズを受ける小さなデータセットからニューラルネットワークMLモデルをうまく一般化できることを示す。 本研究は,NISQデバイスを実用量子シミュレーションに活用するための有望な経路であることを示唆する。
  論文  参考訳（メタデータ） (2024-09-04T17:59:55Z)
• Discrete Randomized Smoothing Meets Quantum Computing [40.54768963869454]
  重畳における入力バイナリデータの摂動をエンコードし、量子振幅推定(QAE)を用いてモデルへの呼び出し数を2次的に削減する方法を示す。 さらに、画像、グラフ、テキストに対するアプローチの広範な評価を可能にする新しいバイナリ脅威モデルを提案する。
  論文  参考訳（メタデータ） (2024-08-01T20:21:52Z)
• Higher order quantum reservoir computing for non-intrusive reduced-order models [0.0]
  量子貯水池計算技術(QRC)は、相互接続された小さな量子系のアンサンブルを利用するハイブリッド量子古典的フレームワークである。 QRCは, 複雑な非線形力学系を安定かつ高精度に予測できることを示す。
  論文  参考訳（メタデータ） (2024-07-31T13:37:04Z)
• A Quantization-based Technique for Privacy Preserving Distributed Learning [2.2139875218234475]
  本稿では,機械学習モデルの分散トレーニングのための,新しい規則に準拠したデータ保護手法について述べる。 本手法は,Hash-Combとランダム化を組み合わせた量子化マルチハッシュデータ表現に基づくプロトコルを用いることで,トレーニングデータとMLモデルパラメータの両方を保護する。
  論文  参考訳（メタデータ） (2024-06-26T14:54:12Z)
• Diffusion-Based Neural Network Weights Generation [80.89706112736353]
  D2NWGは拡散に基づくニューラルネットワーク重み生成技術であり、転送学習のために高性能な重みを効率よく生成する。 本稿では,ニューラルネットワーク重み生成のための遅延拡散パラダイムを再放送するために,生成的ハイパー表現学習を拡張した。 我々のアプローチは大規模言語モデル(LLM)のような大規模アーキテクチャにスケーラブルであり、現在のパラメータ生成技術の限界を克服しています。
  論文  参考訳（メタデータ） (2024-02-28T08:34:23Z)
• A didactic approach to quantum machine learning with a single qubit [68.8204255655161]
  我々は、データ再ロード技術を用いて、単一のキュービットで学習するケースに焦点を当てる。 我々は、Qiskit量子コンピューティングSDKを用いて、おもちゃと現実世界のデータセットに異なる定式化を実装した。
  論文  参考訳（メタデータ） (2022-11-23T18:25:32Z)
• Incremental Online Learning Algorithms Comparison for Gesture and Visual Smart Sensors [68.8204255655161]
  本稿では,加速度センサデータに基づくジェスチャー認識と画像分類の2つの実例として,最先端の4つのアルゴリズムを比較した。 以上の結果から,これらのシステムの信頼性と小型メモリMCUへのデプロイの可能性が確認された。
  論文  参考訳（メタデータ） (2022-09-01T17:05:20Z)
• Physics-informed machine learning with differentiable programming for heterogeneous underground reservoir pressure management [64.17887333976593]
  地下貯水池の過圧化を避けることは、CO2の沈殿や排水の注入といった用途に欠かせない。 地中における複雑な不均一性のため, 噴射・抽出制御による圧力管理は困難である。 過圧化防止のための流体抽出速度を決定するために、フル物理モデルと機械学習を用いた微分可能プログラミングを用いる。
  論文  参考訳（メタデータ） (2022-06-21T20:38:13Z)
• Quantum-tailored machine-learning characterization of a superconducting qubit [50.591267188664666]
  我々は,量子デバイスのダイナミクスを特徴付ける手法を開発し,デバイスパラメータを学習する。 このアプローチは、数値的に生成された実験データに基づいてトレーニングされた物理に依存しないリカレントニューラルネットワークより優れている。 このデモンストレーションは、ドメイン知識を活用することで、この特徴付けタスクの正確性と効率が向上することを示す。
  論文  参考訳（メタデータ） (2021-06-24T15:58:57Z)
• Quantum machine learning with differential privacy [3.2442879131520126]
  微分プライベート最適化アルゴリズムを用いて,プライバシ保存を訓練したハイブリッド量子古典モデルを開発した。 実験では、差分プライベートQMLは、モデル精度を低下させることなく、ユーザに敏感な情報を保護することができる。
  論文  参考訳（メタデータ） (2021-03-10T18:06:15Z)
• Transfer Learning without Knowing: Reprogramming Black-box Machine Learning Models with Scarce Data and Limited Resources [78.72922528736011]
  そこで我々は,ブラックボックス・アタベラル・リプログラミング (BAR) という新しい手法を提案する。 ゼロオーダー最適化とマルチラベルマッピング技術を用いて、BARは入力出力応答のみに基づいてブラックボックスMLモデルをプログラムする。 BARは最先端の手法より優れ、バニラ対逆プログラミング法に匹敵する性能を得る。
  論文  参考訳（メタデータ） (2020-07-17T01:52:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。