論文の概要: Faster Learning under Relaxed Local Differential Privacy
- arxiv url: http://arxiv.org/abs/2609.05034v1
- Date: Fri, 04 Sep 2026 11:55:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-07 18:15:24.026181
- Title: Faster Learning under Relaxed Local Differential Privacy
- Title(参考訳): 局所微分プライバシーを緩和した高速学習
- Abstract要約: 簡易な対称性を持つガンマ分布で独立雑音を加えることで,$-TV-LDPが得られることを示す。
ニューラルネットワーク推定器を実装することで、このシンプルなプライバシメカニズムの利点を説明する。
- 参考スコア(独自算出の注目度): 1.1470070927586014
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider density estimation under the relaxed local differential privacy condition that the privatized distributions are $α$-close in total variation distance. We show that adding independent noise with a convenient symmetrized Gamma distribution to each sensitive observation attains the $α$-TV-LDP. We prove that the deconvolution estimator of $r$-Sobolev smooth functions attains the pointwise rate $(nα)^{-\frac{2r-1}{2r}}$ up to log factors which is faster than $(nα^2)^{-\frac{2r-1}{2r+1}}$ under the classical $α$-LDP and closer to the nonprivate minimax rate $n^{-\frac{2r-1}{2r}}$. Next, we use a Goldenshluger-Lepski procedure to build a free of the smoothness adaptive procedure and show optimality of our rates in the convolution model of our privatisation scheme. We illustrate the benefits of this simple privacy mechanism by implementing a neural network estimator which does not need to add more noise in the optimization steps. Numerical results show significant improvement of the estimation rate over the Laplace and the private-SGD mechanisms.
- Abstract(参考訳): 本研究では, 民営化分布が全変動距離において$α$-closeであるような緩和された局所微分プライバシー条件下での密度推定を考察する。
本研究は,ガンマ分布の簡易な対称性による独立雑音を各感度観測に付加することにより,$α$-TV-LDPが得られることを示す。
古典的な$α$-LDPの下で$(nα)^{-\frac{2r-1}{2r+1}$より高速で、非プライベートなミニマックス率$n^{-\frac{2r-1}{2r}}$に近いログ係数まで、$r$-Sobolev滑らかな関数のデコンボリューション推定器がポイントワイドレート$(nα)^{-\frac{2r-1}{2r}}$に達することを証明している。
次に、Goldenshluger-Lepskiプロシージャを用いて、スムーズな適応手順を自由に構築し、民営化方式の畳み込みモデルにおける我々のレートの最適性を示す。
最適化ステップでノイズを追加する必要のないニューラルネットワーク推定器を実装することで、このシンプルなプライバシメカニズムの利点を説明する。
数値計算の結果,LaplaceおよびPrivate-SGD機構よりも推定速度が有意に向上した。
関連論文リスト
- Differentially Private Nonparametric Modal Learning with Applications to Regression and Clustering [2.685668802278155]
DP-GRAMSは平均シフトにインスパイアされた手法であり、差分プライベートスコア推定器で雑音を発生させる。
すべての集団モードが高い確率で復元されることを証明し、$O!left(tfraclog nn)frac2,-1)d+2rightという形の誤り率を確立する。
本稿では,DP-PMS,プライベートモード回帰法,クラスタリングパイプラインのDP-GRAMS-Cの2つの自然拡張を提案する。
論文 参考訳(メタデータ) (2026-07-31T17:55:02Z) - LoRA and Privacy: When Random Projections Help (and When They Don't) [55.65932772290123]
我々は、$S mapto M f(S)$ with $M sim W_d (1/r I_d, r)$という形のランダムマップである(ウィッシュアート)プロジェクション機構を導入し、その差分プライバシー特性について検討する。
ベクトル値が$f$の場合、付加雑音のない非漸近DP保証を証明し、ウィッシュアートのランダム性だけで十分であることを示す。
しかし,行列値クエリでは,ノイズフリーな環境では,そのメカニズムはDPではなく,その脆弱性を実証する。
論文 参考訳(メタデータ) (2026-01-29T13:43:37Z) - Optimal Best Arm Identification under Differential Privacy [8.321992395325912]
BAI(Best Arm Identification)アルゴリズムは、適応的な臨床試験やユーザリサーチなど、データに敏感なアプリケーションにデプロイされる。
本研究では,ベルヌーイ分布に対するグローバル微分プライバシー(DP)の下での固定信頼度BAIの問題について検討する。
提案アルゴリズムは,既存の$delta$correctおよび$epsilon$-global DP BAIアルゴリズムより,$epsilon$の異なる値に対して優れている。
論文 参考訳(メタデータ) (2025-10-20T09:46:09Z) - Smoothed Normalization for Efficient Distributed Private Optimization [54.197255548244705]
フェデレートされた学習は、参加者のプライバシを備えた機械学習モデルを可能にする。
トレーニングやフィードバックのない問題に対して、差分にプライベートな分散手法は存在しない。
証明可能な収束保証付き分散アルゴリズム$alpha$-$sf NormEC$を導入する。
論文 参考訳(メタデータ) (2025-02-19T07:10:32Z) - Private Stochastic Convex Optimization with Heavy Tails: Near-Optimality from Simple Reductions [19.008521454738425]
重み付き勾配を持つ差分プライベート凸最適化(DP-SCO)の問題を考察し、一様境界ではなく、サンプル関数のリプシッツ定数上の$ktextth$-momentを仮定する。
Gcdot frac 1 sqrt n + G_k cdot (fracsqrt dnepsilon) 1 の誤差を達成し、重み付け設定における第1次最適率(対数係数まで)を得るための新しい還元ベースのアプローチを提案する。
論文 参考訳(メタデータ) (2024-06-04T21:26:29Z) - PrivSGP-VR: Differentially Private Variance-Reduced Stochastic Gradient Push with Tight Utility Bounds [9.47030623916154]
そこで本研究では,分散化による勾配プッシュを応用し,各ノードのプライバシを保証する,差分プライベートな分散学習手法(PrivSGPVR)を提案する。
この理論解析により, DP雑音下では, PrivGPS-VR は$mathcalO (1/sqrtnK)$のサブ線形収束速度を達成できることがわかった。
論文 参考訳(メタデータ) (2024-05-04T11:22:53Z) - Normalized/Clipped SGD with Perturbation for Differentially Private
Non-Convex Optimization [94.06564567766475]
DP-SGDとDP-NSGDは、センシティブなトレーニングデータを記憶する大規模モデルのリスクを軽減する。
DP-NSGD は DP-SGD よりも比較的チューニングが比較的容易であるのに対して,これらの2つのアルゴリズムは同様の精度を実現する。
論文 参考訳(メタデータ) (2022-06-27T03:45:02Z) - Non-Euclidean Differentially Private Stochastic Convex Optimization [15.302167005107135]
雑音勾配降下法(SGD)アルゴリズムは低次元状態において最適過大なリスクを達成できることを示す。
私たちの作品は、規則性、均一凸性、均一な平滑性の概念など、規範空間の幾何学から概念を導き出します。
論文 参考訳(メタデータ) (2021-03-01T19:48:44Z) - Learning with User-Level Privacy [61.62978104304273]
ユーザレベルの差分プライバシー制約下での学習課題を,アルゴリズムを用いて解析する。
個々のサンプルのプライバシーのみを保証するのではなく、ユーザレベルのdpはユーザの貢献全体を保護します。
プライバシコストが$tau$に比例した$K$適応的に選択されたクエリのシーケンスにプライベートに答えるアルゴリズムを導き出し、私たちが検討する学習タスクを解決するためにそれを適用します。
論文 参考訳(メタデータ) (2021-02-23T18:25:13Z) - Hiding Among the Clones: A Simple and Nearly Optimal Analysis of Privacy
Amplification by Shuffling [49.43288037509783]
ランダムシャッフルは、局所的ランダム化データの差分プライバシー保証を増幅する。
私たちの結果は、以前の作業よりも単純で、ほぼ同じ保証で差分プライバシーに拡張された新しいアプローチに基づいています。
論文 参考訳(メタデータ) (2020-12-23T17:07:26Z) - Private Stochastic Non-Convex Optimization: Adaptive Algorithms and
Tighter Generalization Bounds [72.63031036770425]
有界非次元最適化のための差分プライベート(DP)アルゴリズムを提案する。
標準勾配法に対する経験的優位性について,2つの一般的なディープラーニング手法を実証する。
論文 参考訳(メタデータ) (2020-06-24T06:01:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。