論文の概要: Differentially Private Nonparametric Modal Learning with Applications to Regression and Clustering
- arxiv url: http://arxiv.org/abs/2607.29675v1
- Date: Fri, 31 Jul 2026 17:55:02 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.838875
- Title: Differentially Private Nonparametric Modal Learning with Applications to Regression and Clustering
- Title（参考訳）: 回帰学習とクラスタリングへの応用
- Abstract要約: DP-GRAMSは平均シフトにインスパイアされた手法であり、差分プライベートスコア推定器で雑音を発生させる。
すべての集団モードが高い確率で復元されることを証明し、$O!left(tfraclog nn)frac2,-1)d+2rightという形の誤り率を確立する。
本稿では,DP-PMS,プライベートモード回帰法,クラスタリングパイプラインのDP-GRAMS-Cの2つの自然拡張を提案する。
- 参考スコア（独自算出の注目度）: 2.685668802278155
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Density modes provide a localized and interpretable summary of multimodal distributions, but their estimation under rigorous differential privacy constraints remains largely unexplored. We study differentially private recovery of density modes for multivariate distributions under local smoothness, curvature, and separation conditions. We propose DP-GRAMS, a mean-shift inspired method that performs noisy ascent on a differentially private score estimator. Assuming the density belongs locally to a Hölder class with smoothness parameter $β> 2$, our score estimator uses bias-reducing higher-order kernels, and then enforces privacy in the gradient ascent steps via gradient clipping and calibrated Gaussian noise. A private initialization scheme combines a density-aware utility with a suppression rule and, with $k\asymp M\log n$ draws over a public $h_{\mathrm{DAP}}$-grid and suppression radius $ρ_{\mathrm{init}}\asymp (\log n)^{-1/d}$, achieves high-probability coverage of the modal basins by successively suppressing selected local neighborhoods in competitive regions, while correlated noise across multiple starts enables joint release under a single $(\varepsilon,δ)$-differential privacy guarantee. We prove that all population modes are recovered with high probability and establish asymptotic error rates of the form $O\!\left((\tfrac{\log n}{n})^{\frac{2(β-1)}{d+2β}}\right) + O\!\left((\tfrac{\mathrm{polylog}(n,δ)}{n^2\varepsilon^2})^{\frac{β-1}{d+β}}\right)$. We also provide minimax lower bounds for private mode estimation, and show that our estimators are nearly optimal, up to a logarithmic factor in the MSE. We present two natural extensions: DP-PMS, a private modal-regression method, and DP-GRAMS-C, a clustering pipeline. Extensive experiments on synthetic and real data demonstrate favorable privacy-utility trade-offs relative to common baselines.
- Abstract（参考訳）: 密度モードはマルチモーダル分布の局所的かつ解釈可能な要約を提供するが、厳密な差分プライバシー制約の下でのそれらの推定はほとんど探索されていない。
局所的な滑らかさ,曲率,分離条件下での多変量分布に対する密度モードの微分プライベートリカバリについて検討した。
DP-GRAMS(平均シフトインスパイア法)を提案する。
密度が滑らか度パラメータが$β> 2$のヘルダー類に属すると仮定すると、スコア推定器はバイアス低減高階カーネルを使用し、勾配クリッピングとキャリブレーションされたガウス雑音によって勾配上昇ステップでプライバシーを強制する。
プライベートイニシャライゼーションスキームは、密度対応ユーティリティと抑制ルールを組み合わせたもので、$k\asymp M\log n$はパブリックな$h_{\mathrm{DAP}}$-gridと抑制半径$ρ_{\mathrm{init}}\asymp (\log n)^{-1/d}$の上に描画される。
すべての集団モードが高い確率で回復されることを証明し、$O\!という形の漸近的誤り率を確立する。
\left((\tfrac {\log n}{n})^{\frac{2(β-1)}{d+2β}}\right) + O\!
\left((\tfrac{\mathrm{polylog}(n,δ)}{n^2\varepsilon^2})^{\frac{β-1}{d+β}}\right)$
また、プライベートモード推定のためのミニマックス下限も提供し、推定器がMSEの対数係数までほぼ最適であることを示す。
本稿では,DP-PMS,プライベートモード回帰法,クラスタリングパイプラインのDP-GRAMS-Cの2つの自然拡張を提案する。
合成データと実データに関する大規模な実験は、共通のベースラインと比較して、良好なプライバシーとユーティリティのトレードオフを示している。
関連論文リスト
- Faster Learning under Relaxed Local Differential Privacy [1.1470070927586014]
簡易な対称性を持つガンマ分布で独立雑音を加えることで,$-TV-LDPが得られることを示す。
ニューラルネットワーク推定器を実装することで、このシンプルなプライバシメカニズムの利点を説明する。
論文 参考訳（メタデータ） (2026-09-04T11:55:35Z) - Optimal Unconstrained Self-Distillation in Ridge Regression: Strict Improvements, Precise Asymptotics, and One-Shot Tuning [61.07540493350384]
自己蒸留(英: Self-distillation, SD)とは、教師自身の予測と地道の混合で学生を訓練する過程である。
任意の予測リスクに対して、各正規化レベルにおいて、最適に混合された学生がリッジ教師に改善されることが示される。
本稿では,グリッド探索やサンプル分割,再構成なしに$star$を推定する一貫したワンショットチューニング手法を提案する。
論文 参考訳（メタデータ） (2026-02-19T17:21:15Z) - Fundamental Limitations of Favorable Privacy-Utility Guarantees for DP-SGD [7.787109481104569]
本稿では,DP-SGDを$f$差分プライバシーフレームワークで解析する。
小さい分離を強制することはノイズ乗算器$$に厳格な下限を課し、達成可能な効用を直接制限することを証明する。
実験により, この境界による雑音レベルは, 現実的な訓練環境において, 高い精度で劣化することが確認された。
論文 参考訳（メタデータ） (2026-01-15T09:50:36Z) - Optimal Best Arm Identification under Differential Privacy [8.321992395325912]
BAI(Best Arm Identification)アルゴリズムは、適応的な臨床試験やユーザリサーチなど、データに敏感なアプリケーションにデプロイされる。
本研究では,ベルヌーイ分布に対するグローバル微分プライバシー(DP)の下での固定信頼度BAIの問題について検討する。
提案アルゴリズムは,既存の$delta$correctおよび$epsilon$-global DP BAIアルゴリズムより,$epsilon$の異なる値に対して優れている。
論文 参考訳（メタデータ） (2025-10-20T09:46:09Z) - Smoothed Normalization for Efficient Distributed Private Optimization [54.197255548244705]
フェデレートされた学習は、参加者のプライバシを備えた機械学習モデルを可能にする。
トレーニングやフィードバックのない問題に対して、差分にプライベートな分散手法は存在しない。
証明可能な収束保証付き分散アルゴリズム$alpha$-$sf NormEC$を導入する。
論文 参考訳（メタデータ） (2025-02-19T07:10:32Z) - Beyond Covariance Matrix: The Statistical Complexity of Private Linear Regression [66.93988594607842]
プライバシー制約の下では、プライベート線形回帰の複雑さは通常の共分散行列によって捉えられる。
最適率を達成するための情報重み付け回帰手法を提案する。
特に、我々の結果は、共同プライバシーは追加費用がほとんどないことを示している。
論文 参考訳（メタデータ） (2025-02-18T18:35:24Z) - Private Mean Estimation with Person-Level Differential Privacy [6.621676316292624]
複数のサンプルを持つ場合の個人レベルの個人別平均推定について検討した。
我々は、計算効率のよいアルゴリズムを、純粋DPで、計算効率の悪いアルゴリズムを、ほぼ一致する下界は、近似DPの最も寛容な場合を抑える。
論文 参考訳（メタデータ） (2024-05-30T18:20:35Z) - PrivSGP-VR: Differentially Private Variance-Reduced Stochastic Gradient Push with Tight Utility Bounds [9.47030623916154]
そこで本研究では,分散化による勾配プッシュを応用し,各ノードのプライバシを保証する,差分プライベートな分散学習手法(PrivSGPVR)を提案する。
この理論解析により, DP雑音下では, PrivGPS-VR は$mathcalO (1/sqrtnK)$のサブ線形収束速度を達成できることがわかった。
論文 参考訳（メタデータ） (2024-05-04T11:22:53Z) - Normalized/Clipped SGD with Perturbation for Differentially Private
Non-Convex Optimization [94.06564567766475]
DP-SGDとDP-NSGDは、センシティブなトレーニングデータを記憶する大規模モデルのリスクを軽減する。
DP-NSGD は DP-SGD よりも比較的チューニングが比較的容易であるのに対して,これらの2つのアルゴリズムは同様の精度を実現する。
論文 参考訳（メタデータ） (2022-06-27T03:45:02Z) - Non-Euclidean Differentially Private Stochastic Convex Optimization [15.302167005107135]
雑音勾配降下法(SGD)アルゴリズムは低次元状態において最適過大なリスクを達成できることを示す。
私たちの作品は、規則性、均一凸性、均一な平滑性の概念など、規範空間の幾何学から概念を導き出します。
論文 参考訳（メタデータ） (2021-03-01T19:48:44Z) - Private Stochastic Non-Convex Optimization: Adaptive Algorithms and
Tighter Generalization Bounds [72.63031036770425]
有界非次元最適化のための差分プライベート(DP)アルゴリズムを提案する。
標準勾配法に対する経験的優位性について,2つの一般的なディープラーニング手法を実証する。
論文 参考訳（メタデータ） (2020-06-24T06:01:24Z) - Learning Halfspaces with Tsybakov Noise [50.659479930171585]
テュバコフ雑音の存在下でのハーフスペースの学習可能性について検討する。
真半空間に関して誤分類誤差$epsilon$を達成するアルゴリズムを与える。
論文 参考訳（メタデータ） (2020-06-11T14:25:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。