論文の概要: Tukey Depth Mechanisms for Practical Private Mean Estimation

• arxiv url: http://arxiv.org/abs/2502.18698v1
• Date: Tue, 25 Feb 2025 23:21:54 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-27 14:56:21.083686
• Title: Tukey Depth Mechanisms for Practical Private Mean Estimation
• Title（参考訳）: 実用的私的平均値推定のためのタキー深さメカニズム
• Authors: Gavin Brown, Lydia Zakynthinou,
• Abstract要約: 平均推定は統計学における基本的な課題であり、微分プライベートな統計的推定における焦点である。 本研究では,(制限された)タキー深さ機構を実装することでギャップを埋める第一歩を踏み出す。 我々の実装では、これらのメカニズムを小さなサンプルサイズや低次元データに利用することが可能です。
• 参考スコア（独自算出の注目度）: 5.298789668079187
• License:
• Abstract: Mean estimation is a fundamental task in statistics and a focus within differentially private statistical estimation. While univariate methods based on the Gaussian mechanism are widely used in practice, more advanced techniques such as the exponential mechanism over quantiles offer robustness and improved performance, especially for small sample sizes. Tukey depth mechanisms carry these advantages to multivariate data, providing similar strong theoretical guarantees. However, practical implementations fall behind these theoretical developments. In this work, we take the first step to bridge this gap by implementing the (Restricted) Tukey Depth Mechanism, a theoretically optimal mean estimator for multivariate Gaussian distributions, yielding improved practical methods for private mean estimation. Our implementations enable the use of these mechanisms for small sample sizes or low-dimensional data. Additionally, we implement variants of these mechanisms that use approximate versions of Tukey depth, trading off accuracy for faster computation. We demonstrate their efficiency in practice, showing that they are viable options for modest dimensions. Given their strong accuracy and robustness guarantees, we contend that they are competitive approaches for mean estimation in this regime. We explore future directions for improving the computational efficiency of these algorithms by leveraging fast polytope volume approximation techniques, paving the way for more accurate private mean estimation in higher dimensions.
• Abstract（参考訳）: 平均推定は統計学における基本的な課題であり、微分プライベートな統計的推定における焦点である。 ガウス機構に基づく単変量法は実際は広く用いられているが、量子化の指数的な機構のようなより高度な手法は、特に小さなサンプルサイズにおいて、堅牢性と性能の向上をもたらす。 タキー深度メカニズムは、これらの利点を多変量データに適用し、同様の強力な理論的保証を提供する。 しかし、実際的な実装はこれらの理論的発展に遅れをとっている。 本研究では,多変量ガウス分布に対する理論的に最適な平均推定器である(制限された)タキー深さ機構を実装することにより,このギャップを埋める第一歩を踏み出した。 我々の実装では、これらのメカニズムを小さなサンプルサイズや低次元データに利用することが可能です。 さらに,チューキー深さの近似バージョンを用いて,より高速な計算のために精度をトレードオフする機構の変種を実装した。 我々はそれらの効率性を実演し、それらが質素な次元に対して実行可能な選択肢であることを示した。 強い精度と頑健さの保証を考えると、この体制における平均推定に対する競争的なアプローチであると我々は主張する。 我々は,高速なポリトープ体積近似技術を利用して,これらのアルゴリズムの計算効率を向上させるための今後の方向を探究する。

関連論文リスト

• Prediction-Powered Adaptive Shrinkage Estimation [0.9208007322096532]
  予測パワー適応収縮(英: Prediction-Powered Adaptive Shrinkage、PAS)は、PPIを実証的なベイズ収縮で橋渡しし、複数の手段の推定を改善する手法である。 PASはML予測の信頼性に適応し、大規模アプリケーションにおいて従来のベースラインと現代的なベースラインを上回っている。
  論文  参考訳（メタデータ） (2025-02-20T00:24:05Z)
• Linear-Time User-Level DP-SCO via Robust Statistics [55.350093142673316]
  ユーザレベルの差分プライベート凸最適化(DP-SCO)は、マシンラーニングアプリケーションにおけるユーザのプライバシ保護の重要性から、大きな注目を集めている。 微分プライベート勾配勾配(DP-SGD)に基づくような現在の手法は、しばしば高雑音蓄積と準最適利用に苦しむ。 これらの課題を克服するために、ロバストな統計、特に中央値とトリミング平均を利用する新しい線形時間アルゴリズムを導入する。
  論文  参考訳（メタデータ） (2025-02-13T02:05:45Z)
• Differentially Private Random Feature Model [52.468511541184895]
  プライバシを保存するカーネルマシンに対して,差分的にプライベートな特徴モデルを作成する。 本手法は,プライバシを保護し,一般化誤差を導出する。
  論文  参考訳（メタデータ） (2024-12-06T05:31:08Z)
• Instance-Specific Asymmetric Sensitivity in Differential Privacy [2.855485723554975]
  我々は指数的メカニズムを通して出力を選択するためのパラダイムを提供する以前の作業の上に構築する。 我々のフレームワークは、近接度メートル法をわずかに修正し、スパースベクトル技法の単純かつ効率的な応用を提供する。
  論文  参考訳（メタデータ） (2023-11-02T05:01:45Z)
• Variational Factorization Machines for Preference Elicitation in Large-Scale Recommender Systems [17.050774091903552]
  本稿では, 標準のミニバッチ降下勾配を用いて容易に最適化できる因子化機械 (FM) の変分定式化を提案する。 提案アルゴリズムは,ユーザおよび項目パラメータに近似した後続分布を学習し,予測に対する信頼区間を導出する。 いくつかのデータセットを用いて、予測精度の点で既存の手法と同等または優れた性能を示す。
  論文  参考訳（メタデータ） (2022-12-20T00:06:28Z)
• Privacy Induces Robustness: Information-Computation Gaps and Sparse Mean Estimation [8.9598796481325]
  本稿では, アルゴリズムと計算複雑性の両面において, 異なる統計問題に対する観測結果について検討する。 プライベートスパース平均推定のための情報計算ギャップを確立する。 また、プライバシーによって引き起こされる情報計算のギャップを、いくつかの統計や学習問題に対して証明する。
  論文  参考訳（メタデータ） (2022-11-01T20:03:41Z)
• Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
  実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。 本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。 本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
  論文  参考訳（メタデータ） (2022-01-11T23:01:12Z)
• Fast Distributionally Robust Learning with Variance Reduced Min-Max Optimization [85.84019017587477]
  分散的ロバストな教師付き学習は、現実世界のアプリケーションのための信頼性の高い機械学習システムを構築するための重要なパラダイムとして登場している。 Wasserstein DRSLを解くための既存のアルゴリズムは、複雑なサブプロブレムを解くか、勾配を利用するのに失敗する。 我々はmin-max最適化のレンズを通してwaserstein drslを再検討し、スケーラブルで効率的に実装可能な超勾配アルゴリズムを導出する。
  論文  参考訳（メタデータ） (2021-04-27T16:56:09Z)
• Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
  主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。 スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。 本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-06-23T04:25:36Z)
• Real-Time Regression with Dividing Local Gaussian Processes [62.01822866877782]
  局所ガウス過程は、ガウス過程の回帰に基づく新しい、計算効率の良いモデリング手法である。 入力空間の反復的データ駆動分割により、実際にはトレーニングポイントの総数において、サブ線形計算複雑性が達成される。 実世界のデータセットに対する数値的な評価は、予測と更新の速度だけでなく、精度の点で他の最先端手法よりも有利であることを示している。
  論文  参考訳（メタデータ） (2020-06-16T18:43:31Z)
• CoinPress: Practical Private Mean and Covariance Estimation [18.6419638570742]
  多変量準ガウスデータの平均と共分散に対する単純な微分プライベート推定器を提案する。 これらの誤差率は最先端の理論的境界値と一致し, 従来手法よりも顕著に優れていたことを示す。
  論文  参考訳（メタデータ） (2020-06-11T17:17:28Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。