論文の概要: Minimax and Adaptive Covariance Matrix Estimation under Differential Privacy
- arxiv url: http://arxiv.org/abs/2603.19703v1
- Date: Fri, 20 Mar 2026 07:13:19 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-23 19:48:39.036827
- Title: Minimax and Adaptive Covariance Matrix Estimation under Differential Privacy
- Title(参考訳): 微分プライバシー下における最小値と適応共分散行列の推定
- Authors: T. Tony Cai, Yicheng Li,
- Abstract要約: 本稿では, 作用素ノルムとフロベニウスノルムの両方の下で, 極小最大収束率を達成する, 微分プライベートなブロックワイド三対角推定器を提案する。
プライベートでない設定とは対照的に、プライバシによって引き起こされるエラーは周囲の次元に依存しており、プライバシーのかなりの追加コストが明らかになる。
- 参考スコア(独自算出の注目度): 26.168542942243544
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: The covariance matrix plays a fundamental role in the analysis of high-dimensional data. This paper studies minimax and adaptive estimation of high-dimensional bandable covariance matrices under differential privacy constraints. We propose a novel differentially private blockwise tridiagonal estimator that achieves minimax-optimal convergence rates under both the operator norm and the Frobenius norm. In contrast to the non-private setting, the privacy-induced error exhibits a polynomial dependence on the ambient dimension, revealing a substantial additional cost of privacy. To establish optimality, we develop a new differentially private van Trees inequality and construct carefully designed prior distributions to obtain matching minimax lower bounds. The proposed private van Trees inequality applies more broadly to general private estimation problems and is of independent interest. We further introduce an adaptive estimator that attains the optimal rate up to a logarithmic factor without prior knowledge of the decay parameter, based on a novel hierarchical tridiagonal approach. Numerical experiments corroborate the theoretical results and illustrate the fundamental privacy-accuracy trade-off.
- Abstract(参考訳): 共分散行列は、高次元データの解析において基本的な役割を果たす。
本稿では,差分プライバシー制約下での高次元帯状共分散行列の最小化と適応推定について検討する。
本稿では, 作用素ノルムとフロベニウスノルムの両方の下で, 極小最大収束率を達成する, 微分プライベートなブロックワイド三対角推定器を提案する。
プライベートでない設定とは対照的に、プライバシによって引き起こされるエラーは周囲の次元に多項式依存を示し、プライバシーのかなりの追加コストが明らかになる。
最適性を確立するため、新しい微分プライベートなバンツリーを不等式として開発し、ミニマックス下界を得るために事前分布を慎重に設計する。
提案されたプライベートバンツリーの不等式は、一般的なプライベート推定問題に広く適用され、独立した関心を持つ。
さらに、新しい階層的三対角法に基づいて、崩壊パラメータの事前知識を必要とせず、対数係数まで最適な速度を達成する適応推定器を導入する。
数値実験は理論結果を裏付け、基本的なプライバシーと精度のトレードオフを示す。
関連論文リスト
- Differentially Private Sliced Inverse Regression: Minimax Optimality and Algorithm [14.360996967498002]
十分な次元削減の文脈において、プライバシー問題に対処するために設計された最適微分プライベートアルゴリズムを提案する。
我々は、対数係数まで最小限の下位境界を達成できる微分プライベートアルゴリズムを開発した。
自然な拡張として、微分プライベートスパース主成分分析に類似した下界と上界を容易に提供できる。
論文 参考訳(メタデータ) (2024-01-16T06:47:43Z) - Optimal Differentially Private PCA and Estimation for Spiked Covariance Matrices [10.377683220196873]
共分散行列とその関連する主成分を推定することは、現代統計学における根本的な問題である。
スパイク共分散モデルにおける最適偏微分的主成分分析(PCA)と共分散推定について検討した。
計算効率のよい微分プライベート推定器を提案し、その極小極小性をガウス分布に対して証明する。
論文 参考訳(メタデータ) (2024-01-08T11:18:14Z) - Bounded and Unbiased Composite Differential Privacy [25.427802467876248]
差分プライバシ(DP)の目的は、隣接する2つのデータベース間で区別できない出力分布を生成することにより、プライバシを保護することである。
既存のソリューションでは、後処理やトランケーション技術を使ってこの問題に対処しようとしている。
本稿では,合成確率密度関数を用いて有界および非偏りの出力を生成する新しい微分プライベート機構を提案する。
論文 参考訳(メタデータ) (2023-11-04T04:43:47Z) - Initialization Matters: Privacy-Utility Analysis of Overparameterized
Neural Networks [72.51255282371805]
我々は、最悪の近傍データセット上でのモデル分布間のKLばらつきのプライバシー境界を証明した。
このKLプライバシー境界は、トレーニング中にモデルパラメータに対して期待される2乗勾配ノルムによって決定される。
論文 参考訳(メタデータ) (2023-10-31T16:13:22Z) - Differentially Private Domain Adaptation with Theoretical Guarantees [46.37771025567305]
多くのアプリケーションでは、ラベル付きデータの処分におけるラベル付きデータはプライバシー上の制約を受けており、比較的制限されている。
これは、パブリックソースからプライベートターゲットドメインへのドメイン適応を監督する現代の問題である。
我々は、理論的な学習保証の恩恵を受けるために、一般の学習者を利用する。
論文 参考訳(メタデータ) (2023-06-15T04:03:06Z) - General Gaussian Noise Mechanisms and Their Optimality for Unbiased Mean
Estimation [58.03500081540042]
プライベート平均推定に対する古典的なアプローチは、真の平均を計算し、バイアスのないがおそらく相関のあるガウスノイズを加えることである。
すべての入力データセットに対して、集中的な差分プライバシーを満たす非バイアス平均推定器が、少なくとも多くのエラーをもたらすことを示す。
論文 参考訳(メタデータ) (2023-01-31T18:47:42Z) - A Dimensionality Reduction Method for Finding Least Favorable Priors
with a Focus on Bregman Divergence [108.28566246421742]
そこで本研究では,次元に明示的な有界な有限次元設定に最適化を移動させることができる次元削減法を開発した。
この問題を進展させるため、比較的大きな損失関数、すなわちブレグマンの発散によって引き起こされるベイズ的リスクに限定する。
論文 参考訳(メタデータ) (2022-02-23T16:22:28Z) - Near-optimal inference in adaptive linear regression [60.08422051718195]
最小二乗法のような単純な方法でさえ、データが適応的に収集されるときの非正規な振る舞いを示すことができる。
我々は,これらの分布異常を少なくとも2乗推定で補正するオンラインデバイアス推定器のファミリーを提案する。
我々は,マルチアームバンディット,自己回帰時系列推定,探索による能動的学習などの応用を通して,我々の理論の有用性を実証する。
論文 参考訳(メタデータ) (2021-07-05T21:05:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。