論文の概要: Stabilizing Private LASSO under Heterogeneous Covariates via Anisotropic Objective Perturbation
- arxiv url: http://arxiv.org/abs/2605.01492v1
- Date: Sat, 02 May 2026 15:29:04 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-05 20:33:49.802217
- Title: Stabilizing Private LASSO under Heterogeneous Covariates via Anisotropic Objective Perturbation
- Title(参考訳): 異方性物体摂動による不均一共変下におけるプライベートLASSOの安定化
- Authors: Haruka Tanzawa, Ayaka Sakata,
- Abstract要約: 推定過程における等方性回復のためのグラムに基づく異方性客観摂動を提案する。
本結果は,データ依存前処理に頼ることなく,安定かつ効率的なプライベート推定器を設計するための理論的知見を提供する。
- 参考スコア(独自算出の注目度): 1.7188280334580195
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study high-dimensional LASSO under differential privacy via objective perturbation with heterogeneous covariate scales. In practical scenarios, covariates often exhibit diverse scales; however, standard preprocessing is problematic under privacy constraints, as it consumes additional privacy budget. This heterogeneity induces effective anisotropy in the objective perturbation via the inverse Gram matrix of covariates, which can degrade the stability and accuracy of algorithms. To address this, we propose a Gram-based anisotropic objective perturbation, a ``pre-distortion" strategy that counteracts the distortion from the covariate structure to restore isotropy in the estimation process. Using an Approximate Message Passing (AMP) framework and state evolution analysis, we demonstrate that our proposed perturbation significantly stabilizes convergence and improves both statistical efficiency and privacy performance compared to standard uniform noise injection. Our results provide theoretical insights into designing stable and efficient private estimators without relying on data-dependent preprocessing.
- Abstract(参考訳): 異種共変量スケールによる客観摂動による差分プライバシー下での高次元LASSOについて検討した。
現実的なシナリオでは、共変量はしばしば多様なスケールを示すが、プライバシの制約の下では、プライバシの予算を消費するため、標準前処理は問題となる。
この不均一性は、アルゴリズムの安定性と精度を低下させることができる共変量の逆グラム行列を介して、目的摂動の効果的な異方性を引き起こす。
そこで本研究では, 共変量構造からの歪みに対処し, 推定過程における等方性を復元する「事前歪」戦略である, グラムに基づく異方性客観摂動を提案する。
本稿では,AMP(Adroximate Message Passing)フレームワークと状態進化解析を用いて,提案した摂動が収束を著しく安定化し,標準の均一ノイズ注入と比較して統計的効率とプライバシ性能の両方を向上することを示した。
本結果は,データ依存前処理に頼ることなく,安定かつ効率的なプライベート推定器を設計するための理論的知見を提供する。
関連論文リスト
- Privacy-Accuracy Trade-offs in High-Dimensional LASSO under Perturbation Mechanisms [1.7188280334580195]
我々は、LASSO推定器に着目し、高次元状態におけるプライバシ保存スパース線形回帰について検討した。
本稿では,雑音を推定器に注入する出力摂動と,損失関数にランダムな線形項を付加する目的摂動の2つのメカニズムを解析する。
以上の結果から,AMPは高次元スパースモデルにおけるプライバシ-正確性トレードオフを解析するための強力なフレームワークを提供することが示された。
論文 参考訳(メタデータ) (2026-03-27T09:50:43Z) - A Stable Neural Statistical Dependence Estimator for Autoencoder Feature Analysis [6.697324698653934]
相互情報などの依存度測定は、オートエンコーダの分析には最適であるが、決定論的、静的、ノイズフリーなネットワークには不適当である。
我々は、入力、潜伏剤、そして測定可能な再構成に依存させる変分(ガウス)定式化を採用する。
正則密度比分解に基づく安定な神経依存推定器を提案する。
論文 参考訳(メタデータ) (2026-03-12T01:37:19Z) - Revisiting Zeroth-Order Optimization: Minimum-Variance Two-Point Estimators and Directionally Aligned Perturbations [57.179679246370114]
乱摂動の分布は, 摂動段差がゼロになる傾向にあるため, 推定子の分散を最小限に抑える。
以上の結果から, 一定の長さを維持するのではなく, 真の勾配に方向を合わせることが可能であることが示唆された。
論文 参考訳(メタデータ) (2025-10-22T19:06:39Z) - Unlasting: Unpaired Single-Cell Multi-Perturbation Estimation by Dual Conditional Diffusion Implicit Bridges [68.98973318553983]
本稿では,Dual Diffusion Implicit Bridges (DDIB) に基づくフレームワークを提案する。
我々は、生物学的に意味のある方法で摂動シグナルを伝達するために遺伝子制御ネットワーク(GRN)情報を統合する。
また、サイレント遺伝子を予測し、生成したプロファイルの品質を向上させるためのマスキング機構も組み込んだ。
論文 参考訳(メタデータ) (2025-06-26T09:05:38Z) - Sample Weight Averaging for Stable Prediction [33.96006836156484]
アウト・オブ・ディストリビューションの一般化の課題は、機械学習アルゴリズムを危険に敏感な領域に応用するための基礎的な懸念を生じさせる。
本稿では,様々なサンプル再重み付けアルゴリズムに普遍的に統合し,分散および係数推定誤差を低減できる簡易かつ効率的な戦略であるSAmple Weight Averaging (zawa)を提案する。
論文 参考訳(メタデータ) (2025-02-11T09:51:22Z) - Assumption-Lean Post-Integrated Inference with Surrogate Control Outcomes [6.448728765953916]
制御結果を用いて遅延不均一性を調整する頑健なポストインテグレート推論(PII)手法を提案する。
我々は、予測された直接効果推定に関する半パラメトリック推論を開発し、隠された仲介者、共同設立者、モデレーターを考慮に入れた。
提案された二重頑健な推定器は、最小の仮定と潜在的な不特定性の下で一貫性があり、効率的である。
論文 参考訳(メタデータ) (2024-10-07T12:52:38Z) - Generalization Bounds of Surrogate Policies for Combinatorial Optimization Problems [53.03951222945921]
我々はスムーズな(摂動された)ポリシーを解析し、線形オラクルが使用する方向に対して制御されたランダムな摂動を付加する。
我々の主な貢献は、過剰リスクを摂動バイアス、統計的推定誤差、最適化誤差に分解する一般化境界である。
車両のスケジューリングやスムーズ化がトラクタブルトレーニングと制御された一般化の両方を可能にしていることを示す。
論文 参考訳(メタデータ) (2024-07-24T12:00:30Z) - Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。
異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
論文 参考訳(メタデータ) (2024-04-24T09:04:36Z) - Benign Overfitting of Constant-Stepsize SGD for Linear Regression [122.70478935214128]
帰納バイアスは 経験的に過剰フィットを防げる中心的存在です
この研究は、この問題を最も基本的な設定として考慮している: 線形回帰に対する定数ステップサイズ SGD。
我々は、(正規化されていない)SGDで得られるアルゴリズム正則化と、通常の最小二乗よりも多くの顕著な違いを反映する。
論文 参考訳(メタデータ) (2021-03-23T17:15:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。