論文の概要: Private Learning with Public Feature Conditioning
- arxiv url: http://arxiv.org/abs/2606.18773v1
- Date: Wed, 17 Jun 2026 07:34:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-18 17:16:51.046618
- Title: Private Learning with Public Feature Conditioning
- Title(参考訳): パブリック・フィーチャー・コンディショニングによるプライベート・ラーニング
- Authors: Shuli Jiang, Walid Krichene, Nicolas Mayoraz,
- Abstract要約: 本研究では、各データサンプルがパブリックな非感受性特徴を含む設定において、差分プライベート(DP)回帰について検討する。
本稿では,プライバシー制約下での最適化を活用する条件付き変種DPSGDであるCond-DPを紹介する。
本稿では,公開機能から直接,Cond-DPの効率的な条件付け行列を構築する方法について述べる。
- 参考スコア(独自算出の注目度): 5.800578726236357
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We study differentially private (DP) regression in settings where each data sample includes public, non-sensitive features -- common in applications such as recommendation and advertising systems. While such label-DP or semi-sensitive-feature settings have been primarily explored in the context of classification, effective approaches for regression remain underexplored. We introduce Cond-DP, a conditioned variant of DPSGD that leverages the structure of public feature matrices to improve optimization under privacy constraints. Motivated by the observation that these public features often exhibit rapidly decaying spectra, Cond-DP incorporates a data-driven conditioning matrix to reshape the optimization landscape and accelerate convergence. We provide convergence guarantees for convex, strongly convex, and non-convex settings, and recover standard DPSGD as a special case when the conditioning matrix is the identity. We show how to construct an effective conditioning matrix for Cond-DP directly from public features, enabling provably faster convergence than DPSGD in private linear regression without incurring additional privacy cost. Empirically, Cond-DP with this conditioning matrix consistently outperforms state-of-the-art baselines across a wide range of datasets and model architectures under label DP, demonstrating strong and robust performance in practice.
- Abstract(参考訳): 我々は、各データサンプルがパブリックで非センシティブな特徴を含む設定において、リコメンデーションや広告システムなどのアプリケーションに共通する差分プライベート(DP)レグレッションについて検討する。
このようなラベルDPやセミセンシティブな機能設定は、主に分類の文脈で検討されているが、回帰のための効果的なアプローチは未検討のままである。
本稿では,DPSGDの条件付きバージョンであるCond-DPを紹介し,プライバシー制約下での最適化を改善するために,パブリックな特徴行列の構造を活用する。
これらの公的な特徴がしばしば急速に減衰するスペクトルを示すという観測によって動機づけられたCond-DPは、データ駆動型条件付け行列を組み込んで最適化景観を再構築し、収束を加速する。
コンベックス, 強凸, 非凸設定の収束保証を提供し, 条件行列が同一性である場合の特別な場合として標準DPSGDを復元する。
本研究では,プライバシコストを伴わずに,プライベートリニアレグレッションにおける DPSGD よりもはるかに高速な収束を実現するために,パブリック機能から直接,Cond-DP の効果的な条件付け行列を構築する方法を示す。
経験的に、この条件付き行列を持つCond-DPは、DPというラベルの下で、幅広いデータセットやモデルアーキテクチャにおいて、一貫して最先端のベースラインを上回り、実際に強い、堅牢なパフォーマンスを示している。
関連論文リスト
- Differentially Private Truncation of Unbounded Data via Public Second Moments [4.662174186673445]
本稿では,パブリック2次モーメント行列を用いてプライベートデータを変換するPMT(Public-moment-guided Truncation)を提案する。
PMTは差分プライバシーモデルの精度と安定性を大幅に改善する。
論文 参考訳(メタデータ) (2026-02-25T12:21:30Z) - FedUTR: Federated Recommendation with Augmented Universal Textual Representation for Sparse Interaction Scenarios [58.33672784127872]
フェデレーションレコメンデーション(FR)は、デバイス上のプライバシ保護パラダイムとして登場した。
本稿では,対話行動の補完として項目文表現を取り入れたFedUTRという新しい手法を提案する。
提案手法は,SOTAベースラインと比較して,全データセットの最大59%の改善を達成し,優れた性能を実現する。
論文 参考訳(メタデータ) (2026-01-29T08:55:19Z) - Differentially Private Inference for Longitudinal Linear Regression [9.16331221881594]
ユーザレベルDP下での縦線形回帰における推定と推定のための包括的フレームワークを開発する。
推測のために, 自動ヘテロスケダスティック性および自己相関性を持つ民生推定器を開発した。
これらの結果は,ユーザレベルのDP推定と推測を行うための最初の統一フレームワークを提供する。
論文 参考訳(メタデータ) (2026-01-15T17:47:02Z) - Privacy Preserving Diffusion Models for Mixed-Type Tabular Data Generation [8.857443660746979]
混合型表データを合成するための微分プライベート拡散フレームワークDP-FinDiffを紹介する。
DP-FinDiffは、エンコーディングのオーバーヘッドを減らし、高次元データセットへのスケールを減らし、カテゴリ機能に埋め込みベースの表現を使用している。
金融と医療のデータセットでは、DP-FinDiffは、同等のプライバシーレベルでDPベースラインよりも16~42%高いユーティリティを実現している。
論文 参考訳(メタデータ) (2025-11-29T21:23:57Z) - Enhancing Differentially Private Linear Regression via Public Second-Moment [2.729099903480711]
本研究では,SSP-OLSEの変換を行うために,パブリックな第2モーメント行列を用いてプライベートデータを変換する手法を提案する。
我々は,提案手法と標準SSP-OLSEに関する理論的誤差境界を非DP OLSEに導出し,提案手法による堅牢性と精度の向上を明らかにした。
論文 参考訳(メタデータ) (2025-08-25T13:55:46Z) - Machine Learning with Privacy for Protected Attributes [56.44253915927481]
差分プライバシー(DP)の定義を洗練し、機能差分プライバシー(FDP)と呼ばれるより汎用的で柔軟なフレームワークを作成する。
私たちの定義はシミュレーションに基づいており、プライバシの追加/削除と置き換えの両方が可能で、保護された機能と非保護された機能の任意の分離を処理できます。
各種機械学習タスクにフレームワークを適用し,パブリック機能が利用可能であればDP学習モデルの実用性を大幅に向上させることができることを示す。
論文 参考訳(メタデータ) (2025-06-24T17:53:28Z) - Weights Shuffling for Improving DPSGD in Transformer-based Models [7.356743536182233]
本研究は,DPSGD(differially-Private Gradient Descent)における革新的なシャッフル機構を導入し,非シャッフルケースと同じプライバシ保証で大規模モデルの実用性を向上する。
順列化は理論上はDPSGDのプライバシー保証を改善するが、シャッフルモデル上での正確なプライバシー損失の追跡は特に困難である。
論文 参考訳(メタデータ) (2024-07-22T06:41:59Z) - Privacy Amplification for the Gaussian Mechanism via Bounded Support [64.86780616066575]
インスタンスごとの差分プライバシー(pDP)やフィッシャー情報損失(FIL)といったデータ依存のプライバシ会計フレームワークは、固定されたトレーニングデータセット内の個人に対してきめ細かいプライバシー保証を提供する。
本稿では,データ依存会計下でのプライバシ保証を向上することを示すとともに,バウンドサポートによるガウス機構の簡単な修正を提案する。
論文 参考訳(メタデータ) (2024-03-07T21:22:07Z) - Differentially Private SGD Without Clipping Bias: An Error-Feedback Approach [62.000948039914135]
Differentially Private Gradient Descent with Gradient Clipping (DPSGD-GC) を使用して、差分プライバシ(DP)がモデルパフォーマンス劣化の犠牲となることを保証する。
DPSGD-GCに代わる新しいエラーフィードバック(EF)DPアルゴリズムを提案する。
提案アルゴリズムに対するアルゴリズム固有のDP解析を確立し,R'enyi DPに基づくプライバシ保証を提供する。
論文 参考訳(メタデータ) (2023-11-24T17:56:44Z) - Calibrated Feature Decomposition for Generalizable Person
Re-Identification [82.64133819313186]
Calibrated Feature Decomposition (CFD)モジュールは、人物の再識別の一般化能力の向上に焦点を当てている。
キャリブレーション・アンド・スタンダード化されたバッチ正規化(CSBN)は、キャリブレーションされた人物表現を学習するために設計されている。
論文 参考訳(メタデータ) (2021-11-27T17:12:43Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。