論文の概要: Jacobian-Guided Anisotropic Noise Reshaping for Enhancing Representation Utility under Local Differential Privacy
- arxiv url: http://arxiv.org/abs/2605.16812v2
- Date: Wed, 20 May 2026 09:51:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-21 14:55:44.223978
- Title: Jacobian-Guided Anisotropic Noise Reshaping for Enhancing Representation Utility under Local Differential Privacy
- Title(参考訳): 局所微分プライバシー下での表現性向上のためのヤコビアン誘導異方性雑音変換
- Authors: Youngmok Ha, Viktor Schlegel, Yidan Sun, Anil Anthony Bharath,
- Abstract要約: ローカル微分プライバシー(LDP)は、分散データ収集の基礎となるプリミティブである。
従来のLDPメカニズムは、下流の目的に対する相対的な重要性にかかわらず、あらゆる次元にわたってノイズを均一に注入する。
本稿では,データ表現のタスク関連部分空間におけるノイズを軽減する新しい手法を提案する。
- 参考スコア(独自算出の注目度): 9.339558179603214
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While Local Differential Privacy (LDP) serves as a foundational primitive for distributed data collection, its stringent noise injection requirement often leads to severe degradation in data utility. This degradation stems from the task-agnostic nature of conventional LDP mechanisms, which inject noise uniformly across all dimensions regardless of their relative importance to the downstream objective. To address this issue, we propose a novel approach that mitigates noise in task-relevant subspaces of the data representation. Our method identifies task-critical subspaces via the Jacobian matrix of the public downstream model, selectively attenuates noise along those dimensions, and reshapes the isotropic noise of standard LDP into an anisotropic distribution. This method preserves the uniform per-dimension privacy budget while heterogeneously modulating noise impact across dimensions, thereby substantially enhancing data utility. Furthermore, our approach generalizes to both linear and non-linear models and integrates seamlessly with existing mechanisms. Extensive experiments on CIFAR-10-C (Brightness corruption at the highest severity level 5) demonstrate that integrating our approach improves the utility of PrivUnit2 and PrivUnitG by approximately 20\% at $ε=7.5$. The source code is available at https://github.com/ymha/jacobian-anr-ldp.
- Abstract(参考訳): ローカル微分プライバシー(LDP)は分散データ収集の基本的なプリミティブとして機能するが、その厳密なノイズ注入要求はしばしばデータユーティリティの大幅な劣化につながる。
この劣化は、下流の目的に対する相対的重要性にかかわらず、すべての次元に均一にノイズを注入する従来のLDPメカニズムのタスク非依存性に起因する。
そこで本研究では,データ表現のタスク関連部分空間におけるノイズを緩和する手法を提案する。
提案手法は,公共下流モデルのヤコビ行列を用いてタスククリティカル部分空間を特定し,その次元に沿って雑音を選択的に減衰させ,標準LDPの等方性雑音を異方性分布に再認識する。
この方法は、次元ごとのノイズの影響を均一に調整しながら、均一なプライバシー予算を保ち、データの有用性を大幅に向上させる。
さらに、線形モデルと非線形モデルの両方に一般化し、既存のメカニズムとシームレスに統合する。
CIFAR-10-C (Brightness corruption at the highest severity level 5) の大規模な実験により,PrivUnit2 と PrivUnitG の実用性は,ε=7.5$で約20 %向上した。
ソースコードはhttps://github.com/ymha/jacobian-anr-ldp.comで公開されている。
関連論文リスト
- Feature-Aware Anisotropic Local Differential Privacy for Utility-Preserving Graph Representation Learning in Metal Additive Manufacturing [0.4199844472131922]
金属添加物製造は安全クリティカルな部品の製造を可能にするが、信頼性の高い品質保証は高忠実度センサストリームに依存する。
既存の欠陥検出モデルは、溶岩プールの観測を独立したサンプルとして扱い、層ワイドの物理的結合を無視している。
これらの課題に対処するためにFI-LDP-HGATを提案する。
論文 参考訳(メタデータ) (2026-04-06T18:29:21Z) - Mitigating the Noise Shift for Denoising Generative Models via Noise Awareness Guidance [54.88271057438763]
ノイズアウェアネスガイダンス (NAG) は、事前に定義された騒音スケジュールと整合性を保つために、サンプリング軌道を明示的に制御する補正手法である。
NAGは一貫してノイズシフトを緩和し、主流拡散モデルの生成品質を大幅に改善する。
論文 参考訳(メタデータ) (2025-10-14T13:31:34Z) - Improving Noise Efficiency in Privacy-preserving Dataset Distillation [59.57846442477106]
本稿では,最適化からサンプリングを分離してコンバージェンスを向上し,信号品質を向上させる新しいフレームワークを提案する。
CIFAR-10では,従来の最先端手法の蒸留セットサイズを5分の1に減らして,クラス毎50イメージでtextbf10.0%,クラス毎50イメージで textbf8.3%向上した。
論文 参考訳(メタデータ) (2025-08-03T13:15:52Z) - KL-regularization Itself is Differentially Private in Bandits and RLHF [33.10013796063427]
差分プライバシー(DP)は、プライバシーのための厳格なフレームワークを提供し、単一のエントリで異なるデータセット間で統計的に区別できないデータ駆動アルゴリズムの出力を保証する。
「一般に、DPを保証するためには、アルゴリズム自体または出力に明示的にノイズを注入する必要があるが、既存のアルゴリズムの固有のランダム性は、DPを無償で達成する機会を与える。」
論文 参考訳(メタデータ) (2025-05-23T22:22:02Z) - Noise Variance Optimization in Differential Privacy: A Game-Theoretic Approach Through Per-Instance Differential Privacy [7.264378254137811]
差分プライバシー(DP)は、個人をターゲットデータセットに含めることによる分布の変化を観察することにより、プライバシー損失を測定することができる。
DPは、AppleやGoogleのような業界巨人の機械学習におけるデータセットの保護において際立っている。
本稿では,PDPを制約として提案し,各データインスタンスのプライバシ損失を測定し,個々のインスタンスに適したノイズを最適化する。
論文 参考訳(メタデータ) (2024-04-24T06:51:16Z) - Amplitude-Varying Perturbation for Balancing Privacy and Utility in
Federated Learning [86.08285033925597]
本稿では,フェデレート学習のプライバシを保護するため,時変雑音振幅を持つ新しいDP摂動機構を提案する。
我々は、FLの過度な摂動ノイズによる早期収束を防止するために、シリーズのオンラインリファインメントを導出した。
新しいDP機構のプライバシ保存FLの収束と精度への寄与は、持続的な雑音振幅を持つ最先端のガウスノイズ機構と比較して相関する。
論文 参考訳(メタデータ) (2023-03-07T22:52:40Z) - AP-BSN: Self-Supervised Denoising for Real-World Images via Asymmetric
PD and Blind-Spot Network [60.650035708621786]
ブラインド・スポット・ネットワーク(BSN)とその変種は、自己監督型デノナイジングにおいて大きな進歩を遂げた。
自己教師付きBSNを用いて空間的に相関した実世界の雑音に対処することは困難である。
近年,実世界の雑音の空間的相関を取り除くために,画素シャッフルダウンサンプリング (PD) が提案されている。
本稿では,この問題に対処する非対称PD(AP)を提案する。
論文 参考訳(メタデータ) (2022-03-22T15:04:37Z) - RDP-GAN: A R\'enyi-Differential Privacy based Generative Adversarial
Network [75.81653258081435]
GAN(Generative Adversarial Network)は,プライバシ保護の高い現実的なサンプルを生成する能力によって,近年注目を集めている。
しかし、医療記録や財務記録などの機密・私的な訓練例にGANを適用すると、個人の機密・私的な情報を漏らしかねない。
本稿では、学習中の損失関数の値にランダムノイズを慎重に付加することにより、GAN内の差分プライバシー(DP)を実現するR'enyi-differentially private-GAN(RDP-GAN)を提案する。
論文 参考訳(メタデータ) (2020-07-04T09:51:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。