論文の概要: Unlearning with Asymmetric Sources: Improved Unlearning-Utility Trade-off with Public Data
- arxiv url: http://arxiv.org/abs/2605.11170v1
- Date: Mon, 11 May 2026 19:28:33 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-13 21:48:56.386553
- Title: Unlearning with Asymmetric Sources: Improved Unlearning-Utility Trade-off with Public Data
- Title(参考訳): 非対称なソースによるアンラーニング: 公開データによるアンラーニング・ユーティリティのトレードオフの改善
- Authors: Ahmed Mehdi Inane, Vincent Quirion, Gintare Karolina Dzugaite, Ioannis Mitliagkas,
- Abstract要約: プライバシーコストを軽減するために公開データを使用するフレームワークであるAsymmetric Langevin Unlearningを紹介する。
ALUは、適切な配布シフトの下でユーティリティを保ちながら、プライバシー攻撃を効果的に抑制することを示す。
- 参考スコア(独自算出の注目度): 7.756990522331381
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Noise-based certified machine unlearning currently faces a hard ceiling: the noise magnitude required to certify unlearning typically destroys model utility, particularly for large-scale deletion requests. While leveraging public data is a standard technique in differential privacy to relax this tension, its role in unlearning remains unexplored. We address this gap by introducing Asymmetric Langevin Unlearning (ALU), a framework that uses public data to mitigate privacy costs. We prove that public data injection suppresses the unlearning cost by a factor of $O(1/n_{\mathrm{pub}}^2)$, guaranteeing a strict computational advantage over retraining. This establishes a new control mechanism: practitioners can mitigate the need for high noise-and the associated utility loss-by increasing the volume of public data. Crucially, we analyze the realistic setting of distribution mismatch, explicitly characterizing how shifts between public and private sources impact utility. We show that ALU enables mass unlearning of constant dataset fractions -- a regime where standard symmetric methods become impractical -- while maintaining high utility. Empirical evaluations using variational Rényi divergence and membership inference attacks confirm that ALU effectively thwarts privacy attacks while preserving utility under reasonable distribution shifts.
- Abstract(参考訳): 未学習を認定するために必要な音の大きさは、特に大規模な削除要求に対して、モデルの有用性を損なうのが一般的である。
公開データを活用することは、この緊張を緩和するために差分プライバシーの標準的なテクニックであるが、未学習におけるその役割は未解明のままである。
Asymmetric Langevin Unlearning (ALU)は、プライバシーコストを軽減するために公開データを使用するフレームワークである。
我々は、公開データ注入が学習コストを$O(1/n_{\mathrm{pub}}^2)$で抑えることを証明し、再学習よりも厳密な計算上の優位性を保証する。
実践者は、公開データの量を増やすことで、高ノイズと関連するユーティリティ損失の必要性を軽減することができる。
重要なことは、パブリックソースとプライベートソースのシフトがユーティリティにどのように影響するかを明確に特徴付けることで、配信ミスマッチの現実的な設定を分析することである。
ALUは、標準対称法が実用性を維持しつつ、一定のデータセット分数(標準対称法が実用的でない状態)の大量非学習を可能にしていることを示す。
Rényiのばらつきとメンバシップ推論攻撃を用いた実証的な評価は、ALUが合理的な分散シフトの下でユーティリティを保ちながら、プライバシー攻撃を効果的に阻止することを確認した。
関連論文リスト
- Classification Under Local Differential Privacy with Model Reversal and Model Averaging [5.178896452202825]
ローカルディファレンシャルプライバシ(LDP)は、データプライバシ研究において中心的なトピックとなっている。
プライバシーを損なうことなく分類性能を向上させるために, LDP に特化して設計された新しい手法を提案する。
シミュレーションと実世界の両方のデータセットの実証結果は、分類精度を大幅に改善したことを示している。
論文 参考訳(メタデータ) (2026-02-05T15:52:34Z) - Pseudo-Probability Unlearning: Towards Efficient and Privacy-Preserving Machine Unlearning [59.29849532966454]
本稿では,PseudoProbability Unlearning (PPU)を提案する。
提案手法は,最先端の手法に比べて20%以上の誤りを忘れる改善を実現している。
論文 参考訳(メタデータ) (2024-11-04T21:27:06Z) - AAA: an Adaptive Mechanism for Locally Differential Private Mean Estimation [42.95927712062214]
ローカルディファレンシャルプライバシ(LDP)は、一般的なソフトウェアシステムで採用されている強力なプライバシ標準である。
本稿では, 平均効用に対処する分布認識手法である, 適応型アダプティブ (AAA) 機構を提案する。
我々は、厳密なプライバシー証明、ユーティリティ分析、そしてAAAと最先端のメカニズムを比較した広範な実験を提供する。
論文 参考訳(メタデータ) (2024-04-02T04:22:07Z) - Breaking the Communication-Privacy-Accuracy Tradeoff with
$f$-Differential Privacy [51.11280118806893]
サーバが複数のユーザの協調的なデータ分析を,プライバシの懸念と限られた通信能力で調整する,フェデレートされたデータ分析問題を考える。
有限出力空間を有する離散値機構の局所的差分プライバシー保証を$f$-differential privacy (DP) レンズを用いて検討する。
より具体的には、様々な離散的評価機構の厳密な$f$-DP保証を導出することにより、既存の文献を前進させる。
論文 参考訳(メタデータ) (2023-02-19T16:58:53Z) - On the Privacy-Robustness-Utility Trilemma in Distributed Learning [7.778461949427662]
本稿では,少数の対向マシンに対してロバスト性を保証するアルゴリズムによって得られた誤差を,まず厳密に解析する。
私たちの分析は、プライバシ、堅牢性、ユーティリティの基本的なトレードオフを示しています。
論文 参考訳(メタデータ) (2023-02-09T17:24:18Z) - Over-the-Air Federated Learning with Privacy Protection via Correlated
Additive Perturbations [57.20885629270732]
我々は、複数のユーザ/エージェントからエッジサーバへの勾配更新をOtA(Over-the-Air)で送信することで、無線フェデレーション学習のプライバシー面を考察する。
従来の摂動に基づく手法は、トレーニングの精度を犠牲にしてプライバシー保護を提供する。
本研究では,エッジサーバにおけるプライバシリークの最小化とモデル精度の低下を目標とする。
論文 参考訳(メタデータ) (2022-10-05T13:13:35Z) - Joint Privacy Enhancement and Quantization in Federated Learning [23.36363480217293]
Federated Learning(FL)は、エッジデバイスで利用可能なプライベートデータを使用して機械学習モデルをトレーニングするための新興パラダイムである。
共同プライバシー強化・量子化法(JoPEQ)を提案する。
所望のプライバシレベルを保持しながら、必要なビットレートに応じてデータを同時に定量化することを示す。
論文 参考訳(メタデータ) (2022-08-23T11:42:58Z) - Graph-Homomorphic Perturbations for Private Decentralized Learning [64.26238893241322]
ローカルな見積もりの交換は、プライベートデータに基づくデータの推測を可能にする。
すべてのエージェントで独立して選択された摂動により、パフォーマンスが著しく低下する。
本稿では,特定のヌル空間条件に従って摂動を構成する代替スキームを提案する。
論文 参考訳(メタデータ) (2020-10-23T10:35:35Z) - Differentially Private Federated Learning with Laplacian Smoothing [72.85272874099644]
フェデレートラーニングは、ユーザ間でプライベートデータを共有せずに、協調的にモデルを学習することで、データのプライバシを保護することを目的としている。
敵は、リリースしたモデルを攻撃することによって、プライベートトレーニングデータを推測することができる。
差別化プライバシは、トレーニングされたモデルの正確性や実用性を著しく低下させる価格で、このような攻撃に対する統計的保護を提供する。
論文 参考訳(メタデータ) (2020-05-01T04:28:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。