論文の概要: Minimax Gaussian Mechanisms for Continual Machine Unlearning
- arxiv url: http://arxiv.org/abs/2610.11628v1
- Date: Thu, 08 Oct 2026 10:06:26 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.942529
- Title: Minimax Gaussian Mechanisms for Continual Machine Unlearning
- Title(参考訳): 連続機械アンラーニングのためのミニマックスガウス機構
- Abstract要約: シーケンシャルな削除要求の下でニュートン更新のメカニズムを開発する。
得られたモデルの全列は、一致した正確な再学習と区別することが統計的に困難であることを示す。
- 参考スコア(独自算出の注目度): 2.289156870811497
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Machine unlearning updates a trained model after records are deleted, aiming to match exact retraining without repeating the full training procedure. We develop Gaussian mechanisms for Newton updates under sequential deletion requests. Using Gaussian differential privacy (GDP) and its adaptive composition rule, we show that the full sequence of released models is statistically difficult to distinguish from matched exact retraining. To calibrate these mechanisms for empirical risk minimization, we derive upper bounds on the error of the Newton approximation relative to exact retraining and on how this error changes after each deletion batch. Independent Gaussian noise is calibrated using bounds on the full residual at each release, whereas Gaussian random walk noise uses smaller bounds on residual increments. These bounds yield allocations minimizing the worst-case maximum noise variance across releases under the resulting GDP certification constraints. With count-based bounds, the random walk asymptotically matches the worst-case variance of a single release at deletion cap $M$, while independent noise incurs an additional factor of order $M$. Set-based bounds can reduce the noise variances by using gradients and Hessians of the deleted records. For singleton deletion, we further show that count-based independent noise, count-based random walk noise, and set-based independent noise are minimax among fixed Gaussian covariances under their respective residual or increment bounds. With set-based bounds, allowing variances to adapt to deleted records can improve on every fixed covariance by a factor of order $(\log M)^2$ on some data sequences. The residual and noise bounds also yield parameter and predictive consistency relative to exact retraining, uniformly over deletion policies. Simulations and a credit default data analysis evaluate bounds, noise variances, and estimation errors.
- Abstract(参考訳): マシンアンラーニングは、トレーニングされたモデルをレコードが削除された後に更新する。
シーケンシャルな削除要求の下で,ニュートン更新のためのガウス的機構を開発する。
ガウス微分プライバシー(GDP)とその適応構成則を用いて、リリースされたモデルの全シーケンスが一致した正確な再トレーニングと統計的に区別することが困難であることを示す。
実験的リスク最小化のためのこれらのメカニズムをキャリブレーションするために、ニュートン近似の誤差と正確な再トレーニング、および各削除バッチの後にこのエラーがどのように変化するかに基づいて上限を導出する。
独立なガウスノイズは各リリースにおける完全残差境界を用いて校正されるが、ガウスのランダムウォークノイズは残留インクリメントの小さな境界を使用する。
これらのバウンダリのアロケーションは、GDP認証の制約の下で、リリース間の最悪の最大ノイズ分散を最小限にします。
カウントベースのバウンダリでは、ランダムウォークは1つのリリースの最悪のケース分散を削除キャップ$M$と漸近的に一致させるが、独立ノイズはオーダー$M$という追加の要素を生じる。
セットベースのバウンダリは、削除されたレコードの勾配とヘッセンを用いてノイズ分散を低減することができる。
シングルトン削除については,各残差および増分境界の下でのガウス的共分散の中で,カウントベース独立ノイズ,カウントベースランダムウォークノイズ,セットベース独立ノイズが極小であることを示す。
集合ベースのバウンダリでは、削除されたレコードに分散を適応させることで、あるデータシーケンスの順序$(\log M)^2$の係数によって、すべての固定された共分散を改善することができる。
残差とノイズ境界はまた、削除ポリシーに対して、正確な再トレーニングに対してパラメータと予測整合性をもたらす。
シミュレーションと信用デフォルトデータ解析は、境界、ノイズ分散、推定誤差を評価する。
関連論文リスト
- Scalable Lindblad Noise Learning via Stochastic Tensor-Network Simulation [48.887627688666974]
大規模オープン量子システムにおける学習散逸率は、短期量子技術の大きな障害である。
本稿では,シミュレーション手法であるJump Method(TJM)を組み合わせたLindblad散逸率のスケーラブルなノイズ学習フレームワークを提案する。
我々は,Isingモデルにおける2つのノイズモデルに対するアプローチを実証し,各サイトについて,N_mathrmsite=16$まで独立散逸率を学習した。
スケーラブルな数値と厳密な理論的保証の組み合わせは、TJMベースのノイズ学習を大きな量子デバイスにおける散逸を特徴づける実用的な基礎として位置づけている。
論文 参考訳(メタデータ) (2026-08-25T15:07:11Z) - Caliber: Cross-Architecture Extraction-Cost Control for Score-Returning APIs [27.21644231867863]
Caliberは、キャリブレーション問題としてノイズ選択を定式化するモデル抽出に対する防御である。
知識蒸留に返却されたスコアを使用する攻撃者に対して、Caliberは独立して同一に分散したガウスノイズを内部ロジットに追加する。
Caliberは、正方形中央2対数辺による雑音分散を正規化し、その結果の雑音効用関係をロジスティック曲線に適合させる。
論文 参考訳(メタデータ) (2026-08-02T05:58:00Z) - Semiparametrically Efficient Inference for Kernel Measures of Noise Heterogeneity [20.281748930003737]
付加雑音モデルにおける雑音の不均一性のカーネル測度に対する半パラメトリック効率的な推定法を開発した。
我々は、コカリブレートと残留物の間のカーネルコ演算子の1ステップ1ステップ推定器を構築する。
そこで本研究では, ナイーブプラグイン残差法と比較してキャリブレーションとパワーが向上した。
論文 参考訳(メタデータ) (2026-05-26T18:01:09Z) - DP-$λ$CGD: Efficient Noise Correlation for Differentially Private Model Training [30.807442477789447]
本稿では,直前の繰り返しのみにノイズを関連付ける新しいノイズ相関戦略を提案し,その制御部分をキャンセルする。
提案手法は擬似ランダムノイズ発生器によるノイズ再生に依存し,過去のノイズを記憶する必要がなくなる。
計算オーバーヘッドは最小限であり,DP-SGDよりも精度が向上したことを示す。
論文 参考訳(メタデータ) (2026-01-29T21:21:34Z) - Ensemble Threshold Calibration for Stable Sensitivity Control [0.0]
本稿では,数千万組の幾何対もの幾何に対して,過度に分散した正確なリコールを実現するエンド・ツー・エンドのフレームワークを提案する。
我々のアプローチは、小さなエラーで常にリコールターゲットにヒットし、他のキャリブレーションと比較して冗長な検証を減らし、単一のTPU v3コア上でエンドツーエンドで実行します。
論文 参考訳(メタデータ) (2025-10-02T15:22:28Z) - Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳(メタデータ) (2024-06-05T13:36:38Z) - Fast Semisupervised Unmixing Using Nonconvex Optimization [80.11512905623417]
半/ライブラリベースのアンミックスのための新しい凸凸モデルを提案する。
スパース・アンミキシングの代替手法の有効性を実証する。
論文 参考訳(メタデータ) (2024-01-23T10:07:41Z) - Variance-Dependent Regret Bounds for Linear Bandits and Reinforcement
Learning: Adaptivity and Computational Efficiency [90.40062452292091]
本稿では,不整合雑音を持つ線形帯域に対する計算効率のよい最初のアルゴリズムを提案する。
我々のアルゴリズムは未知のノイズの分散に適応し、$tildeO(d sqrtsum_k = 1K sigma_k2 + d)$ regretを達成する。
また、強化学習において、線形混合マルコフ決定過程(MDP)に対する分散適応アルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-02-21T00:17:24Z) - Detecting Label Noise via Leave-One-Out Cross Validation [0.0]
クリーンなサンプルと破損したサンプルの混合から実値のノイズラベルを同定し,修正するための簡単なアルゴリズムを提案する。
独立分散を伴う付加的なガウス雑音項をそれぞれと観測されたラベルに関連付けるヘテロ代用ノイズモデルを用いる。
提案手法は, 合成および実世界の科学データを用いた学習において, 劣化したサンプルを特定でき, より良い回帰モデルが得られることを示す。
論文 参考訳(メタデータ) (2021-03-21T10:02:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。