論文の概要: Exact Unlearning via Quantized Sufficient Statistics
- arxiv url: http://arxiv.org/abs/2610.07197v1
- Date: Mon, 05 Oct 2026 18:14:28 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 02:58:29.582603
- Title: Exact Unlearning via Quantized Sufficient Statistics
- Title(参考訳): 量子化された十分統計量による厳密な未学習
- Abstract要約: 厳密なアンラーニングでは、デプロイされた予測器が、削除要求によって命名された情報と一致する必要がある。
量子化十分統計学を導入し、小さな凍結したスキーマを可変な和分解可能なコンテンツから分離する。
QSS-Lはラベルを正確に除去するが、QSS-Eは入力とラベルの両方を正確に除去する。
- 参考スコア(独自算出の注目度): 6.95336584415879
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Exact unlearning requires a deployed predictor to match one rebuilt without the information named by a deletion request. Existing general-purpose exact methods localize retraining through disjoint shards, but every request still invalidates a model, and smaller shards reduce the data available to each constituent predictor. We introduce Quantized Sufficient Statistics (QSS), which separates a small frozen schema from mutable, sum-decomposable content. The schema learns global structure; the content stores local prediction corrections as additive statistics indexed by quantized regions. Deleting content is therefore exact subtraction rather than optimization. We distinguish two guarantees: QSS-L exactly removes a label while retaining the unlabelled input, whereas QSS-E exactly removes both input and label by learning the schema without deletable examples. A deletion takes the arithmetic fast path with probability $1-ρ$ and triggers a full rebuild with probability $ρ$; all reported expected latencies include both events. Across 15 vision, text, and tabular datasets at $ρ=0.5\%$, QSS-L is within 2 percentage points of SISA on 11 tasks and provides 4--483$\times$ lower expected deletion latency on the low-class-count tasks where a compact schema is effective. QSS-E quantifies the additional accuracy cost of removing every trace of an input.
- Abstract(参考訳): 厳密なアンラーニングでは、デプロイされた予測器が、削除要求によって命名された情報と一致する必要がある。
既存の汎用的正確なメソッドは、解離したシャードを通して再トレーニングをローカライズするが、全ての要求はモデルを無効にし、より小さなシャードは各構成予測器で利用可能なデータを減らす。
量子化十分統計量(QSS)を導入し、小さな凍結したスキーマを可変な和分解可能なコンテンツから分離する。
このスキーマはグローバルな構造を学習し、その内容は局所的な予測補正を量子化された領域によってインデックスされた加算統計として格納する。
したがって、コンテンツの削除は最適化よりも正確に減算される。
一方、QSS-Eは、削除可能な例なしでスキーマを学習することで、入力とラベルの両方を正確に除去する。
削除は確率が 1-ρ$ の算術的な高速パスを受け取り、確率が $ρ$ の完全な再構築をトリガーする。
15のビジョン、テキスト、および表のデータセットが$ρ=0.5\%$で、QSS-Lは11のタスクでSISAの2パーセント以内であり、4--483$\times$で、コンパクトなスキーマが有効であるロークラスのタスクで期待される削除レイテンシを提供する。
QSS-Eは、入力のすべてのトレースを削除するための追加の精度コストを定量化する。
関連論文リスト
- Robust Fusion of Semantic and Behavioural Signals for LLM Reranking in Personalised Search [38.97030772917452]
LLMベースのクロスエンコーダは、単一のリランクインターフェースを提供するが、そのプロンプトに予測的行動統計を注入することで、ショートカット学習を促進することができる。
クエリスライス統計(QSS)を用いた大規模オーディオストリーミングプラットフォームのパーソナライズされた検索システムにおけるこの問題について検討する。
ネイティブQSSインジェクションは、機能が利用可能になった時にランキングを改善するが、削除されると堅牢性が低下する。
本稿では,QSSを含むQSSを1回,QSSを1回削除したQSSを1回提示する,決定論的デュアルサンプル機能ドロップアウトトレーニングを用いて,この問題に対処する。
論文 参考訳(メタデータ) (2026-09-22T07:54:14Z) - SSTQ:Privacy-Preserving Vector Quantization via Subsampled Stochastic TurboQuant [79.24089819400126]
Subsampled TurboQuant (SSTQ) は、オーバーコンプリートな等幅のタイトフレーム、座標サブサンプリング、プライバシ対応量子化を組み合わせたフレームワークである。
SSTQは平均2乗誤差スケーリングを実現し、クライアントあたり$lceil log N il + b$ bitsを使用する。
また、コードブックに依存したMSEスケーリングを$O(4b)$から$O(2b)$に削減する、プライバシを意識したコードブックの目的も導出します。
論文 参考訳(メタデータ) (2026-08-05T17:51:25Z) - SILAGE: Memory-Efficient, Full-Gradient-Free Nonconvex Optimization for Nested Finite Sums [51.49970814177172]
データセットに対する経験的リスクは、自然に$N=nm$全サンプルに類似性を示す。
我々は悲観的な収束分析を避ける分析を提供する。
我々の成果は、既存の最先端の体制を改善した。
論文 参考訳(メタデータ) (2026-06-14T14:11:07Z) - Distributional Machine Unlearning via Selective Data Removal [37.205511534444966]
ドメインの統計的影響は、しばしばデータサンプルの小さなサブセットに集中している。
所望のディストリビューションを保存しながら、不要なディストリビューションを忘れるバランスをとる小さなサブセットを選択するためのフレームワークである。
論文 参考訳(メタデータ) (2025-07-20T20:21:23Z) - Self-Adaptive Label Augmentation for Semi-supervised Few-shot
Classification [121.63992191386502]
Few-shotの分類は、ラベル付きサンプルがわずかにあれば、新しいタスクをうまく一般化できるモデルを学ぶことを目的としている。
そこで本研究では,手動で定義した指標を用いて,ラベルのない各サンプルに適切なラベルを割り当てる半教師付き小ショット分類手法を提案する。
SALAの目新しいところは、タスク適応計量であり、エンドツーエンドの方法で異なるタスクに対するメトリックを適応的に学習することができる。
論文 参考訳(メタデータ) (2022-06-16T13:14:03Z) - Compressive Summarization with Plausibility and Salience Modeling [54.37665950633147]
本稿では,候補空間に対する厳密な構文的制約を緩和し,その代わりに圧縮決定を2つのデータ駆動基準,すなわち妥当性とサリエンスに委ねることを提案する。
提案手法は,ベンチマーク要約データセット上で強いドメイン内結果を得るとともに,人間による評価により,文法的および事実的削除に対して,可算性モデルが一般的に選択されることを示す。
論文 参考訳(メタデータ) (2020-10-15T17:07:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。