論文の概要: Continual Data Unlearning in Diffusion Models via Transition-based Regularization
- arxiv url: http://arxiv.org/abs/2609.32328v1
- Date: Sat, 26 Sep 2026 07:43:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-07 17:44:39.949795
- Title: Continual Data Unlearning in Diffusion Models via Transition-based Regularization
- Title(参考訳): 遷移型正規化による拡散モデルにおける連続的データアンラーニング
- Abstract要約: 本稿では、削除完了の遷移を方向性参照として使用して、将来の更新を規則化する継続的データアンラーニングフレームワークを提案する。
削除後の完全な応答と一致するのではなく、記録された方向の逆転を阻止する一方的なペナルティを適用する。
記録は、記録された方向に沿った進行の局所感度に基づいてパラメータ更新に基づいて選択される。
- 参考スコア(独自算出の注目度): 10.12227666886355
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Data unlearning in diffusion models aims to remove the influence of specific training examples without suppressing the broader concepts they represent. However, when deletion requests arrive sequentially, updates for new requests can degrade generative utility and undermine earlier deletions. We propose a continual data unlearning framework that uses completed deletion transitions as directional references to regularize future updates. For each request, we record changes in denoiser responses on the same fixed noisy inputs before and after unlearning. Rather than matching full post-deletion responses, we apply a one-sided penalty that discourages reversal along the recorded directions relative to the post-deletion references, while leaving orthogonal response changes and progress beyond these references unpenalized. To keep storage independent of the number of requests, we maintain a fixed-capacity bank of representative transition records. Records are selected based on the local sensitivity of progress along their recorded directions to parameter updates, allowing them to be retained even when their penalties are inactive. Empirical evaluations show that the proposed framework achieves a better balance between deletion persistence and generative utility than existing unlearning baselines as requests accumulate, using only a small transition memory.
- Abstract(参考訳): 拡散モデルにおけるデータアンラーニングは、それらが表すより広い概念を抑えることなく、特定のトレーニング例の影響を取り除くことを目的としている。
しかし、削除要求が順次届くと、新しいリクエストの更新は生成ユーティリティを劣化させ、早期削除を損なう可能性がある。
本稿では,削除遷移の完了を方向性参照として用い,今後の更新を定期化するための連続データアンラーニングフレームワークを提案する。
各要求に対して, 未学習前後の同一雑音入力に対して, 雑音応答の変化を記録する。
削除後の全応答を一致させる代わりに、削除後の参照に対して記録された方向を逆転させる一方的なペナルティを適用する。
要求数に依存しないストレージを維持するため、代表的な移行レコードの固定容量バンクを維持します。
記録は、記録された方向に沿った進行の局所感度に基づいてパラメータ更新に基づいて選択される。
実験的な評価から,提案フレームワークは,要求が蓄積するアンラーニングベースラインよりも,最小のトランジションメモリのみを用いて,削除永続化と生成ユーティリティのバランスを良くすることがわかった。
関連論文リスト
- Bounding Retraining Equivalence and the Deletion Floor in Materials Machine Unlearning [2.3982445219832678]
材料機械学習では、特定の記録を削除した後でも、密接に関連する保持構造が正確な特性予測を維持できる。
削除要求において,削除フロアを指定されたトレーニング手順の下で,期待される目標損失として定義する。
論文 参考訳(メタデータ) (2026-09-28T17:03:08Z) - Turning Back Without Forgetting: Selective Backward Refinement for Parameter-Efficient Continual Learning [22.058497718429518]
本稿では,プロンプトベース連続学習における逆転送制御を実現するリプレイフリーフレームワークを提案する。
SABERは、補完的なタスク相関基準を用いて、後方修正が有効であるかどうかを決定する。
複数の連続学習ベンチマークと、T5-Large、LLaMA、Qwenを含む様々な事前訓練されたバックボーンに対する実験は、SABERが常にポジティブな後方転送を実現することを実証している。
論文 参考訳(メタデータ) (2026-05-31T18:08:24Z) - CURaTE: Continual Unlearning in Real Time with Ensured Preservation of LLM Knowledge [39.26757541186985]
我々は,LLM知識の保存を保証した連続的学習をリアルタイムに提案する。
提案手法は,シャープな決定境界の形成を可能にするために設計されたデータセット上に文埋め込みモデルをトレーニングすることから始まる。
このような単純なアプローチであっても、CURaTEは既存の方法よりも効果的な忘れ方を実現する。
論文 参考訳(メタデータ) (2026-04-16T05:49:10Z) - Suppression or Deletion: A Restoration-Based Representation-Level Analysis of Machine Unlearning [24.40457827994831]
本稿では,機械学習のための復元に基づく新しい分析フレームワークを提案する。
画像分類タスクにおいて、我々のフレームワークを12の非学習手法に適用すると、ほとんどの手法が高い回復率を達成することが分かる。
表現レベルの検証を優先する新たな評価ガイドラインを提案する。
論文 参考訳(メタデータ) (2026-02-18T07:46:30Z) - Breaking Determinism: Fuzzy Modeling of Sequential Recommendation Using Discrete State Space Diffusion Model [66.91323540178739]
シークエンシャルレコメンデーション(SR)は、ユーザーが過去の行動に基づいて興味を持つかもしれない項目を予測することを目的としている。
我々はSRを新しい情報理論の観点から再検討し、逐次モデリング手法がユーザの行動のランダム性と予測不可能性を適切に把握できないことを発見した。
ファジィ情報処理理論に触発された本論文では,制限を克服し,ユーザの関心事の進化をよりよく捉えるために,ファジィなインタラクションシーケンスの組を導入する。
論文 参考訳(メタデータ) (2024-10-31T14:52:01Z) - Mitigating Catastrophic Forgetting in Task-Incremental Continual
Learning with Adaptive Classification Criterion [50.03041373044267]
本稿では,継続的学習のための適応型分類基準を用いた教師付きコントラスト学習フレームワークを提案する。
実験により, CFLは最先端の性能を達成し, 分類基準に比べて克服する能力が強いことが示された。
論文 参考訳(メタデータ) (2023-05-20T19:22:40Z) - Learning to Unlearn: Instance-wise Unlearning for Pre-trained
Classifiers [71.70205894168039]
そこでは、事前訓練されたモデルからインスタンスのセットに関する情報を削除することを目標としています。
本稿では,1)表現レベルでの忘れを克服するために,敵の例を活用すること,2)不必要な情報を伝播するネットワークパラメータをピンポイントする重み付け指標を活用すること,の2つの方法を提案する。
論文 参考訳(メタデータ) (2023-01-27T07:53:50Z) - New Insights on Reducing Abrupt Representation Change in Online
Continual Learning [69.05515249097208]
我々は、以前に観測されていないクラスが入ってくるデータストリームに現れるときに発生する観測データの表現の変化に焦点を当てる。
Experience Replayを適用すると、新たに追加されたクラスの表現が以前のクラスと大幅に重複することを示します。
本稿では,新しいクラスに対応するために,学習した表現を劇的な適応から保護することで,この問題を緩和する手法を提案する。
論文 参考訳(メタデータ) (2022-03-08T01:37:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。