論文の概要: Designing to Forget: Deep Semi-parametric Models for Unlearning

• arxiv url: http://arxiv.org/abs/2603.22870v1
• Date: Tue, 24 Mar 2026 07:13:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-25 19:53:37.349779
• Title: Designing to Forget: Deep Semi-parametric Models for Unlearning
• Title（参考訳）: 予測する設計: アンラーニングのための深層半パラメトリックモデル
• Authors: Amber Yijia Zheng, Yu-Shan Tai, Raymond A. Yeh,
• Abstract要約: 学習中に非パラメトリックな振る舞いを示す深層半パラメトリックモデル(SPM)のファミリーを紹介する。 SPMは、画像分類と生成においてパラメトリックモデルと競合するタスク性能を達成し、未学習でははるかに効率的である。
• 参考スコア（独自算出の注目度）: 27.50875933694437
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent advances in machine unlearning have focused on developing algorithms to remove specific training samples from a trained model. In contrast, we observe that not all models are equally easy to unlearn. Hence, we introduce a family of deep semi-parametric models (SPMs) that exhibit non-parametric behavior during unlearning. SPMs use a fusion module that aggregates information from each training sample, enabling explicit test-time deletion of selected samples without altering model parameters. Empirically, we demonstrate that SPMs achieve competitive task performance to parametric models in image classification and generation, while being significantly more efficient for unlearning. Notably, on ImageNet classification, SPMs reduce the prediction gap relative to a retrained (oracle) baseline by $11\%$ and achieve over $10\times$ faster unlearning compared to existing approaches on parametric models. The code is available at https://github.com/amberyzheng/spm_unlearning.
• Abstract（参考訳）: 機械学習の最近の進歩は、訓練されたモデルから特定のトレーニングサンプルを取り除くアルゴリズムの開発に焦点を当てている。 対照的に、すべてのモデルが同じように簡単に学習できるわけではない。 そこで本研究では,未学習時に非パラメトリックな振る舞いを示す深層半パラメトリックモデル(SPM)のファミリーを紹介する。 SPMは、各トレーニングサンプルから情報を集約する融合モジュールを使用し、モデルパラメータを変更することなく、選択したサンプルの明示的なテスト時間削除を可能にする。 実験により,SPMは画像の分類と生成においてパラメトリックモデルと競合するタスク性能を達成し,未学習でははるかに効率がよいことを示した。 特に、ImageNetの分類では、SPMはトレーニングされた(オークル)ベースラインに対する予測ギャップを11.%削減し、パラメトリックモデルに対する既存のアプローチに比べて10ドル以上高速なアンラーニングを実現している。 コードはhttps://github.com/amberyzheng/spm_unlearning.comで公開されている。

関連論文リスト

• AMUN: Adversarial Machine UNlearning [13.776549741449557]
  Adversarial Machine UNlearning (AMUN)は、画像分類の最先端(SOTA)手法よりも優れている。 AMUNは、そのモデルに対応する敵の例を微調整することで、忘れサンプルのモデルの信頼性を低下させる。
  論文  参考訳（メタデータ） (2025-03-02T14:36:31Z)
• Realistic Image-to-Image Machine Unlearning via Decoupling and Knowledge Retention [1.795561427808824]
  機械学習モデルは、目に見えないデータに対してかなりよく機能する、と私たちは主張する。 本稿では,モデルパラメータを勾配上昇で分離するフレームワークを提案する。 また、勾配のあるモデル更新に対して$(epsilon, delta)$-unlearningの保証も提供しています。
  論文  参考訳（メタデータ） (2025-02-06T17:46:49Z)
• Attribute-to-Delete: Machine Unlearning via Datamodel Matching [65.13151619119782]
  機械学習 -- 事前訓練された機械学習モデルで、小さな"ターゲットセット"トレーニングデータを効率的に削除する -- は、最近関心を集めている。 最近の研究では、機械学習技術はこのような困難な環境では耐えられないことが示されている。
  論文  参考訳（メタデータ） (2024-10-30T17:20:10Z)
• Truncated Consistency Models [57.50243901368328]
  トレーニング一貫性モデルは、PF ODE 軌道に沿ったすべての中間点を対応するエンドポイントにマッピングする学習を必要とする。 このトレーニングパラダイムが一貫性モデルの1ステップ生成性能を制限することを実証的に見出した。 整合性関数の新しいパラメータ化と2段階の訓練手順を提案し,時間外学習が崩壊することを防ぐ。
  論文  参考訳（メタデータ） (2024-10-18T22:38:08Z)
• Learn to Unlearn for Deep Neural Networks: Minimizing Unlearning Interference with Gradient Projection [56.292071534857946]
  最近のデータプライバシ法は、機械学習への関心を喚起している。 課題は、残りのデータセットに関する知識を変更することなく、忘れたデータに関する情報を捨てることである。 我々は、プロジェクテッド・グラディエント・アンラーニング(PGU)という、プロジェクテッド・グラディエント・ベースの学習手法を採用する。 トレーニングデータセットがもはやアクセスできない場合でも、スクラッチからスクラッチで再トレーニングされたモデルと同じような振る舞いをするモデルを、我々のアンラーニング手法が生成できることを実証するための実証的な証拠を提供する。
  論文  参考訳（メタデータ） (2023-12-07T07:17:24Z)
• In-Context Unlearning: Language Models as Few Shot Unlearners [27.962361828354716]
  我々は,Large Language Models (LLMs) のための新しいアンラーニング手法を提案する。 このメソッドは、モデルパラメータを更新することなく、コンテキスト内で特定の種類の入力を提供することで、モデルからインスタンスを解放する。 実験の結果、文脈内アンラーニングは、モデルパラメータへのアクセスを必要とする他の最先端の手法よりも優れていることが示された。
  論文  参考訳（メタデータ） (2023-10-11T15:19:31Z)
• Test-Time Adaptation with CLIP Reward for Zero-Shot Generalization in Vision-Language Models [76.410400238974]
  モデル出力を補正し、モデルが盲目的に自信を持たないようにするためのフィードバック付きTTAを提案する。 CLIPモデルは、TTA中に報酬モデルとして採用され、VLMにフィードバックを提供する。 提案したCLIPフィードバック(RLCF)フレームワークによるテキスト強化学習は非常に柔軟で普遍的である。
  論文  参考訳（メタデータ） (2023-05-29T11:03:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。