論文の概要: Trajectory-Guided Forget-Recover Network for Continual LLM Unlearning

• arxiv url: http://arxiv.org/abs/2608.03123v1
• Date: Tue, 04 Aug 2026 04:49:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-05 15:30:23.037808
• Title: Trajectory-Guided Forget-Recover Network for Continual LLM Unlearning
• Title（参考訳）: 連続LLMアンラーニングのための軌道案内型フォーク・リカバリネットワーク
• Abstract要約: Unlearningは、モデルに対するセンシティブなデータの影響を排除することを目的としている。 現実世界では、未学習の要求が継続的に届き、それが2つの課題を生み出します。 我々はTFR-Net(Trjectory-Guided Forget-Recover Network)を提案する。
• 参考スコア（独自算出の注目度）: 13.235698936554607
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Machine unlearning aims to eliminate the influence of sensitive data on a model. In the real world, unlearning requests arrive continually, which gives rise to two challenges. First, an unlearning intervention may redistribute target-related computation across remaining pathways, allowing previously forgotten knowledge to re-emerge. Second, repeated unlearning interventions may progressively reduce the model capacity needed to preserve retained utility. To address these challenges, we propose the Trajectory-guided Forget-Recover Network (TFR-Net). TFR-Net tracks channel-level risk across requests. It separates persistent target-related channels from transient hotspots and suppresses only the persistent ones. TFR-Net also recovers model capacity by reactivating dormant channels. These channels make strong contributions to retained utility and show low current and historical forget risk. The recovery is accepted only when retained-utility degradation remains within a predefined tolerance. Experiments on four datasets show that TFR-Net consistently achieves a more favorable trade-off between unlearning effectiveness and retained utility than representative baselines.
• Abstract（参考訳）: 機械学習は、モデルに対するセンシティブなデータの影響を排除することを目的としている。 現実世界では、未学習の要求が継続的に届き、それが2つの課題を生み出します。 まず、未学習の介入は、残りの経路にまたがってターゲット関連の計算を再分配し、忘れられた知識を再帰させる。 第二に、繰り返し未学習の介入は、保持ユーティリティを維持するために必要なモデル容量を徐々に削減する。 これらの課題に対処するために、TFR-Net(Trjectory-guided Forget-Recover Network)を提案する。 TFR-Netはリクエスト間のチャネルレベルのリスクを追跡する。 永続的なターゲット関連チャネルを一時的なホットスポットから切り離し、永続的なチャネルのみを抑制する。 TFR-Netは休眠チャネルを再活性化することでモデル容量を回復する。 これらのチャネルは、実用性を維持するために強い貢献をし、電流が低く、歴史的に忘れられるリスクを示す。 回復は、既定の許容範囲内に保持された実用性劣化が残っている場合にのみ受け入れられる。 4つのデータセットの実験から、TFR-Netは、非学習の有効性と、代表ベースラインよりも有効性を維持するためのトレードオフを一貫して達成している。

関連論文リスト

• TTSD-FAR: Test-Time Self-Distillation with Fisher-Anchored Restoration for Missing-Modality Emotion Recognition in LVLMs [83.78708832901194]
  大規模ビデオ言語モデル(LVLM)は、野生のマルチモーダル感情認識(ER)のようなマルチモーダルタスクにおいて顕著なパフォーマンスを示している。 しかし、現実のデプロイメントは依然として困難であり、テスト時にモダリティが欠落したりうる。 凍結した教師が自己蒸留により適応的な低学級の生徒を指導する手法を提案する。 MELD, DFEW, BAHを0%-50%のモダリティで実験した結果, この統一型適応復元設計はエントロピーベースの適応, RAG, およびパープレキシティベースの生成より一貫して優れていた。
  論文  参考訳（メタデータ） (2026-08-18T23:40:28Z)
• ThoughtFold: Folding Reasoning Chains via Introspective Preference Learning [69.64972562984882]
  提案するThoughtFoldは,よりきめ細かい選好学習を,効率的な推論のための冗長探索に活用するフレームワークである。 ThoughtFoldは効率を大幅に向上させる。 最先端の精度を維持しつつ、DeepSeek-R1-Distill-Qwen-7Bのトークン使用量を約56%削減する。
  論文  参考訳（メタデータ） (2026-06-02T11:21:27Z)
• ARES: Scalable and Practical Gradient Inversion Attack in Federated Learning through Activation Recovery [73.8181449261685]
  Federated Learning(FL)は、モデルの更新を生データではなく共有することで、ユーザのプライバシ保護を目的としたコラボレーションモデルトレーニングを可能にする。 最近の研究によると、これらの共有更新は、勾配反転攻撃(GIA)を通じて、不注意にセンシティブなトレーニングデータを漏洩する可能性がある。
  論文  参考訳（メタデータ） (2026-03-18T11:40:44Z)
• FIT: Defying Catastrophic Forgetting in Continual LLM Unlearning [23.471857001200465]
  fitは、多数の削除要求を処理する継続的アンラーニングのためのフレームワークである。 fitは厳格なデータアンダーライン、アンダーラインImportance-awareアップデート、アンダーラインTargetedレイヤ属性による劣化を緩和する。 FitはMMLU、CommonsenseQA、GSM8Kの既存のメソッドを超えており、再学習と量子化の回復攻撃に耐性がある。
  論文  参考訳（メタデータ） (2026-01-29T13:15:32Z)
• Distill, Forget, Repeat: A Framework for Continual Unlearning in Text-to-Image Diffusion Models [42.10036183563499]
  本稿では, 減量要求の順序の下で, 目標と安定性を確保できる新しい生成蒸留に基づく連続的アンラーニングフレームワークを提案する。 10段階の逐次ベンチマーク実験により,提案手法はより忠実な概念を忘れることが実証された。 このフレームワークは、大規模生成モデルのデプロイとメンテナンスの責任を負うための実行可能な経路を提供する。
  論文  参考訳（メタデータ） (2025-12-02T11:22:32Z)
• Retrofit: Continual Learning with Bounded Forgetting for Security Applications [25.185616916987158]
  本稿では,データ振り返りのない連続学習手法であるRETROFITを提案する。 干渉を軽減するために、独立部分空間にパラメータ変化を限定する低ランクかつスパースな更新を適用する。 時間的ドリフト下でのマルウェア検出では、CLベースラインよりも20.2%から38.6%の保持スコアが大幅に向上し、新しいデータに対するオラクルの上限を超える。
  論文  参考訳（メタデータ） (2025-11-14T16:07:03Z)
• ReTrack: Data Unlearning in Diffusion Models through Redirecting the Denoising Trajectory [17.016094185289372]
  拡散モデルのための高速かつ効果的なデータアンラーニング手法であるReTrackを提案する。 ReTrackはより効率的な微調整損失を構築するために重要サンプリングを採用している。 MNIST T-Shirt、CelebA-HQ、CIFAR-10、および安定拡散の実験は、ReTrackが最先端のパフォーマンスを達成することを示した。
  論文  参考訳（メタデータ） (2025-09-16T12:20:15Z)
• Network Sparsity Unlocks the Scaling Potential of Deep Reinforcement Learning [57.3885832382455]
  静的ネットワークの疎結合を単独で導入することで,最先端アーキテクチャの高密度化を超えて,さらなるスケーリング可能性を実現することができることを示す。 解析の結果,高密度DRLネットワークをネーティブにスケールアップするのとは対照的に,疎ネットワークは高いパラメータ効率とネットワーク表現性を両立させることがわかった。
  論文  参考訳（メタデータ） (2025-06-20T17:54:24Z)
• Never Reset Again: A Mathematical Framework for Continual Inference in Recurrent Neural Networks [2.1838661321884443]
  リカレントニューラルネットワーク(RNN)はシーケンシャルな処理に広く用いられているが、状態飽和による連続推論による制限に直面している。 本稿では,拡張シーケンスの精度を保ちつつ,推論中のリセットの必要性を解消する適応的損失関数を提案する。
  論文  参考訳（メタデータ） (2024-12-20T15:24:28Z)
• Temporal-Difference Variational Continual Learning [77.92320830700797]
  複数の先行推定の正則化効果を統合する新たな学習目標を提案する。 提案手法は, 変分CL法より優れたカタストロフィックフォーミングを効果的に緩和する。
  論文  参考訳（メタデータ） (2024-10-10T10:58:41Z)
• Learning with Recoverable Forgetting [77.56338597012927]
  学習wIth Recoverable Forgettingは、タスクまたはサンプル固有の知識の除去とリカバリを明示的に処理する。 具体的には、LIRFは2つの革新的なスキーム、すなわち知識預金と離脱をもたらす。 いくつかのデータセットで実験を行い、提案したLIRF戦略が一般化能力を満足させる結果をもたらすことを示す。
  論文  参考訳（メタデータ） (2022-07-17T16:42:31Z)
• Understanding and Preventing Capacity Loss in Reinforcement Learning [28.52122927103544]
  我々は、非定常予測対象が深層RLエージェントの学習進行を阻止できるメカニズムを同定する。 キャパシティ損失は様々なRLエージェントや環境で発生し、特にスパース・リワードタスクのパフォーマンスにダメージを与えている。
  論文  参考訳（メタデータ） (2022-04-20T15:55:15Z)
• Learning Bayesian Sparse Networks with Full Experience Replay for Continual Learning [54.7584721943286]
  継続学習(CL)手法は、機械学習モデルが、以前にマスターされたタスクを壊滅的に忘れることなく、新しいタスクを学習できるようにすることを目的としている。 既存のCLアプローチは、しばしば、事前に確認されたサンプルのバッファを保持し、知識蒸留を行い、あるいはこの目標に向けて正規化技術を使用する。 我々は,現在および過去のタスクを任意の段階で学習するために,スパースニューロンのみを活性化し,選択することを提案する。
  論文  参考訳（メタデータ） (2022-02-21T13:25:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。