論文の概要: Robust Dynamic Expansion for Continual Learning under Backdoor Attacks via Purification and Selective Recovery

• arxiv url: http://arxiv.org/abs/2609.06346v1
• Date: Sun, 06 Sep 2026 02:52:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:08.229204
• Title: Robust Dynamic Expansion for Continual Learning under Backdoor Attacks via Purification and Selective Recovery
• Title（参考訳）: バックドアアタックにおけるロバストな動的拡張 : 浄化と選択的回復
• Abstract要約: 実際のシナリオでは、信頼できないソースから収集されたタスクストリームには、バックドア毒素のサンプルが含まれる可能性がある。 本稿では, 試料浄化, 選択的回収, 頑健なエキスパートルーティングを統合した, 堅牢な動的拡張フレームワークを提案する。
• 参考スコア（独自算出の注目度）: 21.762207770794916
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Continual learning (CL) enables models to acquire new knowledge from sequentially arriving tasks while retaining previously learned knowledge. However, in practical scenarios, task streams collected from untrusted sources may contain backdoor-poisoned samples, posing a critical challenge to the stability, plasticity, and security of continual learners. In this work, we investigate a challenging setting termed Continual Learning Under Backdoor Attack (CLUBA), where each incremental task may involve a small proportion of maliciously manipulated training samples. Unlike conventional continual learning or backdoor defense scenarios, CLUBA requires models to simultaneously mitigate catastrophic forgetting, preserve adaptation capability, and prevent the absorption of malicious supervision during sequential updates. To address this challenge, we propose a robust dynamic-expansion framework that integrates sample purification, selective recovery, and robust expert routing into a unified continual learning paradigm. Specifically, we introduce Bi-Prototype Purification (BPP) to identify suspicious samples by exploiting semantic discrepancies in feature space. Based on purified data, Gradient Discrepancy-based Robustness Optimization (GDBRO) selectively recovers informative poisoned samples through pseudo-label correction and gradient consistency evaluation, improving robustness while maintaining model plasticity. Furthermore, Robust Feature Consistency-based Expert Selection (RFCBES) constructs perturbation-aware class prototypes to enable reliable expert routing under corrupted or shifted inputs.
• Abstract（参考訳）: 連続学習(CL)は、学習済みの知識を維持しながら、逐次到着タスクから新しい知識をモデルが獲得することを可能にする。 しかし、現実的なシナリオでは、信頼できないソースから収集されたタスクストリームには、バックドアの汚染サンプルが含まれており、継続的な学習者の安定性、可塑性、セキュリティに重大な課題を生じさせる可能性がある。 本研究は,CLUBA (Continuous Learning Under Backdoor Attack) と呼ばれる,悪質に操作されたトレーニングサンプルのごく一部を含むタスクを段階的に行うという課題について検討する。 従来の連続学習やバックドアディフェンスのシナリオとは異なり、CLUBAは破滅的な忘れを同時に軽減し、適応能力を保ち、シーケンシャルアップデート中の悪意ある監視の吸収を防ぐモデルを必要とする。 この課題に対処するために、サンプル浄化、選択的回復、堅牢なエキスパートルーティングを統合型連続学習パラダイムに統合する、ロバストな動的拡張フレームワークを提案する。 具体的には,特徴空間における意味的相違を利用して不審なサンプルを特定するために,BPP(Bi-Prototype Purification)を導入する。 グラディエント離散性に基づくロバストネス最適化 (GDBRO) は, 擬似ラベル補正と勾配整合性評価により, 有害な試料を選択的に回収し, モデル可塑性を維持しながら頑健性を向上させる。 さらに、Robust Feature Consistency-based Expert Selection (RFCBES)は、乱れやシフトした入力の下で信頼性の高いエキスパートルーティングを実現するために、摂動を意識したクラスプロトタイプを構築する。

関連論文リスト

• Understanding and Stabilizing Deep Q-Learning via Controlled Bootstrapping and Regulated Value Dynamics [2.358468106592515]
  本稿では,3つの相補的な視点から,深層Q-ラーニングにおける不安定性の系統的解析を行う。 報奨型自己強化トラップと特性パラメータスパイクダイナミクスを同定する。 Atari-100KとProcgenの実験では、競争性能が向上し、トレーニング安定性が向上した。
  論文  参考訳（メタデータ） (2026-08-17T06:55:41Z)
• ARES: Scalable and Practical Gradient Inversion Attack in Federated Learning through Activation Recovery [73.8181449261685]
  Federated Learning(FL)は、モデルの更新を生データではなく共有することで、ユーザのプライバシ保護を目的としたコラボレーションモデルトレーニングを可能にする。 最近の研究によると、これらの共有更新は、勾配反転攻撃(GIA)を通じて、不注意にセンシティブなトレーニングデータを漏洩する可能性がある。
  論文  参考訳（メタデータ） (2026-03-18T11:40:44Z)
• Beyond Retention: Orchestrating Structural Safety and Plasticity in Continual Learning for LLMs [2.5202137607634407]
  経験リプレイ(ER)は破滅的忘れに対する標準的な対策である。 ERはコード生成のような脆弱で構造化されたドメインに対して負の転送を引き起こす。 我々は,確立した知識構造に対する数学的根拠を持つ「安全保証」として,オルソゴン部分空間ウェイクアップ(OSW)を提案する。
  論文  参考訳（メタデータ） (2026-01-26T08:28:02Z)
• From Passive Metric to Active Signal: The Evolving Role of Uncertainty Quantification in Large Language Models [77.04403907729738]
  このサーベイは、受動的診断基準からリアルタイムモデル動作を導くアクティブ制御信号への不確実性の進化をグラフ化する。 3つのフロンティアにまたがるアクティブ制御信号として不確実性がいかに活用されているかを示す。 この調査は、次世代のスケーラブルで信頼性があり、信頼できるAIを構築するためには、新しい不確実性のトレンドを習得することが不可欠である、と論じている。
  論文  参考訳（メタデータ） (2026-01-22T06:21:31Z)
• Representation-Aware Unlearning via Activation Signatures: From Suppression to Knowledge-Signature Erasure [2.0017902634527194]
  本稿では,真の消去と難読化を区別する表現対応アーキテクチャであるKnowledge Immunization Framework(KIF)を紹介する。 提案手法は,主観的表現の動的抑制とパラメータ効率の適応を組み合わせ,完全モデル再学習を伴わない耐久性のある未学習を実現する。
  論文  参考訳（メタデータ） (2026-01-15T16:28:14Z)
• DUP: Detection-guided Unlearning for Backdoor Purification in Language Models [6.726081307488787]
  DUP (Detection-guided Unlearning for Purification) は、非学習ベースの浄化とバックドア検出を統合するフレームワークである。 検出結果に基づいてパラメータ効率の低い未学習機構を用いてモデルを浄化する。 私たちのコードはhttps://github.com/ManHu2025/DUP.comで公開されています。
  論文  参考訳（メタデータ） (2025-08-03T08:12:21Z)
• Reshaping the Online Data Buffering and Organizing Mechanism for Continual Test-Time Adaptation [49.53202761595912]
  継続的なテスト時間適応は、訓練済みのソースモデルを適用して、教師なしのターゲットドメインを継続的に変更する。 我々は、オンライン環境、教師なしの自然、エラー蓄積や破滅的な忘れのリスクなど、このタスクの課題を分析する。 教師なしシングルパスデータストリームから重要サンプルを高い確実性で識別・集約する不確実性を考慮したバッファリング手法を提案する。
  論文  参考訳（メタデータ） (2024-07-12T15:48:40Z)
• Unlearning Backdoor Threats: Enhancing Backdoor Defense in Multimodal Contrastive Learning via Local Token Unlearning [49.242828934501986]
  マルチモーダルコントラスト学習は高品質な機能を構築するための強力なパラダイムとして登場した。 バックドア攻撃は 訓練中に モデルに 悪意ある行動を埋め込む 我々は,革新的なトークンベースの局所的忘れ忘れ学習システムを導入する。
  論文  参考訳（メタデータ） (2024-03-24T18:33:15Z)
• Selective Learning: Towards Robust Calibration with Dynamic Regularization [79.92633587914659]
  ディープラーニングにおけるミススキャリブレーションとは、予測された信頼とパフォーマンスの間には相違がある、という意味である。 トレーニング中に何を学ぶべきかを学ぶことを目的とした動的正規化(DReg)を導入し、信頼度調整のトレードオフを回避する。
  論文  参考訳（メタデータ） (2024-02-13T11:25:20Z)
• Towards Robust Continual Learning with Bayesian Adaptive Moment Regularization [51.34904967046097]
  継続的な学習は、モデルが以前に学習した情報を忘れてしまう破滅的な忘れ込みの課題を克服しようとする。 本稿では,パラメータ成長の制約を緩和し,破滅的な忘れを減らし,新しい事前手法を提案する。 以上の結果から, BAdamは, 単頭クラスインクリメンタル実験に挑戦する先行手法に対して, 最先端の性能を達成できることが示唆された。
  論文  参考訳（メタデータ） (2023-09-15T17:10:51Z)
• Provable Guarantees for Generative Behavior Cloning: Bridging Low-Level Stability and High-Level Behavior [51.60683890503293]
  生成モデルを用いた複雑な専門家による実演の行動クローニングに関する理論的枠組みを提案する。 任意の専門的軌跡の時間ごとのステップ分布に一致するトラジェクトリを生成することができることを示す。
  論文  参考訳（メタデータ） (2023-07-27T04:27:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。