論文の概要: CATA: Continual Machine Unlearning via Conflict-Averse Task Arithmetic

• arxiv url: http://arxiv.org/abs/2605.18610v1
• Date: Mon, 18 May 2026 16:21:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-19 17:57:50.012954
• Title: CATA: Continual Machine Unlearning via Conflict-Averse Task Arithmetic
• Title（参考訳）: CATA:Continuous Machine Unlearning via Conflict-Averse Task Arithmetic
• Authors: Shen Lin, Junhao Dong, Rongjie Chen, Xiaoyu Zhang, Li Xu, Xiaofeng Chen,
• Abstract要約: 視覚言語モデル(VLM)は、視覚的およびテキスト的表現の整合性を顕著に示しており、幅広いマルチモーダルアプリケーションを可能にしている。 大規模なトレーニングデータは、プライバシー、著作権、望ましくないコンテンツに対する懸念を必然的に引き起こし、機械学習の強いニーズを生み出します。 本稿では,各左折要求を未学習のタスクベクトルとして表現するコンフリクト・アバースなタスク算術法であるCATAを提案する。
• 参考スコア（独自算出の注目度）: 14.598390101939001
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Vision-language models (VLMs) have shown remarkable ability in aligning visual and textual representations, enabling a wide range of multimodal applications. However, their large-scale training data inevitably raises concerns about privacy, copyright, and undesirable content, creating a strong need for machine unlearning. While existing studies mainly focus on single-shot unlearning, practical VLM deployment often involves sequential removal requests over time, giving rise to continual machine unlearning. In this work, we make the first attempt to study continual unlearning for VLMs and identify three key challenges in this setting: effectiveness in removing target knowledge, fidelity in preserving retained model utility, and persistence in preventing knowledge re-emergence under sequential updates. To address these challenges, we propose CATA, a conflict-averse task arithmetic method that represents each forget request as an unlearning task vector. By maintaining historical task vectors and performing sign-aware conflict-averse aggregation, CATA suppresses conflicting update components that may weaken previous forgetting effects. Extensive experiments under both single-shot and continual settings show that CATA outperforms baselines in terms of forgetting effectiveness, model fidelity, and forgetting persistence.
• Abstract（参考訳）: 視覚言語モデル(VLM)は、視覚的およびテキスト的表現の整合性を顕著に示しており、幅広いマルチモーダルアプリケーションを可能にしている。 しかし、彼らの大規模なトレーニングデータは、プライバシー、著作権、望ましくないコンテンツに対する懸念を必然的に引き起こし、機械学習の強いニーズを生み出します。 既存の研究は主に単発のアンラーニングに重点を置いているが、実用的なVLMデプロイメントでは、時間とともに逐次削除要求が伴うことが多く、連続的なマシンアンラーニングが発生する。 本研究は, VLMの連続的アンラーニングを初めて研究し, 目標知識の除去における有効性, 保持モデルユーティリティの保存における忠実性, 逐次更新による知識再帰の防止という3つの重要な課題を明らかにするものである。 これらの課題に対処するために,各左折要求を未学習タスクベクトルとして表現するコンフリクト-逆タスク算術法であるCATAを提案する。 過去のタスクベクトルを維持し、サインアウェアのコンフリクト-アバースアグリゲーションを実行することで、CATAは、以前の忘れる効果を弱める可能性のあるコンフリクト更新コンポーネントを抑える。 シングルショットと連続的な設定の両方での大規模な実験では、CATAは有効性を忘れ、モデルの忠実さを忘れ、永続性を忘れるという点でベースラインを上回っている。

関連論文リスト

• Learn to Think: Improving Multimodal Reasoning through Vision-Aware Self-Improvement Training [82.17582358979884]
  多モーダル大規模言語モデル(MLLM)の推論能力を改善するために、明示的推論トレースを用いた後学習が一般的である。 MLLMのマルチモーダル推論を強化するための視覚対応型自己改善学習フレームワークであるVISTAを提案する。
  論文  参考訳（メタデータ） (2026-05-12T10:44:35Z)
• WeMMU: Enhanced Bridging of Vision-Language Models and Diffusion Models via Noisy Query Tokens [69.97021957331326]
  本稿では,VLMと拡散モデル間の分散表現空間をエンドツーエンドの最適化により学習するノイズクエリトークンを提案する。 また、細粒度画像の詳細を復元する線形投影を用いたVAE分岐も導入する。
  論文  参考訳（メタデータ） (2025-12-02T09:02:20Z)
• Learning with Preserving for Continual Multitask Learning [4.847042727427382]
  タスク出力の保存から共有表現空間の維持に焦点を移す新しいフレームワークであるLawP(Learning with Preserving)を紹介した。 LwPは破滅的な忘れを緩和するだけでなく、CMTLタスクにおける最先端のベースラインを一貫して上回る。
  論文  参考訳（メタデータ） (2025-11-11T22:23:20Z)
• Continual Learning for VLMs: A Survey and Taxonomy Beyond Forgetting [70.83781268763215]
  視覚言語モデル(VLM)は、大規模事前学習を活用することで、多様なマルチモーダルタスクにおいて優れたパフォーマンスを実現している。 VLMは、クロスモーダル機能ドリフト、共有アーキテクチャによるパラメータ干渉、ゼロショット機能侵食など、ユニークな課題に直面している。 本調査は、生涯の視覚言語システムを開発する研究者にとって、包括的かつ診断的な基準となることを目的としている。
  論文  参考訳（メタデータ） (2025-08-06T09:03:10Z)
• MoCa: Modality-aware Continual Pre-training Makes Better Bidirectional Multimodal Embeddings [75.0617088717528]
  MoCaは、トレーニング済みのVLMバックボーンを効果的な双方向埋め込みモデルに変換するためのフレームワークである。 MoCaは、MMEBとViDoRe-v2ベンチマークのパフォーマンスを継続的に改善し、新しい最先端の結果を達成する。
  論文  参考訳（メタデータ） (2025-06-29T06:41:00Z)
• LLaVA-c: Continual Improved Visual Instruction Tuning [41.83222301318741]
  LLaVA-1.5のようなマルチモーダルモデルは、マルチタスクデータセットのビジュアルインストラクションチューニングを通じて最先端の視覚的理解を実現する。 タスク・バイ・タスクの連続学習はマルチタスク・ジョイント・ラーニングと一致するか、あるいは超える結果が得られることを示す。
  論文  参考訳（メタデータ） (2025-06-10T10:27:52Z)
• CSTA: Spatial-Temporal Causal Adaptive Learning for Exemplar-Free Video Class-Incremental Learning [62.69917996026769]
  クラスインクリメンタルな学習課題は、空間的外観と時間的行動の関与の両方を学習し、保存することを必要とする。 本稿では,各クラス固有のインクリメンタル情報要件を調整し,新しいクラスパターンを学習するためのアダプタを分離するフレームワークを提案する。 異なる種類の情報間のインクリメントと記憶の衝突を減らすために,因果補償機構を提案する。
  論文  参考訳（メタデータ） (2025-01-13T11:34:55Z)
• SMoLoRA: Exploring and Defying Dual Catastrophic Forgetting in Continual Visual Instruction Tuning [16.873306091966693]
  視覚的インストラクションチューニングにより、大規模な言語モデル(MLLM)は、言語ベースのインストラクションとしてフレーミングすることで、幅広い視覚タスクを処理できる。 CVITでは,MLLMが学習した視覚的理解を忘れ,学習能力の低下を経験する。 本稿では,2つの異なるモジュール間の分離可能なルーティングを視覚的理解に利用したSMOLoRA(Separable Mixture of Low-Rank Adaptation)フレームワークについて紹介する。
  論文  参考訳（メタデータ） (2024-11-21T09:00:15Z)
• Hierarchical Few-Shot Imitation with Skill Transition Models [66.81252581083199]
  FIST(Few-shot Imitation with Skill Transition Models)は、オフラインデータからスキルを抽出し、それらを利用して見えないタスクに一般化するアルゴリズムである。 本稿では,FISTが新たなタスクに一般化し,ナビゲーション実験において従来のベースラインを大幅に上回っていることを示す。
  論文  参考訳（メタデータ） (2021-07-19T15:56:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。