論文の概要: Stochastic Meta-Unlearning: Bridging Language Backbone and Multimodal Unlearning

• arxiv url: http://arxiv.org/abs/2607.18615v1
• Date: Tue, 21 Jul 2026 01:35:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-22 19:05:05.287158
• Title: Stochastic Meta-Unlearning: Bridging Language Backbone and Multimodal Unlearning
• Title（参考訳）: 確率的メタ学習:ブリッジング言語バックボーンとマルチモーダル・アンラーニング
• Abstract要約: VLMレベルのフィードバックは、視覚言語モデルにおいて、言語バックボーンのアンラーニングをより信頼性が高く、より伝達しやすいことを示す。 本稿では、VLMレベルのフィードバックを用いて、未学習の初期化を学習するバイレベルフレームワークを提案する。
• 参考スコア（独自算出の注目度）: 58.99072471887724
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine unlearning for vision-language models (VLMs) remains underexplored. Unlike language models, VLMs combine a language backbone with visual components, which makes unlearning more complex. There is a surprising phenomenon when moving from single-modality unlearning to VLM unlearning: a target forgotten by the standalone language backbone can still be recovered when image information is given to the full VLM. This shows that text-only feedback is not enough for reliable VLM unlearning. Motivated by this observation, we propose Stochastic Meta-Unlearning (SMU), a bilevel framework that uses VLM-level feedback to learn an unlearning-ready initialization. In the inner loop, SMU applies a few unlearning steps to the language backbone using text data. In the outer loop, SMU recomposes the updated backbone with the frozen VLM and evaluates forgetting and utility at the VLM level. This design makes the unlearning update aware of the final multimodal behavior, while still keeping the update local to the language backbone. Experiments on two VLMs, two multimodal meme datasets, and three baselines show that SMU achieves the best overall forget-retain trade-off. Compared with the strongest baseline for each metric, SMU reduces average Forget accuracy by 10.52 points and improves average Retain and Test accuracy by 20.10 and 17.01 points, respectively. More importantly, SMU also transfers to new forgetting targets and to different meta-test unlearning methods. These results suggest that VLM-level feedback can make language-backbone unlearning more reliable and more transferable for VLMs.
• Abstract（参考訳）: 視覚言語モデル(VLM)の機械学習はいまだ未検討である。 言語モデルとは異なり、VLMは言語バックボーンとビジュアルコンポーネントを組み合わせることで、未学習をより複雑にする。 単独のモダリティ・アンラーニングからVLMアンラーニングへの移行には驚くべき現象があり、完全なVLMに画像情報が与えられると、スタンドアロンの言語バックボーンによって忘れられたターゲットが回復する。 これは、テキストのみのフィードバックは信頼性の高いVLMアンラーニングには不十分であることを示している。 そこで本研究では,VLMレベルのフィードバックを用いて,未学習の初期化を学習する双方向フレームワークであるStochastic Meta-Unlearning (SMU)を提案する。 内部ループでは、SMUはテキストデータを使用して言語のバックボーンにいくつかの未学習ステップを適用する。 外側ループでは、SMUは更新されたバックボーンを凍結されたVLMで再構成し、VLMレベルでの忘れと有用性を評価する。 この設計により、未学習の更新は最終的なマルチモーダル動作を認識しつつ、アップデートを言語バックボーンにローカルに保つことができる。 2つのVLM、2つのマルチモーダルミームデータセット、および3つのベースラインの実験は、SMUが全体的な忘れがちなトレードオフを達成していることを示している。 各メートル法において最強の基準線と比較して、SMUは平均 Forget の精度を 10.52 ポイント、平均 Retain と Test の精度を 20.10 と 17.01 ポイント改善する。 さらに重要なのは、SMUが新しい忘れるターゲットや、異なるメタテストのアンラーニングメソッドに転送することです。 これらの結果から,VLMレベルのフィードバックにより,言語バックボーンのアンラーニングがより信頼性が高く,VLMの転送性も向上することが示唆された。

関連論文リスト

• OFFSIDE: Benchmarking Unlearning Misinformation in Multimodal Large Language Models [42.313806202695176]
  MLLMにおける誤情報アンラーニングを評価するための新しいベンチマークであるOFFSIDEを紹介する。 このデータセットは80人のプレイヤーのための15.68Kレコードを含み、忘れることの有効性、一般化、実用性、堅牢性を評価するための4つのテストセットを備えた包括的なフレームワークを提供する。 Offsideは、選択的アンラーニングや修正的再ラーニングといった高度な設定をサポートしており、重要なのは、一助的アンラーニングだ。
  論文  参考訳（メタデータ） (2025-10-26T05:05:30Z)
• Continual Learning for VLMs: A Survey and Taxonomy Beyond Forgetting [70.83781268763215]
  視覚言語モデル(VLM)は、大規模事前学習を活用することで、多様なマルチモーダルタスクにおいて優れたパフォーマンスを実現している。 VLMは、クロスモーダル機能ドリフト、共有アーキテクチャによるパラメータ干渉、ゼロショット機能侵食など、ユニークな課題に直面している。 本調査は、生涯の視覚言語システムを開発する研究者にとって、包括的かつ診断的な基準となることを目的としている。
  論文  参考訳（メタデータ） (2025-08-06T09:03:10Z)
• Evaluating Cell Type Inference in Vision Language Models Under Varying Visual Context [0.16385815610837165]
  視覚言語モデル(VLM)は大規模言語モデル(LLM)とともに急速に進歩している。 本研究は,GPT-4.1 や Gemini 2.5 Pro などの卓越したVLMの病理組織像分類機能について検討した。
  論文  参考訳（メタデータ） (2025-06-15T01:50:16Z)
• MMUnlearner: Reformulating Multimodal Machine Unlearning in the Era of Multimodal Large Language Models [19.36626553745877]
  MLLM(Multimodal Large Language Models)の時代におけるMultimodal Machine Unlearning(MU)の課題の再構築を提案する。 我々は,新しい幾何制約付き勾配上昇法MMUnlearnerを開発した。 MLLMの重みを、未学習時の残りの概念とテキスト知識に制約された重み値マップで更新する。
  論文  参考訳（メタデータ） (2025-02-16T09:23:50Z)
• Looking Beyond Text: Reducing Language bias in Large Vision-Language Models via Multimodal Dual-Attention and Soft-Image Guidance [67.26434607115392]
  大規模視覚言語モデル(LVLM)は様々な視覚言語タスクにおいて印象的な成果を上げている。 LVLMは言語バイアスによる幻覚に悩まされ、画像や非効果的な視覚的理解に焦点が当てられなくなった。 MDA (Multimodal duAl-attention meChanIsm) aNd soft-image Guidance (IFG) を用いたLVLMの言語バイアスに対処するためのLACingを提案する。
  論文  参考訳（メタデータ） (2024-11-21T16:33:30Z)
• Single Image Unlearning: Efficient Machine Unlearning in Multimodal Large Language Models [16.886116549737956]
  本稿では,概念の視覚的認識を数ステップで微調整することで,概念の視覚的認識を解き放つための効率的な手法であるSingle Image Unlearning(SIU)を提案する。 MMUBench の実験結果から,SIU は既存手法の性能を大幅に上回っていることがわかった。
  論文  参考訳（メタデータ） (2024-05-21T06:27:12Z)
• The Neglected Tails in Vision-Language Models [51.79913798808725]
  視覚言語モデル(VLM)はゼロショット認識において優れているが,その性能は視覚的概念によって大きく異なる。 ゼロショットVLMの不均衡性能を軽減するために,Retrieval-Augmented Learning (REAL)を提案する。
  論文  参考訳（メタデータ） (2024-01-23T01:25:00Z)
• VILA: On Pre-training for Visual Language Models [74.08039416548209]
  ステップ・バイ・ステップ制御可能な比較によるVLM事前学習の設計オプションについて検討した。 私たちは、最先端のモデルよりも一貫して優れたVisual LanguageモデルファミリであるVILAを構築します。
  論文  参考訳（メタデータ） (2023-12-12T18:58:18Z)
• MME: A Comprehensive Evaluation Benchmark for Multimodal Large Language Models [111.51612340032052]
  マルチモーダル言語モデル(MLLM)は、マルチモーダルタスクを実行するために強力なLLMに依存している。 本稿では,MLLM 評価ベンチマーク MME について述べる。 知覚能力と認知能力の両方を合計14のサブタスクで測定する。
  論文  参考訳（メタデータ） (2023-06-23T09:22:36Z)
• LVLM-eHub: A Comprehensive Evaluation Benchmark for Large Vision-Language Models [55.304181390027274]
  本稿では,LVLM評価ハブ(LVLM-eHub)の構築により,一般公開された大規模マルチモーダルモデルの包括的評価を行う。 我々のLVLM-eHubは、InstructBLIPやMiniGPT-4などの代表的LVLMから成り、定量的能力評価とオンラインアリーナプラットフォームによって徹底的に評価されている。 この研究は、いくつかの革新的な発見を明らかにしている。まず、インストラクタBLIPのような膨大なドメイン内データを持つ命令調整型LVLMは、多くの既存のタスクを過度にオーバーフィットさせ、オープンワールドのシナリオでは一般化が不十分である。
  論文  参考訳（メタデータ） (2023-06-15T16:39:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。