論文の概要: Image Can Bring Your Memory Back: A Novel Multi-Modal Guided Attack against Image Generation Model Unlearning

• arxiv url: http://arxiv.org/abs/2507.07139v1
• Date: Wed, 09 Jul 2025 02:59:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-11 16:40:15.139616
• Title: Image Can Bring Your Memory Back: A Novel Multi-Modal Guided Attack against Image Generation Model Unlearning
• Title（参考訳）: 画像が記憶を取り戻す: 画像生成モデルアンラーニングに対する新しいマルチモーダルな攻撃
• Authors: Renyang Liu, Guanlin Li, Tianwei Zhang, See-Kiong Ng,
• Abstract要約: Recallは、未学習のIMGの堅牢性を損なうために設計された、新しい敵のフレームワークである。 逆効果、計算効率、意味的忠実性の点で、元のプロンプトで既存のベースラインを一貫して上回ります。 これらの結果は、現在の未学習メカニズムにおける重大な脆弱性を明らかにし、より堅牢なソリューションの必要性を浮き彫りにしている。
• 参考スコア（独自算出の注目度）: 28.15997901023315
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent advances in image generation models (IGMs), particularly diffusion-based architectures such as Stable Diffusion (SD), have markedly enhanced the quality and diversity of AI-generated visual content. However, their generative capability has also raised significant ethical, legal, and societal concerns, including the potential to produce harmful, misleading, or copyright-infringing content. To mitigate these concerns, machine unlearning (MU) emerges as a promising solution by selectively removing undesirable concepts from pretrained models. Nevertheless, the robustness and effectiveness of existing unlearning techniques remain largely unexplored, particularly in the presence of multi-modal adversarial inputs. To bridge this gap, we propose Recall, a novel adversarial framework explicitly designed to compromise the robustness of unlearned IGMs. Unlike existing approaches that predominantly rely on adversarial text prompts, Recall exploits the intrinsic multi-modal conditioning capabilities of diffusion models by efficiently optimizing adversarial image prompts with guidance from a single semantically relevant reference image. Extensive experiments across ten state-of-the-art unlearning methods and diverse tasks show that Recall consistently outperforms existing baselines in terms of adversarial effectiveness, computational efficiency, and semantic fidelity with the original textual prompt. These findings reveal critical vulnerabilities in current unlearning mechanisms and underscore the need for more robust solutions to ensure the safety and reliability of generative models. Code and data are publicly available at \textcolor{blue}{https://github.com/ryliu68/RECALL}.
• Abstract（参考訳）: 画像生成モデル(IGM)の最近の進歩、特に安定拡散(SD)のような拡散に基づくアーキテクチャは、AI生成した視覚コンテンツの品質と多様性を著しく向上させてきた。 しかし、その生成能力は、有害な、誤解を招く、著作権を侵害するコンテンツを制作する可能性を含む、倫理的、法的、社会的な懸念を生じさせている。 これらの懸念を軽減するため、マシン・アンラーニング(MU)は、事前学習されたモデルから望ましくない概念を選択的に除去することで、有望な解決策として現れる。 それでも、既存の未学習技術の堅牢性と有効性は、特にマルチモーダルな逆入力の存在下では、ほとんど未解明のままである。 このギャップを埋めるために、未学習のIGGの堅牢性を損なうよう明示的に設計された、新しい敵対的フレームワークであるRecallを提案する。 リコールは、主に敵対的テキストプロンプトに依存する既存のアプローチとは異なり、単一の意味的関連した参照画像からのガイダンスで、敵対的画像プロンプトを効率的に最適化することにより、拡散モデルの本質的なマルチモーダル条件付け機能を利用する。 10種類の最先端の未学習手法と多種多様なタスクにわたる広範囲な実験により、Recallは、逆効果、計算効率、意味的忠実さの点で、元のテキストプロンプトで、既存のベースラインを一貫して上回っていることが示されている。 これらの結果は、現在の未学習メカニズムにおける重大な脆弱性を明らかにし、生成モデルの安全性と信頼性を保証するためのより堅牢なソリューションの必要性を強調している。 コードとデータは、textcolor{blue}{https://github.com/ryliu68/RECALL}で公開されている。

関連論文リスト

• Sculpting Memory: Multi-Concept Forgetting in Diffusion Models via Dynamic Mask and Concept-Aware Optimization [20.783312940122297]
  テキスト・ツー・イメージ(T2I)拡散モデルは,テキスト・プロンプトから高品質な画像を生成することに成功している。 しかし、膨大な量の知識を蓄積する能力は、選択的に忘れることが必要なシナリオに懸念を生じさせる。 マルチコンセプトを忘れるように設計された新しいアンラーニングフレームワークであるコンセプト・アウェア・ロスを併用したtextbfDynamic Maskを提案する。
  論文  参考訳（メタデータ） (2025-04-12T01:38:58Z)
• Boosting Alignment for Post-Unlearning Text-to-Image Generative Models [55.82190434534429]
  大規模な生成モデルは、大量のデータによって推進される印象的な画像生成能力を示している。 これはしばしば必然的に有害なコンテンツや不適切なコンテンツを生み出し、著作権の懸念を引き起こす。 学習しない反復ごとに最適なモデル更新を求めるフレームワークを提案し、両方の目的に対して単調な改善を確実にする。
  論文  参考訳（メタデータ） (2024-12-09T21:36:10Z)
• MMAR: Towards Lossless Multi-Modal Auto-Regressive Probabilistic Modeling [64.09238330331195]
  本稿では,MMAR(Multi-Modal Auto-Regressive)確率モデルフレームワークを提案する。 離散化の手法とは異なり、MMARは情報損失を効率的に回避するために、連続的に評価された画像トークンを取り入れている。 また,数値安定性問題に対処する理論的に実証された手法と,タスク目標の生成と理解のバランスをとるトレーニング戦略を提案する。
  論文  参考訳（メタデータ） (2024-10-14T17:57:18Z)
• AI Safety in Practice: Enhancing Adversarial Robustness in Multimodal Image Captioning [0.0]
  視覚データとテキストデータを組み合わせたマルチモーダル機械学習モデルは、ますます重要なアプリケーションにデプロイされている。 本稿では,マルチモーダル画像キャプションモデルの敵攻撃に対する堅牢性を高めるための効果的な戦略を提案する。
  論文  参考訳（メタデータ） (2024-07-30T20:28:31Z)
• Adversarial Robustification via Text-to-Image Diffusion Models [56.37291240867549]
  アドリラルロバスト性は、ニューラルネットワークをエンコードする難しい性質として伝統的に信じられてきた。 データを使わずに敵の堅牢性を実現するために,スケーラブルでモデルに依存しないソリューションを開発した。
  論文  参考訳（メタデータ） (2024-07-26T10:49:14Z)
• Adversarial Prompt Tuning for Vision-Language Models [86.5543597406173]
  AdvPT(Adversarial Prompt Tuning)は、視覚言語モデル(VLM)における画像エンコーダの対向ロバスト性を高める技術である。 我々は,AdvPTが白箱攻撃や黒箱攻撃に対する抵抗性を向上し,既存の画像処理による防御技術と組み合わせることで相乗効果を示すことを示した。
  論文  参考訳（メタデータ） (2023-11-19T07:47:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。