論文の概要: AutoAnchor: Stable Diffusion Unlearning Using Cross-Attention as a Manifold Surrogate

• arxiv url: http://arxiv.org/abs/2607.08337v1
• Date: Thu, 09 Jul 2026 10:22:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-10 14:45:27.501666
• Title: AutoAnchor: Stable Diffusion Unlearning Using Cross-Attention as a Manifold Surrogate
• Title（参考訳）: AutoAnchor: クロスアテンションをマニフォールドサロゲートとして使用した安定拡散学習
• Authors: Siyuan Wen, Jiahao Zeng, Ningning Ding,
• Abstract要約: 拡散アンラーニングは、テキスト・ツー・イメージ・モデルにおける有害または著作権のあるコンテンツの生成を緩和するために不可欠である。 Mysysnは2段階のフレームワークで、自動的に多様体-近位アンカーを合成する。 マイシスは、様々な最先端のベースラインにわたって、堅牢で偏見のない未学習を効果的に達成する。
• 参考スコア（独自算出の注目度）: 3.3479862585298297
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Diffusion unlearning is essential for mitigating the generation of harmful or copyrighted content in text-to-image models. Current diffusion unlearning techniques determine the model update direction by either using alternatives of the target concept as an anchor or using empty prompts. The anchor-based method relies on manually and semantically-chosen anchors that risk biased unlearning, while the anchor-free method inherently suffers from unrobust unlearning due to unconstrained latent updates. In this work, we theoretically formalize such unstable diffusion unlearning issues under the manifold hypothesis and prove that lacking a manifold-proximal anchor inevitably induces significant normal-space drift that degrades unlearning performance. To achieve stable unlearning, we propose \mysysn, a two-stage framework that automatically synthesizes manifold-proximal anchors. However, direct geometric manifold optimization is computationally intractable. To address this challenge, \mysys introduces a novel cross-attention consistency loss which serves as a highly efficient surrogate of manifold proximity. Experimental results demonstrate that \mysys effectively achieves robust and unbiased unlearning across various state-of-the-art baselines, significantly improving targeted concept removal (by up to 31.04\% in CLIP score) and non-target utility (by up to 4.18\% in CLIP score). Moreover, \mysys can also be easily integrated into existing diffusion unlearning methods to enhance their unlearning performance (by 6.30\% for concept removal and 6.65\% for utility on average).
• Abstract（参考訳）: 拡散アンラーニングは、テキスト・ツー・イメージ・モデルにおける有害または著作権のあるコンテンツの生成を緩和するために不可欠である。 現在の拡散アンラー技術は、ターゲット概念の代替案をアンカーとして、あるいは空のプロンプトを用いて、モデルの更新方向を決定する。 アンカーベースの手法は、手動および意味論的にアンカーに頼っており、アンカーフリーの手法は本来、非制約の潜伏更新のためにアンラーニングに苦しむ。 本研究では,多様体仮説の下で不安定な拡散未学習問題を理論的に定式化し,多様体近位アンカーの欠如が必然的に非学習性能を低下させる有意な正規空間ドリフトを引き起こすことを証明した。 安定なアンラーニングを実現するために,多様体近位アンカーを自動的に合成する2段階のフレームワークである‘mysysn’を提案する。 しかし、直接幾何学的多様体最適化は計算的に難解である。 この問題に対処するために、シャイシスは、多様体近傍の高効率な代理として機能する、新しいクロスアテンション整合損失を導入した。 実験の結果、‘mysys’は様々な最先端のベースラインをまたいだ堅牢で偏りのないアンラーニングを効果的に達成し、ターゲット概念の除去(CLIPスコアでは31.04\%)と非ターゲットユーティリティ(CLIPスコアでは4.18\%)を大幅に改善した。 さらに、‘mysys’は既存の拡散アンラーニングメソッドに簡単に統合して、未学習のパフォーマンスを向上させることもできる(概念除去では6.30\%、平均ユーティリティでは6.65\%)。

関連論文リスト

• SAE-FD: Sparse Autoencoder Feature Distillation for Continual Learning of Large Language Models [21.844862497952334]
  methodは、事前訓練されたスパースオートエンコーダのスパース特徴空間におけるモデル表現をアンカーする。 2つの連続学習ベンチマークの実験では、手法が既存の正規化に基づく手法を一貫して上回っていることが示されている。
  論文  参考訳（メタデータ） (2026-05-25T07:27:41Z)
• A Robust Certified Machine Unlearning Method Under Distribution Shift [14.904880015049208]
  我々はニュートン法で認定されたアンラーニングが非非I.d.アンラーニングセットで非効率かつ非効率になることを示す。 本研究では,分散認識型アンラーニングフレームワークにより,より優れたアンラーニング手法を提案する。
  論文  参考訳（メタデータ） (2026-01-11T15:53:19Z)
• Diffusion As Self-Distillation: End-to-End Latent Diffusion In One Model [53.77953728335891]
  ラテント拡散モデルは、独立したエンコーダ、デコーダ、拡散ネットワークからなる複雑な3部アーキテクチャに依存している。 本研究では,潜伏空間を安定化させる学習目標に重要な変更を加えた新たなフレームワークであるDeffusion as Self-Distillation (DSD)を提案する。 このアプローチにより、単一のネットワークの安定したエンドツーエンドトレーニングが初めて実現され、同時にエンコード、デコード、拡散の実行を学ぶことができる。
  論文  参考訳（メタデータ） (2025-11-18T17:58:16Z)
• Reference-Specific Unlearning Metrics Can Hide the Truth: A Reality Check [60.77691669644931]
  本研究では,非学習モデルと参照モデル間の分布類似度を測定する新しい尺度であるFADE(Functional Alignment for Distributional Equivalence)を提案する。 FADEは出力分布全体の機能的アライメントをキャプチャし、真の未学習の原則的評価を提供する。 これらの知見は、現在の評価実践における根本的なギャップを明らかにし、FADEが真に効果的な未学習手法を開発し評価するための、より堅牢な基盤を提供することを示した。
  論文  参考訳（メタデータ） (2025-10-14T20:50:30Z)
• Downgrade to Upgrade: Optimizer Simplification Enhances Robustness in LLM Unlearning [25.53799024782883]
  大言語モデル(LLM)は、既存のモデルから望ましくないデータや知識の影響を外科的に除去することを目的としている。 最近の知見は、ウェイト量子化や微調整のような未学習操作が、意図した忘れを迅速に中和できることを示している。
  論文  参考訳（メタデータ） (2025-10-01T10:50:14Z)
• UniErase: Towards Balanced and Precise Unlearning in Language Models [69.04923022755547]
  大規模言語モデル(LLM)は、古い情報問題に対処するために反復的な更新を必要とする。 UniEraseは、知識の未学習と能力保持の間の精度とバランスの取れたパフォーマンスを示す、新しいアンラーニングフレームワークである。
  論文  参考訳（メタデータ） (2025-05-21T15:53:28Z)
• Beyond Prototypes: Semantic Anchor Regularization for Better Representation Learning [82.29761875805369]
  表現学習の最終的な目標の1つは、クラス内のコンパクトさとクラス間の十分な分離性を達成することである。 本稿では,機能セントロイドとして機能する事前定義されたクラスアンカーを用いて,特徴学習を一方向ガイドする新しい視点を提案する。 提案したSemantic Anchor Regularization (SAR) は,既存モデルのプラグアンドプレイ方式で使用することができる。
  論文  参考訳（メタデータ） (2023-12-19T05:52:38Z)
• Imposing Consistency for Optical Flow Estimation [73.53204596544472]
  プロキシタスクによる一貫性の導入は、データ駆動学習を強化することが示されている。 本稿では,光フロー推定のための新しい,効果的な整合性戦略を提案する。
  論文  参考訳（メタデータ） (2022-04-14T22:58:30Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。