論文の概要: Broken Memories: Detecting and Mitigating Memorization in Diffusion Models with Degraded Generations

• arxiv url: http://arxiv.org/abs/2605.22050v2
• Date: Fri, 22 May 2026 16:38:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-25 14:44:53.769069
• Title: Broken Memories: Detecting and Mitigating Memorization in Diffusion Models with Degraded Generations
• Title（参考訳）: 故障記憶:劣化生成を伴う拡散モデルにおける記憶の検出と緩和
• Authors: Yuanmin Huang, Mi Zhang, Chen Chen, Feifei Li, Geng Hong, Xiaoyu You, Min Yang,
• Abstract要約: 記憶は内部の数値不安定を 引き起こします しばしば視覚的に壊れた 人工物として現れます 本稿では,段階的検出と適応緩和のための原則付きオンザフライフレームワークを提案する。 提案手法は,プロンプトやガイダンスを変更することなく記憶を抑え,セマンティックな忠実さと画質を保たせる。
• 参考スコア（独自算出の注目度）: 22.655607470764405
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While diffusion models excel at generating high-quality images, their tendency to memorize training data poses significant privacy and copyright risks. In this work, we for the first time identify that memorization induces internal numerical instability, often manifesting as visually ``broken'' artifacts. Inspired by stability analysis in numerical methods, we introduce empirical stability regions based on latent update norms to quantitatively characterize stable behavior during generation. Leveraging this, we propose a principled, on-the-fly framework for step-wise detection and adaptive mitigation. Our approach suppresses memorization without altering prompts or guidance, thereby preserving semantic fidelity and image quality. Extensive experiments on Stable Diffusion 1.4 demonstrate that our method achieves an AUC $>0.999$ detection performance and a $0.0\%$ memorization rate after mitigation with negligible overhead ($\approx0.01$s per image).
• Abstract（参考訳）: 拡散モデルは高品質な画像を生成するのに優れているが、トレーニングデータを記憶する傾向は、プライバシーと著作権の重大なリスクをもたらす。 本研究では,暗記が内部の数値不安定性を生じさせ,しばしば視覚的に「壊れた」アーティファクトとして現れることを初めて確認する。 数値計算法における安定性解析に着想を得て、潜時更新規範に基づく経験的安定領域を導入し、生成時の安定挙動を定量的に特徴づける。 これを利用して、ステップワイズ検出と適応緩和のための原則付きオンザフライフレームワークを提案する。 提案手法は,プロンプトやガイダンスを変更することなく記憶を抑え,セマンティックな忠実さと画質を保たせる。 安定拡散1.4の広範にわたる実験により,AUCの$>0.999$検出性能と,無視可能なオーバーヘッド(画像あたり0.01$s)による緩和後,0.0\%$記憶率を達成できた。

関連論文リスト

• X-Mark: Saliency-Guided Robust Dataset Ownership Verification for Medical Imaging [67.85884025186755]
  高品質な医用画像データセットは深層学習モデルの訓練には不可欠であるが、その無許可の使用は重大な著作権と倫理的懸念を提起する。 医用画像は、自然画像用に設計された既存のデータセットの所有権検証方法に固有の課題を示す。 胸部X線著作権保護のためのサンプル特異的クリーンラベル透かし法であるX-Markを提案する。
  論文  参考訳（メタデータ） (2026-02-10T00:03:43Z)
• Detecting and Mitigating Memorization in Diffusion Models through Anisotropy of the Log-Probability [9.133729396364952]
  拡散に基づく画像生成モデルは、反復的復調によって高忠実度画像を生成するが、記憶に弱いままである。 最近の暗記検出法は主に暗記の指標としてスコア差のノルムに基づいている。 等方性ノルムと異方性アライメントを統合することで,記憶度検出尺度を開発した。
  論文  参考訳（メタデータ） (2026-01-28T14:29:42Z)
• Latent Diffusion Unlearning: Protecting Against Unauthorized Personalization Through Trajectory Shifted Perturbations [18.024767641200064]
  本稿では,拡散モデルの潜在空間内で機能するモデルベース摂動戦略を提案する。 本手法は,拡散モデルにおいて,デノナイジング軌道の開始点を変更しながら,デノナイジングとインバージョンを交互に行う。 我々は4つのベンチマークデータセットにアプローチを検証し、最先端の逆攻撃に対する堅牢性を実証する。
  論文  参考訳（メタデータ） (2025-10-03T15:18:45Z)
• One-for-More: Continual Diffusion Model for Anomaly Detection [63.50488826645681]
  異常検出法は拡散モデルを用いて任意の異常画像が与えられたときの正常サンプルの生成または再構成を行う。 われわれは,拡散モデルが「重度忠実幻覚」と「破滅的な忘れ」に悩まされていることを発見した。 本研究では,安定な連続学習を実現するために勾配予測を用いた連続拡散モデルを提案する。
  論文  参考訳（メタデータ） (2025-02-27T07:47:27Z)
• Redistribute Ensemble Training for Mitigating Memorization in Diffusion Models [31.92526915009259]
  拡散モデルは非常に高品質なサンプルを生成する能力で知られている。 最近のメモリ緩和法は、主にテキストモダリティの文脈における問題に対処している。 本稿では,視覚的モダリティの観点からの拡散モデルの新たな手法を提案する。
  論文  参考訳（メタデータ） (2025-02-13T15:56:44Z)
• Confidence-aware Denoised Fine-tuning of Off-the-shelf Models for Certified Robustness [56.2479170374811]
  我々はFT-CADIS(Fun Fine-Tuning with Confidence-Aware Denoized Image Selection)を紹介する。 FT-CADISは、既成の分類器の信頼性が、視覚的平滑化中の幻覚像を効果的に識別できるという観察に着想を得たものである。 様々なベンチマークにおいて、すべての$ell$-adversary半径にわたる偏微分平滑化法のうち、最先端の証明されたロバスト性を確立している。
  論文  参考訳（メタデータ） (2024-11-13T09:13:20Z)
• Rethinking and Defending Protective Perturbation in Personalized Diffusion Models [21.30373461975769]
  パーソナライズされた拡散モデル(PDM)の微調整過程について,ショートカット学習のレンズを用いて検討した。 PDMは小さな逆境の摂動に影響を受けやすいため、破損したデータセットを微調整すると著しく劣化する。 本稿では,データ浄化と対照的なデカップリング学習を含むシステム防衛フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-27T07:14:14Z)
• EnTruth: Enhancing the Traceability of Unauthorized Dataset Usage in Text-to-image Diffusion Models with Minimal and Robust Alterations [73.94175015918059]
  本稿では、未承認のデータセット使用のトレーサビリティを高める新しいアプローチであるEnTruthを紹介する。 テンプレートの暗記を戦略的に取り入れることで、EnTruthは不正なモデルの特定の振る舞いを侵害の証拠として引き起こすことができる。 本手法は, 暗記の正当性を調査し, 著作権保護に利用し, 呪いを祝福する最初の方法である。
  論文  参考訳（メタデータ） (2024-06-20T02:02:44Z)
• An Inversion-based Measure of Memorization for Diffusion Models [37.9715620828388]
  拡散モデルは、データの記憶をトレーニングし、著作権侵害やプライバシー侵害に関する懸念を提起する。 InvMMは,画像の複製を考慮に入れた感度潜時雑音分布の反転に基づく,インバージョンに基づく暗黙化尺度である。 InvMMはサンプル間で共振可能であり、正反対の立場から記憶の真の範囲を明らかにし、記憶がメンバーシップとどのように異なるかを示す。
  論文  参考訳（メタデータ） (2024-05-09T15:32:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。