論文の概要: Weeding Out Bad Seeds: Initial-Noise-Robust Unlearning for Text-to-Image Diffusion Models

• arxiv url: http://arxiv.org/abs/2609.37537v2
• Date: Sat, 03 Oct 2026 07:56:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-07 04:43:28.433202
• Title: Weeding Out Bad Seeds: Initial-Noise-Robust Unlearning for Text-to-Image Diffusion Models
• Title（参考訳）: 悪い種子の雑草:テキストと画像の拡散モデルにおける初期雑音の未学習
• Abstract要約: マシン・アンラーニングはテキスト・ツー・イメージ(T2I)モデルから機密概念を禁止的再トレーニングなしで消去することができる。 我々はこの現象を確率的忘れ(probabilistic forgetting)」と呼び、特定のランダムな初期雑音条件下で再収束する概念を抑圧する。 対象概念が現れる領域の勾配更新を動的に集中する適応型,概念条件付きサンプリング戦略を提案する。
• 参考スコア（独自算出の注目度）: 6.021237504871974
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Machine unlearning has emerged as a critical post-hoc safety measure to erase sensitive concepts from Text-to-Image (T2I) models without prohibitive retraining. However, we reveal that current state-of-the-art (SOTA) approaches are brittle due to a severe lack of robustness to noise initialization. We call this phenomenon ``probabilistic forgetting'': suppressed concepts re-emerge under specific random initial noise conditions, despite appearing unlearned on other initializations. We trace this failure to the misalignment between standard Gaussian sampling during unlearning and the unlearning objective. Since the target concept manifests only in specific initial noise regions throughout the unlearning phase, uniform random sampling yields sparse, uninformative gradient updates that fail to drive robust erasure. To overcome this issue, we propose an adaptive, concept-conditioned sampling strategy that dynamically concentrates gradient updates on regions where the target concept manifests, down-weighting uninformative areas. We integrate our framework with six distinct SOTA unlearning methods across four diffusion backbones and evaluate it across safety, object, and artistic-style unlearning, as well as under black-box and white-box adversarial attacks. Our method reduces the conditional nudity re-emergence rate across random initializations by 67.2% on average over four baselines and lowers attack success rates across both adversarial evaluations. Across concept domains, Adaptive Noise Sampling strengthens adversarial robustness and non-target retention while preserving competitive generative quality and target-erasure performance.
• Abstract（参考訳）: マシン・アンラーニングは、禁制的なリトレーニングなしで、テキスト・ツー・イメージ(T2I)モデルからセンシティブな概念を消去するための、ホット後の重要な安全対策として登場した。 しかし、ノイズ初期化に対するロバスト性の欠如により、現状のSOTA(State-of-the-art)アプローチは脆弱であることが明らかとなった。 我々はこの現象を「確率的忘れ」と呼び、特定のランダムな初期雑音条件下では、他の初期化では未学習のように見えるが、抑制された概念が再出現する。 この失敗は、未学習における標準ガウスサンプリングと未学習目標との相違に遡る。 対象概念は、未学習フェーズ全体を通じて特定の初期ノイズ領域にのみ現れるため、一様ランダムサンプリングは、頑健な消去に失敗する、スパースで非形式的な勾配更新をもたらす。 この問題を解決するために,対象概念が現れる領域の勾配更新を動的に集中する適応型,概念条件付きサンプリング戦略を提案する。 我々は,4つの拡散バックボーンにまたがる6つのSOTAアンラーニング手法を統合し,その安全性,対象,芸術的アンラーニング,ブラックボックスおよびホワイトボックスの敵攻撃下での評価を行う。 本手法は, ランダム初期化における条件付きヌード再帰率を平均67.2%削減し, 両評価において攻撃成功率を低下させる。 概念領域全体にわたって、適応ノイズサンプリングは、競争力のある生成品質と目標評価性能を維持しながら、対向的堅牢性と非目標保持を強化する。

関連論文リスト

• Interpreting Object-Dependent Concept Brittleness in Text-to-Image Diffusion Models [105.53190946111586]
  我々はこの現象をオブジェクト依存概念の脆さと呼ぶ。 これらの障害を監査し、最小限に修正する、解釈可能性指向のフレームワークを提案する。 複数の拡散バックボーンにまたがるスタイルと属性の故障事例について,提案手法の評価を行った。
  論文  参考訳（メタデータ） (2026-09-09T09:07:40Z)
• UniNDM: A Unified Noise-driven Detection and Mitigation Framework Against Sexual Content in Text-to-Image Generation [90.0896070825457]
  本稿では,拡散過程におけるノイズダイナミクスのレンズを通して,安全機構を再考する統合ノイズ駆動フレームワークを提案する。 我々の重要な洞察は、早期の予測ノイズは、正常な内容と性的な内容の間に固有の分離性を示すことである。 我々は,計算オーバーヘッドがほとんどなく,精度の高い軽量ノイズベース検出器を開発した。
  論文  参考訳（メタデータ） (2026-07-18T14:03:39Z)
• Whispers in the Noise: Surrogate-Guided Concept Awakening via a Multi-Agent Framework [10.018906972154218]
  概念消去は、事前訓練されたモデルから特定の概念を取り除くことでリスクを軽減することを目的としている。 近年の研究では、そのような手法は標的概念を完全に排除するのではなく、しばしば抑制され、攻撃を起こさないモデルが残されていることが示されている。 提案するConceptAgentは,サロゲート誘導ノイズ状態から発声軌道を初期化することにより,消去概念を覚醒させる,トレーニングフリーでブラックボックスなマルチエージェントフレームワークである。
  論文  参考訳（メタデータ） (2026-05-18T09:55:36Z)
• Divide and Conquer: Heterogeneous Noise Integration for Diffusion-based Adversarial Purification [75.09791002021947]
  既存の浄化法は,前向き拡散過程を通じて一定のノイズを発生させ,その後に逆の処理を行い,クリーンな例を回復させることによって,対向的摂動を妨害することを目的としている。 この方法は、前処理の均一な操作が、対向的摂動と闘いながら通常のピクセルを損なうため、根本的な欠陥がある。 ニューラルネットワークの解釈可能性に基づく異種浄化戦略を提案する。 本手法は,被写体モデルが注目する特定の画素に対して高強度雑音を決定的に印加する一方,残りの画素は低強度雑音のみを被写体とする。
  論文  参考訳（メタデータ） (2025-03-03T11:00:25Z)
• Universal Adversarial Defense in Remote Sensing Based on Pre-trained Denoising Diffusion Models [17.283914361697818]
  深部ニューラルネットワーク(DNN)は、地球観測のための多数のAIアプリケーション(AI4EO)において重要なソリューションとして注目されている。 本稿では、リモートセンシング画像(UAD-RS)における新しいユニバーサル・ディフェンス・アプローチを提案する。
  論文  参考訳（メタデータ） (2023-07-31T17:21:23Z)
• LEAT: Towards Robust Deepfake Disruption in Real-World Scenarios via Latent Ensemble Attack [11.764601181046496]
  生成モデルによって作成された悪意のある視覚コンテンツであるディープフェイクは、社会にますます有害な脅威をもたらす。 近年のディープフェイクの損傷を積極的に軽減するために, 逆方向の摂動を用いてディープフェイクモデルの出力を妨害する研究が進められている。 そこで本研究では,Latent Ensemble ATtack (LEAT) と呼ばれる簡易かつ効果的なディスラプション手法を提案する。
  論文  参考訳（メタデータ） (2023-07-04T07:00:37Z)
• Composed Image Retrieval with Text Feedback via Multi-grained Uncertainty Regularization [73.04187954213471]
  粗い検索ときめ細かい検索を同時にモデル化する統合学習手法を提案する。 提案手法は、強いベースラインに対して+4.03%、+3.38%、+2.40%のRecall@50精度を達成した。
  論文  参考訳（メタデータ） (2022-11-14T14:25:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。