論文の概要: NDM: A Noise-driven Detection and Mitigation Framework against Implicit Sexual Intentions in Text-to-Image Generation

• arxiv url: http://arxiv.org/abs/2510.15752v1
• Date: Fri, 17 Oct 2025 15:37:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-20 20:17:34.68867
• Title: NDM: A Noise-driven Detection and Mitigation Framework against Implicit Sexual Intentions in Text-to-Image Generation
• Title（参考訳）: NDM:テキスト・画像生成における意図しない性的意図に対するノイズ駆動検出・緩和フレームワーク
• Authors: Yitong Sun, Yao Huang, Ruochen Zhang, Huanran Chen, Shouwei Ruan, Ranjie Duan, Xingxing Wei,
• Abstract要約: テキスト・ツー・イメージ(T2I)モデルは不適切なコンテンツを生成するのに弱い。 暗黙の性的プロンプトは、しばしば良心的な言葉に変装して、予想外の性的内容を引き起こす可能性がある。 我々は,最初のノイズ駆動型検出・緩和フレームワークであるNDMを提案する。
• 参考スコア（独自算出の注目度）: 41.058425895887616
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Despite the impressive generative capabilities of text-to-image (T2I) diffusion models, they remain vulnerable to generating inappropriate content, especially when confronted with implicit sexual prompts. Unlike explicit harmful prompts, these subtle cues, often disguised as seemingly benign terms, can unexpectedly trigger sexual content due to underlying model biases, raising significant ethical concerns. However, existing detection methods are primarily designed to identify explicit sexual content and therefore struggle to detect these implicit cues. Fine-tuning approaches, while effective to some extent, risk degrading the model's generative quality, creating an undesirable trade-off. To address this, we propose NDM, the first noise-driven detection and mitigation framework, which could detect and mitigate implicit malicious intention in T2I generation while preserving the model's original generative capabilities. Specifically, we introduce two key innovations: first, we leverage the separability of early-stage predicted noise to develop a noise-based detection method that could identify malicious content with high accuracy and efficiency; second, we propose a noise-enhanced adaptive negative guidance mechanism that could optimize the initial noise by suppressing the prominent region's attention, thereby enhancing the effectiveness of adaptive negative guidance for sexual mitigation. Experimentally, we validate NDM on both natural and adversarial datasets, demonstrating its superior performance over existing SOTA methods, including SLD, UCE, and RECE, etc. Code and resources are available at https://github.com/lorraine021/NDM.
• Abstract（参考訳）: テキスト・ツー・イメージ(T2I)拡散モデルの印象的な生成能力にもかかわらず、特に暗黙の性的プロンプトに直面した場合には、不適切なコンテンツを生成することに弱いままである。 明らかな有害なプロンプトとは異なり、これらの微妙な手がかりは、しばしば一見良心的な言葉に偽装され、モデルバイアスの根底にある性的コンテンツを予期せず引き起こし、重大な倫理的懸念を引き起こす。 しかし、既存の検出方法は、主に明示的な性的内容を特定するために設計されており、それゆえ、これらの暗黙の手がかりを検出するのに苦労している。 微調整アプローチは、ある程度有効ではあるが、モデルの生成品質を低下させ、望ましくないトレードオフを生み出すリスクがある。 そこで本研究では,T2I 生成における暗黙的な意図を検出・緩和し,モデル本来の生成能力を保ちつつ,ノイズ駆動型検出・緩和フレームワークである NDM を提案する。 具体的には、まず、早期予測ノイズの分離性を利用して、高い精度と効率で悪意のあるコンテンツを識別できるノイズベースの検出方法を開発し、次に、目立つ領域の注意を抑えることで初期ノイズを最適化し、性的緩和のための適応的ネガティブガイダンスの有効性を向上する適応的ネガティブ誘導機構を提案する。 SLD, UCE, RECEなどの既存のSOTA法よりも優れた性能を示した。 コードとリソースはhttps://github.com/lorraine021/NDMで入手できる。

関連論文リスト

• Mitigating the Noise Shift for Denoising Generative Models via Noise Awareness Guidance [54.88271057438763]
  ノイズアウェアネスガイダンス (NAG) は、事前に定義された騒音スケジュールと整合性を保つために、サンプリング軌道を明示的に制御する補正手法である。 NAGは一貫してノイズシフトを緩和し、主流拡散モデルの生成品質を大幅に改善する。
  論文  参考訳（メタデータ） (2025-10-14T13:31:34Z)
• Unveiling Hidden Vulnerabilities in Digital Human Generation via Adversarial Attacks [14.356235723912564]
  本稿では,デジタル・ヒューマン・ジェネレーション・モデルを効果的に実現可能な,敵対的な例を生成するための新しいフレームワークを提案する。 本手法では、可変オートエンコーダ(VAE)と制御ネットを利用して、元の画像の特徴に合わせた多様なターゲットノイズを生成する。 大規模な実験では、TBAの優位性を示し、推定誤差が41.0%増加し、平均改善率は17.0%に達した。
  論文  参考訳（メタデータ） (2025-04-24T11:42:10Z)
• A Knowledge-guided Adversarial Defense for Resisting Malicious Visual Manipulation [93.28532038721816]
  視覚的操作の悪意ある応用は、多くの分野でユーザーのセキュリティと評判に深刻な脅威をもたらしている。 本稿では,悪質な操作モデルを積極的に強制し,意味論的に混乱したサンプルを出力するために,知識誘導型敵防衛(KGAD)を提案する。
  論文  参考訳（メタデータ） (2025-04-11T10:18:13Z)
• MIGA: Mutual Information-Guided Attack on Denoising Models for Semantic Manipulation [39.12448251986432]
  深層認知モデルを直接攻撃するためのMIGA(Mutual Information-Guided Attack)を提案する。 MIGAは、敵対的摂動を通じて意味的コンテンツを保存するモデルの能力を戦略的に破壊する。 以上の結果から,デノベーションモデルは必ずしも堅牢ではなく,現実のアプリケーションにセキュリティリスクをもたらす可能性が示唆された。
  論文  参考訳（メタデータ） (2025-03-10T06:26:34Z)
• Generative Edge Detection with Stable Diffusion [52.870631376660924]
  エッジ検出は一般的に、主に識別法によって対処されるピクセルレベルの分類問題と見なされる。 本稿では、事前学習した安定拡散モデルのポテンシャルを十分に活用して、GED(Generative Edge Detector)という新しい手法を提案する。 複数のデータセットに対して広範な実験を行い、競争性能を達成する。
  論文  参考訳（メタデータ） (2024-10-04T01:52:23Z)
• Training More Robust Classification Model via Discriminative Loss and Gaussian Noise Injection [7.535952418691443]
  本稿では,クラス内コンパクト性を明示する最小層に適用した損失関数を提案する。 また、ノイズの多いデータクラスタをクリーンなクラスタに近づける、クラスワイズな機能アライメント機構を提案する。 提案手法は, クリーンなデータに対して高い精度を維持しながら, 各種摂動に対するモデルロバスト性を大幅に強化する。
  論文  参考訳（メタデータ） (2024-05-28T18:10:45Z)
• DPMesh: Exploiting Diffusion Prior for Occluded Human Mesh Recovery [71.6345505427213]
  DPMeshは、人間のメッシュリカバリを排除した革新的なフレームワークである。 これは、事前訓練されたテキスト・ツー・イメージ拡散モデルに埋め込まれた対象構造と空間的関係について、より深い拡散に乗じる。
  論文  参考訳（メタデータ） (2024-04-01T18:59:13Z)
• Stable Unlearnable Example: Enhancing the Robustness of Unlearnable Examples via Stable Error-Minimizing Noise [31.586389548657205]
  データにある種の知覚不能ノイズを加えることにより、モデルの一般化性能を著しく低下させる非学習不可能な例を提案する。 本稿では,時間を要する対向的摂動ではなく,ランダムな摂動に対する防御音を訓練する安定型誤り最小化ノイズ(SEM)を導入する。 SEMは、CIFAR-10、CIFAR-100、ImageNet Subset上で、最先端の新たなパフォーマンスを実現する。
  論文  参考訳（メタデータ） (2023-11-22T01:43:57Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。