論文の概要: InGuard: Towards Generalized Inner Guardrail for Safe Text-to-Image Generation

• arxiv url: http://arxiv.org/abs/2609.27620v1
• Date: Wed, 23 Sep 2026 09:44:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:17.969529
• Title: InGuard: Towards Generalized Inner Guardrail for Safe Text-to-Image Generation
• Title（参考訳）: InGuard: 安全なテキスト・ツー・イメージ生成のための一般化された内部ガードレールを目指して
• Abstract要約: モデル自身の表現でパイプライン内で動作する安全フレームワークを提案する。 InGuardは97.9-98.8%の安全率に達し、外装レールと一致するか超えている。
• 参考スコア（独自算出の注目度）: 26.111874495641846
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Modern text-to-image (T2I) models generate high-quality images from arbitrary user prompts, yet they can just as easily produce not-safe-for-work (NSFW) content. Conventional outer guardrails consist of two components: a prompt classifier that checks for risk before generation, and a post-hoc image classifier that checks the fully generated image. In this design, both classifiers operate outside the generation pipeline and do not use the model's own representations. This separation can limit prompt-screening accuracy, while the image-side check runs only after the full generation cost has been spent. Moreover, a flagged prompt can only be rejected, even when it could be adjusted to produce a safe image. In this work, we propose the Inner Guardrail (InGuard), a safety framework that works inside the pipeline on the model's own representations, leaving base-model parameters untouched. First, a risk classifier grades each prompt as unsafe, risky, or benign based on the text encoder's embeddings, with no external language model. Second, SAGE (Soft-gated Asymmetric Guardrail for Embeddings) modifies the embeddings of risky prompts, aiming to return a safe image instead of a refusal. Third, a latent detector checks the one-step clean latent estimate midway through denoising, reaching nearly image-level performance and halting generation when risk is detected. We also construct the RevGen Safety Benchmark to evaluate T2I safety under realistic conditions: 10,000 prompts built through real-image reverse generation, with a rewriting step that supplies controlled intellectual-property (IP) characters, covering graded porn/gore risks, categorical IP risks, and benign negatives. Across five open-weight T2I models, InGuard reaches 97.9-98.8% safety rate, matching or exceeding the outer guardrail, with 57.5-73.5% less benign disturbance, ~3.7x fewer parameters, and 50-55.6% of denoising steps skipped.
• Abstract（参考訳）: 最新のテキスト・ツー・イメージ(T2I)モデルは任意のユーザー・プロンプトから高品質な画像を生成するが、安全でない作業用コンテンツ(NSFW)を簡単に生成できる。 従来の外部ガードレールは、生成前のリスクをチェックするプロンプト分類器と、完全に生成されたイメージをチェックするポストホック画像分類器の2つのコンポーネントで構成されている。 この設計では、両方の分類器は生成パイプラインの外で動作し、モデル独自の表現を使用しない。 この分離は、画像側のチェックが全生成コストが費やされた後にのみ実行されるのに対して、プロンプトスクリーニングの精度を制限することができる。 さらに、安全な画像を生成するために調整できる場合でも、フラグ付きプロンプトを拒否できる。 本研究では、モデル自身の表現のパイプライン内で動作し、ベースモデルパラメータを未変更のままにしておく安全フレームワークであるNaner Guardrail(InGuard)を提案する。 まず、リスク分類器は、各プロンプトを、外部言語モデルなしで、テキストエンコーダの埋め込みに基づいて、安全でない、危険である、または良性であると評価する。 第二に、SAGE(Soft-gated Asymmetric Guardrail for Embeddings)はリスクのあるプロンプトの埋め込みを修正し、拒絶ではなく安全なイメージを返す。 第3に、潜伏検知器は、脱ノイズにより1段階のクリーン潜伏推定値をチェックし、リスクが検出されるとほぼ画像レベルの性能に達し、発生を停止する。 我々はまた、現実的な条件下でのT2I安全性を評価するために、RevGen Safety Benchmarkを構築した: 実画像のリバース生成を通じて構築された1万のプロンプト、制御された知的財産権(IP)文字を供給する書き換えステップ、格付けされたポルノ/ゴアリスク、分類されたIPリスク、良性ネガティブ。 5つのオープンウェイトなT2Iモデルの中で、InGuardは97.9-98.8%の安全率に達し、57.5-73.5%の良心障害、約3.7倍のパラメータ、50-55.6%のデノナイジングステップがスキップされた。

関連論文リスト

• GuardPaint:SpeculativeSafetyDecodingforText-to-ImageGeneration [16.763537092663366]
  GuardPaintは安全なT2I生成のためのフレームワークで、ベースモデルを変更することなく拡散軌道内で介入する。 軽量監査機は、中間画像を監視し、安全でない領域をローカライズし、必要なときにのみ外科的塗装修復をトリガーする。
  論文  参考訳（メタデータ） (2026-08-22T09:28:30Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• SafeGuider: Robust and Practical Content Safety Control for Text-to-Image Models [74.11062256255387]
  テキスト・ツー・イメージのモデルは、安全対策を回避し、有害なコンテンツを生成できる敵のプロンプトに対して非常に脆弱である。 SafeGuiderは, 生成品質を損なうことなく, 堅牢な安全制御を実現するための2段階のフレームワークである。 SafeGuiderは攻撃成功率の最小化において例外的な効果を示し、様々な攻撃シナリオで最大速度は5.48%である。
  論文  参考訳（メタデータ） (2025-10-05T10:24:48Z)
• Multimodal Prompt Decoupling Attack on the Safety Filters in Text-to-Image Models [73.43013217318965]
  マルチモーダル・プロンプト・デカップリング・アタック(MPDA) MPDAは画像モダリティを使用して、元の安全でないプロンプトの有害なセマンティックコンポーネントを分離する。 ビジュアル言語モデルは、生成したNSFW画像と元の安全でないプロンプトとのセマンティック一貫性を確保するために画像キャプションを生成する。
  論文  参考訳（メタデータ） (2025-09-21T11:22:32Z)
• PromptSafe: Gated Prompt Tuning for Safe Text-to-Image Generation [30.2092299298228]
  テキスト・ツー・イメージ(T2I)モデルは、暴力的または明示的なイメージなど、安全でない作業用コンテンツ(NSFW)の生成に脆弱である。 本稿では,軽量でテキストのみを教師付きソフト埋め込みと,推論時間付きゲート制御ネットワークを組み合わせたゲートプロンプトチューニングフレームワークであるPromptSafeを提案する。 PromptSafeはSOTAの安全でない生成率(2.36%)を達成し,高い良性を維持していることを示す。
  論文  参考訳（メタデータ） (2025-08-02T09:09:40Z)
• PromptGuard: Soft Prompt-Guided Unsafe Content Moderation for Text-to-Image Models [38.45239843869313]
  テキスト・ツー・イメージ(T2I)モデルは、テキスト記述から高品質な画像を生成する際、顕著な性能を示した。 T2Iモデルは、特にNSFW(Not-safe-for-work)コンテンツを生成する誤用に対して脆弱である。 本稿では,大規模言語モデルにおけるシステムプロンプト機構からインスピレーションを得る新しいコンテンツモデレーション手法であるPromptGuardを紹介する。
  論文  参考訳（メタデータ） (2025-01-07T05:39:21Z)
• Latent Guard: a Safety Framework for Text-to-image Generation [64.49596711025993]
  既存の安全対策は、容易に回避できるテキストブラックリストや有害なコンテンツ分類に基づいている。 テキスト・ツー・イメージ生成の安全性向上を目的としたフレームワークであるLatent Guardを提案する。 ブラックリストベースのアプローチにインスパイアされたLatent Guardは、T2Iモデルのテキストエンコーダの上に潜在空間を学習し、有害な概念の存在を確認することができる。
  論文  参考訳（メタデータ） (2024-04-11T17:59:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。