論文の概要: When Guidance Becomes a Guard: Early Interception of Unsafe Inputs in Text-to-Image Generation

• arxiv url: http://arxiv.org/abs/2610.26452v1
• Date: Mon, 19 Oct 2026 14:09:22 GMT
• ステータス: 情報取得中
• システム内更新日: 2026-10-20 22:43:49.61887
• Title: When Guidance Becomes a Guard: Early Interception of Unsafe Inputs in Text-to-Image Generation
• Title（参考訳）: ガードになるとき:テキスト・画像生成における安全でない入力の早期受信
• Abstract要約: 我々は、ネイティブ生成信号が安全でない入力や逆入力を早期に検出できるかどうか検討する。 本研究では,条件応答と非条件応答のアクティベーションコントラストを集約するCSTI(Conditional Semantic Trajectory Interception)を提案する。 CSTIは6つのベースラインの中で5%のFPRで最強の総合的なパフォーマンスを達成した。
• 参考スコア（独自算出の注目度）: 11.53209615592201
• License:
• Abstract: Text-to-image diffusion models can produce unsafe content, while output filtering intervenes only after synthesis. We investigate whether native generation signals enable early detection of unsafe and adversarial inputs. We find that classifier-free guidance exposes strong safety signals in conditional responses, accessible through compact statistics and linear readouts. Based on this finding, we propose Conditional Semantic Trajectory Interception (CSTI), which aggregates activation contrasts between conditional and unconditional responses at early checkpoints for calibrated risk detection. CSTI fits concept-specific detectors using canonical concept and safe examples, without attack samples, intermediate image decoding, or generator modification. Across five generators, four adversarial attack collections, and two general NSFW datasets, CSTI achieves the strongest overall performance among six baselines at a matched 5% FPR. Early interception reduces generation latency by over 60% on intercepted paths. These results demonstrate the effectiveness of native conditional responses for early safety interception.
• Abstract（参考訳）: テキストと画像の拡散モデルは安全でないコンテンツを生成するが、出力フィルタリングは合成後にのみ介入する。 我々は、ネイティブ生成信号が、安全でない入力や逆入力を早期に検出できるかどうか検討する。 分類器フリーガイダンスは, 条件付き応答において強い安全信号が露出し, コンパクトな統計と線形読み出しによってアクセス可能であることがわかった。 そこで本研究では,早期チェックポイントにおけるアクティベーションコントラストを集約したCSTI(Conditional Semantic Trajectory Interception)を提案する。 CSTIは、標準概念と安全な例を用いて、攻撃サンプル、中間画像復号、ジェネレータの修正なしに、概念固有の検出器に適合する。 5つのジェネレータ、4つの敵攻撃コレクション、2つの一般的なNSFWデータセット、CSTIは、一致した5%のFPRで6つのベースラインの中で最も高い総合的なパフォーマンスを達成する。 早期インターセプションは、インターセプションパスにおける生成遅延を60%以上削減する。 これらの結果から,早期の安全障害に対する自然条件応答の有効性が示された。

関連論文リスト

• Safe Image Generation via Reinforcement Learning [23.73320512301939]
  最近のテキスト・ツー・イメージ(T2I)モデルは目覚ましい画像生成性能を実現するが、NSFW(Not-Safe-For-Work)コンテンツを生成できる。 本研究では,中間表現から発生したNSFW信号を検出する次世代安全フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-10-05T07:24:01Z)
• ShieldCLIP: Selective Safety Alignment for Harmful Content Mitigation in Multimodal Foundation Models [52.00294001406555]
  ShieldCLIPは、各モードの観測された安全性状態に、安全アライメントを条件付けるためのフレームワークである。 ViSUv2は、578のコンセプトと28のカテゴリにわたる独立したモダリティごとの安全ラベルを持つデータセットである。 ShieldCLIPは、従来型の安全対応エンコーダと強力な緩和ベースラインよりも、有害な出力を一貫して削減する。
  論文  参考訳（メタデータ） (2026-09-30T13:14:56Z)
• Prompt Injection Detection for Email Agents Through Attack Chain Modeling [1.0195618602298682]
  大規模言語モデル電子メールアシスタントは特に間接的なインジェクションに対して脆弱である。 本稿では,テキスト検出器,各ステージ固有の検証器,明示的なルールベースのリスク信号,ユーザ意図と行動整合性の分析,ロジスティックな決定ポリシを組み合わせることで,この攻撃チェーンをモデル化する検出フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-09-25T00:51:56Z)
• ForeSight: Enhancing Risk Monitoring via Early Safety Signal Distillation [16.209377275700568]
  ForeSightは、第一級のアウトプットリスク予測フレームワークである。 弱くて冗長な早期安全信号を、コンパクトで層認識のリスク表現に蒸留する。
  論文  参考訳（メタデータ） (2026-09-12T06:15:17Z)
• Test-Time Scaling for Safe Text-Guided Image Generation via Intermediate Clean Estimates [4.955707866879803]
  本稿では, 生成過程で推定される中間クリーン画像を活用し, スパースマージン目標を用いて, 禁止概念を検出することを提案する。 違反が検出されると, テキストコンディショニング空間における構造的低ランク残差を, 切り離されたバックプロパゲーションによって最適化することで, 即座に介入する。 安定拡散v1.4およびv3.5のヌード除去,IP保護,スタイル消去による実験は,抑制,忠実度,保存性に優れた性能を示した。
  論文  参考訳（メタデータ） (2026-08-04T08:00:15Z)
• Selective Safety Steering via Value-Filtered Decoding [54.87935112120107]
  大型言語モデル(LLM)は人間の価値観に合わせるように訓練されているが、その世代は安全上の制約に反する可能性がある。 既存のデコード時のステアリング手法は、しばしば不要に介入し、ベースモデルの下で安全であった世代を変更する。 安全でない応答の安全性を向上しつつ、そのような不要な介入を減らすための新しいテストタイムステアリング手法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T12:13:08Z)
• StyleShield: Exposing the Fragility of AIGC Detectors through Continuous Controllable Style Transfer [0.06768558752130312]
  StyleShieldは条件付きテキストスタイル転送のための最初のフローマッチングフレームワークである。 本稿では、任意の値に検出レートの検証を設定できる文書レベルのスケジューリングアルゴリズムであるRateAuditを紹介する。
  論文  参考訳（メタデータ） (2026-04-30T18:24:31Z)
• UnsafeChain: Enhancing Reasoning Model Safety via Hard Cases [57.69882799751655]
  さまざまなソースを持つハードプロンプトから構築された安全アライメントデータセットであるUnsafeChainをリリースする。 我々は3つの大きな推論モデル(LRM)を微調整し、それらを最近のSafeChainとSTAR-1と比較する。 UnsafeChainは、1Kサブセットのマッチングやベースラインのパフォーマンスを越えながら、従来よりも一貫してパフォーマンスが向上している。
  論文  参考訳（メタデータ） (2025-07-29T10:08:52Z)
• Improving Adversarial Robustness of Masked Autoencoders via Test-time Frequency-domain Prompting [133.55037976429088]
  BERTプリトレーニング(BEiT, MAE)を備えた視覚変換器の対向ロバスト性について検討する。 意外な観察は、MAEが他のBERT事前訓練法よりも敵の頑健さが著しく悪いことである。 我々は,MAEの対角的堅牢性を高めるための,シンプルで効果的な方法を提案する。
  論文  参考訳（メタデータ） (2023-08-20T16:27:17Z)
• Spotting adversarial samples for speaker verification by neural vocoders [102.1486475058963]
  我々は、自動話者検証(ASV)のための敵対サンプルを見つけるために、ニューラルボコーダを採用する。 元の音声と再合成音声のASVスコアの違いは、真正と逆正のサンプルの識別に良い指標であることがわかった。 私たちのコードは、将来的な比較作業のためにオープンソースにされます。
  論文  参考訳（メタデータ） (2021-07-01T08:58:16Z)
• Class-Conditional Defense GAN Against End-to-End Speech Attacks [82.21746840893658]
  本稿では,DeepSpeech や Lingvo といった先進的な音声テキストシステムを騙すために開発された,エンドツーエンドの敵対攻撃に対する新しいアプローチを提案する。 従来の防御手法とは異なり、提案手法は入力信号のオートエンコードのような低レベル変換を直接利用しない。 我々の防衛GANは、単語誤り率と文レベルの認識精度において、従来の防衛アルゴリズムよりもかなり優れています。
  論文  参考訳（メタデータ） (2020-10-22T00:02:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。