論文の概要: Introspective Attention Modulation for Safe Text-to-Image Generation

• arxiv url: http://arxiv.org/abs/2607.14945v1
• Date: Thu, 16 Jul 2026 12:53:45 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-17 17:01:33.114858
• Title: Introspective Attention Modulation for Safe Text-to-Image Generation
• Title（参考訳）: 安全なテキスト・画像生成のためのイントロスペクティブアテンション変調
• Abstract要約: State-of-the-the-art flow based text-to-image (T2I)モデルは、優れた生成能力を示すが、安全でないコンテンツを生成するには弱い。 本稿では,推論時イントロスペクションによるモデル注意力の制御により,安全性を実現するユニークなアプローチを提案する。
• 参考スコア（独自算出の注目度）: 37.67434449197168
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: State-of-the-art flow based text-to-image (T2I) models exhibit remarkable generative abilities but remain vulnerable to producing unsafe content. Prior safety efforts range from concept erasure and prompt filtering to classifier-based gating. However, simple techniques like parameter efficient adaptations of the models easily bypass such guardrails. We introduce a unique principled approach that achieves safety by regulating the model's attention dynamics through inference-time introspection, exhibiting intrinsic robustness. Our method analyzes and rebalances attention activations throughout image synthesis, steering generations away from unsafe concepts while preserving semantic alignment. This introspective control ensures safety of deployed models. Across standard and adversarial safety benchmarks, our approach achieves remarkable safety scores while maintaining or even improving alignment and perceptual quality. Our results reveal that attention-space regulation offers a considerably more promising path to safer diffusion transformer based image generation than the existing concept erasing mechanism.Our code can be accessed at https://basim-azam.github.io/iam/
• Abstract（参考訳）: State-of-the-the-art flow based text-to-image (T2I)モデルは、優れた生成能力を示すが、安全でないコンテンツを生成するには弱い。 事前の安全性の取り組みは、概念の消去とプロンプトフィルタリングから分類器ベースのゲーティングまで様々である。 しかし、パラメータ効率のよいモデル適応のような単純な手法は、そのようなガードレールを容易に回避できる。 そこで本研究では,本質的なロバスト性を示す推論時イントロスペクションにより,モデルの注意力学を制御し,安全性を実現する一意の原理的アプローチを提案する。 本手法は,画像合成における注意の活性化を解析・再バランスし,セマンティックアライメントを保ちながら,安全でない概念から世代を遠ざける。 このイントロスペクティブコントロールは、デプロイされたモデルの安全性を保証する。 本手法は,標準および対人安全ベンチマーク全体において,アライメントや知覚品質を維持・改善しつつ,顕著な安全性スコアを達成している。 我々のコードはhttps://basim-azam.github.io/iam/でアクセスできます。

関連論文リスト

• Unified Safe In-context Image Generation in Multimodal Diffusion Transformers via Restricting Unsafe Information Flows [20.386952794426833]
  Unified Visual Safety Regulator (UVR)は、トレーニング不要の安全生成フレームワークで、生成した画像の安全でないセマンティクスを規制する。 UVRは、統一された注意調整と有害な情報の流れの明示的な制限を通じて、安全でない生成を緩和する。 UVRは画像合成および編集作業において91%と77%の消去率を達成することにより、最先端の安全性能を達成する。
  論文  参考訳（メタデータ） (2026-06-05T03:43:04Z)
• Selective Safety Steering via Value-Filtered Decoding [54.87935112120107]
  大型言語モデル(LLM)は人間の価値観に合わせるように訓練されているが、その世代は安全上の制約に反する可能性がある。 既存のデコード時のステアリング手法は、しばしば不要に介入し、ベースモデルの下で安全であった世代を変更する。 安全でない応答の安全性を向上しつつ、そのような不要な介入を減らすための新しいテストタイムステアリング手法を提案する。
  論文  参考訳（メタデータ） (2026-05-14T12:13:08Z)
• Modular Energy Steering for Safe Text-to-Image Generation with Foundation Models [19.89268359258615]
  本稿では,凍結した基礎モデルからの勾配フィードバックを利用して,基礎となるジェネレータを変更することなく,生成プロセスのガイドを行う推論時ステアリングフレームワークを提案する。 本フレームワークは,基本モデルをセマンティックエネルギ推定器として活用するための原則的アプローチを提供し,テキスト・画像生成のための信頼性とスケーラブルな安全制御を実現する。
  論文  参考訳（メタデータ） (2026-04-02T16:59:28Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• CGCE: Classifier-Guided Concept Erasure in Generative Models [53.7410000675294]
  概念消去は、事前訓練されたモデルから望ましくない概念を取り除くために開発された。 既存の方法は、削除されたコンテンツを再生できる敵攻撃に弱いままである。 多様な生成モデルに対して堅牢な概念消去を提供する効率的なプラグアンドプレイフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-08T05:38:18Z)
• Closing the Safety Gap: Surgical Concept Erasure in Visual Autoregressive Models [48.34555526275907]
  本稿では,視覚的自己回帰モデルにおける概念消去を安定させる新しいフレームワークVAREを提案する。 次に、VAR用に設計された新規かつ効果的な概念消去手法であるS-VAREを紹介する。 提案手法は,生成品質を保ちながら外科的概念の消去を実現し,自動回帰テキスト・画像生成における安全性のギャップを埋める。
  論文  参考訳（メタデータ） (2025-09-26T14:26:52Z)
• SafeCtrl: Region-Based Safety Control for Text-to-Image Diffusion via Detect-Then-Suppress [48.20360860166279]
  SafeCtrlは軽量で非侵襲的なプラグインで、まず安全でないコンテンツを正確にローカライズします。 強硬なA-to-B置換を行う代わりに、SafeCtrlは有害なセマンティクスを抑える。
  論文  参考訳（メタデータ） (2025-08-16T04:28:52Z)
• Safety Without Semantic Disruptions: Editing-free Safe Image Generation via Context-preserving Dual Latent Reconstruction [88.18235230849554]
  大規模で未処理のデータセットでマルチモーダル生成モデルをトレーニングすることで、ユーザは有害で安全でない、議論の余地のない、文化的に不適切なアウトプットにさらされる可能性がある。 我々は、安全な埋め込みと、より安全な画像を生成するために、潜伏空間の重み付け可能な総和による修正拡散プロセスを活用する。 安全と検閲のトレードオフを特定し、倫理的AIモデルの開発に必要な視点を提示します。
  論文  参考訳（メタデータ） (2024-11-21T09:47:13Z)
• Ring-A-Bell! How Reliable are Concept Removal Methods for Diffusion Models? [52.238883592674696]
  Ring-A-Bellは、T2I拡散モデルのためのモデルに依存しないレッドチームツールである。 これは、不適切なコンテンツの生成に対応する拡散モデルに対する問題的プロンプトを特定する。 この結果から,安全プロンプトベンチマークの操作により,既存の安全メカニズムを回避できると考えられるプロンプトを変換できることが示唆された。
  論文  参考訳（メタデータ） (2023-10-16T02:11:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。