論文の概要: From Concepts to Interactions: Dynamic Graph Semantic Recomposition for Safe Visual Generation
- arxiv url: http://arxiv.org/abs/2611.15149v1
- Date: Wed, 11 Nov 2026 07:43:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.075726
- Title: From Concepts to Interactions: Dynamic Graph Semantic Recomposition for Safe Visual Generation
- Title(参考訳): 概念からインタラクションへ: 安全な視覚生成のための動的グラフセマンティック再構成
- Abstract要約: フローマッチング変換器は、テキスト・トゥ・イメージ(T2I)とテキスト・トゥ・ビデオ(T2V)の生成を大幅に改善した。
違法または非倫理的なコンテンツを生み出す、制約のない世代リスク。
したがって、安全アライメントは、正当な世代を保持しながら、安全でないコンテンツを抑制する必要がある。
- 参考スコア(独自算出の注目度): 16.64638361806858
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent advances in flow-matching Transformers have greatly improved Text-to-Image (T2I) and Text-to-Video (T2V) generation, but unconstrained generation risks producing illegal or unethical content. Safety alignment must therefore suppress unsafe content while preserving legitimate generation. A concept's safety depends on context: a knife used for cooking is safe, whereas its use in violence is harmful. Yet most concept erasure methods indiscriminately suppress static, isolated representations, overlooking evolving semantic interactions. Consequently, safe scenes containing potentially sensitive terms may be unintentionally suppressed, compromising generation quality. To address this, we propose Dynamic Graph Semantic Recomposition (DGSR), which dynamically constructs and updates a semantic interaction graph from evolving text visual states during sampling. Context aware graph reasoning captures semantic dependencies, while paired safe/unsafe supervision distinguishes harmful from legitimate interactions, enabling precise identification of and selective intervention on high risk semantic relationships while preserving benign semantics. DGSR freezes the pretrained backbone and supports both image and video generation. Experiments show that DGSR achieves the lowest Attack Success Rate (ASR) in 10 of 12 T2I evaluations and reduces the average T2V unsafe frame rate by 41.2\% relative to the strongest baseline, while maintaining high generation fidelity and temporal consistency.
- Abstract(参考訳): フローマッチング変換器の最近の進歩は、テキスト・ツー・イメージ(T2I)とテキスト・トゥ・ビデオ(T2V)の生成を大幅に改善しているが、違法または非倫理的コンテンツを生み出す未制約生成リスクは大幅に改善されている。
したがって、安全アライメントは、正当な世代を保持しながら、安全でないコンテンツを抑制する必要がある。
概念の安全性は文脈によって異なり、調理に使用されるナイフは安全であり、暴力における使用は有害である。
しかし、ほとんどの概念消去手法は、進化する意味的相互作用を見越して、静的で孤立した表現を無差別に抑制する。
その結果、潜在的にセンシティブな用語を含む安全なシーンは意図せず抑制され、生成品質が損なわれる可能性がある。
そこで本稿では,サンプリング中のテキストの視覚状態から意味的相互作用グラフを動的に構築・更新する動的グラフ意味再構成(DGSR)を提案する。
コンテキスト認識グラフ推論はセマンティック依存関係をキャプチャするが、ペア化されたセーフ/アンセーフな監視は、正当な相互作用と有害な相互作用を区別し、良質なセマンティックスを保持しながら、高いリスクセマンティックな関係を正確に識別し、選択的な介入を可能にする。
DGSRはトレーニング済みのバックボーンを凍結し、画像とビデオの両方を生成する。
実験により、DGSRは12T2I評価のうち10T2I評価において最小の攻撃成功率(ASR)を達成し、高ジェネレーションの忠実度と時間的整合性を維持しつつ、最強ベースラインに対して平均T2V不安全フレームレートを41.2\%削減した。
関連論文リスト
- SaTPO: Text-to-Image Safety Alignment via Transition Preference Optimization [81.8045246762617]
テキストと画像の拡散モデルの安全性は、有用な生成能力を損なうことなく有害なコンテンツを抑えることを目的としている。
本稿では,デノナイズ時に段階的にアライメントを行う安全遷移選好最適化(SaTPO)を提案する。
論文 参考訳(メタデータ) (2026-10-14T04:21:20Z) - The Price of Consistency: Exploiting Visual Anchors for Multimodal Jailbreaking in Video Generation [83.99528259002504]
このメカニズムにより、生成したコンテンツが元の有害な意図から遠ざかることを防ぐことができる。
本稿では、この脆弱性を利用したビデオ生成のためのトレーニング不要なマルチモーダルジェイルブレイクフレームワークである、Visual Anchors (DIVA)によるDecoupling Intentを提案する。
今後の研究を容易にするため,マルチ条件ビデオ生成のための最初の安全ベンチマークであるTI2SafetyBenchを寄贈する。
論文 参考訳(メタデータ) (2026-09-07T08:34:00Z) - The Illusion of High Utility in Safety Alignment of Text-to-Image Diffusion Models [49.67749928542536]
テキスト・ツー・イメージ(T2I)拡散モデルの安全性の確保は,有害な世代を抑えることを目的としている。
近年の手法は高いユーティリティで高い安全性を提供するように思われるが、この結論は主に粗いグローバルユーティリティメトリクスに依存している。
構造的評価で実用性を測定すると、この錯覚は壊れる:OnA(質問回答を用いたテキストから画像への忠実度評価)
本研究では,組込み拡散とプロンプト間関係構造を明示的に保存する安全アライメント目標であるStructureAware Geometric Regularization (SAGE)を提案する。
論文 参考訳(メタデータ) (2026-07-01T04:00:27Z) - Unified Safe In-context Image Generation in Multimodal Diffusion Transformers via Restricting Unsafe Information Flows [20.386952794426833]
Unified Visual Safety Regulator (UVR)は、トレーニング不要の安全生成フレームワークで、生成した画像の安全でないセマンティクスを規制する。
UVRは、統一された注意調整と有害な情報の流れの明示的な制限を通じて、安全でない生成を緩和する。
UVRは画像合成および編集作業において91%と77%の消去率を達成することにより、最先端の安全性能を達成する。
論文 参考訳(メタデータ) (2026-06-05T03:43:04Z) - TrajShield: Trajectory-Level Safety Mediation for Defending Text-to-Video Models Against Jailbreak Attacks [3.3681515336200403]
本稿では,時間的に構造化されたセマンティック空間における因果的介入として,T2Vの安全性を再構築する,トレーニング不要な推論時防衛フレームワークを提案する。
TrajShieldは、明確な安全でないプロンプト、ジェイルブレイク攻撃、時間的に発生したリスクを統一的に処理する。
論文 参考訳(メタデータ) (2026-05-03T07:49:51Z) - SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。
SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
論文 参考訳(メタデータ) (2026-01-13T15:01:38Z) - Value-Aligned Prompt Moderation via Zero-Shot Agentic Rewriting for Safe Image Generation [11.663809872664103]
現在の防衛は、生産物を生産品質を犠牲にしたり、高いコストを発生させることなく、人的価値と整合させるのに苦労している。
我々は、より安全でより有用なテキスト・ツー・イメージ・ジェネレーションのためのゼロショットエージェント・フレームワークであるVALORを紹介した。
VALORは、階層化されたプロンプト分析とヒューマンアラインな値推論を統合している。
論文 参考訳(メタデータ) (2025-11-12T09:52:47Z) - Safe Text-to-Image Generation: Simply Sanitize the Prompt Embedding [16.188657772178747]
本研究では,不適切な概念を迅速に埋め込むことで,テキスト・ツー・イメージモデルの安全性を高めるEmbeded Sanitizer (ES)を提案する。
ESは、その潜在的な有害性を示すプロンプトにおいて各トークンにスコアを割り当てる最初の解釈可能な安全な生成フレームワークである。
論文 参考訳(メタデータ) (2024-11-15T16:29:02Z) - SAFREE: Training-Free and Adaptive Guard for Safe Text-to-Image And Video Generation [65.30207993362595]
安全な生成のための学習/編集に基づく手法は、モデルから有害な概念を取り除くが、いくつかの課題に直面している。
安全なT2IとT2VのためのトレーニングフリーアプローチであるSAFREEを提案する。
テキスト埋め込み空間における有毒な概念の集合に対応する部分空間を検出し、この部分空間から直ちに埋め込みを行う。
論文 参考訳(メタデータ) (2024-10-16T17:32:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。