論文の概要: Pulling The REINS: Training-Free Safety Alignment of Video Diffusion Models via Representation Steering

• arxiv url: http://arxiv.org/abs/2606.17257v1
• Date: Mon, 15 Jun 2026 20:03:09 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-17 17:15:32.128716
• Title: Pulling The REINS: Training-Free Safety Alignment of Video Diffusion Models via Representation Steering
• Title（参考訳）: REINSのプルリング:表現ステアリングによるビデオ拡散モデルのトレーニング自由な安全性アライメント
• Authors: Rohit Kundu, Arindam Dutta, Sarosij Bose, Athula Balachandran, Amit K. Roy-Chowdhury,
• Abstract要約: 本稿では,安全な生成に向けて内部表現を操り,推論時に映像拡散モデルを整列させる学習自由度手法REINSを提案する。 我々の重要な発見は、ビデオ拡散トランスの隠れ状態活性化において、安全関連構造が線形に符号化されていることである。 推論において、中間変圧器層にこの方向を隠蔽状態に付加すると、有害なコンテンツから意味論的に関係のある安全な代替物への生成を、重み更新なし、概念列挙なし、無視可能な計算オーバーヘッドなしでリダイレクトする。
• 参考スコア（独自算出の注目度）: 20.152820762914214
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Open-weight video diffusion models can generate photorealistic unsafe content, from violence to misinformation, yet existing defenses either require expensive safety fine-tuning that degrades general capability, or apply external filters that are trivially bypassed by adversarial prompts. We present REINS (REpresentation-space INference-time Safety steering), a training-free method that aligns video diffusion models at inference time by steering their internal representations toward safe generation. Our key finding is that safety-relevant structure is linearly encoded in the hidden-state activations of video diffusion transformers, and a single direction, discovered via Supervised PCA on binary safety labels, suffices to separate safe from unsafe generation trajectories. At inference, adding this direction to hidden states at an intermediate transformer layer redirects generation from harmful content to semantically related safe alternatives, with no weight updates, no concept enumeration, and negligible computational overhead. Through mechanistic analysis, we reveal that while safety information accumulates monotonically with transformer depth, steering effectiveness peaks at intermediate layers (~50% depth), exposing a fundamental tradeoff between information availability and downstream propagation capacity. We evaluate REINS across 9 video diffusion models, multiple parameter scales (1.3B-5B), and both text-to-video and image-to-video generation, to our knowledge, the broadest safety evaluation suite in the video generation literature.
• Abstract（参考訳）: オープンウェイトビデオ拡散モデルは、暴力から誤報まで、フォトリアリスティックなアンセーフなコンテンツを生成することができるが、既存の防御は、一般的な能力を低下させる高価な安全調整を必要とする。 本稿では,Representation-space Inference-time Safety steering(REINS)について述べる。 我々の重要な発見は、ビデオ拡散トランスフォーマーの隠れ状態活性化において、安全関連構造が線形に符号化され、二元安全ラベル上でスーパービジョンPCAを介して発見された単一の方向は、安全でない生成軌道から安全を分離するのに十分であるということである。 推論において、中間変圧器層にこの方向を隠蔽状態に付加すると、有害なコンテンツから意味論的に関係のある安全な代替物への生成を、重み更新なし、概念列挙なし、無視可能な計算オーバーヘッドなしでリダイレクトする。 メカニスティック解析により、安全情報は変圧器の深さとともに単調に蓄積されるが、ステアリングの有効性は中間層(~50%)でピークに達し、情報可用性と下流伝播能力の基本的なトレードオフを明らかにする。 我々は9つのビデオ拡散モデル、複数パラメータスケール(1.3B-5B)、テキスト・ツー・ビデオと画像・ビデオ生成の両方にまたがるREINSを評価する。

関連論文リスト

• Unified Safe In-context Image Generation in Multimodal Diffusion Transformers via Restricting Unsafe Information Flows [20.386952794426833]
  Unified Visual Safety Regulator (UVR)は、トレーニング不要の安全生成フレームワークで、生成した画像の安全でないセマンティクスを規制する。 UVRは、統一された注意調整と有害な情報の流れの明示的な制限を通じて、安全でない生成を緩和する。 UVRは画像合成および編集作業において91%と77%の消去率を達成することにより、最先端の安全性能を達成する。
  論文  参考訳（メタデータ） (2026-06-05T03:43:04Z)
• Do Models Share Safety Representations? Cross-Model Steering for Safe Visual Generation [52.122731171289665]
  クロスモデル安全ステアリングのための最初のフレームワークを紹介する。 私たちのパイプラインは、ターゲット側の安全でないデータにアクセスしません。 多様なソース・ターゲット・モデル・ペア間のテキスト・ツー・イメージとテキスト・ツー・ビデオ生成におけるアプローチを評価する。
  論文  参考訳（メタデータ） (2026-06-03T18:00:04Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• ConceptGuard: Proactive Safety in Text-and-Image-to-Video Generation through Multimodal Risk Detection [27.47621607462884]
  ConceptGuardは、マルチモーダルビデオ生成において、安全でないセマンティクスを積極的に検出し緩和するフレームワークである。 コントラスト検出モジュールは、融合画像テキスト入力を構造化概念空間に投影することにより、潜伏する安全リスクを特定する。 意味的抑制機構は、プロンプトのマルチモーダル条件を介在することにより、生成過程を安全でない概念から遠ざける。
  論文  参考訳（メタデータ） (2025-11-24T05:27:05Z)
• SafeCtrl: Region-Based Safety Control for Text-to-Image Diffusion via Detect-Then-Suppress [48.20360860166279]
  SafeCtrlは軽量で非侵襲的なプラグインで、まず安全でないコンテンツを正確にローカライズします。 強硬なA-to-B置換を行う代わりに、SafeCtrlは有害なセマンティクスを抑える。
  論文  参考訳（メタデータ） (2025-08-16T04:28:52Z)
• Video-SafetyBench: A Benchmark for Safety Evaluation of Video LVLMs [45.265397990158846]
  Video-SafetyBenchは、ビデオテキスト攻撃下でのLVLMの安全性を評価するために設計された最初のベンチマークである。 ビデオテキストのペアは2,264で、48のきめ細かいアンセーフなカテゴリにまたがっている。 安全性評価のためのセマンティックなビデオを生成するために,ビデオ意味論を主題画像とモーションテキストに分解する制御可能なパイプラインを設計する。
  論文  参考訳（メタデータ） (2025-05-17T05:06:38Z)
• Safety Without Semantic Disruptions: Editing-free Safe Image Generation via Context-preserving Dual Latent Reconstruction [88.18235230849554]
  大規模で未処理のデータセットでマルチモーダル生成モデルをトレーニングすることで、ユーザは有害で安全でない、議論の余地のない、文化的に不適切なアウトプットにさらされる可能性がある。 我々は、安全な埋め込みと、より安全な画像を生成するために、潜伏空間の重み付け可能な総和による修正拡散プロセスを活用する。 安全と検閲のトレードオフを特定し、倫理的AIモデルの開発に必要な視点を提示します。
  論文  参考訳（メタデータ） (2024-11-21T09:47:13Z)
• LLMs know their vulnerabilities: Uncover Safety Gaps through Natural Distribution Shifts [88.96201324719205]
  大規模言語モデル(LLM)の安全性に関する懸念は、事前訓練中に潜在的に有害なデータに曝されることにより、大きな注目を集めている。 我々は、有害なコンテンツに意味的に関連していると思われる良心的なプロンプトが、安全性のメカニズムを回避できる新しい安全性脆弱性をLSMで特定する。 我々は,事前学習における有害なプロンプトに関連するアクターを識別する新しい攻撃手法,textitActorBreakerを導入する。
  論文  参考訳（メタデータ） (2024-10-14T16:41:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。