論文の概要: The Temporal Moderation Gap: Text-to-Video Safety Filters Are Blind to Harm in Motion
- arxiv url: http://arxiv.org/abs/2609.26233v1
- Date: Wed, 19 Aug 2026 09:27:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.929511
- Title: The Temporal Moderation Gap: Text-to-Video Safety Filters Are Blind to Harm in Motion
- Title（参考訳）: タイムモデレーション・ギャップ:テキスト・ビデオ・セーフティ・フィルターは動きが激しくなる
- Abstract要約: フレームオーダーを無視するモデレーターが、そのクリップの良質なシャッフルを受け入れるたびに有害なクリップを受け入れることを証明します。
ユーザー調査では、人々はこれらのクリップを有害とみなし、シャッフルは安全だと確認しています。
この修正はフレームの順序を読み取ることであり、オーダー対応検出器はこれらのクリップをAUC 0.74のシャッフルから分離する。
- 参考スコア（独自算出の注目度）: 6.592633070188332
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Text-to-video (T2V) services inherit their safety stack from image generation, pairing a keyword prompt filter with a per-frame checker that blocks a clip whenever one sampled frame looks unsafe. This stack has a blind spot unique to video. We prove that any moderator ignoring frame order accepts a harmful clip whenever it accepts that clip's benign shuffle, so harm carried by the ordering alone escapes. Empirically, the unmodified benchmark prompt already lands a clip in this moderation gap on 32.7% of Sequential-Action targets over four held-out seeds, and paraphrasing, scene splitting, and a feedback-driven prompt search show no significant improvement (paired McNemar $p\ge0.12$), so prompt engineering is not needed to expose the vulnerability. Dense-scoring all 97 rendered frames shows that about a third of the delivered clips merely hide an unsafe frame, while the rest stay harmful as ordered videos even though every frame passes, an order-blind residual the unmodified prompt reaches on a quarter of Sequential-Action targets. We also document a measurement pitfall, since scoring a searched prompt on its own render seed inflates a 7.5% per-generation rate into an apparent 46.7%. A user study confirms that people read these clips as harmful and their shuffles as safe. The fix is to read frame order, and an order-aware detector separates these clips from their own shuffles at AUC 0.74 where per-frame checking sits at chance, which is the signal deployed moderation throws away.
- Abstract（参考訳）: テキスト・トゥ・ビデオ(T2V)サービスは画像生成から安全スタックを継承し、キーワードプロンプトフィルタとフレームごとのチェッカーをペアリングし、サンプルフレームが安全でないとクリップをブロックする。
このスタックには、ビデオ特有の盲点がある。
フレームオーダーを無視するモデレーターは、そのクリップの良性シャッフルを受け入れると有害なクリップを受理するので、オーダー単独による損傷が回避される。
経験的に、修正されていないベンチマークプロンプトは、このモデレーションギャップに既に32.7%のシークエンシャル・アクションターゲットを4つの保留種子の上に配置しており、言い換え、シーン分割、フィードバック駆動のプロンプトサーチは大幅な改善を示さない(McNemar $p\ge0.12$)。
97枚のフレームをDense-Scoringすると、配信されたクリップの約3分の1が安全でないフレームを隠しているのに対し、残りは秩序あるビデオのように有害であり、修正されていないプロンプトはSequential-Actionターゲットの4分の1に届く。
また, 探索されたプロンプトを自身のレンダリング種で評価した結果, 発生率7.5%から46.7%に膨らませた。
ユーザー調査では、人々はこれらのクリップを有害とみなし、シャッフルは安全だと確認しています。
修正はフレーム順を読み取ることであり、オーダー対応検出器は、フレーム毎のチェックが偶然に行われるAUC 0.74で、これらのクリップを自身のシャッフルから分離する。
関連論文リスト
- Don't Read the Log: Execution Traces Contaminate Verifiers in Video-Generation Agents [2.5536942228520814]
本稿では,映像生成システムがエージェントの実行トレースよりもマルチモーダルな判断をいかに示すかを示す。
この補助的なテキストが、裁判官の判断を純粋に直観的な要求で動かし、フレームを固定するかどうかを問う。
論文 参考訳（メタデータ） (2026-09-23T10:53:38Z) - VideoReloc: Long-Term Indoor Video Relocalization against a Kilobyte-Scale Semantic Scene Graph [50.42050161026878]
長時間の屋内ビデオ再配置は、照明や家具の変更後の地図フレームの軌跡を推定する。
ビジュアルメソッドは外観に依存し、これらの変更によって信頼性が低下する。
適応的なビデオクリップは、物体と動きの基準が満たされるまで、空間的証拠を集めるためにオドメトリーを使用する。
論文 参考訳（メタデータ） (2026-09-18T14:16:41Z) - TRACE: Temporal Retrieval with Anchored and Convergent Evidence for Long-Horizon Video Understanding [19.77484147518509]
長ビデオの回答は、ビデオからデコードされたフレームが、その答えが依存するすべてのイベントをカバーする場合にのみ、エビデンスをサポートする。
既存の評価は、最終回答の正当性や予測された証拠間隔をスコアするが、応答前にデコードされたメソッドのフレームは監査されることは滅多にない。
VES-Benchは348の公開長ビデオに対して,時間順およびイベントカウント項目の600クエストベンチマークである。
それぞれの項目は共同で必要となるエビデンス間隔を持ち、メソッドのデコードされたフレームがそれらすべてをカバーするかどうかを3つの厳密度レベルで監査することができます。
論文 参考訳（メタデータ） (2026-08-23T17:31:43Z) - Ground, Cover, and Refine: Evidence-Centric Frame Selection for Long-Video Question Answering [9.937860041147625]
長いビデオの質問に答えるには、制限された視覚的な予算の下でビデオからスパースで重要な証拠を特定する必要がある。
既存の方法は、単一のパスでクエリ対応フレームを選択するか、検索ガイダンスとしてタイムスタンプ付きテキストに頼るかのいずれかである。
本稿では,固定予算フレーム選択を共同エビデンスキュレーション問題として用いたトレーニングフリーフレームワークであるGCRを提案する。
論文 参考訳（メタデータ） (2026-08-03T03:50:22Z) - ReCA: Multi-Shot Long Video Extrapolation via Recursive Context Allocation [69.45329019089041]
マルチショットビデオ外挿(マルチショットビデオ外挿、Multi-Shot Video Extrapolation、MSVE)は、観察されたフレームまたはクリップを撮影的に構造化された一連のショットに拡張するタスクである。
MSVEは、長ビデオの障害は単にコンテキスト長の制限ではなく、コンテキスト割り当ての障害であることを明らかにした。
本稿では,再帰的コンテキスト割当(Recursive Context Allocation, ReCA)を提案する。
論文 参考訳（メタデータ） (2026-05-26T04:16:56Z) - Speculative Decoding for Autoregressive Video Generation [9.370533301840284]
ブロックベースの自己回帰ビデオ拡散に投機的復号化をもたらすSDVGを導入する。
1.3Bのドラフトラは、4つのデノナイジングステップを通じて候補ブロックを提案し、各ブロックはVAEデコードされ、ImageRewardによってスコア付けされる。
固定しきい値タウ以上のブロックは14BターゲットのKVキャッシュに受理され、残りはターゲットによって再生される。
論文 参考訳（メタデータ） (2026-04-19T12:01:57Z) - Two Frames Matter: A Temporal Attack for Text-to-Video Model Jailbreaking [3.1471354211996956]
最近のテキスト・トゥ・ビデオ(T2V)モデルは、軽量な自然言語プロンプトから複雑なビデオを合成することができる。
以前のジェイルブレイク攻撃は、通常、安全でないプロンプトをコンテントフィルタを避けるパラフレーズに書き換える。
本稿では,断片化プロンプト下でのT2V系の時間軌道埋込み脆弱性を同定する。
論文 参考訳（メタデータ） (2026-03-07T04:21:54Z) - Learning Temporally Consistent Video Depth from Video Diffusion Priors [62.36887303063542]
本研究は,ストリーム映像深度推定の課題に対処する。
フレームやクリップ間でコンテキスト情報を共有することは、時間的一貫性を育む上で重要である、と我々は主張する。
本稿では,任意の長さの動画に対して一貫したコンテキスト認識学習と推論戦略を提案し,クロスクリップなコンテキストを提供する。
論文 参考訳（メタデータ） (2024-06-03T16:20:24Z) - Certifying LLM Safety against Adversarial Prompting [70.96868018621167]
大規模言語モデル(LLM)は、入力プロンプトに悪意のあるトークンを追加する敵攻撃に対して脆弱である。
我々は,認証された安全保証とともに,敵のプロンプトを防御する最初の枠組みである消去・チェックを導入する。
論文 参考訳（メタデータ） (2023-09-06T04:37:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。