論文の概要: Controllable Multi-label Video Safety Detection via Adaptive Tversky Policy Optimization

• arxiv url: http://arxiv.org/abs/2610.02019v1
• Date: Thu, 01 Oct 2026 16:42:30 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 01:19:24.303173
• Title: Controllable Multi-label Video Safety Detection via Adaptive Tversky Policy Optimization
• Title（参考訳）: 適応的トヴェルスキーポリシ最適化による多ラベルビデオ安全検出
• Abstract要約: マルチラベルビデオ安全性検出(Multi-VSD)のための強化学習フレームワークであるAdaptive Tversky Policy Optimization (ATPO)を提案する。 ATPOはAdaptive Tversky Reward (ATR)を導入し、トレーニング中に偽陽性と偽陰性のペナルティを動的に調整し、制御可能な高精度リコールトレードオフを可能にする。 実験の結果、ATPOはマルチラベルのパフォーマンスを大幅に改善し、SafeWatch-Bench-RealでJaccard Indexを40.66から75.44に増やした。
• 参考スコア（独自算出の注目度）: 24.030239950834183
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The rapid growth of video-based social media has increased users' exposure to harmful content, creating a need for reliable automated video safety detection. Although recent Vision-Language Models (VLMs) show strong video understanding capabilities, existing harmful video detection systems face two key limitations: they typically reduce safety detection to binary classification, overlooking the inherently multi-label nature of unsafe videos, and they rely on static training objectives that do not support controllable precision-recall trade-offs, though the desired operating point may vary across moderation pipelines and unsafe categories. To address these gaps, we propose Adaptive Tversky Policy Optimization (ATPO), a reinforcement learning framework for Multi-label Video Safety Detection (Multi-VSD). ATPO introduces the Adaptive Tversky Reward (ATR), which dynamically adjusts false-positive and false-negative penalties during training to enable controllable precision-recall trade-offs. Experiments on SafeWatch-Bench and XD-Violence show that ATPO substantially improves multi-label performance, increasing the Jaccard Index from 40.66 to 75.44 on SafeWatch-Bench-Real. Moreover, ATR enables reliable steering of the precision-recall operating point, supporting deployment scenarios with heterogeneous policy requirements. Code and checkpoints are provided at https://bruceyg.github.io/ATPO-project-page/ .
• Abstract（参考訳）: ビデオベースのソーシャルメディアの急速な成長は、ユーザの有害コンテンツへの露出を増大させ、信頼性の高い自動ビデオ安全性検出の必要性を生み出している。 近年のVLM(Vision-Language Models)は、強力なビデオ理解能力を示しているが、既存の有害なビデオ検出システムは、2進分類への安全性検出を減らし、本質的には安全でないビデオのマルチラベル性を見渡し、制御不能な精度-リコールトレードオフをサポートしない静的な訓練目標に依存しているが、所望の動作ポイントはモデレーションパイプラインやアンセーフカテゴリによって異なる可能性がある。 そこで本稿では,マルチラベルビデオ安全性検出(Multi-VSD)のための強化学習フレームワークであるAdaptive Tversky Policy Optimization (ATPO)を提案する。 ATPOはAdaptive Tversky Reward (ATR)を導入し、トレーニング中に偽陽性と偽陰性のペナルティを動的に調整し、制御可能な高精度リコールトレードオフを可能にする。 SafeWatch-BenchとXD-Violenceの実験では、ATPOはマルチラベルのパフォーマンスを大幅に改善し、SafeWatch-Bench-RealではJaccard Indexが40.66から75.44に増加した。 さらに、ATRは、高精度リコール動作点の信頼性の高いステアリングを可能にし、不均一なポリシー要件によるデプロイメントシナリオをサポートする。 コードとチェックポイントはhttps://bruceyg.github.io/ATPO-project-page/ で提供されている。

関連論文リスト

• The Price of Consistency: Exploiting Visual Anchors for Multimodal Jailbreaking in Video Generation [83.99528259002504]
  このメカニズムにより、生成したコンテンツが元の有害な意図から遠ざかることを防ぐことができる。 本稿では、この脆弱性を利用したビデオ生成のためのトレーニング不要なマルチモーダルジェイルブレイクフレームワークである、Visual Anchors (DIVA)によるDecoupling Intentを提案する。 今後の研究を容易にするため,マルチ条件ビデオ生成のための最初の安全ベンチマークであるTI2SafetyBenchを寄贈する。
  論文  参考訳（メタデータ） (2026-09-07T08:34:00Z)
• Pulling The REINS: Training-Free Safety Alignment of Video Diffusion Models via Representation Steering [20.152820762914214]
  本稿では,安全な生成に向けて内部表現を操り,推論時に映像拡散モデルを整列させる学習自由度手法REINSを提案する。 我々の重要な発見は、ビデオ拡散トランスの隠れ状態活性化において、安全関連構造が線形に符号化されていることである。 推論において、中間変圧器層にこの方向を隠蔽状態に付加すると、有害なコンテンツから意味論的に関係のある安全な代替物への生成を、重み更新なし、概念列挙なし、無視可能な計算オーバーヘッドなしでリダイレクトする。
  論文  参考訳（メタデータ） (2026-06-15T20:03:09Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• UpSafe$^\circ$C: Upcycling for Controllable Safety in Large Language Models [67.91151588917396]
  大規模言語モデル(LLM)は、幅広いタスクで顕著な進歩を遂げているが、有害なコンテンツ生成やジェイルブレイク攻撃といった安全リスクに弱いままである。 安全に配慮したリサイクルによるLCMの安全性向上のための統合フレームワークであるUpSafe$circ$Cを提案する。 この結果から, 静的アライメントから動的, モジュール, 推論対応制御への移行という, LLMの安全性の新たな方向性が明らかになった。
  論文  参考訳（メタデータ） (2025-10-02T16:43:33Z)
• From Evaluation to Defense: Advancing Safety in Video Large Language Models [33.10355085086974]
  textbfVideoSafetyBench (VSB-77k)は,ビデオLLMの安全性に関する大規模かつ文化的に多様なベンチマークである。 ビデオモダリティの統合は安全性を平均42.3%低下させ、マルチモーダル攻撃のシステム的リスクを露呈する。 我々は,2つのイノベーションを通じて,前例のない安全性向上を実現する2段階フレームワークである textbfVideoSafety-R1 を提案する。
  論文  参考訳（メタデータ） (2025-05-22T13:16:53Z)
• Video-SafetyBench: A Benchmark for Safety Evaluation of Video LVLMs [45.265397990158846]
  Video-SafetyBenchは、ビデオテキスト攻撃下でのLVLMの安全性を評価するために設計された最初のベンチマークである。 ビデオテキストのペアは2,264で、48のきめ細かいアンセーフなカテゴリにまたがっている。 安全性評価のためのセマンティックなビデオを生成するために,ビデオ意味論を主題画像とモーションテキストに分解する制御可能なパイプラインを設計する。
  論文  参考訳（メタデータ） (2025-05-17T05:06:38Z)
• T2VShield: Model-Agnostic Jailbreak Defense for Text-to-Video Models [88.63040835652902]
  テキストからビデオモデルへの攻撃はジェイルブレイク攻撃に弱いため、特別な方法で安全メカニズムをバイパスし、有害または安全でないコンテンツの生成につながる。 我々は、ジェイルブレイクの脅威からテキストからビデオモデルを守るために設計された包括的でモデルに依存しない防衛フレームワークであるT2VShieldを提案する。 本手法は,既存の防御の限界を特定するために,入力,モデル,出力の段階を体系的に解析する。
  論文  参考訳（メタデータ） (2025-04-22T01:18:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。