論文の概要: SafeScreen: A Safety-First Screening Framework for Personalized Video Retrieval for Vulnerable Users

• arxiv url: http://arxiv.org/abs/2604.03264v1
• Date: Thu, 12 Mar 2026 21:28:10 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-12 18:41:08.569883
• Title: SafeScreen: A Safety-First Screening Framework for Personalized Video Retrieval for Vulnerable Users
• Title（参考訳）: SafeScreen: 脆弱性のあるユーザにパーソナライズされたビデオ検索のためのセーフファーストスクリーニングフレームワーク
• Authors: Wenzheng Zhao, Madhava Kalyan Gadiputi, Fengpei Yuan,
• Abstract要約: 我々は、パーソナライズされたビデオの検索と提示を行うセーフファーストビデオスクリーニングフレームワークであるSafeScreenを紹介した。 SafeScreenは、関連性や人気によって動画をランク付けする代わりに、安全を前提条件として扱い、候補ビデオのシーケンシャルな承認や拒否を行う。 認知症要介護例におけるSafeScreenの評価には,30の患者プロファイルと90の検査クエリを用いた。
• 参考スコア（独自算出の注目度）: 1.593065406609169
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Open-domain video platforms offer rich, personalized content that could support health, caregiving, and educational applications, but their engagement-optimized recommendation algorithms can expose vulnerable users to inappropriate or harmful material. These risks are especially acute in child-directed and care settings (e.g., dementia care), where content must satisfy individualized safety constraints before being shown. We introduce SafeScreen, a safety-first video screening framework that retrieves and presents personalized video while enforcing individualized safety constraints. Rather than ranking videos by relevance or popularity, SafeScreen treats safety as a prerequisite and performs sequential approval or rejection of candidate videos through an automated pipeline. SafeScreen integrates three key components: (i) profile-driven extraction of individualized safety criteria, (ii) evidence-grounded assessments via adaptive question generation and multimodal VideoRAG analysis, and (iii) LLM-based decision-making that verifies safety, appropriateness, and relevance before content exposure. This design enables explainable, real-time screening of uncurated video repositories without relying on precomputed safety labels. We evaluate SafeScreen in a dementia-care reminiscence case study using 30 synthetic patient profiles and 90 test queries. Results demonstrate that SafeScreen prioritizes safety over engagement, diverging from YouTube's engagement-optimized rankings in 80-93% of cases, while maintaining high levels of safety coverage, sensibleness, and groundedness, as validated by both LLM-based evaluation and domain experts.
• Abstract（参考訳）: オープンドメインのビデオプラットフォームは、健康、介護、教育アプリケーションをサポートする、リッチでパーソナライズされたコンテンツを提供する。 これらのリスクは、コンテンツが示される前に個別の安全制約を満たさなければならない児童指向および介護設定(例えば認知症ケア)において特に深刻である。 安全第一のビデオスクリーニングフレームワークSafeScreenを導入し、個別化された安全制約を課しながらパーソナライズされたビデオの検索と提示を行う。 SafeScreenは、関連性や人気によって動画をランク付けする代わりに、安全を前提条件として扱い、自動パイプラインを通じて候補ビデオのシーケンシャルな承認や拒否を行う。 SafeScreenは3つの重要なコンポーネントを統合する。 一 個別安全基準のプロファイル駆動抽出 (II)適応質問生成とマルチモーダルビデオRAG分析によるエビデンスに基づく評価 三 コンテンツ公開前の安全性、適切性及び妥当性を検証したLCMに基づく意思決定 この設計により、事前計算された安全ラベルに頼ることなく、未処理のビデオレポジトリの説明可能なリアルタイムスクリーニングが可能になる。 認知症要介護例におけるSafeScreenの評価には,30の患者プロファイルと90の検査クエリを用いた。 結果によると、SafeScreenはエンゲージメントよりも安全を優先し、YouTubeのエンゲージメント最適化ランキングから80～93%のケースに偏り、高いレベルの安全性カバレッジ、感受性、基礎性を維持しながら、LLMベースの評価とドメインエキスパートによって検証されている。

関連論文リスト

• ConceptGuard: Proactive Safety in Text-and-Image-to-Video Generation through Multimodal Risk Detection [27.47621607462884]
  ConceptGuardは、マルチモーダルビデオ生成において、安全でないセマンティクスを積極的に検出し緩和するフレームワークである。 コントラスト検出モジュールは、融合画像テキスト入力を構造化概念空間に投影することにより、潜伏する安全リスクを特定する。 意味的抑制機構は、プロンプトのマルチモーダル条件を介在することにより、生成過程を安全でない概念から遠ざける。
  論文  参考訳（メタデータ） (2025-11-24T05:27:05Z)
• HoliSafe: Holistic Safety Benchmarking and Modeling for Vision-Language Model [58.12612140992874]
  我々は、安全で安全でない5つの画像テキストの組み合わせにまたがる、全体的な安全データセットとベンチマークである textbfHoliSafeを紹介した。 また,入力画像の有害性を評価するために,視覚ガードモジュール(VGM)を用いて,VLMの安全性を高めるための新しいモジュラーフレームワークを提案する。 実験により、HoliSafeでトレーニングされたVGMを使用したSafe-VLMは、複数のVLMベンチマークで最先端の安全性能を実現していることがわかった。
  論文  参考訳（メタデータ） (2025-06-05T07:26:34Z)
• SafeVid: Toward Safety Aligned Video Large Multimodal Models [60.14535756294228]
  ビデオ大マルチモーダルモデル(VLMM)にビデオ特化安全原則を取り入れたフレームワークであるSafeVidを紹介する。 SafeVidは、詳細なテキストによるビデオ記述を解釈ブリッジとして使用し、ルール駆動の安全推論を容易にする。 SafeVid-350KとのアライメントはVLMMの安全性を大幅に向上させ、LLaVA-NeXT-Videoのようなモデルも大幅に改善された。
  論文  参考訳（メタデータ） (2025-05-17T09:21:33Z)
• Video-SafetyBench: A Benchmark for Safety Evaluation of Video LVLMs [45.265397990158846]
  Video-SafetyBenchは、ビデオテキスト攻撃下でのLVLMの安全性を評価するために設計された最初のベンチマークである。 ビデオテキストのペアは2,264で、48のきめ細かいアンセーフなカテゴリにまたがっている。 安全性評価のためのセマンティックなビデオを生成するために,ビデオ意味論を主題画像とモーションテキストに分解する制御可能なパイプラインを設計する。
  論文  参考訳（メタデータ） (2025-05-17T05:06:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。