論文の概要: Child-Oriented AIGC Video Risk Reviewing: A Benchmark and Knowledge-Supported Iterative Reasoning Framework
- arxiv url: http://arxiv.org/abs/2607.22715v1
- Date: Tue, 21 Jul 2026 15:29:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-28 22:34:14.838868
- Title: Child-Oriented AIGC Video Risk Reviewing: A Benchmark and Knowledge-Supported Iterative Reasoning Framework
- Title（参考訳）: 児童指向型AIGCビデオリスクレビュー: ベンチマークと知識対応型反復推論フレームワーク
- Abstract要約: 児童向けAIGCビデオレビューについて研究し、3つのコントリビューションを行った。
まず、複数のプラットフォームから収集された605個の実世界のビデオのベンチマークであるCAVSRを構築する。
第2に,知識と経験を付加したビデオレビューフレームワークQVRS-Eを提案する。
- 参考スコア（独自算出の注目度）: 18.322787201155048
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The rapid growth of Artificial Intelligence-generated content (AIGC) is reshaping video production and circulation, exposing children to an increasing volume of AIGC videos. Unlike traditionally produced videos, AIGC videos often exhibit greater uncertainty in visual details, narrative coherence, and content expression, which may introduce developmentally inappropriate risks for children. However, existing video safety research is largely designed for general violation detection from an adult perspective and remains insufficient for identifying the fine-grained, implicit, and context-dependent risks that children may encounter when viewing AIGC videos. To address this gap, we study child-oriented AIGC video reviewing, making three contributions. First, we construct CAVSR, a benchmark of 605 real-world videos collected from multiple platforms, and develop a hierarchical risk taxonomy comprising 6 top-level categories and 26 fine-grained labels to support systematic evaluation of children's viewing risks. Second, we propose QVRS-E, a knowledge- and experience-augmented video reviewing framework that combines multi-agent collaboration with expert and experiential knowledge to support targeted evidence acquisition and fact-grounded reviewing decisions. Third, extensive experiments demonstrate that our method significantly enhances the reviewing of child-related risks integrated with vision-language models, and yields more robust review reports.
- Abstract（参考訳）: 人工知能生成コンテンツ(AIGC)の急速な成長は、ビデオ制作と流通を変革し、子どもたちをAIGCビデオの量を増やしている。
伝統的に制作されたビデオとは異なり、AIGCビデオは視覚的詳細、物語のコヒーレンス、コンテンツ表現において大きな不確実性を示すことが多く、子供に発達的に不適切なリスクをもたらす可能性がある。
しかし、既存のビデオ安全研究は、大人の視点からの一般的な違反検出のために主に設計されており、AIGCビデオを見る際に子どもたちが直面する、きめ細かな、暗黙的な、文脈に依存したリスクを特定するには不十分である。
このギャップに対処するため、児童向けAIGCビデオレビューについて研究し、3つのコントリビューションを行った。
まず,複数のプラットフォームから収集した605個の実世界ビデオのベンチマークであるCAVSRを構築し,子どもの視聴リスクの体系的評価を支援するために,上位6つのカテゴリと26個の細粒度ラベルからなる階層型リスク分類法を開発した。
第2に,QVRS-Eを提案する。QVRS-Eは知識と経験を生かしたビデオレビューフレームワークで,専門家と経験的知識を融合して,対象とする証拠の取得と事実に基づくレビュー決定を支援する。
第3に,本手法が視覚言語モデルと統合された子ども関連リスクのレビューを著しく促進し,より堅牢なレビューレポートが得られた。
関連論文リスト
- CAREBench: A Child-Safety Risk Benchmark for Language Models [8.997978966432546]
CAREBenchは、言語モデルにおける上流の児童安全リスクを評価するためのベンチマークである。
これには、グルーミングとリレーションシップエンジニアリング、偽装と偽装、監視とプライバシー、性行為、性的虐待が含まれる。
モデルが害が過剰になる前にリスクのある相互作用を認識し、拒否し、エスカレートし、あるいはリダイレクトするかどうかを評価する。
論文 参考訳（メタデータ） (2026-06-29T01:17:41Z) - VideoKR: Towards Knowledge- and Reasoning-Intensive Video Understanding [52.925648827667935]
ビデオ理解を強化するために設計された,最初の大規模トレーニングコーパスであるVideoKRを紹介する。
VideoKRは、新しく収集されたCCライセンスのエキスパートドメインビデオ145K以上の315Kビデオ推論例で構成されている。
我々は、より深い動画推論機能をターゲットにした、ループ内のヒューマン・イン・ザ・ループ・スキル指向のサンプル生成パイプラインを開発した。
論文 参考訳（メタデータ） (2026-06-03T16:14:20Z) - Are Video Models Zero-Shot Learners and Reasoners in Education? EduVideoBench, A Knowledge-Skills-Attitude Benchmark for Educational Video Generation [11.425144935556789]
教育分野における最初のバランスの取れたベンチマークであるEduVideoBenchを紹介します。
以上の結果から,授業前に知識,スキル,態度の面で改善の余地があることが示唆された。
EduVideoBenchは、教室の安全を図ったVGMの開発をガイドしてくれることを願っている。
論文 参考訳（メタデータ） (2026-05-26T12:16:41Z) - Video-MME-v2: Towards the Next Stage in Benchmarks for Comprehensive Video Understanding [98.3098451637867]
Video-MME-v2は、ビデオ理解の堅牢性と忠実さを厳格に評価するために設計された総合的なベンチマークである。
データ品質を保証するため、Video-MME-v2は厳格に制御された人間のアノテーションパイプラインを通して構築される。
論文 参考訳（メタデータ） (2026-04-06T17:59:56Z) - A Skill-augmented Agentic Framework and Benchmark for Multi-Video Understanding [69.31609753061137]
マルチモーダルな大規模言語モデルはシングルビデオ理解において高いパフォーマンスを達成しているが、複数のビデオにまたがる推論能力は依然として限られている。
既存のアプローチでは、複数のビデオを1つの入力にまとめて直接推論を行い、トレーニングと推論のミスマッチを導入する。
現在のマルチビデオベンチマークでは、主にイベントレベルの比較を強調しており、アイデンティティレベルのマッチング、きめ細かい識別、構造化されたマルチステップ推論が過小評価されている。
視覚ツール,タスク固有のスキル,コンフリクト対応検証機構を統合した,多視点理解のためのスキル強化型エージェントフレームワークSAMAを提案する。
論文 参考訳（メタデータ） (2026-03-16T02:09:48Z) - Benchmarking Knowledge-Extraction Attack and Defense on Retrieval-Augmented Generation [50.87199039334856]
Retrieval-Augmented Generation (RAG) は知識集約型アプリケーションの基礎となっている。
近年の研究では、悪意あるクエリによって知識抽出攻撃が機密知識ベースコンテンツを回復できることが示されている。
本稿では,RAGシステムに対する知識抽出攻撃のための最初の体系的ベンチマークを紹介する。
論文 参考訳（メタデータ） (2026-02-10T01:27:46Z) - Catching Dark Signals in Algorithms: Unveiling Audiovisual and Thematic Markers of Unsafe Content Recommended for Children and Teenagers [13.39320891153433]
ショートフォームビデオプラットフォームの普及は、年齢検証メカニズムの非効率さと相まって、アルゴリズムを改造したオンライン環境において、子供やティーンエイジャーが直面する潜在的な害について懸念を喚起する。
Instagram Reels, TikTok, YouTube Shortsで, 子どもとティーンエイジャーに推奨される4,492本のショートビデオのマルチモーダル特徴分析とテーマ・トピック・モデリングを行った。
この特徴レベルおよびコンテンツレベルの分析により、安全でない(つまり、精神的に苦しむ)ショートビデオは、より暗い視覚的特徴を持ち、明らかな有害なコンテンツと、不安を引き起こす通常のコンテンツによる暗黙の害を含んでいることが明らかとなった。
論文 参考訳（メタデータ） (2025-07-16T18:41:42Z) - DAVID-XR1: Detecting AI-Generated Videos with Explainable Reasoning [58.70446237944036]
DAVID-Xは、AI生成ビデオに詳細な欠陥レベル、時間空間アノテーションと有理書を組み合わせた最初のデータセットである。
DAVID-XR1は、視覚的推論の解釈可能な連鎖を提供するために設計されたビデオ言語モデルである。
以上の結果から,AI生成ビデオコンテンツの信頼性確認のための説明可能な検出手法が期待できることを示す。
論文 参考訳（メタデータ） (2025-06-13T13:39:53Z) - Video-SafetyBench: A Benchmark for Safety Evaluation of Video LVLMs [45.265397990158846]
Video-SafetyBenchは、ビデオテキスト攻撃下でのLVLMの安全性を評価するために設計された最初のベンチマークである。
ビデオテキストのペアは2,264で、48のきめ細かいアンセーフなカテゴリにまたがっている。
安全性評価のためのセマンティックなビデオを生成するために,ビデオ意味論を主題画像とモーションテキストに分解する制御可能なパイプラインを設計する。
論文 参考訳（メタデータ） (2025-05-17T05:06:38Z) - Generative Ghost: Investigating Ranking Bias Hidden in AI-Generated Videos [106.5804660736763]
ビデオ情報検索は、ビデオコンテンツにアクセスするための基本的なアプローチである。
我々は,検索モデルがアドホックや画像検索タスクにおいて,AI生成コンテンツに好適であることを示す。
我々は、ビデオ検索に挑戦する文脈において、同様のバイアスが出現するかどうかを考察する。
論文 参考訳（メタデータ） (2025-02-11T07:43:47Z) - T2VSafetyBench: Evaluating the Safety of Text-to-Video Generative Models [39.15695612766001]
T2VSafetyBenchは,テキスト・ビデオモデルの安全性評価のための新しいベンチマークである。
ビデオ生成の安全性に関する12の重要な側面を定義し,悪意のあるプロンプトデータセットを構築する。
異なるモデルは様々な強みを示す。
テキスト・ビデオ生成モデルのユーザビリティと安全性にはトレードオフがある。
論文 参考訳（メタデータ） (2024-07-08T14:04:58Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。