論文の概要: Beyond the Explicit: Benchmarking and Detecting Implicit Harm in Short Videos
- arxiv url: http://arxiv.org/abs/2611.15306v1
- Date: Wed, 11 Nov 2026 10:41:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:33.104433
- Title: Beyond the Explicit: Benchmarking and Detecting Implicit Harm in Short Videos
- Title(参考訳): Explicitを超えて:ショートビデオにおける不正なハームのベンチマークと検出
- Abstract要約: 短いビデオが支配的なオンラインメディアとなり、有害なコンテンツは暗黙の形で、断片化されていく。
今回,DeepHarm-7Kを提案する。これは7,110のサンプルからなる大規模で有害な短ビデオデータセットである。
本稿では,視覚的,音声的,横断的推論を統合したマルチモーダル検出フレームワークDeepHarm-VLを提案する。
- 参考スコア(独自算出の注目度): 36.91839831099802
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Short videos have become a dominant online medium, where harmful content is increasingly conveyed in implicit and fragmented forms. Prior work largely focuses on explicit categories, such as violence and hate speech, and often fails to detect videos that subtly promote misleading values through narrative context, emotional framing, or cross-modal cues, partly due to the lack of dedicated benchmarks for implicit harm. To bridge this gap, we construct DeepHarm-7K, a large-scale harmful short-video dataset comprising 7,110 samples annotated according to a fine-grained harmful-content taxonomy. The dataset systematically covers implicitly harmful videos across diverse real-world scenarios and is constructed through a rigorous multi-stage quality-control process. Building on this dataset, we propose DeepHarm-VL, a multimodal detection framework that integrates visual, audio, and cross-modal reasoning. The framework employs a two-round reasoning strategy to progressively identify surface-level evidence and infer latent harmful implications. Experimental results show consistent improvements over strong baselines and state-of-the-art methods across multiple open-source video-language models, demonstrating its effectiveness in detecting both explicit and implicit harmful short videos.
- Abstract(参考訳): 短いビデオが支配的なオンラインメディアとなり、有害なコンテンツは暗黙の形で、断片化されていく。
以前の研究は主に暴力やヘイトスピーチのような明示的なカテゴリーに焦点を当てており、物語の文脈、感情的なフレーミング、あるいはモダル間の手がかりを通じて誤解を招く価値を微妙に促進するビデオを検出するのに失敗することが多い。
このギャップを埋めるために, 微粒な有害コンテンツ分類に基づいて注釈付き7,110のサンプルからなる大規模有害ビデオデータセットであるDeepHarm-7Kを構築した。
このデータセットは、さまざまな現実世界のシナリオにまたがる暗黙的に有害なビデオを体系的にカバーし、厳格な多段階品質制御プロセスによって構築される。
このデータセット上に構築されたDeepHarm-VLは,視覚,オーディオ,相互モーダル推論を統合したマルチモーダル検出フレームワークである。
このフレームワークは、表面レベルの証拠を段階的に識別し、潜伏する有害な含意を推測するために、2ラウンドの推論戦略を採用している。
実験の結果,複数のオープンソースビデオ言語モデルにまたがる強力なベースラインと最先端の手法に一貫した改善がみられ,暗黙的・暗黙的な短いビデオの両方を検出する効果が示された。
関連論文リスト
- Distributed Implicit Harm: A Compositional Safety Blind Spot in MLLM-Based Video Moderation [58.10046058931267]
分散インプリシットハーム(DIH)は、ビデオの分解軸に沿って分散されたコンポーネント間の関係から害が発生する場所である。
視覚セグメント間の時間的調和(DIH-T)と音声と視覚ストリーム間の相互調和(DIH-M)の2症例について検討する。
我々は,個々の良性成分を有害なシナリオに分解し,明示的な推論アノテーションで多種多様なDIHビデオを生成するマルチエージェントフレームワークを開発した。
論文 参考訳(メタデータ) (2026-08-31T18:17:49Z) - HarmVideoBench: Benchmarking Harmful Video Understanding in Large Multimodal Models [28.84235879847985]
大規模視覚言語モデル(LVLM)は、最近、自動コンテンツモデレーションにおいて大きな可能性を示している。
HarmVideoBenchは、1,379の動画と4,137の質問のペアからなる診断ベンチマークである。
BCRは,推論境界を予測し,必要なときにのみ動的にコンテキストを検索するベンチマークアライメント手法である。
論文 参考訳(メタデータ) (2026-06-25T15:50:33Z) - Decoding Multimodal Cues: Unveiling the Implicit Meaning Behind Hateful Videos [47.13788871461312]
我々は、モデルが文脈的合理性を提供できるように、説明可能なヘイトフルなビデオ検出を実現することを目指している。
このアプローチは、ビデオ内容の理解と意思決定プロセスの説明可能性を包括的に強化することができる。
本稿では,情報拡張・推論拡張(IARE)フレームワークを提案する。
論文 参考訳(メタデータ) (2026-06-10T11:28:23Z) - Revisiting Uncertainty: On Evidential Learning for Partially Relevant Video Retrieval [70.47320120707029]
部分的関連性のあるビデオ検索は、部分的コンテンツのみを記述するテキストクエリを使って、未編集の動画を検索することを目的としている。
この設定では、曖昧なクエリはしばしばビデオ間のセマンティックなあいまいさを引き起こす。
我々は,多粒質のクロスモーダルな証拠を集約し,不確実性を定量化し,モデル化する階層的顕在的学習フレームワークであるHolmesを提案する。
論文 参考訳(メタデータ) (2026-05-07T12:06:13Z) - Video-MME-v2: Towards the Next Stage in Benchmarks for Comprehensive Video Understanding [98.3098451637867]
Video-MME-v2は、ビデオ理解の堅牢性と忠実さを厳格に評価するために設計された総合的なベンチマークである。
データ品質を保証するため、Video-MME-v2は厳格に制御された人間のアノテーションパイプラインを通して構築される。
論文 参考訳(メタデータ) (2026-04-06T17:59:56Z) - T2Vs Meet VLMs: A Scalable Multimodal Dataset for Visual Harmfulness Recognition [24.78672820633581]
既存の有害なデータセットは、限られた範囲の有害なオブジェクトの存在によってキュレートされる。
これにより、そのようなデータセットに基づいたメソッドの一般化が妨げられ、誤判断につながる可能性がある。
我々は,インターネットからクロールして4つの生成モデルによって生成された1万枚の画像と1,000本の動画からなる包括的有害データセットを提案する。
論文 参考訳(メタデータ) (2024-09-29T15:20:00Z) - Towards Video Anomaly Retrieval from Video Anomaly Detection: New
Benchmarks and Model [70.97446870672069]
ビデオ異常検出(VAD)はその潜在的な応用により注目されている。
Video Anomaly Retrieval (VAR)は、関連のある動画をモダリティによって実用的に検索することを目的としている。
一般的な異常データセットの上に構築されたUCFCrime-ARとXD-Violenceの2つのベンチマークを示す。
論文 参考訳(メタデータ) (2023-07-24T06:22:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。