論文の概要: Distributed Implicit Harm: A Compositional Safety Blind Spot in MLLM-Based Video Moderation

• arxiv url: http://arxiv.org/abs/2609.00206v1
• Date: Mon, 31 Aug 2026 18:17:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-02 16:31:35.957589
• Title: Distributed Implicit Harm: A Compositional Safety Blind Spot in MLLM-Based Video Moderation
• Title（参考訳）: Distributed Implicit Harm:MLLMビデオモデレーションにおける構成安全ブラインドスポット
• Abstract要約: 分散インプリシットハーム(DIH)は、ビデオの分解軸に沿って分散されたコンポーネント間の関係から害が発生する場所である。 視覚セグメント間の時間的調和(DIH-T)と音声と視覚ストリーム間の相互調和(DIH-M)の2症例について検討する。 我々は,個々の良性成分を有害なシナリオに分解し,明示的な推論アノテーションで多種多様なDIHビデオを生成するマルチエージェントフレームワークを開発した。
• 参考スコア（独自算出の注目度）: 58.10046058931267
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Despite their growing use in video moderation, multimodal large language models (MLLMs) exhibit a compositional safety blind spot: videos composed of seemingly benign components can convey harmful meaning when interpreted as a whole. We refer to this phenomenon as Distributed Implicit Harm (DIH), where harm arises from relations among components distributed along a decomposition axis of the video, rather than from any single explicit cue. Among many possible axes, we study two representative cases: temporally distributed harm across visual segments (DIH-T) and cross-modal harm between audio and visual streams (DIH-M). Studying and mitigating DIH at scale requires data that is difficult to collect: such videos lack compositional harm annotations, evade retrieval based on local visual cues, keywords, or single-modality signals, and are consequently absent from existing safety datasets. To bridge this gap, we develop a multi-agent synthesis framework that composes individually benign components into harmful scenarios and generates diverse DIH videos with explicit reasoning annotations, yielding a dataset of over 9,000 videos spanning visual-only and audio-visual settings. Benchmarking over 30 MLLMs spanning frontier proprietary models and leading open-source systems reveals substantial and consistent deficits in detecting both DIH-T and DIH-M. Notably, this failure persists even among the strongest frontier models: they often correctly assess individual components in isolation but fail to recognize the harmful meaning that emerges from their composition. We further evaluate these models on a manually collected set of real-world DIH videos from social media and observe the same failure mode, highlighting DIH as a practical and underexplored challenge for video moderation.
• Abstract（参考訳）: ビデオモデレーションでの利用が増えているにもかかわらず、マルチモーダルな大言語モデル(MLLM)は、構成上の安全な盲点を示しており、一見良質なコンポーネントで構成されたビデオは、全体として解釈すると有害な意味を伝達することができる。 我々はこの現象を分散インプリシット・ハーム(DIH)と呼び、ビデオの分解軸に沿って分布するコンポーネント間の関係から害が生じる。 本研究は,視覚的セグメント(DIH-T)間の時間的調和と,音声と視覚ストリーム(DIH-M)間の相互調和の2つの代表的な症例について検討する。 大規模なDIHの研究と緩和には、構成的調和アノテーションの欠如、局所的な視覚的手がかり、キーワード、単一モダリティ信号に基づく検索の回避、従って既存の安全データセットの欠如など、収集が難しいデータが必要である。 このギャップを埋めるために、我々は、個々の良性成分を有害なシナリオに分解し、明示的な推論アノテーションで様々なDIHビデオを生成するマルチエージェント合成フレームワークを開発した。 フロンティアプロプライエタリなモデルと主要なオープンソースシステムにまたがる30以上のMLLMのベンチマークでは、DIH-TとDIH-Mの両方を検出する上で、相当かつ一貫した欠点が示される。 特に、この失敗は最強のフロンティアモデルの中でも継続する: 個々のコンポーネントを分離して正しく評価するが、構成から生じる有害な意味を認識できないことが多い。 さらに,これらのモデルをソーシャルメディアから手作業で収集した実世界のDIHビデオ上で評価し,同じ障害モードを観察し,ビデオモデレーションの実践的で未検討の課題としてDIHを強調した。

関連論文リスト

• Thinking on Shots: Consistent Multi-Shot Video Editing with Agentic Reasoning [56.17582599802973]
  本稿では,MMLVE(Multi-Instruction Multi-Shot Long-Video Editing)タスクを紹介する。 これら3つの課題に対処するために,Large Language Models (LLM) と Vision-Language Models (VLM) を活用したエージェント編集フレームワークを導入する。 我々のMMLVE-Agentは、既存のクローズドソースSOTAアプローチよりも優れています。
  論文  参考訳（メタデータ） (2026-08-27T08:48:13Z)
• Steering and Rectifying Latent Representation Manifolds in Frozen Multi-modal LLMs for Video Anomaly Detection [52.5174167737992]
  ビデオ異常検出(VAD)は、ビデオ内の異常事象を特定することを目的としている。 本稿では,MLLMに基づくVADを受動的に読み上げから内部表現を積極的に操り,修正するSteerVADを提案する。 本手法は、トレーニングデータの1%しか必要としないチューニングフリーアプローチにおける最先端性能を実現する。
  論文  参考訳（メタデータ） (2026-02-27T13:48:50Z)
• Training-Free and Interpretable Hateful Video Detection via Multi-stage Adversarial Reasoning [8.253541015849299]
  ヘイトフルビデオは、差別を増幅し、暴力を誘発し、オンラインの安全を損なうことによって深刻なリスクを引き起こす。 トレーニング不要なマルチステージ適応型リアソニングフレームワークであるMARSを導入し、ヘイトフルコンテンツ検出の信頼性と解釈を可能にする。
  論文  参考訳（メタデータ） (2026-01-21T15:52:26Z)
• Failures to Surface Harmful Contents in Video Large Language Models [12.841793719841524]
  Video Large Language Models (VideoLLMs) はますます多くの重要なアプリケーションにデプロイされている。 ビデオに有害なコンテンツが埋め込まれている場合、ビデオLLMは出力中の有害なコンテンツにほとんど言及しない。 根本原因分析の結果、3つの複合設計上の欠陥が明らかになった。
  論文  参考訳（メタデータ） (2025-08-14T17:49:36Z)
• Implicit Counterfactual Learning for Audio-Visual Segmentation [50.69377287012591]
  我々は,非バイアスの相互理解を実現するために,暗黙の対実的枠組み(ICF)を提案する。 意味論の欠如により、異種表現は誤った一致につながる可能性がある。 モダリティ共有空間を確立するために,ビデオ,セグメント,フレームレベルを含む多粒性暗黙テキスト(MIT)をブリッジとして導入する。
  論文  参考訳（メタデータ） (2025-07-28T11:46:35Z)
• Visual-Semantic Knowledge Conflicts in Operating Rooms: Synthetic Data Curation for Surgical Risk Perception in Multimodal Large Language Models [7.916129615051081]
  拡散モデルにより生成された34,000以上の合成画像からなるデータセットを提案する。 データセットには、バリデーションのためのゴールドスタンダード参照として機能する214の人間アノテーション付きイメージが含まれている。
  論文  参考訳（メタデータ） (2025-06-25T07:06:29Z)
• Causally Steered Diffusion for Automated Video Counterfactual Generation [20.388425452936723]
  本稿では,アウト・オブ・ディストリビューション(OOD)予測問題として定式化された,反ファクトビデオ生成のための因果的忠実なフレームワークを提案する。 我々は、因果グラフに指定された関係をテキストプロンプトにエンコードし、生成プロセスを導くことによって、先行因果知識を組み込む。 この損失は、LDMの潜伏空間において、OODの変動を反ファクトの形で捉え、因果的に有意な代替品に向けて効果的に生成を操る。
  論文  参考訳（メタデータ） (2025-06-17T11:06:22Z)
• Mitigating Hallucination for Large Vision Language Model by Inter-Modality Correlation Calibration Decoding [66.06337890279839]
  大規模視覚言語モデル(LVLM)は、下流のマルチモーダルタスクに対する視覚言語理解において顕著な能力を示している。 LVLMは、複雑な生成タスクにおいて幻覚を生じさせ、視覚入力と生成されたコンテンツの間に矛盾が生じている。 本研究では,LVLMにおける幻覚を無訓練で緩和するIMCCD法を提案する。
  論文  参考訳（メタデータ） (2025-01-03T17:56:28Z)
• Bridging Vision and Language: Modeling Causality and Temporality in Video Narratives [0.0]
  本稿では,Causal-Temporal Reasoning Moduleを最先端のLVLMに統合する拡張フレームワークを提案する。 CTRMはCausal Dynamics(CDE)とTemporal Learner(TRL)の2つの重要なコンポーネントから構成される。 大規模ビデオテキストデータセットの事前学習を併用して,モデル最適化のための多段階学習戦略を設計する。
  論文  参考訳（メタデータ） (2024-12-14T07:28:38Z)
• VANE-Bench: Video Anomaly Evaluation Benchmark for Conversational LMMs [64.60035916955837]
  VANE-Benchはビデオの異常や矛盾を検出するためのビデオLMMの熟練度を評価するために設計されたベンチマークである。 我々のデータセットは、既存の最先端のテキスト・ビデオ生成モデルを用いて合成された一連のビデオから構成される。 我々は、このベンチマークタスクにおいて、オープンソースとクローズドソースの両方で既存の9つのビデオLMMを評価し、ほとんどのモデルが微妙な異常を効果的に識別するのに困難に直面することを発見した。
  論文  参考訳（メタデータ） (2024-06-14T17:59:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。