論文の概要: Multi2AV-Safety: Benchmarking Safety in Multimodal-to-Audio-Video Generation

• arxiv url: http://arxiv.org/abs/2608.26535v1
• Date: Thu, 27 Aug 2026 02:12:25 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-28 16:30:58.216154
• Title: Multi2AV-Safety: Benchmarking Safety in Multimodal-to-Audio-Video Generation
• Title（参考訳）: Multi2AV-Safety:マルチモーダル・ツー・オーディオビデオ生成におけるベンチマーク安全性
• Abstract要約: Multi2AV-Safetyは、オーディオビデオ生成のための11の非シングルトンT/I/A/Vコンディショニング構成をカバーした最初の安全ベンチマークである。 攻撃機構と害証拠構造にまたがる代表的マルチモーダル安全ガードの系統的弱点を明らかにする。 その結果,マルチモーダル・コンディショニング・オーディオビデオ生成における機能ギャップとして,共生的リスク認識が認識されることがわかった。
• 参考スコア（独自算出の注目度）: 48.255342872647766
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Audio-video generation is rapidly moving from prompt-driven synthesis toward multimodal conditioning, where text, images, audio, and video can jointly shape the generated output. This shift changes the nature of safety evaluation: harmful intent may no longer reside in any single input, but instead emerge from how otherwise benign or weakly harmful conditions interact across modalities and time. Existing safety benchmarks, however, remain largely prompt-centric or tied to fixed conditioning interfaces, leaving such compositional risks difficult to study systematically. To bridge this gap, we introduce Multi2AV-Safety, the first safety benchmark, to the best of our knowledge, to cover all 11 non-singleton T/I/A/V conditioning configurations for audio-video generation, comprising 11,024 attack instances. Evaluation on Multi2AV-Safety reveals systematic weaknesses in representative multimodal safety guards across attack mechanisms and harm-evidence structures. Our evaluation reveals two complementary failure modes: harmful semantics can emerge from the combination of individually benign inputs, while explicit harmful cues can become harder to detect when mixed with benign multimodal context. Together, these results identify \emph{compositional risk perception} as a central capability gap in safeguarding multimodal-conditioned audio-video generation: current safety guards fail to reliably integrate safety evidence across modalities and time, even when all conditioning inputs are observable. The dataset will be publicly released in October 2026.
• Abstract（参考訳）: 音声-ビデオ生成は、プロンプト駆動の合成から、テキスト、画像、オーディオ、ビデオが生成した出力を共同で形作るマルチモーダルコンディショニングへと急速に移行している。 有害な意図はもはやどの入力にも存在せず、その代わりに、過度に有害な条件がモダリティや時間にわたってどのように相互作用するかから生まれる。 しかし、既存の安全ベンチマークは、主に急進的、あるいは固定された条件付けインタフェースに結びついており、そのような構成上のリスクを体系的に研究することは困難である。 このギャップを埋めるため,11,024個の攻撃インスタンスを含む,11個の非シングルトンT/I/A/Vコンディショニング構成を網羅する,最初の安全ベンチマークであるMulti2AV-Safetyを導入する。 Multi2AV-Safetyの評価は、攻撃機構と害証拠構造にまたがる代表的マルチモーダル安全ガードの系統的弱点を明らかにする。 有害なセマンティクスは個々の良質な入力の組み合わせから発生しうるが、明示的な有害な手がかりは良質なマルチモーダルコンテキストと混在すると検出しにくくなる。 これらの結果から,既存の安全ガードは,すべての条件入力が観測可能である場合でも,モダリティや時間にわたって安全証拠を確実に統合することができず,マルチモーダル条件のオーディオビデオ生成を保護するための中心的能力ギャップとして,‘emph{compositional risk perception}’を同定した。 データセットは2026年10月に公開される予定だ。

関連論文リスト

• The Price of Consistency: Exploiting Visual Anchors for Multimodal Jailbreaking in Video Generation [83.99528259002504]
  このメカニズムにより、生成したコンテンツが元の有害な意図から遠ざかることを防ぐことができる。 本稿では、この脆弱性を利用したビデオ生成のためのトレーニング不要なマルチモーダルジェイルブレイクフレームワークである、Visual Anchors (DIVA)によるDecoupling Intentを提案する。 今後の研究を容易にするため,マルチ条件ビデオ生成のための最初の安全ベンチマークであるTI2SafetyBenchを寄贈する。
  論文  参考訳（メタデータ） (2026-09-07T08:34:00Z)
• When Seeing Overrides Knowing: Visual Dominance and Deferral-Based Method for Personalized Safety in VLMs [54.95635713318535]
  視覚言語モデル(VLM)は、一般的に妥当な応答が特定のユーザにとって安全でない場合、ハイテイクな設定でデプロイされることが多い。 マルチモーダルシステムにおけるパーソナライズされた安全性の問題について検討し,MPS-Benchを紹介した。 我々は、ほとんど常に(86-99%)直接応答し、コンテキストの欠如を求めるのではなく、パーソナライズされた安全性において2.6/5を超えないことを発見した。 このメカニズムにより、双方向の相互変調を用いてクエリがいつ要求されるかを予測する軽量な入力モニタであるPRISMを提案する。
  論文  参考訳（メタデータ） (2026-09-03T03:58:56Z)
• Unified Safe In-context Image Generation in Multimodal Diffusion Transformers via Restricting Unsafe Information Flows [20.386952794426833]
  Unified Visual Safety Regulator (UVR)は、トレーニング不要の安全生成フレームワークで、生成した画像の安全でないセマンティクスを規制する。 UVRは、統一された注意調整と有害な情報の流れの明示的な制限を通じて、安全でない生成を緩和する。 UVRは画像合成および編集作業において91%と77%の消去率を達成することにより、最先端の安全性能を達成する。
  論文  参考訳（メタデータ） (2026-06-05T03:43:04Z)
• Robust Multimodal Safety via Conditional Decoding [52.92816441364308]
  マルチモーダル大規模言語モデル(MLLM)は、有害なクエリが相互モーダル相互作用を悪用した場合、しばしば安全性の低下を経験する。 本稿では,MLLMの内部表現を利用して応答生成前の二項安全トークンを予測する,シンプルな条件付きデコード戦略であるCASAを提案する。
  論文  参考訳（メタデータ） (2026-03-31T23:19:50Z)
• Evolving Contextual Safety in Multi-Modal Large Language Models via Inference-Time Self-Reflective Memory [10.434155461003387]
  本稿では,コンテキスト安全評価のためのベンチマークであるMM-SafetyBench++を提案する。 各安全でない画像テキストペアに対して、最小限の変更で対応する安全なペアを構築する。 トレーニング不要のフレームワークであるEchoSafeも導入しています。
  論文  参考訳（メタデータ） (2026-03-16T18:32:26Z)
• ConceptGuard: Proactive Safety in Text-and-Image-to-Video Generation through Multimodal Risk Detection [27.47621607462884]
  ConceptGuardは、マルチモーダルビデオ生成において、安全でないセマンティクスを積極的に検出し緩和するフレームワークである。 コントラスト検出モジュールは、融合画像テキスト入力を構造化概念空間に投影することにより、潜伏する安全リスクを特定する。 意味的抑制機構は、プロンプトのマルチモーダル条件を介在することにより、生成過程を安全でない概念から遠ざける。
  論文  参考訳（メタデータ） (2025-11-24T05:27:05Z)
• HoliSafe: Holistic Safety Benchmarking and Modeling for Vision-Language Model [58.12612140992874]
  我々は、安全で安全でない5つの画像テキストの組み合わせにまたがる、全体的な安全データセットとベンチマークである textbfHoliSafeを紹介した。 また,入力画像の有害性を評価するために,視覚ガードモジュール(VGM)を用いて,VLMの安全性を高めるための新しいモジュラーフレームワークを提案する。 実験により、HoliSafeでトレーニングされたVGMを使用したSafe-VLMは、複数のVLMベンチマークで最先端の安全性能を実現していることがわかった。
  論文  参考訳（メタデータ） (2025-06-05T07:26:34Z)
• From Evaluation to Defense: Advancing Safety in Video Large Language Models [33.10355085086974]
  textbfVideoSafetyBench (VSB-77k)は,ビデオLLMの安全性に関する大規模かつ文化的に多様なベンチマークである。 ビデオモダリティの統合は安全性を平均42.3%低下させ、マルチモーダル攻撃のシステム的リスクを露呈する。 我々は,2つのイノベーションを通じて,前例のない安全性向上を実現する2段階フレームワークである textbfVideoSafety-R1 を提案する。
  論文  参考訳（メタデータ） (2025-05-22T13:16:53Z)
• Video-SafetyBench: A Benchmark for Safety Evaluation of Video LVLMs [45.265397990158846]
  Video-SafetyBenchは、ビデオテキスト攻撃下でのLVLMの安全性を評価するために設計された最初のベンチマークである。 ビデオテキストのペアは2,264で、48のきめ細かいアンセーフなカテゴリにまたがっている。 安全性評価のためのセマンティックなビデオを生成するために,ビデオ意味論を主題画像とモーションテキストに分解する制御可能なパイプラインを設計する。
  論文  参考訳（メタデータ） (2025-05-17T05:06:38Z)
• Can't See the Forest for the Trees: Benchmarking Multimodal Safety Awareness for Multimodal LLMs [56.440345471966666]
  MLLM(Multimodal Large Language Models)は、テキストと画像の両方を通して対話を可能にすることで、従来の言語モデルの能力を拡大した。 MMSafeAwareは,安全シナリオ29のMLLMを評価するために設計された,初の総合的マルチモーダル安全意識ベンチマークである。 MMSafeAwareには安全でないサブセットと安全でないサブセットの両方が含まれており、安全でないコンテンツを正しく識別するモデルの評価と、有用性を阻害する過敏性を回避することができる。
  論文  参考訳（メタデータ） (2025-02-16T16:12:40Z)
• Safe Inputs but Unsafe Output: Benchmarking Cross-modality Safety Alignment of Large Vision-Language Model [73.8765529028288]
  我々は、モダリティ間の安全アライメントを評価するために、セーフインプットとアンセーフアウトプット(SIUO)と呼ばれる新しい安全アライメントの課題を導入する。 この問題を実証的に調査するため,我々はSIUOを作成した。SIUOは,自己修復,違法行為,プライバシー侵害など,9つの重要な安全領域を含むクロスモダリティベンチマークである。 以上の結果から, クローズドおよびオープンソース両方のLVLMの安全性上の重大な脆弱性が明らかとなり, 複雑で現実的なシナリオを確実に解釈し, 応答する上で, 現行モデルが不十分であることが示唆された。
  論文  参考訳（メタデータ） (2024-06-21T16:14:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。