論文の概要: Omni-UBench: Benchmarking Omni-Modal LLM-based Guardrails Across Safety, Utility, and Reliability

• arxiv url: http://arxiv.org/abs/2610.31713v1
• Date: Thu, 22 Oct 2026 04:20:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 01:38:06.250005
• Title: Omni-UBench: Benchmarking Omni-Modal LLM-based Guardrails Across Safety, Utility, and Reliability
• Title（参考訳）: Omni-UBench:Omni-Modal LLMベースのガードレールの安全性、実用性、信頼性のベンチマーク
• Abstract要約: 我々はOmni-UBenchについて紹介する。Omni-UBenchは、Omni-modal safety Assessmentの最初の包括的なフレームワークである。 Omni-UBenchによる15のOLLMとOmni-modalガードレールのベンチマークは、いくつかの重要な発見をもたらす。
• 参考スコア（独自算出の注目度）: 43.501640857596136
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Advances in Omni-modal Large Language Models (OLLMs) have enabled increasingly seamless human-AI interaction, but their unified processing of heterogeneous modalities also expands the attack surface, allowing adversaries to exploit richer input compositions to circumvent safety alignment. To counter such risks, omni-modal guardrails have been proposed to detect and filter unsafe queries across arbitrary modalities. However, their capabilities and limitations remain insufficiently understood due to the absence of a comprehensive evaluation benchmark. In this paper, we present Omni-UBench, the first comprehensive framework for omni-modal safety assessment, evaluating guardrail models along three critical dimensions, i.e., safety, utility, and reliability. Omni-UBench curates over 183k samples drawn from 35+ heterogeneous sources spanning text, image, audio, video, and their cross-modal combinations, annotated with safety labels under a unified risk taxonomy. Benchmarking under Omni-UBench on 15 representative OLLMs and omni-modal guardrails yields several key findings, including: (1) modern OLLMs exhibit strong content moderation potential even without guardrail-specific tuning; (2) existing guardrails still struggle to identify cross-modal queries that conceal harmful intent or involve sophisticated jailbreaks; (3) they further exhibit substantial safety hallucination and over-sensitivity to textual patterns, revealing a deficient understanding of cross-modal safety semantics. Our findings provide valuable insights for developing more trustworthy omni-modal guardrails in future research.
• Abstract（参考訳）: Omni-Modal Large Language Models (OLLM) の進歩により、ますますシームレスな人間とAIの相互作用が可能になったが、不均一なモダリティの統一処理により攻撃面も拡張され、敵はよりリッチな入力合成を利用して安全アライメントを回避することができる。 このようなリスクに対処するため、任意のモダリティをまたいだ安全でないクエリを検出・フィルタリングするオムニモードガードレールが提案されている。 しかし、包括的な評価ベンチマークがないため、それらの能力と限界は十分に理解されていない。 本稿では,Omni-UBenchについて紹介する。Omni-UBenchはオムニモダル安全性評価のための最初の総合的なフレームワークであり,安全,実用,信頼性の3つの重要な側面に沿ったガードレールモデルの評価を行う。 Omni-UBenchは、テキスト、画像、オーディオ、ビデオ、およびそれらのクロスモーダルの組み合わせにまたがる35以上の異種ソースから抽出された183k以上のサンプルを、統一されたリスク分類の下で安全ラベルに注釈付けする。 Omni-UBenchによる15の代表的なOLLMとOmni-modalガードレールのベンチマークでは、(1)現代のOLLMはガードレール固有のチューニングなしでも強いコンテンツモデレーションの可能性を示し、(2)既存のガードレールは有害な意図や高度なジェイルブレイクを隠蔽するクロスモーダルクエリの識別に苦慮している。 今後の研究において,より信頼性の高いオムニモダルガードレールの開発に有用な知見を提供する。

関連論文リスト

• Harnessing Textual Refusal Directions for Multimodal Safety [70.16764304975675]
  マルチモーダルセーフティデータを必要とせずにマルチモーダルセーフティを注入する軽量なトレーニングフリーアプローチであるModality-Agnostic Refusal Steering (MARS)を導入する。 MARSは、アクティベーションリセンタによるモダリティの不整合を補正し、幾何的に定義された信頼領域内でステアリング強度を適応的にスケーリングし、最適な介入層を選択する。
  論文  参考訳（メタデータ） (2026-06-30T15:57:50Z)
• MCBench: A Multicontext Safety Assessment Benchmark for Omni Large Language Models [47.43519512313406]
  既存のマルチモーダル安全ベンチマークは視覚入力のみに焦点を当てており、視覚、音声、テキストを処理するOmni Large Language Models (LLM)を評価することはできない。 MCBenchは4つの安全カテゴリにまたがる1196のシナリオを持つベンチマークで、正確な安全性評価のために複数のモダリティを統合する必要がある。
  論文  参考訳（メタデータ） (2026-04-17T12:31:17Z)
• Omni-Safety under Cross-Modality Conflict: Vulnerabilities, Dynamics Mechanisms and Efficient Alignment [18.100656799320777]
  Omni-modal Large Language Models (OLLM) の脆弱性について検討する。 我々は介入強度を適応的に変調するOmniSteerを提案する。 実験により,本手法はすべてのモダリティにまたがる汎用性を効果的に維持できることが示されている。
  論文  参考訳（メタデータ） (2026-02-10T06:04:08Z)
• OmniGuard: Unified Omni-Modal Guardrails with Deliberate Reasoning [25.190494543355047]
  オムニガード(OmniGuard, OmniGuard)は、すべてのモダリティに対して、意図的な推論能力で保護を行うオムニガード(OmniGuard)のファミリーである。 OmniGuardのトレーニングを支援するため、210万以上の多様なサンプルからなる大規模で総合的なオムニモーダル安全データセットをキュレートする。 15のベンチマークでの実験では、OmniGuardは幅広いマルチモーダル安全性シナリオにおいて、強力な有効性と一般化を実現している。
  論文  参考訳（メタデータ） (2025-12-02T01:01:44Z)
• Omni-SafetyBench: A Benchmark for Safety Evaluation of Audio-Visual Large Language Models [43.88239953205896]
  Omni-SafetyBenchは、OLLMの安全性評価のための最初の総合的な並列ベンチマークである。 複雑なオムニモーダル入力によるOLLMの理解課題を考慮し,条件付き攻撃成功率(C-ASR)と拒絶率(C-RR)に基づく安全スコアを提案する。 Omni-SafetyBenchを用いて、既存の安全アライメントアルゴリズムを評価し、OLLMの安全性アライメントにおける重要な課題を特定した。
  論文  参考訳（メタデータ） (2025-08-10T04:15:16Z)
• Can't See the Forest for the Trees: Benchmarking Multimodal Safety Awareness for Multimodal LLMs [56.440345471966666]
  MLLM(Multimodal Large Language Models)は、テキストと画像の両方を通して対話を可能にすることで、従来の言語モデルの能力を拡大した。 MMSafeAwareは,安全シナリオ29のMLLMを評価するために設計された,初の総合的マルチモーダル安全意識ベンチマークである。 MMSafeAwareには安全でないサブセットと安全でないサブセットの両方が含まれており、安全でないコンテンツを正しく識別するモデルの評価と、有用性を阻害する過敏性を回避することができる。
  論文  参考訳（メタデータ） (2025-02-16T16:12:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。