論文の概要: From Sports to Safety: Benchmarking Proactive Risk Inference in MLLMs
- arxiv url: http://arxiv.org/abs/2608.05560v1
- Date: Thu, 06 Aug 2026 03:25:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-07 17:43:06.695291
- Title: From Sports to Safety: Benchmarking Proactive Risk Inference in MLLMs
- Title（参考訳）: スポーツから安全へ:MLLMにおける積極的なリスク推論のベンチマーク
- Abstract要約: SPRINT (Sports Proactive Risk Inference Testbed) は、14のスポーツと3つの環境設定にまたがる2,888の現実世界のスポーツビデオ(2,440の事故、448の安全制御)のベンチマークである。
事故ビデオには、早期の危険状況、事故のタイミング、階層的な原因の微妙なアノテーションがあり、安全なビデオは事故のないものとして手動で検証され、即発の誤報を診断するのに役立つ。
- 参考スコア（独自算出の注目度）: 11.582231928519754
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Timely anticipation of physical hazards is essential for real-world safety, yet existing MLLM evaluations focus on harmful content or general risks, leaving proactive physical hazard prediction underexplored. Sports provide a well-suited testbed: accident causes span diverse injury dimensions and pre-accident spatiotemporal cues draw on reasoning capabilities shared with broader safety domains such as autonomous driving and fall detection. We introduce SPRINT (Sports Proactive Risk INference Testbed), a benchmark of 2,888 real-world sports videos (2,440 accident, 448 safe controls) spanning 14 sports and 3 environmental settings. Accident videos feature fine-grained annotations of early hazard cues, accident timing, and hierarchical causes; safe videos are manually verified as accident-free and serve to diagnose prompt-induced false alarms. Evaluating state-of-the-art MLLMs under diverse prompts and temporal windows reveals a sharp gap between hazard sensitivity and understanding: the best model exceeds 95% in signaling hazards yet falls below 50% in identifying their causes. Diagnostic experiments further show that explicit danger queries trigger severe false alarms even on hazard-free videos. These findings indicate that current MLLMs exhibit only superficial proactive safety, lacking stable, cause-grounded early warning, and underscore the need for reliable proactive safety in dynamic physical environments. Data and code will be open-sourced upon acceptance.
- Abstract（参考訳）: 物理的ハザードのタイムリーな予測は、現実世界の安全には不可欠であるが、既存のMLLM評価は有害な内容や一般的なリスクに焦点をあてており、予防的な物理的ハザード予測は未調査のままである。
事故原因は多様な損傷の次元に及び、事故前の時空間的手がかりは、自律運転や転倒検出といったより広範な安全領域と共有される推論能力に基づいて引き起こされる。
SPRINT(Sports Proactive Risk Inference Testbed)は、14のスポーツと3つの環境設定にまたがる2,888のリアルワールドスポーツビデオ(2,440件の事故、448件の安全制御)のベンチマークである。
事故ビデオには、早期の危険状況、事故のタイミング、階層的な原因の微妙なアノテーションがあり、安全なビデオは事故のないものとして手動で検証され、即発の誤報を診断するのに役立つ。
さまざまなプロンプトや時間的窓の下で最先端のMLLMを評価することで、ハザード感度と理解の間の明確なギャップが明らかになる。
診断実験では、危険なクエリが危険のないビデオでも深刻な誤報を引き起こすことが示されている。
これらの結果から,現在のMLLMは表面的活動的安全性のみを示し,安定した早期警戒が欠如しており,動的物理的環境における信頼性の高い活動的安全の必要性を浮き彫りにしている。
データとコードは受け入れ次第オープンソースになる。
関連論文リスト
- Hazard or Anomaly? Evaluating VLMs for Understanding Dangers and Discrepancies [3.227001704699474]
視覚言語モデル(VLM)は複雑なシーンを解釈し、安全関連情報を伝える。
現在の評価では、しばしば二項決定(セーフ/アンセーフ)として危険認識を行う。
危険状態と異常状態とを明確に区別し,危険状態と異常状態とを別々に認識する。
論文 参考訳（メタデータ） (2026-07-18T02:24:06Z) - EgoSafetyBench: A Diagnostic Egocentric Video Benchmark for Evaluating Embodied VLMs as Runtime Safety Guards [4.6400797556929545]
視覚言語モデル (VLM) は、住宅や工場で実施するエージェントの安全ガードとして提案されている。
我々はEgoSafetyBenchを紹介した。EgoSafetyBenchは、1200のロボットビューシナリオを半秒の粒度でアノテートしたエゴセントリックなビデオベンチマークである。
警備員は、危険を含むビデオを確実に認識する一方で、特定の危険瞬間を見逃すことがよくあります。
論文 参考訳（メタデータ） (2026-06-30T21:50:49Z) - PaSBench-Video: A Streaming Video Benchmark for Proactive Safety Warning [54.70033525672316]
ビデオ対応の大型言語モデル(MLLM)は、このウィンドウ内で警告を発する常時オンの安全モニタとして機能する。
今回紹介するPaSBench-Videoは、481のリスクと4つのドメインにわたる259のリスクビデオを備えた740のビデオベンチマークだ。
最も厳密な基準ではモデルが20.0%を超えることはなく、リコールは偽陽性率と強く結びついている。
論文 参考訳（メタデータ） (2026-06-01T16:14:01Z) - SafetyALFRED: Evaluating Safety-Conscious Planning of Multimodal Large Language Models [46.968844120076916]
実装エージェントベンチマークALFRED上に構築されたSafetyALFREDを紹介し,実際のキッチンハザードの6つのカテゴリを拡張した。
我々は,リスク認識だけでなく,具体的計画によるアクティブなリスク軽減についても,11種類の最先端モデルを評価した。
論文 参考訳（メタデータ） (2026-04-21T16:27:20Z) - The Missing Half: Unveiling Training-time Implicit Safety Risks Beyond Deployment [148.80266237240713]
暗黙のトレーニング時間安全リスクは、モデルの内部インセンティブとコンテキスト背景情報によって引き起こされる。
5つのリスクレベル、10つのきめ細かいリスクカテゴリ、3つのインセンティブを持つ分類を導入した。
我々の結果は、過度に見過ごされているが、訓練における緊急の安全上の課題を特定します。
論文 参考訳（メタデータ） (2026-02-04T04:23:58Z) - When Helpers Become Hazards: A Benchmark for Analyzing Multimodal LLM-Powered Safety in Daily Life [36.244977974241245]
本研究では,マルチモーダル大規模言語モデル(MLLM)が日常生活における人間の行動に与える影響を調査・評価する。
実世界の画像テキストサンプル2,013点を含むマルチモーダル安全ベンチマークSaLADを紹介する。
18のMLLMの結果、最高性能のモデルは安全でないクエリで57.2%しか応答しないことがわかった。
論文 参考訳（メタデータ） (2026-01-07T15:59:07Z) - RiskCueBench: Benchmarking Anticipatory Reasoning from Early Risk Cues in Video-Language Models [4.858738694604317]
我々は、リスク信号クリップを特定するためにビデオに慎重に注釈を付ける、新しいビデオ理解ベンチマークであるR RiskCueBenchを紹介した。
実験結果によると、現在のシステムでは、進化する状況を解釈し、早期視覚信号から将来の危険事象を予測できる能力に大きなギャップがあることが判明した。
論文 参考訳（メタデータ） (2026-01-06T19:14:49Z) - RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。
しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。
提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
論文 参考訳（メタデータ） (2025-12-24T15:01:26Z) - Video-SafetyBench: A Benchmark for Safety Evaluation of Video LVLMs [45.265397990158846]
Video-SafetyBenchは、ビデオテキスト攻撃下でのLVLMの安全性を評価するために設計された最初のベンチマークである。
ビデオテキストのペアは2,264で、48のきめ細かいアンセーフなカテゴリにまたがっている。
安全性評価のためのセマンティックなビデオを生成するために,ビデオ意味論を主題画像とモーションテキストに分解する制御可能なパイプラインを設計する。
論文 参考訳（メタデータ） (2025-05-17T05:06:38Z) - SafeMLRM: Demystifying Safety in Multi-modal Large Reasoning Models [50.34706204154244]
推論能力の獲得は、引き継がれた安全アライメントを壊滅的に劣化させる。
特定のシナリオは、25倍の攻撃率を被る。
MLRMは、厳密な推論と問合せの安全結合にもかかわらず、初期段階の自己補正を示す。
論文 参考訳（メタデータ） (2025-04-09T06:53:23Z) - LLMs know their vulnerabilities: Uncover Safety Gaps through Natural Distribution Shifts [88.96201324719205]
大規模言語モデル(LLM)の安全性に関する懸念は、事前訓練中に潜在的に有害なデータに曝されることにより、大きな注目を集めている。
我々は、有害なコンテンツに意味的に関連していると思われる良心的なプロンプトが、安全性のメカニズムを回避できる新しい安全性脆弱性をLSMで特定する。
我々は,事前学習における有害なプロンプトに関連するアクターを識別する新しい攻撃手法,textitActorBreakerを導入する。
論文 参考訳（メタデータ） (2024-10-14T16:41:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。