論文の概要: Vision--Language Signals in Constrained RL: Safety Gains Without Anticipation

• arxiv url: http://arxiv.org/abs/2609.34041v1
• Date: Mon, 28 Sep 2026 00:07:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-04 07:34:37.383178
• Title: Vision--Language Signals in Constrained RL: Safety Gains Without Anticipation
• Title（参考訳）: 制約付きRLにおける視覚-言語信号:予測なしでの安全性向上
• Abstract要約: VLM-Safe-RLは凍ったCLIP信号をPPO-Lagrangianに統合するフレームワークである。 フォーミュラ1-L2分析では、CLIP信号が衝突を予想する証拠は見つからない。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Safe reinforcement learning seeks policies that maximise task performance while satisfying safety constraints. In driving benchmarks, however, collision costs typically appear only at the time of collision, providing no advance warning of an approaching hazard. Frozen vision--language models can provide dense semantic feedback, yet it remains unclear whether their scores anticipate collisions and which component drives an observed safety improvement. Episodic cost can also favour policies that make little task progress. To address these gaps, we propose VLM-Safe-RL, a framework that integrates frozen CLIP signals into PPO-Lagrangian through reward shaping and an augmented multiplier update. On MetaDrive Hard, which combines the densest traffic with the largest map, the catastrophe rate falls from 31.6\% to 19.4\%. FormulaOne-L2 analysis finds no evidence that the CLIP signals anticipate collisions and shows that the VLM term has a negligible effect on the Lagrange multiplier. These findings show a conditional reduction in observed catastrophe rate without evidence of collision anticipation.
• Abstract（参考訳）: 安全強化学習は、安全制約を満たしながらタスクパフォーマンスを最大化する政策を求める。 しかし、運転ベンチマークでは、衝突時の衝突コストは通常衝突時にのみ現れ、接近する危険の事前警告を与えない。 凍結視覚-言語モデルは、密集したセマンティックフィードバックを提供することができるが、それらのスコアが衝突を予測し、どのコンポーネントが観察された安全改善を駆動するかは定かではない。 エピソードコストは、ほとんどタスクを進行させる政策も好む。 これらのギャップに対処するため,冷凍CLIP信号をPPO-ラグランジアンに組み込むフレームワークであるVLM-Safe-RLを提案する。 最も密集した交通量と最大の地図を組み合わせたMetaDrive Hardでは、カタストロフィ率は31.6\%から19.4\%に低下する。 フォーミュラ1-L2分析では、CLIP信号が衝突を予想する証拠は見つからず、VLM項がラグランジュ乗算器に無視できる効果を示す。 以上の結果より,衝突予知の証拠が得られず,観測された破滅率の低下が認められた。

関連論文リスト

• NavSafe-$\infty$: Benchmarking Closed-Loop Driving Safety in Photorealistic Environments [34.0844509883154]
  Open-loop (OL) の運転ポリシーは Open-loop (OL) ベンチマークで急速に進展している。 28種類のイベントにまたがる280のシナリオのクローズドループ(CL)ベンチマークであるNavSafe-$infty$を紹介します。 OLゲインがCLセーフティに確実に移行しないことが判明した。
  論文  参考訳（メタデータ） (2026-09-22T15:51:07Z)
• Attributing and Exploiting Safety Vectors through Global Optimization in Large Language Models [50.91504059485288]
  本報告では,全頭部のグローバルな最適化により,安全クリティカルな注意点を同時に識別するフレームワークを提案する。 我々は,アクティベーション・リマッチによって同定された安全ベクトルを利用する,新しい推論時ホワイトボックス・ジェイルブレイク法を開発した。
  論文  参考訳（メタデータ） (2026-01-22T09:32:43Z)
• SafeR-CLIP: Mitigating NSFW Content in Vision-Language Models While Preserving Pre-Trained Knowledge [51.634837361795434]
  SaFeR-CLIPは安全性と性能を調整し、以前の方法に比べて最大8.0%のゼロショット精度を回復する。 NSFW-Capsは、分散シフト下での安全性をテストするために、1000の高度に整合したペアの新しいベンチマークである。
  論文  参考訳（メタデータ） (2025-11-20T19:00:15Z)
• Towards Reliable and Interpretable Traffic Crash Pattern Prediction and Safety Interventions Using Customized Large Language Models [14.53510262691888]
  TrafficSafeは、テキストレベルの推論として、再フレームのクラッシュ予測と機能属性に適応するフレームワークである。 飲酒運転が深刻な事故の要因となっている。 TrafficSafeは、戦略的クラッシュデータ収集の改善を導くモデルトレーニングにおいて、重要な機能を強調している。
  論文  参考訳（メタデータ） (2025-05-18T21:02:30Z)
• Balancing Progress and Safety: A Novel Risk-Aware Objective for RL in Autonomous Driving [10.950036191948605]
  強化学習(Reinforcement Learning, RL)は、堅牢な意思決定能力によって自律運転を実現するための有望なアプローチである。 本稿では,2次元楕円形関数に基づく各種駆動相互作用に対するリスク認識手法を提案する。 交通密度の異なる無署名の交差点シナリオにおいて,提案した報奨の有効性を評価する。
  論文  参考訳（メタデータ） (2025-05-10T19:05:03Z)
• SCANS: Mitigating the Exaggerated Safety for LLMs via Safety-Conscious Activation Steering [56.92068213969036]
  悪意のある命令から脅威を守るために、LLM(Large Language Models)には安全アライメントが不可欠である。 近年の研究では、過大な安全性の問題により、安全性に配慮したLCMは、良質な問い合わせを拒否する傾向にあることが明らかになっている。 過大な安全性の懸念を和らげるために,SCANS法を提案する。
  論文  参考訳（メタデータ） (2024-08-21T10:01:34Z)
• Cognitive Accident Prediction in Driving Scenes: A Multimodality Benchmark [77.54411007883962]
  本研究では,視覚的観察と運転者の注意に対する人為的な文章記述の認識を効果的に活用し,モデルトレーニングを容易にする認知事故予測手法を提案する。 CAPは、注意テキスト〜ビジョンシフト融合モジュール、注意シーンコンテキスト転送モジュール、運転注意誘導事故予測モジュールによって構成される。 我々は,1,727件の事故ビデオと219万フレーム以上の大規模ベンチマークを構築した。
  論文  参考訳（メタデータ） (2022-12-19T11:43:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。