論文の概要: It Is Not Seeing the Hazard: A Frozen Vision-Language Safety Score Measures Its Caption Bank

• arxiv url: http://arxiv.org/abs/2610.09517v1
• Date: Wed, 07 Oct 2026 06:15:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 21:58:22.748454
• Title: It Is Not Seeing the Hazard: A Frozen Vision-Language Safety Score Measures Its Caption Bank
• Title（参考訳）: 凍結したビジョンランゲージの安全スコアが銀行の監禁を測る「危険」は見当たらない
• Abstract要約: VLMベースの手法は、画像テキストの類似性を報酬、コスト、信頼性重みに変換することにより、運転と安全RLベンチマークの上昇を報告している。 凍結したCLIPプロンプトマージン安全スコアの制御評価を行った。 このスコアを、それを受けないポリシーによって生成されたトラジェクトリに適用し、接触のない観察と接触のない観察を同等の危険幾何学で一致させ、キャプション、エンコーダ、カメラビューを変化させる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Frozen vision-language models increasingly provide safety signals for reinforcement learning. Their use assumes that similarity to language describing danger indicates the hazard itself. Yet policy return and collision rate cannot reveal whether a score detects hazards or responds to correlated features of the scene. VLM-based methods have reported gains in driving and safe-RL benchmarks by converting image-text similarity into rewards, costs, or confidence weights. Such signals promise to reduce reliance on manually designed feedback. They may also reflect prompt structure, embedding geometry, or camera viewpoint, leaving their safety meaning unverified. To address this gap, we present a controlled evaluation of a frozen CLIP prompt-margin safety score. We apply the score to trajectories generated by policies that never receive it, match pre-contact observations to contact-free observations with comparable hazard geometry, and vary the captions, encoder, and camera view. Across three policies, 180 episodes, and 130 isolated contact onsets, the score decreases for about twenty steps before contact. Mechanism controls indicate that the score mainly tracks resemblance to the scene shared by its captions and changes with caption separation and camera view. A constant-confidence control retains the lower catastrophe-rate point estimate, so policy gains do not establish hazard perception.
• Abstract（参考訳）: 凍結した視覚言語モデルは、強化学習のための安全信号を提供するようになっている。 彼らの使用は、危険を示す言語との類似性は危険そのものを示すと仮定している。 しかし、政策の回帰と衝突率は、スコアが危険を検知するか、シーンの関連した特徴に反応するかを明らかにすることはできない。 VLMベースの手法は、画像テキストの類似性を報酬、コスト、信頼性重みに変換することにより、運転と安全RLベンチマークの上昇を報告している。 このような信号は手動で設計したフィードバックへの依存を減らすことを約束する。 それらはまた、迅速な構造、埋め込み幾何学、カメラの視点を反映し、その安全性は検証されていない。 このギャップに対処するため,凍結したCLIPプロンプトマージン安全スコアの制御評価を行った。 このスコアを、それを受けないポリシーによって生成されたトラジェクトリに適用し、接触のない観察と接触のない観察を同等の危険幾何学で一致させ、キャプション、エンコーダ、カメラビューを変化させる。 3つのポリシー、180のエピソード、130の孤立したコンタクトオンセットにまたがって、スコアは接触前に約20ステップ低下する。 メカニズムコントロールは、スコアが主にキャプションによって共有されるシーンと類似性を追跡し、キャプション分離とカメラビューで変化することを示している。 一定の信頼度制御は、低いカタストロフィ・レートの点推定を保持するため、政策ゲインはハザード認識を確立しない。

関連論文リスト

• Beyond Retrieval Relevance: Scene-Grounded Risk Entailment for Vision-Language Driving [26.038736766426894]
  このような知識を受信する視覚言語モデル(VLM)は、オブジェクトを接地し、時間にわたってエンティティをバインドし、どのように振る舞うかを決定する前に関係を検証する必要がある。 VLM決定の前に、DRKG(Driving-Risk Knowledge Graph)とSWRL(Semantic Web Rule Language)による応用可能性のギャップに対処する。
  論文  参考訳（メタデータ） (2026-09-28T02:26:15Z)
• Vision--Language Signals in Constrained RL: Safety Gains Without Anticipation [0.0]
  VLM-Safe-RLは凍ったCLIP信号をPPO-Lagrangianに統合するフレームワークである。 フォーミュラ1-L2分析では、CLIP信号が衝突を予想する証拠は見つからない。
  論文  参考訳（メタデータ） (2026-09-28T00:07:53Z)
• The Inattentional Gap: Task-Conditioned Language and Vision Models Omit the Safety-Critical Signals They Can Otherwise Report [0.0]
  狭義のタスクで言語や視覚モデルを条件付けると、それ以外は報告できる共表現、安全クリティカルな信号の報告が抑制されることを示す。 我々はこの解離を意図的ギャップ(Inattentional Gap)と呼び、ベンチマークの安全性を現実世界の安全性から切り離すと主張している。
  論文  参考訳（メタデータ） (2026-06-25T02:09:08Z)
• SAVeS: Steering Safety Judgments in Vision-Language Models via Semantic Cues [50.928203120795786]
  本研究では,視覚言語モデルにおけるマルチモーダル安全性の挙動を,単純な意味的手がかりによって評価できるかどうかを考察する。 シーン内容を変更することなく、テキスト、視覚、認知の介入を制御できるセマンティック・ステアリング・フレームワークを導入する。
  論文  参考訳（メタデータ） (2026-03-19T16:18:00Z)
• Think-Reflect-Revise: A Policy-Guided Reflective Framework for Safety Alignment in Large Vision Language Models [58.17589701432514]
  Think-Reflect-Revise (TRR)は、LVLM(Large Vision Language Models)の安全性向上を目的としたトレーニングフレームワークである。 まず、リフレクティブセーフティ推論(ReSafe)データセットを5000の例で構築し、シンク・リフレクティブ・リフレクティブ・プロセスに従っています。 次に、ReSafeデータセットを用いてターゲットモデルを微調整し、反射行動の初期化を行い、最後に強化学習を通じてポリシー誘導反射を強化する。
  論文  参考訳（メタデータ） (2025-12-08T03:46:03Z)
• Safety Mirage: How Spurious Correlations Undermine VLM Safety Fine-Tuning and Can Be Mitigated by Machine Unlearning [43.209846711845536]
  現在のアライメント戦略は、キュレートされたデータセットによる監視された安全性の微調整に依存している。 教師付き微調整は,表面テクスチャパターンと安全応答の急激な相関を必然的に強化することを示す。 マシン・アンラーニング(MU)は、教師付き安全微調整の強力な代替手段であることを示す。
  論文  参考訳（メタデータ） (2025-03-14T19:52:08Z)
• Safety Margins for Reinforcement Learning [53.10194953873209]
  安全マージンを生成するためにプロキシ臨界度メトリクスをどのように活用するかを示す。 Atari 環境での APE-X と A3C からの学習方針に対するアプローチを評価する。
  論文  参考訳（メタデータ） (2023-07-25T16:49:54Z)
• Cognitive Accident Prediction in Driving Scenes: A Multimodality Benchmark [77.54411007883962]
  本研究では,視覚的観察と運転者の注意に対する人為的な文章記述の認識を効果的に活用し,モデルトレーニングを容易にする認知事故予測手法を提案する。 CAPは、注意テキスト〜ビジョンシフト融合モジュール、注意シーンコンテキスト転送モジュール、運転注意誘導事故予測モジュールによって構成される。 我々は,1,727件の事故ビデオと219万フレーム以上の大規模ベンチマークを構築した。
  論文  参考訳（メタデータ） (2022-12-19T11:43:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。