論文の概要: Counterfactual Neighborhood Risk Fields: Evidence-Grounded Selective Safety for Vision-Language Models

• arxiv url: http://arxiv.org/abs/2610.20679v1
• Date: Wed, 14 Oct 2026 16:08:14 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-16 19:13:15.978411
• Title: Counterfactual Neighborhood Risk Fields: Evidence-Grounded Selective Safety for Vision-Language Models
• Title（参考訳）: 副次的近隣リスクフィールド:視覚言語モデルにおけるエビデンス回避型選択安全
• Abstract要約: 本稿では,VLMの安全性を実証するフレームワークとして,CNRF(Counterfactual Neborhood Risk Fields)を紹介する。 CNRFは、コンテキストマッチングされた良質な有害な対物対を構築し、リスクとは別個の地区支援を推定する。 CNRFは86.06-89.30%のマクロ防衛成功率を達成し、良質なタスクユーティリティを維持している。
• 参考スコア（独自算出の注目度）: 24.546162515557583
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Representation-based safety defenses for vision-language models (VLMs) often learn to separate harmful from benign inputs, but separation alone does not establish what a risk score means or when it should be trusted. We introduce Counterfactual Neighborhood Risk Fields (CNRF), an evidence-grounded framework for selective VLM safety. CNRF constructs context-matched benign-harmful counterfactual pairs, uses their representation differences as capability-related risk directions, and estimates neighborhood support separately from risk. This separation prevents unfamiliarity from being conflated with harmfulness and enables selective intervention rather than blanket rejection. A victim-adaptive interface accommodates different safety observations across VLM architectures and routes selected requests for same-victim response review, which either releases acceptable candidates or produces constrained alternatives with reduced harmful capability. Across three VLMs and five multimodal jailbreak families, CNRF achieves 86.06-89.30% macro defense success rate while retaining substantial benign-task utility. Controlled experiments further show that query-matched references and preserved context-direction correspondence materially improve risk ranking in the low-false-positive regime. CNRF thus reframes representation-based VLM safety from learning harmfulness boundaries to constructing applicable evidence for selective risk decisions.
• Abstract（参考訳）: 視覚言語モデル(VLM)の表現に基づく安全防衛(Representation-based safety defenses)は、しばしば有害な入力から有害な入力を分離することを学ぶが、分離だけではリスクスコアの意味や信頼すべき時期を定めていない。 本稿では,VLMの安全性を実証するフレームワークとして,CNRF(Counterfactual Neborhood Risk Fields)を紹介する。 CNRFは、コンテキストマッチングされた良識のある対物対を構築し、それらの表現差を能力関連リスク方向として使用し、リスクとは別個の地区支援を推定する。 この分離は、不慣れさが有害性と混同されることを防ぎ、毛布の拒絶よりも選択的介入を可能にする。 被害者適応インタフェースは、VLMアーキテクチャ全体にわたる異なる安全観察に対応し、選択された要求を同じ被害者応答レビューにルーティングする。 3つのVLMと5つのマルチモーダルジェイルブレイクファミリーの中で、CNRFは86.06-89.30%のマクロ防衛成功率を達成し、良質なタスクユーティリティを維持している。 制御された実験は、クエリマッチングされた参照と保存されたコンテキスト指向対応が、低偽陽性体制におけるリスクランキングを大幅に改善することを示す。 これにより、CNRFは、表現に基づくVLMの安全性を有害性境界の学習から、選択的なリスク決定のための適切な証拠を構築するように再構成する。

関連論文リスト

• SRD-GUARD: A Defense Framework of LLMs via Semantic Rewriting and Joint Multi-Model Scoring for Latent Intent Exposure [7.121327089434882]
  SRD-GUARDはパラメータフリーでブラックボックスの防御フレームワークで、セマンティックリライトとコンセンサスに基づくリスクアセスメントを通じて隠された意図を公開する。 Llama-3-8B-UncensoredおよびDeepSeek-V4-Flash上で,UNIATTACK,CIPHER,DeepInceptionに対するSRD-GUARDの評価を行った。
  論文  参考訳（メタデータ） (2026-09-06T11:26:08Z)
• GuardTrace-VL: Detecting Unsafe Multimodel Reasoning via Iterative Safety Supervision [47.99880677909197]
  GuardTrace-VLは、共同画像テキスト分析を通じてQTAパイプライン全体を監視する、視覚対応の安全監査ツールである。 本研究では,データ修正プロセスと組み合わさった3段階のプログレッシブトレーニング手法を提案する。 提案したテストセットでは、ドメイン内シナリオとドメイン外シナリオの両方を対象として、安全でない推論検出タスクにおいて、GuardTrace-VLモデルがF1スコア93.1%を達成した。
  論文  参考訳（メタデータ） (2025-11-26T02:49:51Z)
• RADAR: A Risk-Aware Dynamic Multi-Agent Framework for LLM Safety Evaluation via Role-Specialized Collaboration [81.38705556267917]
  大規模言語モデル(LLM)の既存の安全性評価手法は、固有の制約に悩まされている。 リスク概念空間を再構築する理論的枠組みを導入する。 マルチエージェント協調評価フレームワークRADARを提案する。
  論文  参考訳（メタデータ） (2025-09-28T09:35:32Z)
• Understanding and Mitigating Overrefusal in LLMs from an Unveiling Perspective of Safety Decision Boundary [28.247658612894668]
  RASSは、安全境界付近で過度に拒絶するプロンプトを戦略的にターゲットとする、プロンプト生成と選択のための自動化されたフレームワークである。 RASSは、境界に沿ったプロンプトを効果的に識別し、キュレートし、オーバーリフレクションのより効果的でターゲットを絞った緩和を可能にする。
  論文  参考訳（メタデータ） (2025-05-23T19:30:49Z)
• Safety Mirage: How Spurious Correlations Undermine VLM Safety Fine-Tuning and Can Be Mitigated by Machine Unlearning [43.209846711845536]
  現在のアライメント戦略は、キュレートされたデータセットによる監視された安全性の微調整に依存している。 教師付き微調整は,表面テクスチャパターンと安全応答の急激な相関を必然的に強化することを示す。 マシン・アンラーニング(MU)は、教師付き安全微調整の強力な代替手段であることを示す。
  論文  参考訳（メタデータ） (2025-03-14T19:52:08Z)
• Refuse Whenever You Feel Unsafe: Improving Safety in LLMs via Decoupled Refusal Training [67.30423823744506]
  我々は,LLMに対して,いかなる応答位置においても有害なプロンプトへのコンプライアンスを拒否する権限を付与する,新しいアプローチであるDecoupled Refusal Training(DeRTa)を導入する。 DeRTaは,(1)安全応答の開始に有害な応答のセグメントを付加することにより,安全でないコンテンツの認識と回避をモデルに訓練する,(2)有害応答シーケンスを通して潜在的障害から安全拒絶へ移行する能力をモデルに装備する強化遷移最適化(RTO)という,2つの新しいコンポーネントを組み込んでいる。
  論文  参考訳（メタデータ） (2024-07-12T09:36:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。