論文の概要: ContraSafe-VL: A Contrastive Safety Preference Dataset for Vision-Language Models

• arxiv url: http://arxiv.org/abs/2610.23908v1
• Date: Wed, 30 Sep 2026 09:06:52 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-27 22:36:34.36186
• Title: ContraSafe-VL: A Contrastive Safety Preference Dataset for Vision-Language Models
• Title（参考訳）: ContraSafe-VL:ビジョンランゲージモデルのためのコントラスト型安全基準データセット
• Abstract要約: 視覚言語モデルのためのコントラスト安全選好データセットであるContraSafe-VLを紹介する。 ContraSafe-VLは、異なる安全性ラベルを持つマルチモーダルクエリをもたらす、ペア化されたビジュアルコンテキストを構築する。 本稿では,ContraSafe-VLによるトレーニングにより,モダル間安全性の認識が向上し,より安全性が向上することを示す。
• 参考スコア（独自算出の注目度）: 20.898196974772265
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Vision-Language Models (VLMs) are increasingly deployed as general-purpose multimodal assistants, making multimodal safety alignment an important challenge. Safety depends on the interplay between textual and visual content, with visual context often playing a critical role. However, VLMs may fail to use visual information appropriately, either overlooking safety-relevant visual content or over-interpreting sensitive visual content, leading to unsafe responses or over-refusal. Existing multimodal safety alignment datasets largely follow the response-preference paradigm, which teaches models how to respond but provides limited supervision on how visual context should inform the safety judgment, making it difficult to balance safety and over-refusal. To address this limitation, we introduce ContraSafe-VL, a Contrastive Safety preference dataset for Vision-Language Models. For each fixed textual query, ContraSafe-VL constructs paired visual contexts that result in multimodal queries with different safety labels, providing direct supervision for how visual context should inform multimodal safety judgments. It further provides response preference pairs based on harmlessness and helpfulness to encourage models to generate responses that are both safe and helpful. Experiments across three VLM architectures and multiple benchmarks demonstrate that training with ContraSafe-VL improves cross-modal safety recognition and achieves a better safety--over-refusal trade-off while preserving general multimodal capabilities. The dataset will be publicly released.
• Abstract（参考訳）: VLM(Vision-Language Models)は、汎用マルチモーダルアシスタントとしてますます普及しており、マルチモーダル安全アライメントが重要な課題となっている。 安全性はテキストと視覚的コンテンツ間の相互作用に依存し、視覚的コンテキストはしばしば重要な役割を果たす。 しかしながら、VLMは、安全関連視覚コンテンツを見渡すか、機密性の高い視覚コンテンツを過度に解釈するか、視覚情報を適切に利用できないため、安全でない応答や過剰な拒絶につながる可能性がある。 既存のマルチモーダル安全アライメントデータセットは、モデルに応答の仕方を教えるが、視覚的コンテキストが安全判断にどう影響するかを限定的に監視し、安全性と過剰な拒絶のバランスをとるのが困難である。 この制限に対処するために、視覚言語モデルのためのコントラスト安全選好データセットであるContraSafe-VLを紹介する。 固定されたテキストクエリごとに、ContraSafe-VLはペア化された視覚コンテキストを構築し、異なる安全ラベルを持つマルチモーダルクエリを生成し、視覚コンテキストがマルチモーダルの安全判断にどう影響するかを直接監視する。 さらに、安全かつ有用な応答の生成をモデルに促すために、無害性と役に立つことに基づく応答優先ペアを提供する。 3つのVLMアーキテクチャと複数のベンチマークによる実験により、ContraSafe-VLを使用したトレーニングは、クロスモーダルな安全性認識を改善し、一般的なマルチモーダル機能を維持しながら、より安全なオーバ・オーバー・リフレクションのトレードオフを実現することが示されている。 データセットは公開されます。

関連論文リスト

• Yuvion VL: A Multimodal Foundation Model for Adversarial Content and AI Safety [74.88019498257665]
  汎用モデルは、しばしば実世界のマルチモーダルリスクを確実に識別し理解するのに苦労する。 我々は、コンテンツとAIの安全性のために構築されたマルチモーダルな大規模言語モデルのファミリーであるYuvion VLを紹介する。
  論文  参考訳（メタデータ） (2026-06-23T18:00:08Z)
• SAVeS: Steering Safety Judgments in Vision-Language Models via Semantic Cues [50.928203120795786]
  本研究では,視覚言語モデルにおけるマルチモーダル安全性の挙動を,単純な意味的手がかりによって評価できるかどうかを考察する。 シーン内容を変更することなく、テキスト、視覚、認知の介入を制御できるセマンティック・ステアリング・フレームワークを導入する。
  論文  参考訳（メタデータ） (2026-03-19T16:18:00Z)
• Evolving Contextual Safety in Multi-Modal Large Language Models via Inference-Time Self-Reflective Memory [10.434155461003387]
  本稿では,コンテキスト安全評価のためのベンチマークであるMM-SafetyBench++を提案する。 各安全でない画像テキストペアに対して、最小限の変更で対応する安全なペアを構築する。 トレーニング不要のフレームワークであるEchoSafeも導入しています。
  論文  参考訳（メタデータ） (2026-03-16T18:32:26Z)
• HoliSafe: Holistic Safety Benchmarking and Modeling for Vision-Language Model [58.12612140992874]
  我々は、安全で安全でない5つの画像テキストの組み合わせにまたがる、全体的な安全データセットとベンチマークである textbfHoliSafeを紹介した。 また,入力画像の有害性を評価するために,視覚ガードモジュール(VGM)を用いて,VLMの安全性を高めるための新しいモジュラーフレームワークを提案する。 実験により、HoliSafeでトレーニングされたVGMを使用したSafe-VLMは、複数のVLMベンチマークで最先端の安全性能を実現していることがわかった。
  論文  参考訳（メタデータ） (2025-06-05T07:26:34Z)
• Rethinking Bottlenecks in Safety Fine-Tuning of Vision Language Models [25.606641582511106]
  モデル性能を向上させるために,マルチイメージ入力と安全チェーン・オブ・ソート(CoT)ラベルを微粒な推論ロジックとして統合する新しいデータセットを提案する。 実験の結果,MISを用いた微調整InternVL2.5-8Bは,マルチイメージタスクに挑戦する上で,強力なオープンソースモデルとAPIベースモデルの両方を著しく上回っていることがわかった。
  論文  参考訳（メタデータ） (2025-01-30T17:59:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。