論文の概要: ShieldCLIP: Selective Safety Alignment for Harmful Content Mitigation in Multimodal Foundation Models

• arxiv url: http://arxiv.org/abs/2609.39688v1
• Date: Wed, 30 Sep 2026 13:14:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.825599
• Title: ShieldCLIP: Selective Safety Alignment for Harmful Content Mitigation in Multimodal Foundation Models
• Title（参考訳）: ShieldCLIP:マルチモーダルファンデーションモデルにおける有害コンテンツ緩和のための選択的安全アライメント
• Abstract要約: ShieldCLIPは、各モードの観測された安全性状態に、安全アライメントを条件付けるためのフレームワークである。 ViSUv2は、578のコンセプトと28のカテゴリにわたる独立したモダリティごとの安全ラベルを持つデータセットである。 ShieldCLIPは、従来型の安全対応エンコーダと強力な緩和ベースラインよりも、有害な出力を一貫して削減する。
• 参考スコア（独自算出の注目度）: 52.00294001406555
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multimodal encoders such as CLIP underlie many downstream systems, but their web-scale training data embed harmful associations that safety alignment must suppress without unnecessarily changing benign representations. Because ethical and practical constraints prevent collecting real unsafe content at scale, existing datasets pair safe real samples with generated counterparts, but label every generated sample unsafe, even when one modality is individually safe. To address this, we introduce ShieldCLIP, the first framework to condition safety alignment on the observed safety state of each modality rather than the origin of a sample, preserving safe content while redirecting only what is unsafe. We also introduce ViSUv2, a 195k-quadruplet dataset with independent per-modality safety labels across 578 concepts and 28 categories. Using these labels, ShieldCLIP defines a four-way conditional objective beyond pair-level supervision: safe content is anchored, unsafe modalities are redirected to their safe counterparts, mixed pairs update only the unsafe branch, and coherence is enforced when both are unsafe. We evaluate ShieldCLIP on cross-modal retrieval, text-to-image generation with Stable Diffusion v1.4 and SDXL, and image-to-text generation with LLaVA. Across these settings, ShieldCLIP consistently reduces harmful outputs over prior safety-aligned encoders and strong mitigation baselines, while preserving the utility of the original embedding space. Extensive ablation studies further show that both modality-specific supervision and the selective alignment objective contribute to these gains. Source code, trained models, and ViSUv2 (under a controlled-access protocol) will be made publicly available at https://aimagelab.github.io/ShieldCLIP/.
• Abstract（参考訳）: CLIPのようなマルチモーダルエンコーダは、多くの下流システムを基盤としているが、Webスケールのトレーニングデータには、不要に良性表現を変更することなく、安全アライメントを抑えなければならない有害な関連が組み込まれている。 倫理的かつ実践的な制約は、実際の安全でないコンテンツを大規模に収集することを妨げているため、既存のデータセットは生成されたサンプルと安全な実際のサンプルをペアリングする。 この問題に対処するため,本研究では,安全でないもののみをリダイレクトしながら,安全コンテンツを保存し,各モダリティの観測された安全性状態を調整するための第1のフレームワークであるShieldCLIPを紹介する。 また、578のコンセプトと28のカテゴリで独立したモダリティごとの安全性ラベルを持つ195kクワッドルプレットデータセットであるViSUv2を紹介します。 安全なコンテンツはアンロックされ、安全でないモダリティは安全でないものにリダイレクトされ、混合ペアは安全でないブランチのみを更新し、両方が安全でない場合にはコヒーレンスが強制される。 また,Stable Diffusion v1.4 と SDXL によるテキスト・画像生成,LLaVA による画像・テキスト生成について検討した。 これらの設定全体にわたって、ShieldCLIPは、元の埋め込みスペースの有効性を保ちながら、安全に整合したエンコーダと強力な緩和ベースラインよりも有害な出力を一貫して削減します。 広範囲にわたるアブレーション研究は、モダリティ特異的監督と選択的アライメント目的の両方がこれらの利得に寄与していることを示している。 ソースコード、トレーニングされたモデル、ViSUv2(制御されたアクセスプロトコルの下で)はhttps://aimagelab.github.io/ShieldCLIP/で公開される。

関連論文リスト

• SecureBreak -- A dataset towards safe and secure models [3.797867929356259]
  本稿では、有害なLCM出力を検出するAI駆動型ソリューションの開発を支援するために設計された安全指向データセットSecureBreakを紹介する。 このデータセットは、安全を確保するためにラベルを保守的に割り当てる、注意深い手動アノテーションのため、非常に信頼性が高い。 トレーニング済みLLM試験ではSecureBreakを微調整した結果が改善された。
  論文  参考訳（メタデータ） (2026-03-23T13:41:05Z)
• Consistency-Preserving Concept Erasure via Unsafe-Safe Pairing and Directional Fisher-weighted Adaptation [17.59828667571619]
  既存の概念消去アプローチは、対応する安全な代替手段へのガイダンスを提供することなく、安全でない概念を取り除くことに重点を置いている。 PAIRed Erasing(PAIRed Erasing)という新しいフレームワークを提案し、単純な削除から一貫性を保つセマンティックアライメントへと概念の消去を再構築する。 提案手法は, 構造的整合性, セマンティック・コヒーレンス, 生成品質を保ちながら, 効率的な概念消去を実現し, 最先端のベースラインを著しく上回っている。
  論文  参考訳（メタデータ） (2026-02-05T06:05:24Z)
• SafeRedir: Prompt Embedding Redirection for Robust Unlearning in Image Generation Models [67.84174763413178]
  我々はSafeRedirを紹介した。SafeRedirは、迅速な埋め込みリダイレクトによる堅牢なアンラーニングのための軽量な推論時フレームワークである。 SafeRedirは,効果的な非学習能力,意味的・知覚的保存能力,堅牢な画像品質,対人攻撃に対する耐性の向上を実現している。
  論文  参考訳（メタデータ） (2026-01-13T15:01:38Z)
• SafeR-CLIP: Mitigating NSFW Content in Vision-Language Models While Preserving Pre-Trained Knowledge [51.634837361795434]
  SaFeR-CLIPは安全性と性能を調整し、以前の方法に比べて最大8.0%のゼロショット精度を回復する。 NSFW-Capsは、分散シフト下での安全性をテストするために、1000の高度に整合したペアの新しいベンチマークである。
  論文  参考訳（メタデータ） (2025-11-20T19:00:15Z)
• UnsafeChain: Enhancing Reasoning Model Safety via Hard Cases [57.69882799751655]
  さまざまなソースを持つハードプロンプトから構築された安全アライメントデータセットであるUnsafeChainをリリースする。 我々は3つの大きな推論モデル(LRM)を微調整し、それらを最近のSafeChainとSTAR-1と比較する。 UnsafeChainは、1Kサブセットのマッチングやベースラインのパフォーマンスを越えながら、従来よりも一貫してパフォーマンスが向上している。
  論文  参考訳（メタデータ） (2025-07-29T10:08:52Z)
• HoliSafe: Holistic Safety Benchmarking and Modeling for Vision-Language Model [58.12612140992874]
  我々は、安全で安全でない5つの画像テキストの組み合わせにまたがる、全体的な安全データセットとベンチマークである textbfHoliSafeを紹介した。 また,入力画像の有害性を評価するために,視覚ガードモジュール(VGM)を用いて,VLMの安全性を高めるための新しいモジュラーフレームワークを提案する。 実験により、HoliSafeでトレーニングされたVGMを使用したSafe-VLMは、複数のVLMベンチマークで最先端の安全性能を実現していることがわかった。
  論文  参考訳（メタデータ） (2025-06-05T07:26:34Z)
• Hyperbolic Safety-Aware Vision-Language Models [44.06996781749013]
  双曲空間の本質的階層的特性を活用することによって、未学習から認知パラダイムへ移行する新しいアプローチを導入する。 我々のHySACであるHyperbolic Safety-Aware CLIPは、安全な画像テキストペアと安全でない画像テキストペア間の階層的および非対称的関係をモデル化するために、entailment loss関数を使用します。 我々のアプローチは、安全性の認識を向上するだけでなく、視覚言語モデルにおけるコンテンツモデレーションのためのより適応的で解釈可能なフレームワークも確立します。
  論文  参考訳（メタデータ） (2025-03-15T13:18:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。