論文の概要: Compositional Unalignment: Auditing Safety in Large Vision-Language Models

• arxiv url: http://arxiv.org/abs/2611.07216v1
• Date: Wed, 04 Nov 2026 23:09:31 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-06 21:50:50.465619
• Title: Compositional Unalignment: Auditing Safety in Large Vision-Language Models
• Title（参考訳）: 構成的不整合:大規模視線モデルにおける安全性の検証
• Abstract要約: 非アライメントはアライメントの堅牢性の相補的な監査を提供すると我々は主張する。 構成安全のためのトレーニング不要なアンアライメント手法であるCMaGを提案する。
• 参考スコア（独自算出の注目度）: 22.745257528006032
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large vision-language models (LVLMs) are vulnerable to compositional harm: an image and a prompt that are benign in isolation become harmful through the model's cross-modal reasoning. Recent alignment methods report strong scores on compositional safety benchmarks, but an LLM judge only measures observed behavior and cannot reveal how robustly safety is integrated into the model. We argue that un-alignment provides a complementary audit of alignment robustness. We first show that minimal supervised fine-tuning reaches an LLM-judge score comparable to a multi-stage reinforcement-learning pipeline, so similar benchmark scores cannot establish robustness by themselves. We then show that recognition and refusal of compositional harm are decoupled: nine standard direction-finding methods detect compositional harm with up to AUC=0.99, yet ablating the recovered directions either leaves refusal intact or destroys model coherence. We therefore propose CMaG, a training-free un-alignment method for compositional safety. CMaG measures refusal intention with a refusal-versus-compliance log-probability margin, takes its gradient with respect to mid-layer activations, and contrasts it against partially benign pairs to isolate the cross-modal interaction term. A single backward pass over 80 examples yields a direction along which steering monotonically converts refusal into compliance. On Qwen2.5-VL-7B and LLaVA-1.5-7B, CMaG reduces compositional safety scores by up to 65 points while over 98% of outputs remain coherent, outperforming gradient-based baselines; the direction also transfers to text-explicit harm and un-aligns models hardened by defensive training. Compositional safety can thus appear behaviorally strong while remaining fragile to targeted internal intervention. Warning: this paper contains unsafe model outputs, including references to self-harm.
• Abstract（参考訳）: 大規模視覚言語モデル(LVLM)は構成的害に対して脆弱であり、画像と独立して良性を持つプロンプトはモデルのクロスモーダル推論によって有害となる。 近年のアライメント手法では, 構成安全ベンチマークにおいて強いスコアが報告されているが, LLM判定は観察された行動のみを測定し, モデルにいかに堅牢な安全性が組み込まれているかを明らかにすることはできない。 非アライメントはアライメントの堅牢性の相補的な監査を提供すると我々は主張する。 まず,最小教師付き微調整が多段階強化学習パイプラインに匹敵するLLM-judgeスコアに達することを示す。 9つの標準的な方向決定法は、AUC=0.99まで構成的危害を検出するが、復元された方向は、無傷で拒絶するか、モデルコヒーレンスを破壊するかのどちらかである。 そこで本稿では,構成安全のためのトレーニング不要なアンアライメント手法であるCMaGを提案する。 CMaGは、拒絶-反則対応の対数確率マージンで拒絶意図を測り、中間層活性化に対して勾配をとり、部分良性対と対比して、クロスモーダル相互作用項を分離する。 80以上の例を単一の後方通過すると、単調に拒否をコンプライアンスに変換する方向が導かれる。 Qwen2.5-VL-7BとLLaVA-1.5-7Bでは、CMaGは構成安全性スコアを65ポイントまで下げる一方、出力の98%はコヒーレントであり、勾配ベースのベースラインを上回っている。 したがって、構成上の安全性は、内部介入を標的とする脆弱さを維持しながら、行動的に強く見える。 警告: この論文には、自己修復への参照を含む、安全でないモデル出力が含まれている。

関連論文リスト

• Revisiting Over-refusal in Safety-aligned Large Language Models: A Representation and Optimization Perspective [52.656768749347776]
  オーバーリフレクションは、大きな言語モデルにおける安全アライメントの副作用である。 本稿では,過度な拒絶を緩和する安全アライメントフレームワークGOALを提案する。
  論文  参考訳（メタデータ） (2026-10-29T10:47:57Z)
• Safety Offset Learning: When Benign Fine-Tuning Misaligns LLMs [19.94328715195481]
  微調整による安全性のリスクは、トレーニングデータの有害性によって特徴づけられる。 この見解は、より基本的な要因、つまり、監督によって引き起こされる行動遷移を見逃していると論じる。
  論文  参考訳（メタデータ） (2026-10-19T00:31:17Z)
• Safety Reconstructed: Generative Modeling via Masked Diffusion Builds Strong Safety Guardrails [40.082729607289686]
  ガードモデルは、会話のコンテキストから単一の検証トークンを予測することを学び、単一のターゲットに対する監視に集中する。 LLaDA-Guardを提案する。各ラベル仮説の下でのプロンプトや応答をスコアし,その差に基づいて分類する。 このアイデアをマスク付き拡散言語モデル、LLaDA-8B-インストラクタ、LoRAを用いたクラス条件再構築目標を用いてインスタンス化する。
  論文  参考訳（メタデータ） (2026-09-27T14:54:20Z)
• The Geometry of Refusal: Linear Instability in Safety-Aligned LLMs [1.4323566945483497]
  我々は、"拒絶方向"を分離するゼロ最適化フレームワークであるContrastive Logit Steering (CLS)を紹介した。 CLSは出力分布を直接操作し、アライメントの診断プローブとして機能する。 7つのモデルファミリーに関する実験により、安全実装がアーキテクチャ上決定論的であることが判明した。
  論文  参考訳（メタデータ） (2026-06-21T22:04:48Z)
• The Wrong Kind of Right: Quantifying and Localizing Misfired Alignment in LLMs [36.56059375552239]
  大規模言語モデル (LLM) は, 文脈によって明示的にサポートされた場合でも, 保証された結論を拒絶する可能性があることを示す。 我々は、この障害モードを、アライメントによって引き起こされる変更によって、LCMが明確な証拠をオーバーライドする、誤ったアライメントと呼ぶ。 この現象を定量化するために,2,032 BBQ 由来のコントラスト付きペアからなるベンチマーク VETO を導入し,0 から100 のスケールでモデルがステレオタイプ関連の問題で失敗する頻度を計測する新しい指標 Misfired Alignment Rate (MAR) を定義する。
  論文  参考訳（メタデータ） (2026-06-17T03:53:42Z)
• OOD-MMSafe: Advancing MLLM Safety from Harmful Intent to Hidden Consequences [64.01706941950489]
  現在の安全パラダイムは、主に悪意のある意図や状況違反をターゲットとしている。 我々は,自律型および実施型エージェントのロバスト展開に不可欠なパラダイムである,結果駆動型安全に向けた安全フロンティアのシフトを提案する。 本稿では,トークンレベルの自己蒸留報酬の動的参照として,モデル固有の推論を統合したCASPO(Consequence-Aware Safety Policy Optimization)フレームワークを開発する。
  論文  参考訳（メタデータ） (2026-03-10T14:16:43Z)
• A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
  本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。 我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。 本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
  論文  参考訳（メタデータ） (2025-10-03T07:01:45Z)
• Refuse Whenever You Feel Unsafe: Improving Safety in LLMs via Decoupled Refusal Training [67.30423823744506]
  我々は,LLMに対して,いかなる応答位置においても有害なプロンプトへのコンプライアンスを拒否する権限を付与する,新しいアプローチであるDecoupled Refusal Training(DeRTa)を導入する。 DeRTaは,(1)安全応答の開始に有害な応答のセグメントを付加することにより,安全でないコンテンツの認識と回避をモデルに訓練する,(2)有害応答シーケンスを通して潜在的障害から安全拒絶へ移行する能力をモデルに装備する強化遷移最適化(RTO)という,2つの新しいコンポーネントを組み込んでいる。
  論文  参考訳（メタデータ） (2024-07-12T09:36:33Z)
• Emulated Disalignment: Safety Alignment for Large Language Models May Backfire! [65.06450319194454]
  大きな言語モデル(LLM)は、人間との安全な会話を確保するために安全アライメントを行う。 本稿では,安全アライメントの反転が可能なトレーニングフリーアタック手法を提案する。 本手法をエミュレートした脱アライメント (ED) と呼ぶのは, このコントラスト分布からのサンプリングは, 安全報酬を最小限に抑えるため, 微調整の結果を確実にエミュレートするからである。
  論文  参考訳（メタデータ） (2024-02-19T18:16:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。