論文の概要: From Local Evidence to Safety Verdicts: Causal Tracing in Vision-Language Models

• arxiv url: http://arxiv.org/abs/2610.07514v1
• Date: Mon, 05 Oct 2026 23:27:19 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.70704
• Title: From Local Evidence to Safety Verdicts: Causal Tracing in Vision-Language Models
• Title（参考訳）: ローカルエビデンスから安全判断へ:視覚・言語モデルにおける因果的追跡
• Abstract要約: 視覚言語モデルでは、画像と組み合わせて、どちらも単独で現れるような安全リスクを認識する必要があるかもしれない。 SSU-Benchは、単一項目のプロンプト編集や画像編集を用いて構築された、一致した安全かつ安全でない画像テキストの組み合わせのデータセットである。 3つの視覚言語モデルを用いて、ペア入力間で内部状態を伝達し、その結果の安全性判定の変化を測定する。
• 参考スコア（独自算出の注目度）: 39.146761527401424
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A vision-language model may need to combine an image with a prompt to recognize a safety risk that neither reveals alone. Where does this joint safety judgment become accessible inside the model? We introduce SSU-Bench, a dataset of matched safe and unsafe image-text combinations constructed using single-item prompt edits or image edits with annotated intended regions. Using three vision-language models, we transfer internal states between paired inputs and measure the resulting change in the safety verdict. Across models and both types of counterfactual, interventions at the changed input positions are effective in earlier decoder layers, while interventions at the final input token become effective later. Directions estimated from other examples produce similar late-layer effects. A linear readout of the final-token state also predicts the model's own verdict, including incorrect judgments, and cross-model comparisons reveal similarities in the patterns of counterfactual change. These findings identify a recurring transition in where interventions can influence a joint safety verdict and distinguish a readable model decision from a correct safety judgment.
• Abstract（参考訳）: 視覚言語モデルでは、画像と組み合わせて、どちらも単独で現れるような安全リスクを認識する必要があるかもしれない。 この共同安全判断はモデル内でどこからアクセス可能か? SSU-Benchは、単一項目のプロンプト編集や、注釈付き領域による画像編集を用いて構築された、一致した安全かつ安全でない画像テキストの組み合わせのデータセットである。 3つの視覚言語モデルを用いて、ペア入力間で内部状態を伝達し、その結果の安全性判定の変化を測定する。 モデル全体および両種類の反現実的手法では、変更された入力位置での介入は初期のデコーダ層で有効であり、最後の入力トークンでの介入は後に有効になる。 他の例から推定される方向は、同様の後期層効果をもたらす。 最終トーケン状態の線形読み出しはまた、誤った判断を含むモデル自身の判断を予測し、モデル間の比較によって、反事実変化のパターンに類似点が明らかになる。 これらの結果から, 介入が共同安全判断に影響を及ぼし, 正しい安全判断から可読性モデル決定を区別する, 反復的な移行が確認された。

関連論文リスト

• DCS: A Unified Conditional Sensitivity Framework for Cross-Modal Copyright Infringement Detection [0.0]
  本研究は,著作権侵害の証拠を条件付き分散シフトとして扱う,統合されたポストホック検出フレームワークを開発する。 保護対象は、その目標がトレーニングプロセスに含まれるか、または取り除かれた場合、整列条件下でのモデルの振る舞いが測定可能に変更されるかどうか疑わしい。 このフレームワークは、リッジ規則化線形回帰、条件付き拡散モデル、自己回帰言語モデル、マルチモーダルモデルのためにインスタンス化されている。
  論文  参考訳（メタデータ） (2026-07-24T07:00:44Z)
• Silent Commitment Failure in Instruction-Tuned Language Models: Evidence of Governability Divergence Across Architectures [0.0]
  我々は、モデルのエラーが出力コミット前に検出可能で、一度検出されると修正できる程度、統治性を導入します。 ベンチマーク精度は支配可能性を予測するものではなく、補正能力は検出と独立に異なり、同一のガバナンス足場はモデル間で逆の効果をもたらす。 本稿では,モデルとタスクの組み合わせをGovernable, Monitor Only, Steer Blind, Ungovernableの4つに分類する。
  論文  参考訳（メタデータ） (2026-03-22T21:50:28Z)
• Characterizing Linear Alignment Across Language Models [10.66607150500579]
  言語モデルは、トレーニングの目的、アーキテクチャ、データモダリティの違いにもかかわらず、同様の表現を学ぶ傾向にある。 この機能は,セキュリティやプライバシ,競争上の制約によって直接的なデータやモデル共有が禁止されるような,新たな潜在的なアプリケーションドメインを解放するものだ。
  論文  参考訳（メタデータ） (2026-03-19T13:43:32Z)
• What Makes and Breaks Safety Fine-tuning? A Mechanistic Study [64.9691741899956]
  安全性の微調整は、大規模な言語モデル(LLM)を、安全なデプロイメントのための人間の好みに合わせるのに役立つ。 安全でない入力の健全な側面をキャプチャする合成データ生成フレームワークを設計する。 これを用いて,3つのよく知られた安全微調整手法について検討する。
  論文  参考訳（メタデータ） (2024-07-14T16:12:57Z)
• Emulated Disalignment: Safety Alignment for Large Language Models May Backfire! [65.06450319194454]
  大きな言語モデル(LLM)は、人間との安全な会話を確保するために安全アライメントを行う。 本稿では,安全アライメントの反転が可能なトレーニングフリーアタック手法を提案する。 本手法をエミュレートした脱アライメント (ED) と呼ぶのは, このコントラスト分布からのサンプリングは, 安全報酬を最小限に抑えるため, 微調整の結果を確実にエミュレートするからである。
  論文  参考訳（メタデータ） (2024-02-19T18:16:51Z)
• Asymmetric Modality Translation For Face Presentation Attack Detection [55.09300842243827]
  顔提示攻撃検出(PAD)は、悪意のあるユーザによって顔認識システムが偽造されるのを防ぐための重要な手段である。 両モードシナリオにおける非対称なモダリティ変換に基づく新しいフレームワークを提案する。 本手法は,異なる評価プロトコル下での最先端性能を実現する。
  論文  参考訳（メタデータ） (2021-10-18T08:59:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。