論文の概要: Beyond the Verdict: Evidence-Aligned Evaluation of Visual Prompt-Injection Guardrails
- arxiv url: http://arxiv.org/abs/2609.05535v1
- Date: Wed, 02 Sep 2026 07:03:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.089438
- Title: Beyond the Verdict: Evidence-Aligned Evaluation of Visual Prompt-Injection Guardrails
- Title（参考訳）: 評決を超えて:視覚プロンプト注入ガードレールのエビデンスアラインド評価
- Abstract要約: 評定のみの評価は、視覚言語モデル(VLM)がその決定を支持するビジュアルエビデンスを使用したかどうかを明らかにしていない。
VLMは、画面上のテキストがユーザ命令と矛盾するかどうかを判断する。
我々はMind2Web-Injectionを紹介し,9,954枚のインストラクション・スクリーンショット・ペアと命令・リレーショナル・ラベル,ピクセル・エクササイズ・エビデンス・ボックス,マッチングされたイメージ・サイド・カウンターファクトのベンチマークを行った。
- 参考スコア（独自算出の注目度）: 16.132019583543254
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Verdict-only evaluation does not reveal whether a vision-language model (VLM) used the visual evidence that should support its decision. We study this problem in web-agent guardrails, where a VLM judges whether on-screen text conflicts with a user instruction. We introduce Mind2Web-Injection, a benchmark of 9,954 instruction-screenshot pairs with instruction-relative labels, pixel-exact evidence boxes, and matched image-side counterfactuals. Across six VLMs, two models with nearly identical average precision differ ninefold in Evidence-Aligned Detection (EAD), the fraction of attacks both detected and correctly localized. To test whether a verdict depends on the command cited as evidence, we replace the instruction with one that endorses that command. Qwen3-VL-32B, the strongest open-weight localizer, returns aligned in only 58.7% of cases, whereas GPT-5.6-luna does so in 99.9%. To diagnose these failures, we propose two training-free interventions. ReadGate improves grounding without changing verdicts, while CmdCompare tests whether explicit instruction-command comparison resolves instruction-side inconsistency. These results motivate reporting verdict correctness, evidence localization, and counterfactual responsiveness separately.
- Abstract（参考訳）: 評定のみの評価は、視覚言語モデル(VLM)がその決定を支持するビジュアルエビデンスを使用したかどうかを明らかにしていない。
VLMは、画面上のテキストがユーザ命令と矛盾するかどうかを判断する。
我々はMind2Web-Injectionを紹介し,9,954枚のインストラクション・スクリーンショット・ペアと命令・リレーショナル・ラベル,ピクセル・エクササイズ・エビデンス・ボックス,マッチングされたイメージ・サイド・カウンターファクトのベンチマークを行った。
6つのVLMのうち、ほぼ同じ平均精度の2つのモデルがEvidence-Aligned Detection (EAD)において9倍異なる。
評決が証拠として引用された命令に依存するかどうかをテストするために、我々はその命令をその命令を承認する命令に置き換える。
最強のオープンウェイトローカライザーであるQwen3-VL-32Bは58.7%でリターンするが、GPT-5.6-lunaは99.9%でリターンする。
これらの障害を診断するために、トレーニングなしの2つの介入を提案する。
ReadGateはバリデーションを変更することなくグラウンド化を改善するが、CmdCompareは明示的な命令-コマンド比較が命令側の不整合を解消するかどうかをテストする。
これらの結果は、判断の正当性、証拠の局所化、および反事実の応答性を別々に報告する動機付けである。
関連論文リスト
- MemToC: Benchmarking Memory-Tool Conflict Resolution in Large Language Models [49.47300047353726]
MemToCは、実行時ツールによるポストツール-リターン仲裁のベンチマークである。
MemToCは、542の質制御された事実質問から構築された6,504回の評価エピソードで構成されている。
オープンウェイトな7-9Bモデルでは、ツールが強く支配的なクローズドブックの回答を返す。
論文 参考訳（メタデータ） (2026-08-26T18:22:03Z) - Visual Credit Audit for Multimodal Spatial Reasoning [70.16915309526443]
Visual Credit Auditは、ベンチマーク画像がテキストのみとブランクコントロールよりもモデルの宣言された決定をもっとサポートするかどうか、モデルが関係性固有の視覚的エビデンスに反応するかどうかの2つの評価を分離する。
ラベルを適用すれば依存性認定正当性(D-CC)が得られる
4つのオープンMLLMと2つの空間ベンチマーク、12.73-26.25%の判定は正確であるが、証明されていない。
論文 参考訳（メタデータ） (2026-07-29T15:55:31Z) - Two Regimes of Chain-of-Thought Unfaithfulness: Behavioral Detection Fails Where Models Are Wrong [1.2744523252873352]
ブラックボックス(行動)によるFaithCoT-Benchの人間のアノテーションに対する不誠実なCoTの検出。
答えの正しさはあらゆるレベルで問題を構成する。
論文 参考訳（メタデータ） (2026-07-26T04:43:53Z) - Semantic Drift in Bug Resolution: How Behavioral Signals Propagate from Reports to Tests and Patches [18.727291516223115]
Desc2Fixは、バグレポートのセマンティックアライメント、テストのトリガー、開発者による修正を測定するフレームワークである。
GPT-4o と DeepSeek-Chat を用いて,Defects4J と SWT-Bench の2,857 個のレポート・パッチを解析した。
論文 参考訳（メタデータ） (2026-07-20T22:32:23Z) - Fantastic Adaptive Taxonomies and How to Use Them [100.20614173157708]
AdaMASTは、実行トレースをコンパクトでエビデンスに基づく障害分類に変換する。
コードには手書きのコードはなく、人間による注釈もない。
エージェント・システム・サーチでは、失敗候補の分類コード診断が自由形式より優れている。
論文 参考訳（メタデータ） (2026-07-17T17:41:16Z) - Routing Subspaces: Auditing Evaluation-to-Deployment Mismatch in Fine-Tuned Language Models [0.6882042556551609]
安全性評価は、テスト中に観察された振る舞いが通常の使用時の振る舞いを反映していると仮定することが多いが、微調整はこの仮定を破る可能性がある。
チェックポイントは評価スタイルのプロンプトで固定され、同じ動作は通常の使用プロンプトで持続する。
安定な内部サイトにおいて,その区別が符号化されているかどうかを検証し,パスパッチインフォームド中深度ウィンドウにおいて,ペアのアクティベーションコントラストに適合するアプローチを提案する。
論文 参考訳（メタデータ） (2026-05-11T13:44:35Z) - Format Sensitivity Index: Token-Controlled Prompt Wrapper Robustness and Schema Compliance in LLM Benchmarking [0.0]
本稿では,トークン制御プロトコル下での分散について検討し,FSI(Format Sensitivity Index),ラッパー選択による精度範囲,PSI(Parseability Sensitivity Index)の2つの相補的指標を紹介する。
FSIはモデルによって30倍以上の違いがあり、コンプライアンスの失敗によって大きく説明されています。
固定効果回帰は、タスク、モデル、ラッパーを制御した後でも、パーセビリティが高い精度の予測因子であることを示している。
論文 参考訳（メタデータ） (2026-05-02T22:51:41Z) - SpatialBench-UC: Uncertainty-Aware Evaluation of Spatial Prompt Following in Text-to-Image Generation [0.0]
SpaceBench-UCは、ペアの空間関係を再現可能な小さなベンチマークである。
ベンチマークパッケージ、バージョン付きプロンプト、ピン付き構成、サンプルごとのチェッカー出力、レポートテーブルをリリースします。
安定拡散1.5, SD 1.5 BoxDiff, SD 1.4 GLIGENの3つのベースラインについて検討した。
論文 参考訳（メタデータ） (2026-01-19T23:37:10Z) - Look As You Think: Unifying Reasoning and Visual Evidence Attribution for Verifiable Document RAG via Reinforcement Learning [55.232400251303794]
Look As You Think (LAT)は、モデルをトレーニングし、一貫した帰属性を持った検証可能な推論パスを生成するための強化学習フレームワークである。
LATはシングルイメージとマルチイメージの両方でバニラモデルを一貫して改善し、平均ゲインは8.23%、IoU@0.5では47.0%となる。
論文 参考訳（メタデータ） (2025-11-15T02:50:23Z) - Robustness via Referencing: Defending against Prompt Injection Attacks by Referencing the Executed Instruction [68.6543680065379]
大型言語モデル(LLM)はインジェクション攻撃に弱い。
本研究では,LLMの命令追従能力を抑えるのではなく,新たな防御手法を提案する。
論文 参考訳（メタデータ） (2025-04-29T07:13:53Z) - Who Evaluates the Evaluations? Objectively Scoring Text-to-Image Prompt Coherence Metrics with T2IScoreScore (TS2) [62.44395685571094]
T2IScoreScoreはプロンプトを含むセマンティックエラーグラフのキュレートされたセットであり,誤画像の集合である。
これにより、与えられた迅速な忠実度測定値が、客観的な誤差数に対して正しく画像を順序付けできるかどうかを厳格に判断することができる。
最先端のVLMベースのメトリクスは、CLIPScoreのような単純な(そしておそらく悪い)機能ベースのメトリクスを著しく上回りません。
論文 参考訳（メタデータ） (2024-04-05T17:57:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。