論文の概要: Witness Evidence Portfolios: Single-Prefill Risk Detection for Closed Multimodal Answers
- arxiv url: http://arxiv.org/abs/2607.27667v1
- Date: Thu, 30 Jul 2026 04:30:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-31 21:37:00.395236
- Title: Witness Evidence Portfolios: Single-Prefill Risk Detection for Closed Multimodal Answers
- Title（参考訳）: Witness Evidence Portfolios:Single-Prefill Risk Detection for Closed Multimodal Answers
- Authors: Fexiang Liu, Shiye Wang, Qiang Qiu, Zheng Wang,
- Abstract要約: Witness Evidence Portfolios (WEP) はまず、視覚的コントリビューションが予測された候補を支持したり、矛盾させたりするためのレイヤ・バイ・レイヤを見積もる。
我々は,その答えを生成するホワイトボックスプリフィルパスを用いて,クローズド視覚応答の予測時間リスク検出について検討した。
- 参考スコア（独自算出の注目度）: 16.904968335898957
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Reliable deployment of multimodal large language models (MLLMs) requires deciding whether a confident visual answer should be trusted, reviewed, or routed to a stronger system. Confidence scores capture candidate margins, but not where the estimated signed visual readouts associated with those margins come from or how they are distributed. We study inference-time risk detection for closed visual answers using the same white-box prefill path that produces the answer. Witness Evidence Portfolios (WEP) first estimates, layer by layer, which visual contributions support or contradict the predicted candidate. It summarizes these contributions through two interpretable route families: question-related evidence provenance and signed evidence concentration. Nested grouped validation chooses the more reliable family and a sparse top-k route portfolio, which is fused with candidate confidence. WEP needs no image perturbation, decoding change, backward pass, or external verifier. Across three MLLMs and four binary-answer benchmarks, WEP improves mean error AP by 0.134. All 12 model--dataset gains are positive, and image-cluster bootstrap intervals are strictly positive on 10 pairs. WEP targets white-box closed-answer systems and uses a labeled calibration slice.
- Abstract（参考訳）: MLLM(Multimodal large language model)の信頼性の高いデプロイには、信頼できる視覚的回答が信頼できるか、レビューされるべきか、より強力なシステムにルーティングされるべきかを決定する必要がある。
信頼度スコアは、候補者のマージンをキャプチャするが、それらのマージンに関連するサインされた視覚的読み出しが、どのように分配されるかは、見当たらない。
我々は,その答えを生成するホワイトボックスプリフィルパスを用いて,クローズド視覚応答の予測時間リスク検出について検討した。
Witness Evidence Portfolios (WEP) はまず、視覚的コントリビューションが予測された候補を支持したり、矛盾させたりするためのレイヤ・バイ・レイヤを見積もる。
この論文は、これらの貢献を2つの解釈可能なルートファミリー(疑問関連証拠証明と署名された証拠集中)を通して要約している。
Nested Grouped Validationは、信頼性の高いファミリーと低いトップkルートポートフォリオを選択します。
WEPは画像の摂動、復号化、後方通過、外部検証を必要としない。
3つのMLLMと4つのバイナリ・アンサー・ベンチマークで、WEPは平均誤差APを0.134改善した。
12のモデル-データセットのゲインはすべて肯定的であり、イメージ-クラスタブートストラップ間隔は10対で厳密に肯定的である。
WEPはホワイトボックスのクローズド・アンサーシステムをターゲットにしており、ラベル付きキャリブレーションスライスを使用している。
関連論文リスト
- Mitigating Visual Hallucinations in Multimodal Systems through Retrieval-Augmented Reliability-Aware Inference [1.064167691614925]
本研究は,信頼に値するマルチモーダル視覚理解のための信頼性を考慮した検索フレームワークを提案する。
提案フレームワークは,事前学習された視覚埋め込みと,正規化された特徴表現に対する最寄りの検索を用いて,外部の視覚的エビデンスデータベースを構築する。
ImageNet-100の実験では、提案された信頼性を意識したフレームワークが、89.04%のカバレッジで85.84%から88.88%に改善した。
論文 参考訳（メタデータ） (2026-06-14T12:32:38Z) - Grounded or Guessing? LVLM Confidence Estimation via Blind-Image Contrastive Ranking [7.845652284569666]
本稿では,モデルに依存しない信頼度推定フレームワークBICR(Blind-Image Contrastive Ranking)を紹介する。
ライトウェイトプローブは、実像隠蔽状態に基づいてトレーニングされ、ブラックアウトビューに対する高い信頼度を罰するランキング損失によって正規化される。
5つの現代のLVLMと7つのベースラインで評価され、視覚的質問応答、オブジェクト検出、医用画像、財務文書理解に関するベンチマークが実施された。
論文 参考訳（メタデータ） (2026-05-11T17:35:10Z) - Instinct vs. Reflection: Unifying Token and Verbalized Confidence in Multimodal Large Models [11.878003218072765]
MLLM(Multimodal Large Language Models)は、様々な知覚や推論タスクにおいて例外的な機能を示す。
二重チャネル信号とチャネル間の整合性を融合して正当性を推定するモノトーン信頼融合フレームワークを提案する。
各種オープンソースおよびクローズドソースMLLMの実験結果から,本手法は信頼性の高い推定値が得られることがわかった。
論文 参考訳（メタデータ） (2026-04-19T06:07:39Z) - A Single Revision Step Improves Token-Efficient LLM Reasoning [3.344806691289323]
大規模言語モデルのためのトレーニングフリーで推論のみのフレームワークであるPacket-Conditioned Revision (PACER)を紹介した。
PACERは、推論トレースを使用して、構造化された調整ステップを通じて結論を修正できる。
競争力のある数学のベンチマークでは、PACERは256サンプルの多数決の正確さと一致または超える。
論文 参考訳（メタデータ） (2026-02-02T21:28:42Z) - Reading Between the Lines: Abstaining from VLM-Generated OCR Errors via Latent Representation Probes [79.36545159724703]
隠れ状態や注目パターンの軽量プローブを学習するためのLRP(Latent Representation Probing)を提案する。
LRPは、ベストベースラインよりも吸音精度を7.6%向上させる。
これにより、デプロイメント対応AIシステムを構築するための原則化されたフレームワークが確立される。
論文 参考訳（メタデータ） (2025-11-25T00:24:42Z) - CLUE: Non-parametric Verification from Experience via Hidden-State Clustering [64.50919789875233]
隠れアクティベーションの軌跡内の幾何的に分離可能なシグネチャとして解の正しさが符号化されていることを示す。
ClUE は LLM-as-a-judge ベースラインを一貫して上回り、候補者の再選において近代的な信頼に基づく手法に適合または超えている。
論文 参考訳（メタデータ） (2025-10-02T02:14:33Z) - DyePack: Provably Flagging Test Set Contamination in LLMs Using Backdoors [52.85182605005619]
トレーニング中にベンチマークテストセットを使用したモデルを識別するためにバックドアアタックを利用するフレームワークであるDiePackを紹介します。
銀行が染料パックにお金を混ぜて強盗をマークするのと同じように、DiePackはバックドアのサンプルとテストデータとを混ぜて、その上で訓練されたモデルのフラグを立てる。
我々はDiePackを3つのデータセットにわたる5つのモデルで評価し、複数の選択とオープンな生成タスクの両方をカバーした。
論文 参考訳（メタデータ） (2025-05-29T02:22:14Z) - From Trial to Triumph: Advancing Long Video Understanding via Visual Context Sample Scaling and Self-reward Alignment [51.3011761744484]
大規模言語モデルは単一の推論で有限フレームしか処理できない。
視覚的コンテキストサンプリングにより複数の予測を提案し,次に最終的な予測を選択するためのスコアリング機構を提案する。
実験により,この手法がビデオ質問の回答の正解を高い割合でカバーしていることが示されている。
論文 参考訳（メタデータ） (2025-03-26T11:53:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。