論文の概要: Don't Blink: Evidence Collapse during Multimodal Reasoning

• arxiv url: http://arxiv.org/abs/2604.04207v1
• Date: Sun, 05 Apr 2026 18:01:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-07 15:49:18.983233
• Title: Don't Blink: Evidence Collapse during Multimodal Reasoning
• Title（参考訳）: Don't Blink:マルチモーダル推論におけるエビデンス崩壊
• Authors: Suresh Raghu, Satwik Pandey,
• Abstract要約: VLMのリ共振は、より正確になりつつも、視覚的な接点を徐々に失う可能性がある。 これにより、低エントロピー予測は自信はあるものの、根拠のないタスク条件の危険ゾーンが生成される。 この構造を用いて、標的視のベトは、90%のカバレッジで最大1.9ポイントの選択的リスクを減少させる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Reasoning VLMs can become more accurate while progressively losing visual grounding as they think. This creates task-conditional danger zones where low-entropy predictions are confident but ungrounded, a failure mode text-only monitoring cannot detect. Evaluating three reasoning VLMs on MathVista, HallusionBench, and MMMU_Pro, we find a pervasive evidence-collapse phenomenon: attention to annotated evidence regions drops substantially, often losing over half of evidence mass, as reasoning unfolds. Full-response entropy is the most reliable text-only uncertainty signal under cross-dataset transfer, yet adding vision features with a single global linear rule is brittle and often degrades transfer. An entropy-vision interaction model reveals a task-conditional regime: lowentropy, visually disengaged predictions are hazardous on sustained visual-reference tasks but benign on symbolic tasks. Using this structure, a targeted vision veto reduces selective risk by up to 1.9 percentage points at 90% coverage, while avoiding degradations where disengagement is expected. The results support task-aware multimodal monitoring for safe deployment under distribution shift.
• Abstract（参考訳）: VLMのリ共振は、より正確になりつつも、視覚的な接点を徐々に失う可能性がある。 これは、低エントロピー予測が自信はあるものの、根拠のないタスク条件の危険ゾーンを生成し、障害モードのテキストのみの監視は検出できない。 MathVista、HalusionBench、MMMU_Proの3つの推論VLMを評価すると、広範囲にわたるエビデンス・崩壊現象が見つかる。 完全応答エントロピーは、クロスデータセット転送において最も信頼性の高いテキストのみの不確実性信号であるが、単一の大域線形規則を持つ視覚的特徴は不安定であり、しばしば転送を劣化させる。 低エントロピー、視覚的に切り離された予測は、持続的な視覚的参照タスクでは危険であるが、象徴的なタスクでは危険である。 この構造を用いて、標的視のベトは、解離が期待される劣化を回避しつつ、90%のカバレッジで最大1.9ポイントの選択的リスクを減少させる。 結果は、分散シフト下での安全な配置のためのタスク対応マルチモーダルモニタリングをサポートする。

関連論文リスト

• Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
  大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。 損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。 視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。 言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
  論文  参考訳（メタデータ） (2026-03-20T02:07:10Z)
• Same Answer, Different Representations: Hidden instability in VLMs [65.36933543377346]
  本稿では,内部埋め込みドリフト,スペクトル感度,構造的滑らかさを計測する表現認識・周波数認識評価フレームワークを提案する。 このフレームワークを,SEEDBench,MMMU,POPEデータセットを対象とする最新のビジョン言語モデル(VLM)に適用する。
  論文  参考訳（メタデータ） (2026-02-06T12:24:26Z)
• Revisiting Multivariate Time Series Forecasting with Missing Values [65.30332997607141]
  現実の時系列では欠落値が一般的である。 現在のアプローチでは、計算モジュールを使用して、不足した値を補う、計算済みの予測フレームワークが開発されている。 このフレームワークは、致命的な問題を見落としている: 欠落した値に対して基礎的な真理は存在せず、予測精度を劣化させる可能性のあるエラーの影響を受けやすいようにしている。 本稿では,Information Bottleneck原則に基づく新しいフレームワークであるConsistency-Regularized Information Bottleneck(CRIB)を紹介する。
  論文  参考訳（メタデータ） (2025-09-27T20:57:48Z)
• Backdoor Cleaning without External Guidance in MLLM Fine-tuning [76.82121084745785]
  Believe Your Eyes (BYE)は、アテンションエントロピーパターンを自己教師信号として活用して、バックドアサンプルを特定してフィルタリングするデータフィルタリングフレームワークである。 クリーンタスクのパフォーマンスを維持しながら、ほぼゼロの攻撃成功率を達成する。
  論文  参考訳（メタデータ） (2025-05-22T17:11:58Z)
• SafetyNet: Detecting Harmful Outputs in LLMs by Modeling and Monitoring Deceptive Behaviors [2.07180164747172]
  原子力や航空などのリスクの高い産業は、危険なシステム状態を検出するためにリアルタイムモニタリングを使用している。 教師なしアプローチを用いることで、有害なAI出力が発生する前に予測するリアルタイムフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-05-20T12:49:58Z)
• Hinge-Wasserstein: Estimating Multimodal Aleatoric Uncertainty in Regression Tasks [9.600416563894658]
  画像からパラメータ値への回帰について検討し、ここでは確率分布を予測して不確実性を検出することが一般的である。 従来の損失関数は、完全な真実分布が存在しない場合、確率分布の予測が低く、自信が強くなる。 トレーニング中の弱い二次モードのペナルティを低減するために, ハンジ・ワッサースタイン(Hungge-Wasserstein)を提案する。
  論文  参考訳（メタデータ） (2023-06-01T11:20:09Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。