論文の概要: All the Facts, Still the Wrong Answer: Integration Gaps in Vision-Language Models
- arxiv url: http://arxiv.org/abs/2610.33764v1
- Date: Sat, 24 Oct 2026 16:14:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-27 22:27:13.438991
- Title: All the Facts, Still the Wrong Answer: Integration Gaps in Vision-Language Models
- Title(参考訳): ビジョンランゲージモデルにおける統合ギャップ
- Abstract要約: マルチモーダル推論は、すべての関連する制約を満たす決定に複数の証拠を組み合わせるモデルを必要とする。
本研究では,地域事実回復と世界的意思決定の妥当性を関連づけたマルチエビデンス統合のギャップを通じて,この問題を考察する。
信頼性の高い共同決定には,事実の回復と解決関連情報の表現が不十分であることを示す。
- 参考スコア(独自算出の注目度): 14.808831501183514
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Multimodal reasoning requires models to combine multiple pieces of evidence into decisions that satisfy all relevant constraints. Evaluations centered on final-answer accuracy leave unclear whether failures arise from reading individual facts or using them together. We study this question through the multi-evidence integration gap, linking local fact recovery to global decision validity on controlled subset-selection and path-finding tasks. Our evaluation combines conditional performance given correct local answers with same-grid local queries, text-oracle inputs, retrieval controls, and constraint ablations. We further examine hidden-state probes and activation replacement across network depth, token positions, and model families. Across the evaluated models, accurate local recovery coexists with substantial global failure. For example, Gemma-3-27B recovers all evaluated isolated item facts correctly but achieves only 19.75% global validity on eight-item visual instances. Probes decode information about solution membership from global-prompt states, while corresponding clean-state replacement recovers failed decisions over model-dependent depth ranges. These findings show that recovering facts and representing solution-related information are insufficient for reliable joint decisions. They motivate evaluations and model improvements that explicitly target how available evidence is combined, alongside advances in perception and model scale.
- Abstract(参考訳): マルチモーダル推論は、すべての関連する制約を満たす決定に複数の証拠を組み合わせるモデルを必要とする。
最終回答の正確性を中心とした評価では、個々の事実を読んだり、一緒に使ったりして失敗が起こるかどうかがはっきりしない。
本研究では,局所的な事実回復と,制御されたサブセット選択とパスフィニッシュタスクのグローバルな決定妥当性をリンクして,マルチエビデンス統合のギャップを通じて,この問題を考察する。
本評価では,条件付き局所回答と同一グリッドの局所クエリ,テキスト・オークル入力,検索制御,制約アブレーションを組み合わせる。
さらに,ネットワーク深度,トークン位置,モデルファミリー間での隠れ状態プローブとアクティベーション置換について検討した。
評価されたモデル全体では、正確な局所的回復共存と実質的なグローバルな失敗がある。
例えば、Gemma-3-27Bは、すべての評価済みアイテムの事実を正しく回収するが、8項目のビジュアルインスタンスに対して19.75%のグローバルな妥当性しか達成していない。
プローブは、グローバルプロンプト状態からのソリューションメンバシップに関する情報をデコードする一方、対応するクリーンステート置換は、モデル依存の深さ範囲に関する決定が失敗したことを回復する。
これらの結果から, 信頼性の高い共同決定には, 事実の回復と解決関連情報の表現が不十分であることが示唆された。
彼らは、認識とモデルスケールの進歩とともに、利用可能なエビデンスをどのように組み合わせるかを明確に目標とする評価とモデル改善を動機付けている。
関連論文リスト
- From Belief Inference to Task Action: A Multi-Level Evaluation of Theory of Mind on Verifiable Tasks [18.40352901970091]
既存の検証可能なタスクの上に構築されたマルチレベル評価を導入する。
非対称な情報で家事コラボレーションとカレンダースケジューリングを拡張します。
供給信念はQwen-27Bの成功率を55.0%から75.0%に引き上げるが、Qwen-4Bは対応する継続条件のたった20.0%を達成しつつ、固定された供給源問題に正しく答える。
論文 参考訳(メタデータ) (2026-10-26T03:06:04Z) - Beyond Perfect Teammates: Multi-Agent Collaboration with Unreliable Colleagues [41.90964421829607]
我々は,信頼できない証拠収集プロセスの回復能力からタスク解決能力の分離を図るために,UncoBench(Unreliable Colleagues Benchmark)を導入する。
10モデルにわたる結果は、同様の信頼性の高い設定性能が、信頼性の低い証拠と異なるロバスト性をもたらすことを示している。
論文 参考訳(メタデータ) (2026-10-12T03:31:54Z) - Selective Commitment for Language-Guided Object Retrieval under Partial Observability [1.582181611732474]
部分的な可観測性の下での言語誘導オブジェクト検索では、より多くの証拠を集め、現場と対話し、候補者をつかむか、棄権するかを決定する必要がある。
参照コンテナに関連する対象を検索するために,これらの決定をコーディネートするクローズドループフレームワークを提案する。
論文 参考訳(メタデータ) (2026-09-19T16:59:07Z) - IdeaAMBIG: Benchmarking Implementation-Critical Gaps in Research-Idea Specifications [52.570108663867046]
研究のアイデアは、新しく、一貫性があり、科学的に妥当であるが、その提案された手法は、忠実な実装のために不十分に指定されている。
提案手法は,実装を対象とする研究手法仕様の体系化の可否を,有能な実装者やコーディングエージェントに十分な方法論的情報を提供して,前提条件を満たさずに目的とする手法を構築することができるかを検討する。
IdeaAMBIGは660のエビデンス基底インスタンスのベンチマークで、レポートとGitHubの問題から163の現実世界のギャップと、コーディフィケーション対応のリファレンスに注入される合成ギャップを497のコントロールで管理する。
論文 参考訳(メタデータ) (2026-09-09T17:59:04Z) - AB-RAG: Adaptive Budgeted Retrieval-Augmented Generation for Reliable Question Answering [0.0]
AB-RAGはトレーニングフリーでバックボーンに依存しないフレームワークで、答えを生成する。
信頼度を3つの信号の組み合わせから推定する。
そして、停止するか、より多くの証拠を回収するかを決定する。
論文 参考訳(メタデータ) (2026-06-27T21:08:14Z) - SKADA-Bench: Benchmarking Unsupervised Domain Adaptation Methods with Realistic Validation On Diverse Modalities [50.6382396309597]
Unsupervised Domain Adaptation (DA) は、ラベル付きソースドメインでトレーニングされたモデルを適用して、ラベルなしのターゲットドメインでデータ分散シフトをうまく実行する。
本稿では,再重み付け,マッピング,部分空間アライメントなど,既存の浅層アルゴリズムの完全かつ公平な評価を行う。
本ベンチマークでは,現実的な検証の重要性を強調し,現実的なアプリケーションに対する実践的なガイダンスを提供する。
論文 参考訳(メタデータ) (2024-07-16T12:52:29Z) - Coalescing Global and Local Information for Procedural Text
Understanding [70.10291759879887]
完全な手続き的理解ソリューションは、入力のローカル・グローバル・ビューとアウトプットのグローバル・ビューの3つの中核的な側面を組み合わせるべきである。
本稿では,エンティティと時間表現を構築する新しいモデルであるCoalescing Global and Local InformationCGを提案する。
一般的な手続き的テキスト理解データセットの実験は、我々のモデルが最先端の結果を得ることを示す。
論文 参考訳(メタデータ) (2022-08-26T19:16:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。