論文の概要: Where Do Vision Language Models Fail at 3D Reasoning?
- arxiv url: http://arxiv.org/abs/2610.39639v1
- Date: Thu, 29 Oct 2026 09:00:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-01 01:32:10.067966
- Title: Where Do Vision Language Models Fail at 3D Reasoning?
- Title(参考訳): ビジョン言語モデルは3次元推論で機能しないのか?
- Abstract要約: 視覚言語モデルは、回復に苦労しながら個々の判断を正しく得ることができ、3Dオブジェクトの正確な特性を一貫して利用することができる。
BedBenchは、個別の判断と複合回答にまたがる13の手続き的に生成されたタスクのベンチマークである。
人間の精度は93.3%であり、最良のモデルでは7.2%である。
- 参考スコア(独自算出の注目度): 47.6491029140717
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Vision-language models can get individual judgments right while struggling to recover and consistently use the exact properties of a 3D object. To characterize this gap, we introduce BedBench, a controlled benchmark of thirteen procedurally generated tasks spanning individual judgments and composite answers. Across twelve open-weight and four frontier models, per-color counting exposes a pronounced weakness: humans achieve 93.3% accuracy, compared with 7.2% for the best model. Targeted fine-tuning raises one model's accuracy from 3.0% to 68.6%, but reveals a further difficulty: its answers about the most common colors remain inconsistent with its own per-color counts. Supplying those counts as text improves its judgments, showing that recovering a property does not mean using it consistently. Reasoning, scaling, and added visual cues each improve individual judgments, but none makes exact answers reliable. To locate the difficulty, we probe Qwen3.5-27B: exact per-color counts remain recoverable at the language model's input, yet the model's answers rarely recover them (65.0% for the probe vs. 3.0% for the model). Image-removal controls further show that some apparent successes require no visual evidence. These findings motivate evaluating 3D reasoning by exact correctness, consistent use, and image dependence, rather than accuracy alone. Code and dataset are publicly available: https://github.com/leduckhai/BedBench
- Abstract(参考訳): 視覚言語モデルは、回復に苦労しながら個々の判断を正しく得ることができ、3Dオブジェクトの正確な特性を一貫して利用することができる。
このギャップを特徴づけるために、個別の判断と複合回答にまたがる13の手続き的に生成されたタスクの制御ベンチマークであるBedBenchを紹介する。
12のオープンウェイトモデルと4つのフロンティアモデルにまたがって、色ごとのカウントでは、人間の精度が93.3%であるのに対して、最良のモデルでは7.2%である。
ターゲティングされた微調整は、1つのモデルの精度を3.0%から68.6%に引き上げるが、さらなる困難が露呈する。
これらのカウントをテキストとして供給することで判断が向上し、プロパティのリカバリが一貫した使用を意味するものではないことが示される。
推論、スケーリング、視覚的なキューの追加は、それぞれ個々の判断を改善するが、正確な答えは信頼性がない。
この難しさを見つけるために、Qwen3.5-27Bを探索する: 言語モデルの入力では、正確な色当たりの数値が復元可能であるが、モデルの答えが復元されることはめったにない(プローブでは65.0%、モデルでは3.0%)。
画像除去コントロールはさらに、いくつかの明らかな成功は、視覚的な証拠を必要としないことを示している。
これらの知見は,精度のみではなく,正確な正当性,一貫した使用,画像依存による3次元推論の評価を動機づけた。
コードとデータセットが公開されている。 https://github.com/leduckhai/BedBench
関連論文リスト
- Decision Models as Judges for Hallucination Detection [3.1977377377944696]
決定モデルは、自由形式テキストの代わりにラベルごとに確率で事前定義された判定を返す。
5つの幻覚型に対するバイナリベンチマークを構築し, 5つの決定モデルと生成型判定器GPT-6-solを比較した。
最良の決定モデルは、文脈不整合のバランスの取れた精度でGPt-6-solと一致し、事実誤差の3ポイント以内となる。
また,決定モデルの信頼性カスケードは3種類のモデルで1.9-3.3ポイント向上し,GPt-6-ゾルを1-3%超える。
論文 参考訳(メタデータ) (2026-10-27T13:38:28Z) - Grounding Generative Verification in 3D Content [24.487873171924548]
信頼できる3Dシステムを構築するには、より強力な生成と推論だけでなく、検証フィードバックが必要である。
3DVerifierBenchは10のタスクにまたがるベンチマークで、決定、拒絶説明、および仕様や候補における制御された変更に対する応答を評価する。
マルチビューファクト抽出,制御された3D編集,ネイティブアノテーションを組み合わせたスケーラブルなパイプラインを開発し,矛盾する説明とリンクされた反事実を含む14,126のトレーニング例を生成する。
論文 参考訳(メタデータ) (2026-10-15T17:59:01Z) - RoTA-Bench: Evaluating 3D Spatial Reasoning through Interactive Projection Alignment [60.989018864729445]
対話型3次元から2次元の投影アライメントによる能力評価にRoTA-Benchを導入する。
対象のシルエットが与えられた場合、モデルは回転したオブジェクトを観察し、連続する回転を選択してターゲットの投影を回復する。
GPT-5.6-Solがわずか17%のタスクで成功するのに対し、20人の学部生が100%の成功率でテストセットを4回完了した。
論文 参考訳(メタデータ) (2026-10-13T03:46:48Z) - Same Space or Not: Benchmarking Spatial Intelligence Through Cross-View Contradictions [80.65137714222533]
スペース・アンド・ノット(Space or Not)は、クロスビューの矛盾解決のベンチマークである。
人間は83.3%の精度を達成しており、最強の視覚言語モデルでは39.7%である。
論文 参考訳(メタデータ) (2026-10-09T17:54:57Z) - Probability is Not Enough: Exploring and Counting Divergent Tokens for Reasoning Uncertainty Quantification in LLMs [19.305400976811107]
大規模言語モデルの信頼性を推定する現在の手法は、一般に選択されたキートークンの確率に基づいている。
2つのモデルが強く反対するトークンを数えることによって信頼性を推定するフレームワークであるDivergent Token Confidence(DTC)を紹介する。
論文 参考訳(メタデータ) (2026-09-29T17:33:36Z) - StateSight: Benchmarking Latent Spatial-State Reconstruction in Vision-Language Models [0.5624504968545648]
我々は,立方体-ネット対面推論,閉立方体-towerカウント,隣接する連結成分カウントのベンチマークであるStateSightを紹介する。
各タスクファミリーには300の単一イメージプロンプトがあり、決定論的オラクルラベルと正確なマッチスコアがある。
OpenAI GPT-5.5はAPIモデルの識別子gpt-5.5を使用して、3つのタスクで59.3%、33.3%、28.3%の精度を達成した。
論文 参考訳(メタデータ) (2026-08-15T20:13:12Z) - Learning Visibility for Robust Dense Human Body Estimation [78.37389398573882]
2D画像から3Dのポーズと形状を推定することは、非常に難しい課題だ。
部分的な観察に頑健な高密度な人体推定を学習する。
我々は、高密度UV通信から可視性ラベルの擬似基底構造を取得し、3次元座標とともに可視性を予測するニューラルネットワークを訓練する。
論文 参考訳(メタデータ) (2022-08-23T00:01:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。