論文の概要: JRDB-AVR: An Active Visual Reasoning Benchmark for Embodied Agents in Real-World Environments
- arxiv url: http://arxiv.org/abs/2609.35032v1
- Date: Mon, 28 Sep 2026 12:30:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-02 17:39:43.921355
- Title: JRDB-AVR: An Active Visual Reasoning Benchmark for Embodied Agents in Real-World Environments
- Title(参考訳): JRDB-AVR: 実環境における身体的エージェントのアクティブなビジュアル推論ベンチマーク
- Abstract要約: 具体化された視覚的推論のシナリオでは、質問に答えるために必要な証拠は時間、視点、相互作用するオブジェクトに分散する可能性がある。
我々は,構造化質問生成エンジンを用いて,既存の実世界のJRDBロボットデータから得られたベンチマークであるJRDB-AVRを紹介する。
また, 明示的な観測地上グラフに基づく世界モデルを維持する, 参照能動推論エージェントであるJRDB-AVR-Agentについても紹介する。
- 参考スコア(独自算出の注目度): 51.05603466006443
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In complex embodied visual reasoning scenarios, an agent often has only a limited field of view, and the evidence needed to answer a question may be distributed across time, viewpoint, and interacting objects. A model may therefore give a plausible answer without ever observing the relevant object, time, or view that supports it. Current visual reasoning benchmarks largely evaluate passive observations and final answers, overlooking settings that require active reasoning and evidence acquisition. We introduce JRDB-AVR, a benchmark derived from existing real-world JRDB robotics data through a structured question-generation engine that turns this gap into an explicit evaluation: an embodied agentic system receives a visual reasoning question, requests bounded observations by timestamp and viewing angle, and is evaluated on both the final answer and the grounded visual evidence supporting it. The benchmark contains diverse questions over multiple real-world environments involving temporal search, viewpoint selection, and human-oriented compositional reasoning. We also introduce JRDB-AVR-Agent, a reference active reasoning agentic method that maintains an explicit observation-grounded graph-based world model and answers through solving. Experiments reveal a substantial gap between answer accuracy and evidence accuracy in current baselines, showing that current VLMs can produce unsupported correct answers and that active evidence-aware evaluation is necessary for embodied visual reasoning. Code and benchmark are available at https://github.com/ControlNet/JRDB-AVR.
- Abstract(参考訳): 複雑な具体的視覚推論のシナリオでは、エージェントは限られた視野しか持たず、質問に答えるために必要な証拠は時間、視点、相互作用するオブジェクトに分散することがある。
したがって、モデルは、それをサポートする関連するオブジェクト、時間、またはビューを観察することなく、もっともらしい答えを与えるかもしれない。
現在の視覚的推論ベンチマークは、アクティブな推論とエビデンス獲得を必要とする設定を見越して、受動的観察と最終回答を概ね評価している。
実世界のJRDBロボティクスデータから得られたベンチマークであるJRDB-AVRを,このギャップを明示的な評価に変換する構造化質問生成エンジンを用いて導入する。
このベンチマークには、時間探索、視点選択、人間指向の合成推論を含む複数の現実世界環境に関する多様な質問が含まれている。
また,JDB-AVR-Agentについても紹介する。これは,明示的な観測地上グラフに基づく世界モデルと解解による解答を保守する,参照能動推論エージェント手法である。
実験では、現在のベースラインにおける解答精度とエビデンス精度の間にかなりのギャップが見られ、現在のVLMはサポートできない正確な解を導き出すことができ、視覚的推論の具体化にはアクティブエビデンス・アウェア・評価が必要であることを示した。
コードとベンチマークはhttps://github.com/ControlNet/JRDB-AVR.comで公開されている。
関連論文リスト
- DeepImageSearch: Benchmarking Multimodal Agents for Context-Aware Image Retrieval in Visual Histories [52.57197752244638]
本稿では,画像検索を自律探索タスクとして再構成する新しいエージェントパラダイムであるDeepImageSearchを紹介する。
モデルは、暗黙の文脈的手がかりに基づいてターゲットを特定するために、生の視覚履歴に対して多段階の推論を計画し実行しなければならない。
DisBenchは、相互接続された視覚データ上に構築された、挑戦的なベンチマークである。
論文 参考訳(メタデータ) (2026-02-11T12:51:10Z) - GISA: A Benchmark for General Information-Seeking Assistant [102.30831921333755]
GISAは汎用情報検索アシスタントのベンチマークであり、373の人為的なクエリで構成されている。
深い推論と広範囲な情報集約を統合タスクに統合し、暗記に抵抗するために定期的に更新された回答を含むライブサブセットを含む。
主要なLCMと商用検索製品の実験では、最高のパフォーマンスモデルでさえ19.30%の正確なマッチスコアしか達成していないことが示されている。
論文 参考訳(メタデータ) (2026-02-09T11:44:15Z) - RAGVUE: A Diagnostic View for Explainable and Automated Evaluation of Retrieval-Augmented Generation [1.564663326217051]
RAGVUEはRetrieval-Augmented Generation (RAG)システムを評価するためのフレームワークである。
RAGの振る舞いを検索品質、回答の妥当性と完全性、厳格なクレームレベルの忠実さ、および判断の校正に分解する。
RAGVUEは手動のメートル法選択と完全に自動化されたエージェント評価の両方をサポートしている。
論文 参考訳(メタデータ) (2025-12-03T07:42:49Z) - JRDB-Reasoning: A Difficulty-Graded Benchmark for Visual Reasoning in Robotics [9.370502417288206]
本稿では,詳細な中間アノテーションを用いて,様々な複雑さの質問をカスタマイズ可能なクエリエンジンを提案する。
我々はJRDBデータセットを人間とオブジェクトの相互作用と幾何学的関係アノテーションで拡張し、JRDB-Reasoningを作成する。
本エンジンとベンチマークにより,視覚推論フレームワークのきめ細かい評価と視覚言語モデルの動的評価が可能となった。
論文 参考訳(メタデータ) (2025-08-14T02:31:22Z) - Reading Between the Timelines: RAG for Answering Diachronic Questions [8.969698902720799]
我々は、時間論理を注入するためにRAGパイプラインを根本的に再設計する新しいフレームワークを提案する。
提案手法は回答精度を大幅に向上し,標準RAG実装を13%から27%上回る結果となった。
この研究はRAGシステムに対する検証された経路を提供し、複雑な現実世界の質問に必要とされるニュアンス付き進化分析を行うことができる。
論文 参考訳(メタデータ) (2025-07-21T05:19:41Z) - OST-Bench: Evaluating the Capabilities of MLLMs in Online Spatio-temporal Scene Understanding [50.72259772580637]
エージェントの観点から,オンライン時空間理解を評価するためのベンチマークOST-Benchを紹介する。
効率的なデータ収集パイプライン上に構築されたOST-Benchは、ScanNet、Matterport3D、ARKitScenesから収集された1.4kのシーンと10kの質問応答ペアで構成されている。
複雑な空間的推論要求と長期記憶検索要求の両方が、2つの別々の軸に沿ってモデル性能を著しく低下させることがわかった。
論文 参考訳(メタデータ) (2025-07-10T17:56:07Z) - AViLA: Asynchronous Vision-Language Agent for Streaming Multimodal Data Interaction [27.982280356250605]
本稿では、アドホックなクエリを処理し、タイムアウェアなレスポンスを提供する、ストリーミングデータインタラクションのための視覚言語エージェントであるAViLAを紹介する。
実験の結果,既存のモデルでは適切なタイミングで応答できない場合が多く,AViLAでは時間的認識の精度が著しく向上することがわかった。
論文 参考訳(メタデータ) (2025-06-23T10:11:30Z) - Building Interpretable and Reliable Open Information Retriever for New
Domains Overnight [67.03842581848299]
情報検索は、オープンドメイン質問応答(QA)など、多くのダウンストリームタスクにとって重要な要素である。
本稿では、エンティティ/イベントリンクモデルとクエリ分解モデルを用いて、クエリの異なる情報単位により正確にフォーカスする情報検索パイプラインを提案する。
より解釈可能で信頼性が高いが,提案したパイプラインは,5つのIRおよびQAベンチマークにおける通過カバレッジと記述精度を大幅に向上することを示す。
論文 参考訳(メタデータ) (2023-08-09T07:47:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。