論文の概要: EgoExoBench: A Benchmark for First- and Third-person View Video Understanding in MLLMs

• arxiv url: http://arxiv.org/abs/2507.18342v1
• Date: Thu, 24 Jul 2025 12:14:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-25 15:10:43.621161
• Title: EgoExoBench: A Benchmark for First- and Third-person View Video Understanding in MLLMs
• Title（参考訳）: EgoExoBench:MLLMにおける一対三の視点ビデオ理解のためのベンチマーク
• Authors: Yuping He, Yifei Huang, Guo Chen, Baoqi Pei, Jilan Xu, Tong Lu, Jiangmiao Pang,
• Abstract要約: EgoExoBenchは、エゴセントリックなビデオ理解と推論のための最初のベンチマークである。 セマンティックアライメント、パースペクティブアソシエーション、時間的推論という、11のサブタスクにまたがる7,300以上の質問応答ペアで構成されている。 我々は、13の最先端MLLMを評価し、これらのモデルが単一視点のタスクに優れる一方で、視点間のセマンティクスの整合に苦慮し、視点を正確に関連付け、エゴ・エクソ・コンテキストにおける時間的ダイナミクスを推測する。
• 参考スコア（独自算出の注目度）: 33.35844258541633
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Transferring and integrating knowledge across first-person (egocentric) and third-person (exocentric) viewpoints is intrinsic to human intelligence, enabling humans to learn from others and convey insights from their own experiences. Despite rapid progress in multimodal large language models (MLLMs), their ability to perform such cross-view reasoning remains unexplored. To address this, we introduce EgoExoBench, the first benchmark for egocentric-exocentric video understanding and reasoning. Built from publicly available datasets, EgoExoBench comprises over 7,300 question-answer pairs spanning eleven sub-tasks organized into three core challenges: semantic alignment, viewpoint association, and temporal reasoning. We evaluate 13 state-of-the-art MLLMs and find that while these models excel on single-view tasks, they struggle to align semantics across perspectives, accurately associate views, and infer temporal dynamics in the ego-exo context. We hope EgoExoBench can serve as a valuable resource for research on embodied agents and intelligent assistants seeking human-like cross-view intelligence.
• Abstract（参考訳）: 一対一(自中心)と三対一(外中心)の視点で知識を伝達し、統合することは、人間の知性に固有のものであり、人間が他人から学び、自身の経験から洞察を伝達することができる。 MLLM(Multimodal large language model)の急速な進歩にもかかわらず、そのようなクロスビュー推論を行う能力は未解明のままである。 これを解決するために、エゴセントリックなビデオ理解と推論のための最初のベンチマークであるEgoExoBenchを紹介します。 公開されているデータセットから構築されたEgoExoBenchは、セマンティックアライメント、視点関連、時間的推論という3つの課題にまとめられた11のサブタスクにまたがる7,300以上の質問応答ペアで構成されている。 我々は、13の最先端MLLMを評価し、これらのモデルが単一視点タスクに優れる一方で、視点間のセマンティクスの整合に苦慮し、視点を正確に関連付け、エゴ・エクソ・コンテキストにおける時間的ダイナミクスを推測する。 EgoExoBenchが、人間のようなクロスビューインテリジェンスを求める、エンボディエージェントやインテリジェントアシスタントの研究のための貴重なリソースになることを期待している。

関連論文リスト

• Perceiving and Acting in First-Person: A Dataset and Benchmark for Egocentric Human-Object-Human Interactions [110.43343503158306]
  本稿では、手動支援タスクを視覚言語アクションフレームワークに組み込み、そのアシスタントは、自我中心のビジョンとコマンドに従ってインストラクターにサービスを提供する。 この設定の下で、我々は、マルチモーダルデータの11.4時間1.2Mフレームを持つ、最初の大規模人・物・人間のインタラクションデータセットであるInterVLAを達成した。 我々は,エゴセントリックな人の動き推定,相互作用合成,および包括的分析による相互作用予測に関する新しいベンチマークを構築した。
  論文  参考訳（メタデータ） (2025-08-06T17:46:23Z)
• Exo2Ego: Exocentric Knowledge Guided MLLM for Egocentric Video Understanding [69.96199605596138]
  現在のMLLMは、主に第三者(外見中心)のビジョンに焦点を当てており、一対一(自我中心)の動画のユニークな側面を見下ろしている。 本研究では,エゴ中心領域とエゴ中心領域のマッピングを学習し,エゴ中心領域の理解を高めることを提案する。 Ego-ExoClipは1.1M同期のEgo-Exoクリップテキストペアからなる事前学習データセットである。
  論文  参考訳（メタデータ） (2025-03-12T08:10:33Z)
• EgoLife: Towards Egocentric Life Assistant [60.51196061794498]
  我々はEgoLifeを紹介した。EgoLifeは、AIを使ったウェアラブルグラスを通じて、個人の効率を向上するエゴセントリックなライフアシスタントを開発するプロジェクトだ。 我々は、6人の参加者が1週間一緒に暮らし、マルチモーダル・エゴセントリックなビデオキャプチャーにAIグラスを使用して日々の活動を継続的に記録し、同期された3人称ビデオ参照を行う総合的なデータ収集研究を行った。 この取り組みの結果、EgoLifeデータセットは、集中的なアノテーションを備えた300時間のエゴセントリック、対人、マルチビュー、マルチモーダルの日常生活データセットである。 私たちはEgoLifeQAを紹介します。EgoLifeQAは、長いコンテキスト、ライフ指向の質問応答タスクのスイートで、提供するように設計されています。
  論文  参考訳（メタデータ） (2025-03-05T18:54:16Z)
• Egocentric and Exocentric Methods: A Short Survey [25.41820386246096]
  エゴセントリックな視覚は、カメラ装着者の視点からシーンを捉えます。 外見中心の視覚はシーン全体のコンテキストを捉えます。 エゴとエクソビューの併用モデリングは、次世代AIエージェントの開発に不可欠である。
  論文  参考訳（メタデータ） (2024-10-27T22:38:51Z)
• MM-Ego: Towards Building Egocentric Multimodal LLMs for Video QA [72.47344411599322]
  本研究の目的は,エゴセントリックな映像理解のためのマルチモーダル基盤モデルの構築である。 Ego4Dでは,人間による注釈付きデータに基づいて,30秒から1時間に及ぶエゴセントリックビデオの高品質なQAサンプルを自動生成する。 我々は、629の動画と7,026の質問でエゴセントリックなQAベンチマークを作成し、様々な長さのビデオで視覚的詳細を認識・記憶するモデルの能力を評価する。
  論文  参考訳（メタデータ） (2024-10-09T17:59:59Z)
• EgoExoLearn: A Dataset for Bridging Asynchronous Ego- and Exo-centric View of Procedural Activities in Real World [44.34800426136217]
  EgoExoLearnは、以下のプロセスで人間の実演をエミュレートするデータセットである。 EgoExoLearnには120時間にわたるエゴセントリックでデモ的なビデオデータが含まれている。 クロスビューアソシエーション、クロスビューアクションプランニング、クロスビュー参照スキルアセスメントなどのベンチマークを提示する。
  論文  参考訳（メタデータ） (2024-03-24T15:00:44Z)
• Retrieval-Augmented Egocentric Video Captioning [53.2951243928289]
  EgoInstructor(エゴインストラクタ)は、意味的に関連する第三者の指導ビデオを自動的に検索する、検索拡張マルチモーダルキャプションモデルである。 我々は、エゴセントリックでエゴセントリックなビデオ機能を引き出す新しいEgoExoNCE損失でクロスビュー検索モジュールをトレーニングし、同様のアクションを記述した共有テキスト機能にアライメントすることで、より近づいた。
  論文  参考訳（メタデータ） (2024-01-01T15:31:06Z)
• EgoTaskQA: Understanding Human Tasks in Egocentric Videos [89.9573084127155]
  EgoTaskQAベンチマークは、現実世界のエゴセントリックなビデオに対する質問回答を通じて、タスク理解の重要な次元を提供する。 我々は,(1)行動依存と効果,(2)意図と目標,(3)エージェントの他者に対する信念の理解を念頭に設計する。 我々は、我々のベンチマークで最先端のビデオ推論モデルを評価し、複雑なゴール指向のエゴセントリックなビデオを理解する上で、人間の間に大きなギャップがあることを示します。
  論文  参考訳（メタデータ） (2022-10-08T05:49:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。