論文の概要: Grounding Image Matching in 3D with MASt3R

• arxiv url: http://arxiv.org/abs/2406.09756v1
• Date: Fri, 14 Jun 2024 06:46:30 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-17 14:53:58.796942
• Title: Grounding Image Matching in 3D with MASt3R
• Title（参考訳）: MASt3Rを用いた3次元グラウンド画像マッチング
• Authors: Vincent Leroy, Yohann Cabon, Jérôme Revaud,
• Abstract要約: 本稿では,トランスフォーマーをベースとした強力な3次元再構成フレームワークであるDUSt3Rによる3Dタスクのキャストマッチングを提案する。 我々は,DUSt3Rネットワークを高密度な局所的特徴を出力する新しいヘッドで拡張することを提案する。 提案手法はMASt3Rとよばれる手法で,複数のマッチングタスクにおいて技量を著しく上回っている。
• 参考スコア（独自算出の注目度）: 8.14650201701567
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Image Matching is a core component of all best-performing algorithms and pipelines in 3D vision. Yet despite matching being fundamentally a 3D problem, intrinsically linked to camera pose and scene geometry, it is typically treated as a 2D problem. This makes sense as the goal of matching is to establish correspondences between 2D pixel fields, but also seems like a potentially hazardous choice. In this work, we take a different stance and propose to cast matching as a 3D task with DUSt3R, a recent and powerful 3D reconstruction framework based on Transformers. Based on pointmaps regression, this method displayed impressive robustness in matching views with extreme viewpoint changes, yet with limited accuracy. We aim here to improve the matching capabilities of such an approach while preserving its robustness. We thus propose to augment the DUSt3R network with a new head that outputs dense local features, trained with an additional matching loss. We further address the issue of quadratic complexity of dense matching, which becomes prohibitively slow for downstream applications if not carefully treated. We introduce a fast reciprocal matching scheme that not only accelerates matching by orders of magnitude, but also comes with theoretical guarantees and, lastly, yields improved results. Extensive experiments show that our approach, coined MASt3R, significantly outperforms the state of the art on multiple matching tasks. In particular, it beats the best published methods by 30% (absolute improvement) in VCRE AUC on the extremely challenging Map-free localization dataset.
• Abstract（参考訳）: Image Matchingは、3Dビジョンにおけるすべての最高のパフォーマンスアルゴリズムとパイプラインの中核となるコンポーネントである。 しかし、マッチングは基本的に3D問題であり、カメラのポーズやシーンの幾何学と本質的に結びついているが、通常は2D問題として扱われる。 マッチングの目標は、2Dピクセルフィールド間の対応を確立することだが、潜在的に危険な選択であるようにも思える。 本研究では,トランスフォーマーをベースとした最近の強力な3D再構成フレームワークであるDUSt3Rを用いて,異なるスタンスでマッチングを3Dタスクとして行うことを提案する。 ポイントマップの回帰に基づいて、この手法は、極端な視点変化と一致したビューにおいて顕著な頑健さを示したが、精度は限られていた。 我々は、そのようなアプローチの整合性を改善しつつ、その堅牢性を維持することを目的としている。 そこで我々は,DUSt3Rネットワークを高密度な局所特徴を出力する新しいヘッドで拡張し,追加のマッチング損失でトレーニングする。 さらに、集中マッチングの2次複雑さの問題にも対処し、慎重に処理しなければ、下流アプリケーションでは明らかに遅くなる。 我々は、桁違いのマッチングを加速するだけでなく、理論的な保証と結果の改善をもたらす高速な相互マッチングスキームを導入する。 大規模な実験により,MASt3Rという手法は,複数のマッチングタスクにおいて,最先端のタスクを著しく上回っていることがわかった。 特に、非常に挑戦的なMap-freeローカライゼーションデータセット上で、VCRE AUCの最も優れた公開メソッドを30%(絶対改善)上回っている。

関連論文リスト

• TranSplat: Generalizable 3D Gaussian Splatting from Sparse Multi-View Images with Transformers [14.708092244093665]
  我々は,正確な局所特徴マッチングを導くために,予測深度信頼マップを利用する戦略を開発する。 本稿では,RealEstate10KベンチマークとACIDベンチマークの両方で最高の性能を示すTranSplatという新しいG-3DGS手法を提案する。
  論文  参考訳（メタデータ） (2024-08-25T08:37:57Z)
• CheckerPose: Progressive Dense Keypoint Localization for Object Pose Estimation with Graph Neural Network [66.24726878647543]
  単一のRGB画像から固い物体の6-DoFのポーズを推定することは、非常に難しい課題である。 近年の研究では、高密度対応型解の大きな可能性を示している。 そこで本研究では,CheckerPoseというポーズ推定アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-03-29T17:30:53Z)
• LFM-3D: Learnable Feature Matching Across Wide Baselines Using 3D Signals [9.201550006194994]
  学習可能なマーカは、画像ペア間のコビジュアビリティの小さな領域だけが存在する場合、しばしば性能が低下する。 グラフニューラルネットワークに基づくモデルを用いた学習可能な特徴マッチングフレームワーク LFM-3D を提案する。 その結果,画像対の相対的ポーズ精度が向上し,画像対の相対的ポーズ精度が向上することがわかった。
  論文  参考訳（メタデータ） (2023-03-22T17:46:27Z)
• Improving Feature-based Visual Localization by Geometry-Aided Matching [21.1967752160412]
  外観情報と幾何学的文脈の両方を用いて2D-3D特徴マッチングを改善する新しい2D-3Dマッチング手法であるGeometry-Aided Matching (GAM)を導入する。 GAMは高精度を維持しながら2D-3Dマッチのリコールを大幅に強化することができる。 提案手法は,複数の視覚的ローカライゼーションデータセットの最先端結果を実現する。
  論文  参考訳（メタデータ） (2022-11-16T07:02:12Z)
• Multi-initialization Optimization Network for Accurate 3D Human Pose and Shape Estimation [75.44912541912252]
  我々はMulti-Initialization Optimization Network(MION)という3段階のフレームワークを提案する。 第1段階では,入力サンプルの2次元キーポイントに適合する粗い3次元再構成候補を戦略的に選択する。 第2段階では, メッシュ改質トランス (MRT) を設計し, 自己保持機構を用いて粗い再構成結果をそれぞれ洗練する。 最後に,RGB画像の視覚的証拠が与えられた3次元再構成と一致するかどうかを評価することで,複数の候補から最高の結果を得るために,一貫性推定ネットワーク(CEN)を提案する。
  論文  参考訳（メタデータ） (2021-12-24T02:43:58Z)
• Asymmetric 3D Context Fusion for Universal Lesion Detection [55.61873234187917]
  3Dネットワークは、3Dコンテキストでは強いが、教師付き事前トレーニングがない。 既存の3Dコンテキスト融合演算子は空間対称に設計されており、畳み込みのように各2Dスライス上で同一の操作を行う。 本研究では, 異なる重みを持つ非対称な3次元コンテキスト融合演算子 (A3D) を提案し, 異なる2次元スライスから3次元コンテキストを融合させる。
  論文  参考訳（メタデータ） (2021-09-17T16:25:10Z)
• SO-Pose: Exploiting Self-Occlusion for Direct 6D Pose Estimation [98.83762558394345]
  SO-Poseは、オブジェクトの6自由度(6DoF)をすべて、単一のRGBイメージから散らばった環境でポーズさせるフレームワークである。 本稿では,3次元オブジェクトの2層表現を確立するために,自己閉塞に関する新たな推論を導入する。 対応性,自己閉塞性,6次元ポーズを整列する層間合成により,精度とロバスト性をさらに向上させることができる。
  論文  参考訳（メタデータ） (2021-08-18T19:49:29Z)
• Progressive Coordinate Transforms for Monocular 3D Object Detection [52.00071336733109]
  本稿では,学習座標表現を容易にするために,PCT(Em Progressive Coordinate Transforms)と呼ばれる,新しい軽量なアプローチを提案する。 本稿では,学習座標表現を容易にするために,PCT(Em Progressive Coordinate Transforms)と呼ばれる,新しい軽量なアプローチを提案する。
  論文  参考訳（メタデータ） (2021-08-12T15:22:33Z)
• Soft Expectation and Deep Maximization for Image Feature Detection [68.8204255655161]
  質問をひっくり返し、まず繰り返し可能な3Dポイントを探し、次に検出器を訓練して画像空間にローカライズする、反復的半教師付き学習プロセスSEDMを提案する。 以上の結果から,sdmを用いてトレーニングした新しいモデルでは,シーン内の下位3dポイントのローカライズが容易になった。
  論文  参考訳（メタデータ） (2021-04-21T00:35:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。