論文の概要: MVSFormer++: Revealing the Devil in Transformer's Details for Multi-View Stereo

• arxiv url: http://arxiv.org/abs/2401.11673v1
• Date: Mon, 22 Jan 2024 03:22:49 GMT
• ステータス: 処理完了
• システム内更新日: 2024-01-23 15:24:24.150296
• Title: MVSFormer++: Revealing the Devil in Transformer's Details for Multi-View Stereo
• Title（参考訳）: MVSFormer++: マルチビューステレオのためのTransformerの詳細で悪魔を明らかにする
• Authors: Chenjie Cao, Xinlin Ren, Yanwei Fu
• Abstract要約: 我々は、MVSパイプラインの様々なコンポーネントを強化するために、注意の特性を最大化するMVSFormer++を紹介する。 特徴エンコーダとコスト容積正規化には異なる注意機構を用い,それぞれ特徴量と空間的アグリゲーションに着目した。 DTU, タンク・アンド・テンプル, BlendedMVS, ETH3Dの総合的な実験により, 提案手法の有効性が検証された。
• 参考スコア（独自算出の注目度）: 60.75684891484619
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Recent advancements in learning-based Multi-View Stereo (MVS) methods have prominently featured transformer-based models with attention mechanisms. However, existing approaches have not thoroughly investigated the profound influence of transformers on different MVS modules, resulting in limited depth estimation capabilities. In this paper, we introduce MVSFormer++, a method that prudently maximizes the inherent characteristics of attention to enhance various components of the MVS pipeline. Formally, our approach involves infusing cross-view information into the pre-trained DINOv2 model to facilitate MVS learning. Furthermore, we employ different attention mechanisms for the feature encoder and cost volume regularization, focusing on feature and spatial aggregations respectively. Additionally, we uncover that some design details would substantially impact the performance of transformer modules in MVS, including normalized 3D positional encoding, adaptive attention scaling, and the position of layer normalization. Comprehensive experiments on DTU, Tanks-and-Temples, BlendedMVS, and ETH3D validate the effectiveness of the proposed method. Notably, MVSFormer++ achieves state-of-the-art performance on the challenging DTU and Tanks-and-Temples benchmarks.
• Abstract（参考訳）: 学習に基づくマルチビューステレオ(MVS)手法の最近の進歩は、注意機構を持つトランスフォーマーモデルに顕著な特徴を持っている。 しかし、既存のアプローチでは、異なるMVSモジュールに対するトランスフォーマーの深い影響を徹底的に調べておらず、その結果、深さ推定能力は限られている。 本稿では,MVSパイプラインの様々なコンポーネントを強化するために,注意の特性を的確に最大化する手法であるMVSFormer++を紹介する。 我々のアプローチは、MVS学習を促進するために、事前に訓練されたDINOv2モデルにクロスビュー情報を注入する。 さらに,特徴エンコーダとコスト容積正規化に異なる注意機構を用い,各特徴量と空間的アグリゲーションに着目した。 さらに,MVSにおける変圧器モジュールの性能には,正規化3次元位置符号化,アダプティブアテンダスケーリング,レイヤ正規化位置など,いくつかの設計詳細が大きな影響を与えることが判明した。 DTU, タンク・アンド・テンプル, BlendedMVS, ETH3Dの総合的な実験により, 提案手法の有効性が検証された。 特に、MVSFormer++は挑戦的なDTUとTurps-and-Templesベンチマークで最先端のパフォーマンスを実現している。

関連論文リスト

• MVGenMaster: Scaling Multi-View Generation from Any Image via 3D Priors Enhanced Diffusion Model [87.71060849866093]
  MVGenMasterは3Dプリエントで拡張された多視点拡散モデルであり,NVS(多目的なノベルビュー合成)タスクに対処する。 我々のモデルは、可変参照ビューとカメラポーズで条件付けられた100の新しいビューを生成できる、シンプルで効果的なパイプラインを特徴としている。 スケールアップデータセットを用いてモデルを強化するために,いくつかのトレーニングとモデル修正を提案する。
  論文  参考訳（メタデータ） (2024-11-25T07:34:23Z)
• MA-AVT: Modality Alignment for Parameter-Efficient Audio-Visual Transformers [41.54004590821323]
  マルチモーダルなセマンティックな特徴に対して,深いモーダルアライメントを用いたパラメータ効率の高いオーディオ視覚変換器MA-AVTを提案する。 具体的には,2つのモダリティを凍結したモダリティシェード変圧器で整列するための共同一様・多モードトークン学習を導入する。 ユニモーダルエンコーダの出力から得られた粗い特徴のみを整列する以前の作業とは異なり、粗大から細小の階層的特徴を整列するブロックワイドコントラスト学習を導入する。
  論文  参考訳（メタデータ） (2024-06-07T13:35:44Z)
• SMPLer: Taming Transformers for Monocular 3D Human Shape and Pose Estimation [74.07836010698801]
  この問題に対処するために,SMPLベースのトランスフォーマーフレームワーク(SMPLer)を提案する。 SMPLerは、切り離された注意操作とSMPLベースのターゲット表現の2つの重要な要素を組み込んでいる。 SMPLerの既存の3次元人体形状に対する効果とポーズ推定方法の実証実験を行った。
  論文  参考訳（メタデータ） (2024-04-23T17:59:59Z)
• CT-MVSNet: Efficient Multi-View Stereo with Cross-scale Transformer [8.962657021133925]
  クロススケールトランス(CT)プロセスは、追加計算なしで異なる段階の表現を特徴付ける。 複数のスケールで異なる対話型アテンションの組み合わせを利用する適応型マッチング認識変換器(AMT)を導入する。 また、より細かなコストボリューム構成に大まかにグローバルな意味情報を埋め込む2機能ガイドアグリゲーション(DFGA)も提案する。
  論文  参考訳（メタデータ） (2023-12-14T01:33:18Z)
• MMViT: Multiscale Multiview Vision Transformers [36.93551299085767]
  本稿では,マルチスケール・マルチビュー・ビジョン・トランスフォーマ (MMViT) を提案する。 我々のモデルは入力信号の異なるビューを符号化し、複数のチャンネル解像度の特徴段階を構築し、異なる解像度の入力の複数のビューを並列に処理する。 本稿では,MMViTが音声および画像の分類作業に有効であることを示す。
  論文  参考訳（メタデータ） (2023-04-28T21:51:41Z)
• Demystify Transformers & Convolutions in Modern Image Deep Networks [82.32018252867277]
  本稿では,一般のコンボリューションとアテンション演算子の真の利益を,詳細な研究により同定することを目的とする。 注意や畳み込みのようなこれらの特徴変換モジュールの主な違いは、それらの空間的特徴集約アプローチにある。 各種課題の実験と帰納的バイアスの解析により,ネットワークレベルとブロックレベルの高度な設計により,性能が著しく向上した。
  論文  参考訳（メタデータ） (2022-11-10T18:59:43Z)
• SSMTL++: Revisiting Self-Supervised Multi-Task Learning for Video Anomaly Detection [108.57862846523858]
  自己教師型マルチタスク学習フレームワークを再考し、元の手法にいくつかのアップデートを提案する。 マルチヘッド・セルフアテンション・モジュールを導入することで3次元畳み込みバックボーンを近代化する。 モデルをさらに改良するために,セグメントマップの予測などの自己指導型学習タスクについて検討した。
  論文  参考訳（メタデータ） (2022-07-16T19:25:41Z)
• Multiview Stereo with Cascaded Epipolar RAFT [73.7619703879639]
  複数の校正画像から高密度点雲などの3次元モデルを再構成する重要な3次元視覚課題であるマルチビューステレオ(MVS)に対処する。 CER-MVSは、RAFT(Recurrent All-Pairs Field Transforms)アーキテクチャに基づく光学フローのための新しいアプローチであるCER-MVSを提案する。CER-MVSは、RAFTに5つの新しい変更を加える: エピポーラコストボリューム、コストボリュームカスケード、コストボリュームのマルチビュー融合、動的監視、深度マップのマルチ解像度融合。
  論文  参考訳（メタデータ） (2022-05-09T18:17:05Z)
• Multi-View Stereo with Transformer [31.83069394719813]
  本稿では,MVSTR(Multi-View Stereo)のためのネットワークを提案する。 Transformer上に構築されており、グローバルコンテキストと3D一貫性で高密度な特徴を抽出することができる。 実験結果から,提案したMVSTRは,DTUデータセット上で最高の総合性能を達成し,Turps & Templesベンチマークデータセット上での強力な一般化を実現していることがわかった。
  論文  参考訳（メタデータ） (2021-12-01T08:06:59Z)
• TransMVSNet: Global Context-aware Multi-view Stereo Network with Transformers [6.205844084751411]
  マルチビューステレオ(MVS)における特徴マッチングの探索に基づくTransMVSNetを提案する。 本研究では,FMT(Feature Matching Transformer)を提案する。 提案手法は,DTUデータセット,タンク・アンド・テンプルベンチマーク,およびBlendedMVSデータセット上での最先端性能を実現する。
  論文  参考訳（メタデータ） (2021-11-29T15:31:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。