論文の概要: VGGT-$Ω$
- arxiv url: http://arxiv.org/abs/2605.15195v1
- Date: Thu, 14 May 2026 17:59:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-15 21:45:35.019774
- Title: VGGT-$Ω$
- Title(参考訳): VGGT-$Ω$
- Authors: Jianyuan Wang, Minghao Chen, Shangzhan Zhang, Nikita Karaev, Johannes Schönberger, Patrick Labatut, Piotr Bojanowski, David Novotny, Andrea Vedaldi, Christian Rupprecht,
- Abstract要約: VGGT-$$は、静的シーンと動的シーンの両方の再現精度、効率、能力を大幅に改善する。
VGGTのアーキテクチャは、マルチタスクの監視と高価な高分解能畳み込み層を除去した1つの高密度予測ヘッドを用いて単純化される。
VGGT-$$は、複数のベンチマークで静的および動的シーンを再構築する強力な結果を得る。
- 参考スコア(独自算出の注目度): 67.24541804164818
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Recent feed-forward reconstruction models, such as VGGT, have proven competitive with traditional optimization-based reconstructors while also providing geometry-aware features useful for other tasks. Here, we show that the quality of these models scales predictably with model and data size. We do so by introducing VGGT-$Ω$, which substantially improves reconstruction accuracy, efficiency, and capabilities for both static and dynamic scenes. To enable training this model at an unprecedented scale, we introduce architectural changes that improve training efficiency, a high-quality data annotation pipeline that supports dynamic scenes, and a self-supervised learning protocol. We simplify VGGT's architecture by using a single dense prediction head with multi-task supervision and removing the expensive high-resolution convolutional layers. We also use registers to aggregate scene information into a compact representation and introduce register attention, which restricts inter-frame information exchange to these registers, in part replacing global attention. In this way, during training, VGGT-$Ω$ uses only about 30% of the GPU memory of its predecessor, allowing us to train with 15x more supervised data than prior work and to leverage vast amounts of unlabeled video data. VGGT-$Ω$ achieves strong results for reconstruction of static and dynamic scenes across multiple benchmarks, for example, improving over the previous best camera estimation accuracy on Sintel by 77%. We also show that the learned registers can improve vision-language-action models and support alignment with language, suggesting that reconstruction can be a powerful and scalable proxy task for spatial understanding. Project Page: http://vggt-omega.github.io/
- Abstract(参考訳): VGGTのような最近のフィードフォワード再構成モデルは、従来の最適化ベースの再構成と競合する一方で、他のタスクに有用な幾何学的特徴を提供している。
ここでは,これらのモデルの品質が,モデルやデータサイズとともに予測可能でスケール可能であることを示す。
VGGT-$Ω$を導入し、静的シーンと動的シーンの両方の再現精度、効率、能力を大幅に改善する。
このモデルを前例のない規模でトレーニング可能にするために,トレーニング効率を向上させるアーキテクチャ変更,動的シーンをサポートする高品質なデータアノテーションパイプライン,自己教師型学習プロトコルを導入する。
VGGTのアーキテクチャは、マルチタスクの監視と高価な高分解能畳み込み層を除去した1つの高密度予測ヘッドを用いて単純化される。
我々はまた、シーン情報をコンパクトな表現に集約し、これらのレジスタへのフレーム間情報交換を制限するレジスタアテンションを導入する。
このように、トレーニング中、VGGT-$Ω$は前者のGPUメモリの30%しか使用せず、これまでよりも15倍多くの教師付きデータをトレーニングし、大量の未ラベルビデオデータを活用することができます。
VGGT-$Ω$は、例えばSintelの以前の最高のカメラ推定精度を77%向上させるなど、複数のベンチマークで静的および動的シーンを再構築する強力な結果を得る。
また,学習したレジスタが視覚-言語-行動モデルを改善し,言語との整合性をサポートすることを示し,空間的理解のための強力でスケーラブルなプロキシタスクであることが示唆された。
Project Page: http://vggt-omega.github.io/
関連論文リスト
- Attention Itself Could Retrieve.RetrieveVGGT: Training-Free Long Context Streaming 3D Reconstruction via Query-Key Similarity Retrieval [86.05617542701644]
Visual Geometry Grounded Transformer (VGGT)はスケーラブルなTransformerアーキテクチャを通じて3D再構成を行う。
StreamVGGTは因果的にストリーミングを可能にするが、KVキャッシュはフレームとともに線形に成長し、メモリオーバーフローと品質劣化を引き起こす。
本稿では、VGGTのコンテキスト構築を検索問題として定式化する、トレーニング不要なフレームワークRetrieveVGGTを提案する。
論文 参考訳(メタデータ) (2026-05-10T16:41:54Z) - HyVGGT-VO: Tightly Coupled Hybrid Dense Visual Odometry with Feed-Forward Models [5.774229010627818]
HyVGGT-VOはスパースVOの計算効率とフィードフォワードモデルの高密度再構成機能を組み合わせた新しいフレームワークである。
提案手法は,既存のVGGT法と比較して約5倍の高速化を実現している。
論文 参考訳(メタデータ) (2026-04-02T14:35:59Z) - Detect Anything via Next Point Prediction [51.55967987350882]
Rex-Omniは最先端の物体認識性能を実現する3BスケールのMLLMである。
COCOやLVISのようなベンチマークでは、Rex-Omniは回帰ベースのモデルに匹敵するパフォーマンスを得る。
論文 参考訳(メタデータ) (2025-10-14T17:59:54Z) - Graph Retention Networks for Dynamic Graphs [4.4053348026380235]
動的グラフの深層学習のための統合アーキテクチャとしてグラフ保持ネットワークを提案する。
GRNは、グラフ保持としての動的グラフデータに対して、コア計算の保持方法を拡張している。
ベンチマークデータセットを用いて行った実験は、エッジレベルの予測とノードレベルの分類タスクの両方において、GRNの優れた性能を示す。
論文 参考訳(メタデータ) (2024-11-18T03:28:11Z) - A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳(メタデータ) (2024-06-19T22:30:08Z) - Reinforcement Learning as a Parsimonious Alternative to Prediction
Cascades: A Case Study on Image Segmentation [6.576180048533476]
PaSeR(Parsimonious with Reinforcement Learning)は、非スケーリングでコストを意識した学習パイプラインである。
ケースドモデルと比較して計算コストを最小化しながら,PaSeRの精度が向上することを示す。
コストと性能のバランスを評価するため,新しい指標IoU/GigaFlopを導入する。
論文 参考訳(メタデータ) (2024-02-19T01:17:52Z) - p-Laplacian Adaptation for Generative Pre-trained Vision-Language Models [10.713680139939354]
大きなコーパスで事前訓練された視覚言語モデル(VLM)は、下流のタスクで顕著な成功を収めている。
PETLはフル微調整の代替として注目されている。
グラフニューラルネットワーク(GNN)において,$p$-Laplacianメッセージパッシングを利用する新しいアダプタアーキテクチャである$p$-adapterを提案する。
論文 参考訳(メタデータ) (2023-12-17T05:30:35Z) - Incorporating Structured Representations into Pretrained Vision &
Language Models Using Scene Graphs [79.64891686479213]
シーングラフ(SG)から学習する場合、視覚と言語モデル(VLM)を改善することができることを示す。
視覚面では、SG情報を予測するために訓練されたイメージトランスフォーマーに特別な「SG成分」を組み込む一方、テキスト側では、SGを使ってきめ細かなキャプションを生成する。
提案手法は,ZS能力を軽度に低下させるだけで,複数のデータセット上でのVLMの性能を向上する。
論文 参考訳(メタデータ) (2023-05-10T17:52:26Z) - When Vision Transformers Outperform ResNets without Pretraining or
Strong Data Augmentations [111.44860506703307]
Vision Transformer (ViTs) と既存のVisionNetsは、ハンドワイヤ機能やインダクティブスループットを汎用神経アーキテクチャに置き換えようとしている。
本稿では、損失幾何学のレンズからViTとRes-Mixersを解析し、トレーニングおよび推論時のモデルのデータ効率を改善することを目的とする。
最初の数層では、スペーサー活動ニューロンの頑健性が改善していることが示されている。
その結果、ViTsは、大規模な事前トレーニングや強力なデータ拡張なしに、ImageNet上でスクラッチからトレーニングした時に、同様のサイズと滑らかさのネットより優れています。
論文 参考訳(メタデータ) (2021-06-03T02:08:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。