論文の概要: SAF3R: Dynamic Sparse Attention for Feed-Forward 3D Reconstruction Transformers
- arxiv url: http://arxiv.org/abs/2607.03612v1
- Date: Fri, 03 Jul 2026 22:01:35 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.666027
- Title: SAF3R: Dynamic Sparse Attention for Feed-Forward 3D Reconstruction Transformers
- Title（参考訳）: SAF3R:フィードフォワード3次元再構成変換器の動的スパースアテンション
- Abstract要約: SAF3RはF3Rトランス用に設計されたトレーニングフリーのダイナミックスパースアテンションフレームワークである。
カメラポーズ推定と3次元再構成品質を保ちながら、高い空間比を達成する。
既存の方法と比較して、F3R変換器のエンド・ツー・エンド・スピードアップに相当する。
- 参考スコア（独自算出の注目度）: 46.689204782457544
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Feed-forward 3D reconstruction (F3R) transformers have recently achieved remarkable success. However, scaling them to long image sequences remains challenging, as the quadratic complexity of cross-view global attention quickly becomes the dominant computational bottleneck. While recent efforts attempt to improve efficiency through compressed or sparse attention, they fail to fully exploit the inherent sparsity and dynamic behavior of global attention. In this work, we present a comprehensive analysis of global attention across multiple F3R transformers and reveal that attention patterns are highly heterogeneous, dynamic, and extremely sparse across layers and attention heads. Motivated by these findings, we propose SAF3R, a training-free dynamic sparse attention framework tailored to F3R transformers. SAF3R integrates tailored sparse attention mechanisms with offline head profiling and an efficient online adaptation strategy to match input-dependent attention behaviors. Extensive experiments demonstrate that SAF3R achieves high sparsity ratios while preserving camera pose estimation and 3D reconstruction quality, translating into substantial end-to-end speedup on F3R transformers compared to existing methods. Code is available at https://github.com/jndeng/SAF3R
- Abstract（参考訳）: フィードフォワード3D再構成(F3R)は近年顕著な成功を収めている。
しかし、クロスビューの世界的注目の二次的複雑さが急速に計算ボトルネックとなるため、長い画像列にスケールすることは依然として困難である。
近年の努力は、圧縮されたあるいは疎らな注意による効率向上を試みているが、グローバルな注意の空間性やダイナミックな振る舞いを完全に活用することはできなかった。
本研究では,複数のF3Rトランスにおけるグローバルアテンションの包括的解析を行い,アテンションパターンが多種多様であり,動的であり,層やアテンションヘッドにまたがる非常にスパースであることを示す。
そこで本研究では,F3Rトランスに適したトレーニングフリーな動的スパースアテンションフレームワークであるSAF3Rを提案する。
SAF3Rは、スパークスアテンション機構とオフラインヘッドプロファイリングを統合し、入力依存のアテンション行動にマッチする効率的なオンライン適応戦略を組み込んだ。
SAF3Rは、カメラのポーズ推定と3次元再構成品質を保ちながら高い空間比を達成し、F3R変圧器の実質的なエンドツーエンドの高速化を実現する。
コードはhttps://github.com/jndeng/SAF3Rで入手できる。
関連論文リスト
- Event3R: Asynchronous-to-Global 3D Reconstruction from Event Camera via Spatial-Temporal Feature Aggregation [15.940571853456198]
Event3Rは非同期イベントストリームをグローバルに一貫した3Dポイントクラウドにマッピングするフィードフォワードフレームワークである。
堅牢で時間的に整合性があり、グローバルに整合した3D再構成を実現し、既存のイベントベースの手法よりも大幅に優れています。
論文 参考訳（メタデータ） (2026-07-17T08:04:43Z) - Visual Geometry Transformer in the Wild: Distractor-Free 3D Reconstruction [77.75911117889915]
現在のエンドツーエンドのマルチビュー3D再構成手法は、目覚ましい結果を得るが、制限的な静的仮定に依存している。
この理想的な入力への依存は、最も高度なメソッドでさえ、現実世界の設定で失敗する原因となる。
非一貫性の視点から頑健な再構築を行うためのエンドツーエンドフレームワークであるWildにおけるビジュアルジオメトリトランスフォーマーを提案する。
論文 参考訳（メタデータ） (2026-06-22T02:52:22Z) - TurboVGGT: Fast Visual Geometry Reconstruction with Adaptive Alternating Attention [21.29668311125256]
TurboVGGTは、高速なマルチビュー3D再構成のために適応的注目を交互に行う効率的な視覚幾何学変換器を採用している。
適応的疎大なグローバルな注目の中で、TurboVGGTはグローバル幾何モデリングのための様々な空間レベルを持つ代表トークンを適応的に学習する。
複数の3次元再構成ベンチマーク実験により,TurboVGGTは高速な多視点再構成を実現し,競争力のある再構成品質を維持した。
論文 参考訳（メタデータ） (2026-05-14T03:24:09Z) - Scal3R: Scalable Test-Time Training for Large-Scale 3D Reconstruction [50.5449251266956]
本稿では,長い映像シーケンスから大規模3Dシーンを再構築する作業について述べる。
近年のフィードフォワード再構成モデルでは,RGB画像からの3次元幾何を,明示的な3次元先行や幾何学的制約なく直接回帰することで,有望な結果を示している。
本稿では,長距離シーン情報を効率よく圧縮し,保持するニューラルグローバルコンテキスト表現を提案する。
論文 参考訳（メタデータ） (2026-04-09T17:59:50Z) - Fast-SAM3D: 3Dfy Anything in Images but Faster [65.17322167628367]
SAM3Dは複雑なシーンからスケーラブルでオープンな3D再構築を可能にする。
textbfFast-SAM3Dは、計算を瞬時生成の複雑さと整合させる、トレーニング不要のフレームワークである。
論文 参考訳（メタデータ） (2026-02-05T04:27:59Z) - Understanding Multi-View Transformers [18.573401296925844]
DUSt3Rのようなマルチビュートランスフォーマーは、フィードフォワード方式で3Dタスクを解くことで3Dビジョンに革命をもたらしている。
本稿では,多層変換器の残差接続から3次元表現を探索・可視化する手法を提案する。
論文 参考訳（メタデータ） (2025-10-28T19:19:35Z) - STream3R: Scalable Sequential 3D Reconstruction with Causal Transformer [72.88105562624838]
本稿では,ポイントマップ予測をデコーダのみの変換器問題として再構成する新しい3次元再構成手法STream3Rを提案する。
大規模な3Dデータセットから幾何学的先行性を学ぶことで、STream3Rは多様で困難なシナリオにうまく一般化する。
この結果から,オンライン3次元知覚のための因果変換モデルの可能性を浮き彫りにし,ストリーミング環境におけるリアルタイム3次元理解の道を開いた。
論文 参考訳（メタデータ） (2025-08-14T17:58:05Z) - Breaking Complexity Barriers: High-Resolution Image Restoration with Rank Enhanced Linear Attention [54.42902794496325]
ソフトマックスアテンションの変種である線形アテンションは、グローバルコンテキストモデリングにおける約束を示す。
軽量な奥行き畳み込みを統合することで特徴表現を充実させる簡易かつ効果的な方法であるRランク拡張線形アテンション(RELA)を提案する。
本稿では,RELA をベースとした画像復元変換器 LAformer を提案する。
論文 参考訳（メタデータ） (2025-05-22T02:57:23Z) - MAR-3D: Progressive Masked Auto-regressor for High-Resolution 3D Generation [44.94438766074643]
ピラミッド変分オートエンコーダとカスケードマスク自動回帰変換器を統合したMAR-3Dを提案する。
我々のアーキテクチャは、トレーニング中にランダムマスキングを採用し、推論中にランダムな順序で自動回帰化を行い、自然に3D潜在トークンの無秩序な性質を調節する。
論文 参考訳（メタデータ） (2025-03-26T13:00:51Z) - T-3DGS: Removing Transient Objects for 3D Scene Reconstruction [83.05271859398779]
映像シーケンスにおける過渡的オブジェクトは、3Dシーン再構成の品質を著しく低下させる可能性がある。
我々は,ガウススプラッティングを用いた3次元再構成において,過渡的障害を頑健に除去する新しいフレームワークT-3DGSを提案する。
論文 参考訳（メタデータ） (2024-11-29T07:45:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。