論文の概要: HTTM: Head-wise Temporal Token Merging for Faster VGGT

• arxiv url: http://arxiv.org/abs/2511.21317v1
• Date: Wed, 26 Nov 2025 12:04:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-27 18:37:59.082844
• Title: HTTM: Head-wise Temporal Token Merging for Faster VGGT
• Title（参考訳）: HTTM:より高速なVGGTのためのヘッドワイドテンポラルトケマージ
• Abstract要約: VGGTは、1回のパスで全てのキー3D属性を直接推論する最初のモデルである。 長いシーケンス入力を持つ大きなシーンの再構築には、大きな遅延ボトルネックが発生する。 本稿では,VGGTの高速化を目的とした訓練不要な3次元トークンマージ手法であるHTTMを提案する。
• 参考スコア（独自算出の注目度）: 3.4907933619156606
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: The Visual Geometry Grounded Transformer (VGGT) marks a significant leap forward in 3D scene reconstruction, as it is the first model that directly infers all key 3D attributes (camera poses, depths, and dense geometry) jointly in one pass. However, this joint inference mechanism requires global attention layers that perform all-to-all attention computation on tokens from all views. For reconstruction of large scenes with long-sequence inputs, this causes a significant latency bottleneck. In this paper, we propose head-wise temporal merging (HTTM), a training-free 3D token merging method for accelerating VGGT. Existing merging techniques merge tokens uniformly across different attention heads, resulting in identical tokens in the layers' output, which hinders the model's representational ability. HTTM tackles this problem by merging tokens in multi-head granularity, which preserves the uniqueness of feature tokens after head concatenation. Additionally, this enables HTTM to leverage the spatial locality and temporal correspondence observed at the head level to achieve higher merging ratios with lower merging costs compared to existing methods. Thus, HTTM achieves up to 7x acceleration with negligible performance drops in a GPU-based inference.
• Abstract（参考訳）: Visual Geometry Grounded Transformer (VGGT) は、3Dシーンの再構築において大きな前進を図っている。これは、すべての重要な3D属性(カメラのポーズ、深さ、密度幾何学)を直接1回のパスで推論する最初のモデルである。 しかし、この共同推論機構は、すべてのビューからのトークンに対して全対一の注意計算を行うグローバルアテンション層を必要とする。 長いシーケンス入力を持つ大きなシーンの再構築には、大きな遅延ボトルネックが発生する。 本稿では,VGGTの高速化のための訓練不要な3Dトークンマージ手法であるHTTMを提案する。 既存のマージ技術は異なるアテンションヘッドに均一にトークンをマージし、結果としてレイヤの出力に同一のトークンが発生し、モデルの表現能力を阻害する。 HTTMは、頭部結合後の特徴トークンの特異性を保ったマルチヘッド粒度にトークンをマージすることでこの問題に対処する。 さらに、HTTMは、ヘッドレベルで観測される空間的局所性と時間的対応を利用して、既存の方法に比べてマージコストが低いマージ比を高くすることができる。 したがって、HTTMはGPUベースの推論において、無視可能なパフォーマンス低下を伴う最大7倍の加速を達成する。

関連論文リスト

• Single-Stream Multi-Feature Fusion with Temporal Robustness for Gait Emotion Recognition [2.055138638073669]
  3Dスケルトンに基づく歩行感情認識は、高アノテーションコスト、データ不足、不均一なデータに対する低一般化に直面している。 本稿では,時間的不変性を持つ単一ストリーム多機能融合フレームワークSV-GCNを提案する。
  論文  参考訳（メタデータ） (2026-09-10T15:11:51Z)
• Accelerating Unified Multimodal Models with Core-Expansion Routing and Unified Computation Scheduling [61.28599393707943]
  統一マルチモーダルモデルは、理解と生成を共同でサポートするが、トークン、レイヤ、生成タイムステップ間でかなりの冗長な計算を行う。 本稿では,タスク共有型コアスコアラと進行条件付き生成拡張を提案し,生成分解とクロスタスクコアアライメントを最適化した。 2つの代表的UMMアーキテクチャの実験では、両タスク間で一貫した品質改善が示され、98.03%の高密度な理解性能を維持し、エンドツーエンドの推論速度は1.93times$である。
  論文  参考訳（メタデータ） (2026-08-29T14:27:55Z)
• LoST: Level of Semantics Tokenization for 3D Shapes [50.847769883816085]
  State-of-the-artメソッドは、もともとレンダリングと圧縮のために設計された幾何学的なレベル・オブ・ディテール(LoD)階層に依存している。 本稿では,初期接頭辞が完全かつ可塑性な形状をデコードするように,サリエンスを指示するレベル・オブ・セマンティックス・トークン化(LoST)を提案する。 LoSTはSOTA再構成を実現し、幾何的および意味的再構成のメトリクスにおいて、従来のLoDベースの3次元形状トークン化器を大きなマージンで上回っている。
  論文  参考訳（メタデータ） (2026-03-18T17:56:06Z)
• S-VGGT: Structure-Aware Subscene Decomposition for Scalable 3D Foundation Models [15.408916900664783]
  フィードフォワード3Dファンデーションモデルは、グローバルな注目によって導入された二次計算コストという、大きな課題に直面している。 構造フレームレベルでの冗長性に対処する新しいアプローチである textbfS-VGGT を導入する。 S-VGGTは完全にトークンレベルの加速法であり、複雑なスピードアップにシームレスに組み合わせることができる。
  論文  参考訳（メタデータ） (2026-03-18T11:42:55Z)
• Speed3R: Sparse Feed-forward 3D Reconstruction Models [15.534969350839788]
  我々は,Structure-from-Motionのコア原理にインスパイアされた,エンドツーエンドのトレーニング可能なモデルであるSpeed3Rを紹介する。 Speed3Rは、圧縮ブランチが選択ブランチを導く前に粗いコンテキストを生成するデュアルブランチアテンション機構を備えている。 この戦略は従来のキーポイントマッチングの効率を模倣し、1000ビューシーケンスでの12.4倍の推論速度を達成する。
  論文  参考訳（メタデータ） (2026-03-09T07:46:51Z)
• FACE: A Face-based Autoregressive Representation for High-Fidelity and Efficient Mesh Generation [50.71369329585773]
  フェースレベルでメッシュを生成する新しいAutoregressive AutoencoderフレームワークであるFACEを紹介する。 当社のワンフェイスワンツーケン戦略は、メッシュの基本構築ブロックである三角形の面を、単一の統一トークンとして扱います。 FACEは、標準ベンチマークで最先端の再構築品質を達成する。
  論文  参考訳（メタデータ） (2026-03-02T06:47:15Z)
• Fast-SAM3D: 3Dfy Anything in Images but Faster [65.17322167628367]
  SAM3Dは複雑なシーンからスケーラブルでオープンな3D再構築を可能にする。 textbfFast-SAM3Dは、計算を瞬時生成の複雑さと整合させる、トレーニング不要のフレームワークである。
  論文  参考訳（メタデータ） (2026-02-05T04:27:59Z)
• ResTok: Learning Hierarchical Residuals in 1D Visual Tokenizers for Autoregressive Image Generation [64.84095852784714]
  Residual Tokenizer (ResTok)は、画像トークンと潜在トークンの両方の階層的残基を構築する1Dビジュアルトークンライザである。 視覚的トークン化における階層的残差の復元はAR画像生成を著しく改善し,ImageNet-256ではわずか9ステップで2.34gFIDを達成した。
  論文  参考訳（メタデータ） (2026-01-07T14:09:18Z)
• FlashVGGT: Efficient and Scalable Visual Geometry Transformers with Compressed Descriptor Attention [11.71939856454585]
  マルチビュー画像からの3D再構成は、コンピュータビジョンにおける中核的な課題である。 最近のフィードフォワード法は、従来のシーンごとの最適化手法に代わる効率的で堅牢な代替手段として現れている。 我々は、ディスクリプタベースのアテンションメカニズムを通じて、このボトルネックに対処する効率的な代替手段であるFlashVGTを紹介します。
  論文  参考訳（メタデータ） (2025-12-01T11:12:37Z)
• FastHMR: Accelerating Human Mesh Recovery via Token and Layer Merging with Diffusion Decoding [2.309307613420651]
  我々は2つのHMR固有のマージ戦略を紹介する: エラー拘束層マージ(ECLM)とマスク誘導トケンマージ(Mask-ToMe)である。 複数のベンチマーク実験により,本手法は最大2.3倍の高速化を実現し,ベースラインの性能はわずかに向上した。
  論文  参考訳（メタデータ） (2025-10-13T00:23:17Z)
• FastVGGT: Training-Free Acceleration of Visual Geometry Transformer [83.67766078575782]
  VGGTは最先端のフィードフォワード視覚幾何学モデルである。 本稿では,VGGTの高速化のためのトレーニングフリーメカニズムを用いて,3次元領域におけるトークンのマージを利用したFastVGGTを提案する。 1000の入力画像により、FastVGGTはVGGTの4倍の高速化を実現し、長いシーケンスシナリオにおけるエラーの蓄積を緩和する。
  論文  参考訳（メタデータ） (2025-09-02T17:54:21Z)
• FEAT: Full-Dimensional Efficient Attention Transformer for Medical Video Generation [14.903360987684483]
  高品質なダイナミック・メディカル・ビデオのためのフル次元能動的アテンション・トランスフォーマであるFEATを提案する。 FEAT-Sは、最先端モデルのEndoraのパラメータのわずか23%しか持たないが、同等またはそれ以上の性能を発揮することを示した。
  論文  参考訳（メタデータ） (2025-06-05T12:31:02Z)
• GigaTok: Scaling Visual Tokenizers to 3 Billion Parameters for Autoregressive Image Generation [81.58846231702026]
  視覚トークン化のスケーリングにおいて、画像再構成、生成、表現学習を改善するための最初のアプローチであるGigaTokを紹介する。 我々は、遅延空間の増大する複雑さを、再生と世代ジレンマの主な要因とみなす。 数十億ドルのパラメータにスケールアップすることで、GigaTokは、再構築、下流のAR生成、下流のAR表現品質における最先端のパフォーマンスを達成する。
  論文  参考訳（メタデータ） (2025-04-11T17:59:58Z)
• MAR-3D: Progressive Masked Auto-regressor for High-Resolution 3D Generation [44.94438766074643]
  ピラミッド変分オートエンコーダとカスケードマスク自動回帰変換器を統合したMAR-3Dを提案する。 我々のアーキテクチャは、トレーニング中にランダムマスキングを採用し、推論中にランダムな順序で自動回帰化を行い、自然に3D潜在トークンの無秩序な性質を調節する。
  論文  参考訳（メタデータ） (2025-03-26T13:00:51Z)
• Layer- and Timestep-Adaptive Differentiable Token Compression Ratios for Efficient Diffusion Transformers [55.87192133758051]
  Diffusion Transformer (DiTs)は、最先端(SOTA)画像生成の品質を達成したが、レイテンシとメモリ非効率に悩まされている。 圧縮比の異なる動的DiT推論フレームワークであるDiffCRを提案する。
  論文  参考訳（メタデータ） (2024-12-22T02:04:17Z)
• Accelerating Vision Transformers Based on Heterogeneous Attention Patterns [89.86293867174324]
  ビジョントランスフォーマー(ViT)はコンピュータビジョンの分野で多くの注目を集めている。 層間における異種注意パターンの観測に基づく統合圧縮パイプラインを提案する。 実験的に、DGSSAとGLADの統合圧縮パイプラインは、最大121%のランタイムスループットを加速することができる。
  論文  参考訳（メタデータ） (2023-10-11T17:09:19Z)
• UNETR++: Delving into Efficient and Accurate 3D Medical Image Segmentation [93.88170217725805]
  本稿では,高画質なセグメンテーションマスクと,パラメータ,計算コスト,推論速度の両面での効率性を提供するUNETR++という3次元医用画像セグメンテーション手法を提案する。 我々の設計の核となるのは、空間的およびチャネル的な識別的特徴を効率的に学習する、新しい効率的な対注意ブロック(EPA)の導入である。 Synapse, BTCV, ACDC, BRaTs, Decathlon-Lungの5つのベンチマークで評価した結果, 効率と精度の両面で, コントリビューションの有効性が示された。
  論文  参考訳（メタデータ） (2022-12-08T18:59:57Z)
• GD-MAE: Generative Decoder for MAE Pre-training on LiDAR Point Clouds [72.60362979456035]
  Masked Autoencoders (MAE)は、大規模な3Dポイントクラウドでの探索が難しい。 我々は,周囲のコンテキストを自動的にマージするためのtextbfGenerative textbfDecoder for MAE (GD-MAE)を提案する。 提案手法の有効性を, KITTI と ONCE の2つの大規模ベンチマークで実証した。
  論文  参考訳（メタデータ） (2022-12-06T14:32:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。