論文の概要: Hardware-aware Calibrated Clustered Attention for Efficient Visual Geometric Transformers
- arxiv url: http://arxiv.org/abs/2610.09274v1
- Date: Wed, 07 Oct 2026 01:13:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.669074
- Title: Hardware-aware Calibrated Clustered Attention for Efficient Visual Geometric Transformers
- Title（参考訳）: 効率的な視覚幾何学変換器のためのハードウェア対応キャリブレーションクラスタアテンション
- Abstract要約: 本稿では,VGGTのグローバルアテンション層を加速させるため,ブロックワイズクラスタアテンション(BC attention)を提案する。
BC の注目は、クエリクラスタリングのオーバーヘッドを減らし、オンチップメモリとオフチップメモリの間のコストのかかるデータ移動を減らします。
クラスタリングエラーを効率的に低減するために,ハッシュ超平面校正法としきい値に基づく誤差補償法を導入する。
- 参考スコア（独自算出の注目度）: 4.578052688617029
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: The Visual Geometry Grounded Transformer (VGGT) marks a significant leap forward in 3D scene reconstruction, as it is the first model that directly infers all key 3D attributes (camera poses, depths, and dense geometry) jointly in one pass. However, this joint inference mechanism requires global attention layers with extremely long sequences that causes a significant latency bottleneck. In this paper, we propose blockwise clustered attention (BC attention) to accelerate the global attention layers in VGGT. By limiting the clustering within HW-friendly neighborhood blocks, BC attention reduces the computation overhead of query clustering as well as the costly data movement between on- and off-chip memory. This enables BC attention to scale to long sequences and deliver practical latency improvements on GPUs. Moreover, we introduce a hashing hyperplane calibration method and a threshold-based error compensation method to reduce clustering errors efficiently, which is a bottleneck in the current clustered attention mechanism. Overall, our experiments on GPU demonstrate that calibrated BC attention accelerates the global attention layers by 2.10-2.63$\times$ and the whole backbone by 1.77-2.35$\times$ with negligible loss (1%) for large scenes. With a small performance loss (< 5%), calibrated BC attention further achieves a 2.26-2.87$\times$ latency improvement on the global attention layers and a 1.90-2.55$\times$ improvement on the backbone.
- Abstract（参考訳）: Visual Geometry Grounded Transformer (VGGT) は、3Dシーンの再構築において大きな前進を図っている。これは、すべての重要な3D属性(カメラのポーズ、深さ、密度幾何学)を直接1回のパスで推論する最初のモデルである。
しかし、この共同推論機構は、非常に長いシーケンスを持つグローバルアテンション層を必要とし、遅延ボトルネックを著しく引き起こす。
本稿では,VGGTのグローバルアテンション層を高速化するブロックワイズ・アテンション(BC attention)を提案する。
HWフレンドリーな近隣ブロック内のクラスタリングを制限することで、クエリクラスタリングの計算オーバーヘッドを減らし、オンチップメモリとオフチップメモリ間のコストのかかるデータ移動を減らします。
これにより、BCは長いシーケンスにスケールし、GPUで実用的な遅延改善を実現することができる。
さらに,ハッシング過平面校正法としきい値に基づく誤差補償法を導入し,クラスタリングエラーを効率よく低減する。
全体として、BCの注目度を2.10-2.63$\times$に、バックボーン全体の1.77-2.35$\times$を1.77-2.35$\times$に、大きなシーンでは無視可能な損失(1%)で加速することを示した。
性能の低下が小さい(5%)ため、BCの注目度は2.26-2.87$\times$グローバルアテンション層での遅延改善、バックボーンでの1.90-2.55$\times$\times$改善を実現している。
関連論文リスト
- MC-Sparse: Deconstructing and Closing the Dense-Sparse Attention Gap in Diffusion Transformers [51.6540025252929]
スパースアテンション(Sparse attention)は、長周期生成タスクにおける拡散変圧器の遅延を低減するための主要なアプローチである。
同様のクエリをタイル型グループに整理しながら,個々のキー値(KV)トークンを選択するトレーニングフリーフレームワークであるMeta-Cached Sparse Attention (MC-Sparse)を提案する。
目に見える品質劣化を伴わずに、高密度アテンション出力に対する忠実度を達成し、既存のスパースアテンションベースラインよりも大きなデノナイジングスピードアップを実現する。
論文 参考訳（メタデータ） (2026-10-05T17:51:42Z) - QuantWM: Temporally Consistent 2-Bit KV Cache Quantization for Video World Models [58.40720767342501]
ビデオワールドモデルは、生成中にKVキャッシュを格納することで、長距離時間一貫性を実現する。
既存の2ビットKVキャッシュ量子化法は、ビデオワールドモデルに適用した場合、時間的フレッカリングと視覚的劣化を引き起こす。
我々は,ビデオワールドモデルのためのトレーニング不要な2ビットKVキャッシュ量子化フレームワークQuantWMを提案する。
論文 参考訳（メタデータ） (2026-09-22T13:50:54Z) - HyperVAttention: Efficient Sparse Attention with Spatio-Temporal Clustering for Video Diffusion [37.76188499190129]
ビデオ拡散変換器(VDiT)は高忠実度ビデオ生成において重要な機能を示す。
長期保存ビデオを作成する能力は、自己保持機構の二次的な複雑さによって制約される。
最近のクラスタリングに基づくスパースアテンション手法は意味論的に類似したトークンをグループ化することで品質と速度のトレードオフを改善するが、その実用効率は2つのボトルネックによって制限されている。
両ボトルネックに共同で対処する,トレーニング不要のスパースアテンションフレームワークであるHyperVAを提案する。
論文 参考訳（メタデータ） (2026-07-03T06:46:35Z) - Lightweight PCGAE-Net: Parallel CrossGate Attention and Bottleneck AutoEncoder for Efficient 5G Channel Prediction [1.1083289076967893]
本稿では,ポストホック圧縮による効率問題に対処する軽量PCGAE-Netを提案する。
CS3T-UNetベースラインよりも58%少ない8.54,Mパラメータのモデルを生成する。
最大3.26,dBを5km/h、6.0,dBを9km/hで上回る。
論文 参考訳（メタデータ） (2026-06-24T04:55:25Z) - HoloEv-Net: Efficient Event-based Action Recognition via Holographic Spatial Embedding and Global Spectral Gating [0.571097144710995]
イベントベース行動認識(EAR)は,高時間分解能と高ダイナミックレンジのイベントカメラにより注目されている。
既存の手法は, (i) 密度ボクセル表現の計算冗長性, (ii) マルチブランチアーキテクチャに固有の構造冗長性, (iii) グローバルな動きパターンを捉えるためのスペクトル情報の未利用性に悩まされている。
論文 参考訳（メタデータ） (2026-02-04T03:42:42Z) - Faster VGGT with Block-Sparse Global Attention [11.473406315508647]
本稿では,高度に最適化されたブロックスパースカーネルに基づくグローバルアテンション操作の置き換えを提案する。
バックボーンの再トレーニングは不要で、VGGTと$pi3$の両方に拡張され、大きなイメージコレクションをサポートします。
論文 参考訳（メタデータ） (2025-09-08T18:16:09Z) - Delta Attention: Fast and Accurate Sparse Attention Inference by Delta Correction [52.14200610448542]
変圧器は二次的な複雑さを持ち、長いシーケンスに対して高い推論コストとレイテンシをもたらす。
本稿では、この分布シフトを修正するためのシンプルで斬新で効果的な手順を提案する。
1Mトークンのプリフィル処理では,Flash Attention 2の32倍の速度で,約98.5%の間隔を維持することができる。
論文 参考訳（メタデータ） (2025-05-16T13:48:33Z) - Graph Transformers for Large Graphs [57.19338459218758]
この研究は、モデルの特徴と重要な設計制約を識別することに焦点を当てた、単一の大規模グラフでの表現学習を前進させる。
この研究の重要な革新は、局所的な注意機構と組み合わされた高速な近傍サンプリング技術の作成である。
ogbn-products と snap-patents の3倍の高速化と16.8%の性能向上を報告し、ogbn-100M で LargeGT を5.9% の性能改善で拡張した。
論文 参考訳（メタデータ） (2023-12-18T11:19:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。