論文の概要: Align-VAE: Aligning Attention and Geometry in VecSet VAEs for 3D Reconstruction
- arxiv url: http://arxiv.org/abs/2610.14734v1
- Date: Sat, 10 Oct 2026 08:53:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 12:01:26.381464
- Title: Align-VAE: Aligning Attention and Geometry in VecSet VAEs for 3D Reconstruction
- Title(参考訳): Align-VAE:3次元再構成のためのVecSet VAEにおけるアライメントと幾何学
- Abstract要約: セットベース変分オートエンコーダ(VecSet VAE)は3次元形状を潜在トークンのコンパクトな集合として表現する。
これらの潜伏剤が幾何と真に一致しているかを考察する。
4つの修正を加えてAlign-VAEを導入する。
- 参考スコア(独自算出の注目度): 23.390445021790196
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Set-based variational autoencoders (VecSet VAEs) represent 3D shapes as compact sets of latent tokens. Although each token originates from a query at a sampled surface location, whether these latents truly align with geometry remains unclear. We investigate this alignment and identify four issues: (i) attention-sink-like tokens that attract queries from across the shape; (ii) spatially periodic repetitions in decoder attention responses; (iii) mismatched normal information in encoder and decoder query features; and (iv) missing supervision of the intrinsic relation between signed distance fields and surface normals. To address these issues, we introduce Align-VAE with four corresponding modifications: (i) a shared bank of learnable decoder tokens provides a workspace for global computation; (ii) distance-biased cross-attention guides retrieval toward nearby predicted spatial anchors; (iii) normal-free encoder queries align the two stages' access to normal information while retaining normals in the encoder keys and values; and (iv) a screened Poisson-inspired regularizer supervises surface values and normal-direction derivatives. These changes align latent retrieval and field prediction with geometry without enlarging the per-shape code. On the ABO dataset, Align-VAE reduces Chamfer distance by 26.6% compared to the standard VecSet VAE.
- Abstract(参考訳): セットベース変分オートエンコーダ(VecSet VAE)は3次元形状を潜在トークンのコンパクトな集合として表現する。
それぞれのトークンはサンプリングされた表面位置でのクエリに由来するが、これらの潜伏剤が実際に幾何学と整合しているかどうかは不明である。
このアライメントを調査し、4つの問題を特定します。
一 形状の至る所から問合せを惹きつける注意書き様のトークン
(ii)デコーダの注意応答における空間的周期的繰り返し
三 エンコーダ及びデコーダの問い合わせ機能における正規情報の一致の誤認
(4)符号付き距離場と表面正常値の内在的関係の監視が欠如している。
これらの問題に対処するため、Align-VAEに4つの修正を加えて紹介する。
i) 学習可能なデコーダトークンの共有バンクは,グローバルな計算のためのワークスペースを提供する。
(二)近辺の予測空間アンカーに対する距離バイアス横断案内
三 ノーマルフリーエンコーダクエリは、エンコーダキー及び値のノーマルを保ちながら、2つのステージのノーマル情報へのアクセスを整列する。
(iv)ポアソンにインスパイアされた正則化器は表面値と正規方向微分を監督する。
これらの変化は、字型毎のコードを大きくすることなく、潜在検索とフィールド予測を幾何と一致させる。
ABOデータセットでは、Align-VAEは標準的なVecSet VAEと比較してチャンファー距離を26.6%削減している。
関連論文リスト
- Trajectory-Guided Tokenization of Complex CSI for Wi-Fi Sensing [14.049803186643354]
我々は、Wi-Fiチャネルの状態情報に対するトラジェクティブガイド型トークン化(TGT)を提案する。
各アンテナリンクとサブキャリアに対して、正則ヘルマート変換は短周期の時間パッチを局所中心および中心軌道座標に分解する。
TGTは、評価されたすべてのバックエンドの組み合わせの中で92.83%の平均精度を達成している。
論文 参考訳(メタデータ) (2026-10-05T13:14:38Z) - InLiER: Learning-Free Heterogeneous LiDAR Place Recognition via Intermediate Mixed-Radix Structural Keypoint Tokenization [17.209765684998427]
中間トークン化ステップに基づく学習自由パイプラインInLiERを提案する。
InLiERはHeLiPRデータセットと実世界のフィールド実験で最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2026-07-18T15:55:36Z) - Weierstrass Positional Encoding for Vision Transformers [13.639230128765988]
視覚変換器はコンピュータビジョンにおいて顕著な成功を収めてきたが、一次元位置符号化の共通利用は、パッチフラット化後の画像の2次元構造を弱める。
Weierstrass elliptic Positional geometry Compute (WePE)を提案する。
WePEはプラグアンドプレイであり、解像度に依存しないため、既存のViTとシームレスに統合できる。
論文 参考訳(メタデータ) (2026-05-20T13:35:17Z) - SeqPE: Transformer with Sequential Position Encoding [76.22159277300891]
SeqPEは、各$n$次元位置指数をシンボルシーケンスとして表現し、軽量なシーケンシャル位置エンコーダを用いて埋め込みを学習する。
言語モデリング、長文質問応答、および2次元画像分類による実験により、SeqPEはパープレキシティ、正確なマッチング(EM)、精度の強いベースラインを超えるだけでなく、手作業によるアーキテクチャ再設計を必要とせず、多次元入力へのシームレスな一般化を可能にする。
論文 参考訳(メタデータ) (2025-06-16T09:16:40Z) - GTA: A Geometry-Aware Attention Mechanism for Multi-View Transformers [63.41460219156508]
既存の位置符号化方式は3次元視覚タスクに最適であると主張する。
トークンの幾何学的構造を相対変換として符号化する幾何学的注意機構を提案する。
我々は、Geometric Transform Attention (GTA) と呼ばれる、最先端のトランスフォーマーベースNVSモデルの学習効率と性能を向上させることに留意している。
論文 参考訳(メタデータ) (2023-10-16T13:16:09Z) - V-DETR: DETR with Vertex Relative Position Encoding for 3D Object
Detection [73.37781484123536]
DETRフレームワークを用いた点雲のための高性能な3次元物体検出器を提案する。
限界に対処するため,新しい3次元相対位置(3DV-RPE)法を提案する。
挑戦的なScanNetV2ベンチマークで例外的な結果を示す。
論文 参考訳(メタデータ) (2023-08-08T17:14:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。