論文の概要: Does the VGGT Family Need All Its Layers?
- arxiv url: http://arxiv.org/abs/2609.36842v1
- Date: Tue, 29 Sep 2026 06:52:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-30 21:28:47.247478
- Title: Does the VGGT Family Need All Its Layers?
- Title(参考訳): VGGTファミリーはすべての層を必要とするか?
- Abstract要約: VGGT,3ドル,VGGT-$:3,018プルーニング構成における層冗長性について検討した。
取り外し可能な層が2つの冗長領域に集結しているのに対して、層間をまたがる削除は、常に破壊的である。
CKAは、間隔分解のためのより安価な表現ベースのプロキシを提供し、プルーニング品質とキャリブレーションコストのトレードオフを提供する。
- 参考スコア(独自算出の注目度): 55.81487806596663
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Which layers of a feed-forward geometry model are needed to preserve both camera poses and dense 3D structure? We study layer redundancy in VGGT, $π^3$, and VGGT-$Ω$: 3,018 pruned configurations, scored on seven camera-pose and dense-geometry metrics across four indoor and outdoor datasets. Four findings follow: (i) Removable layers cluster in two redundancy regions: a dominant early region and a narrower late one, while deletions spanning the intervening layers are consistently more disruptive. This recurring pattern holds across models, datasets, and metrics, and contrasts with the middle-to-late redundancy commonly reported in the literature. (ii) Within these regions, we observe that the joint degradation from deleting two intervals is approximately the sum of their individual degradations, reducing the number of model evaluations for pruning search from $O(L^4)$ to $O(L^2)$, where $L$ is the aggregator depth. (iii) We find that CKA provides a cheaper representation-based proxy for interval degradation, offering a practical trade-off between pruning quality and calibration cost. (iv) Closed-form linear calibration recovers accuracy after pruning without end-to-end retraining. A least-squares analysis shows that using a shared map for special and patch tokens generally incurs excess reconstruction loss, motivating token-aware recovery. Recovery maps fitted on just 100 calibration scenes generalize to held-out scenes and unseen datasets. The resulting models reduce aggregator parameters by up to 44% while maintaining accuracy comparable to their intact counterparts. Code and experimental results will be available at our project page: https://xian-bei.github.io/vggt-family-layer-redundancy/
- Abstract(参考訳): カメラのポーズと高密度な3D構造を維持するために、フィードフォワード幾何モデルのどの層が必要か?
VGGT,$π^3$,およびVGGT-$Ω$: 3,018プルーニング構成の層冗長性について検討した。
以下の4つの発見がある。
(i)2つの冗長領域(支配的な初期領域とより狭い後期領域)に除去可能な層が集結する一方、断続的な層にまたがる欠落は、常に破壊的である。
この繰り返しパターンは、モデル、データセット、メトリクスにまたがって保持され、文献で一般的に報告される中間から後期の冗長性とは対照的である。
(II) これらの領域において, 2区間の欠落による共同劣化は個々の劣化の総和であり,$O(L^4)$から$O(L^2)$へのプルーニング探索におけるモデル評価の回数を減少させる。
3) CKAは間隔分解のための表現ベースのプロキシとして, プルーニング品質とキャリブレーションコストのトレードオフを提供する。
4) 閉形線形キャリブレーションは, エンド・ツー・エンドのリトレーニングを伴わずに, プルーニング後の精度を回復する。
最小二乗分析は、特別なトークンとパッチトークンの共有マップを使用することで、一般に過剰な再構築損失を発生させ、トークン認識の回復を動機付けていることを示している。
たった100のキャリブレーションシーンに装着されたリカバリマップは、ホールドアウトシーンと目に見えないデータセットに一般化される。
結果として得られたモデルは、アグリゲータパラメータを最大44%削減すると同時に、無傷のアグリゲータパラメータと同等の精度を維持している。
コードと実験結果は、プロジェクトのページで公開されます。
関連論文リスト
- Readout is not Recovery: Dissociating Coordinate Emission from Visual-Corruption Repair in Vision-Language Models [0.0]
単体接地におけるQwen3-VL-4B-インストラクトの読み出し・回収分離について検討した。
本研究では,クリーンな座標 token の読み出しランキングと汚職由来の修復ランキングを比較し,リカバリのためのオブジェクトマスクの終端置換と深度定位のためのクリーンインプットのフロアリングを用いた。
論文 参考訳(メタデータ) (2026-09-26T16:25:45Z) - S4R: Scaling for Rigid-Body Interpenetration Resolution [77.64742259295664]
静的相互接続修復のためのスケール継続法であるS4Rを提案する。
メッシュレベルの共有評価器とシーン毎の統一タイミングプロトコルを用いて,Kubric,HY3D-Bench,Thingi10K上のS4Rを評価する。
論文 参考訳(メタデータ) (2026-09-17T15:02:45Z) - Marigold V2: Revisiting Diffusion Transformers for Monocular Depth Estimation [68.73567966621631]
最新の画像生成および編集モデルを再開発する一連の手法であるMarigoldを、最先端の単眼深度推定器に再検討する。
我々のレシピは、事前訓練されたマルチステップフローマッチングモデルから単一ステップの推論を目標とし、必要に応じて量子化を行い、安価な実行環境を維持しながらモデルキャパシティを保存する。
その結果,AbsRel は KITTI や ETH3D よりも16~26% 向上した。
論文 参考訳(メタデータ) (2026-09-08T00:52:01Z) - GeoRay: Gauge-Aware Feed-Forward Satellite 3D Reconstruction in the Geodetic Frame [11.043507429399414]
パースペクティブに制約された特徴、絶対標高、モノクラーおよびマルチビューキューを扱う方法。
軽量な ray-consistent アダプタは、凍結したバックボーンをネイティブな RPC 線に沿って適合させる。
18のシステムの絶対フレームベンチマークであるStandardは、登録やテスト参照リークなしに絶対配置をスコア付けします。
論文 参考訳(メタデータ) (2026-08-30T09:27:36Z) - Bend the Basics: Degradation-Aware Deformable Tokenization for All-in-One Image Restoration [72.64498743287601]
オールインワン画像復元は、多様で空間的に一様でない腐敗によって劣化した画像を復元できる単一のモデルを求める。
パイプライン全体にわたる劣化認識をモデル化するフレキシブル・イメージ・トランスフォーマー(FIT)を提案する。
FITは、30.72dBの平均PSNRを5次劣化設定で32.83dBを3次劣化設定で達成し、最近の統一修復法を+0.5$sim$1.1dBで上回った。
論文 参考訳(メタデータ) (2026-08-07T05:44:31Z) - $K$-NeAS: Scalable Multi-Material CT Reconstruction Using Neural SDFs [0.0]
入射シーン表現(ISR)は、スパースプロジェクションから直接連続的な体積減衰場を復元することでこの問題に対処する。
本稿では, 自動多材料表面再構成のための統一かつスケーラブルなアーキテクチャであるK$-NeASを提案する。
論文 参考訳(メタデータ) (2026-07-15T23:08:45Z) - Level-Crossing Density as a Mesh-Free High-Frequency Auxiliary Loss for Implicit Neural Representations [0.0]
格子も複雑も永続性もない連続神経場に対するスムーズなモンテカルロ推定器を導出する。
推定器は2Dと3Dの正確なトポロジーに対して1-3%の精度で、1イテレーションあたり約3ミリ秒の費用がかかる。
しかし、3Dニューラル-SDFフィッティングでは、任意のサンプルソフトトポロジーの目的に対して一般的な障害モードが現れると信じている。
論文 参考訳(メタデータ) (2026-07-07T04:23:23Z) - Free Geometry: Refining 3D Reconstruction from Longer Versions of Itself [38.95274911975506]
Free Geometryは、フィードフォワードの3D再構成モデルが3D基底の真理なしにテスト時に自己進化することを可能にするフレームワークである。
当社のアプローチは、4つのベンチマークデータセットにまたがって、Depth Anything 3やVGGTといった最先端の基礎モデルを継続的に改善しています。
論文 参考訳(メタデータ) (2026-04-15T16:24:03Z) - 360 Layout Estimation via Orthogonal Planes Disentanglement and Multi-view Geometric Consistency Perception [56.84921040837699]
既存のパノラマ配置推定ソリューションは、垂直圧縮されたシーケンスから部屋の境界を復元し、不正確な結果をもたらす傾向にある。
そこで本稿では,直交平面不整合ネットワーク(DOPNet)を提案し,あいまいな意味論を識別する。
また,水平深度と比表現に適した教師なし適応手法を提案する。
本手法は,単分子配置推定と多視点レイアウト推定の両タスクにおいて,他のSoTAモデルよりも優れる。
論文 参考訳(メタデータ) (2023-12-26T12:16:03Z) - Improved Convergence Guarantees for Shallow Neural Networks [91.3755431537592]
勾配降下法により訓練された深度2ニューラルネットの収束度を世界最小とする。
我々のモデルには、二次損失関数による回帰、完全連結フィードフォワードアーキテクチャ、RelUアクティベーション、ガウスデータインスタンス、逆ラベルといった特徴がある。
彼らは、少なくとも我々のモデルでは、収束現象がNTK体制をはるかに超越していることを強く示唆している」。
論文 参考訳(メタデータ) (2022-12-05T14:47:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。