論文の概要: StreamRig: Exploiting Intra-Rig Geometry for Streaming Multi-Camera Odometry
- arxiv url: http://arxiv.org/abs/2609.40244v1
- Date: Wed, 30 Sep 2026 17:34:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:28.185656
- Title: StreamRig: Exploiting Intra-Rig Geometry for Streaming Multi-Camera Odometry
- Title(参考訳): StreamRig: マルチカメラオドメトリーのストリーム化のためのライグ内幾何学の爆発的展開
- Abstract要約: StreamRigは、凍結したマルチビュー3Dファンデーションモデルに基づいてキャリブレーションを行うための因果ストリーミングオドメトリーを構築する。
我々は,NCLT,Tartan,KITTI-360,および自己コンパイル型ヒューマノイドロボットデータセットZJHについて評価を行った。
- 参考スコア(独自算出の注目度): 26.225014491262424
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Mobile robots and vehicles carry synchronized multi-camera rigs, yet many streaming 3D foundation models are designed for monocular input, leaving efficient use of rig geometry a challenge. We present StreamRig, a freeze-and-stream framework that builds causal streaming odometry for calibrated rigs on a frozen multi-view 3D foundation model. The frozen front-end jointly perceives the synchronized views using rig calibration. A Rig-Resampler compresses their features, a CausalBridge applies causal attention with a key-value cache, and a lightweight head regresses rig poses. A periodic re-anchoring protocol supports stable pose estimation over long sequences. Only these modules are trained, 74.6M parameters in total, with relative poses as the sole supervision. Our two-stage training strategy combines group relocalization pretraining with causal rig training to transfer the geometric priors of the frozen front-end and the alignment ability of the pretrained modules to streaming odometry. We evaluate on NCLT, TartanGround, KITTI-360, and our self-collected humanoid-robot dataset ZJH, where training uses only simulation and real-world evaluation is zero-shot. Across all four datasets, StreamRig achieves lower translation and rotation drift than the evaluated non-oracle monocular streaming and rig-aware offline models, while maintaining low inference cost. Ablations and controlled camera-count experiments identify the sources of these gains. We further examine how longer training windows affect inference over longer horizons. Code has been released at https://github.com/WeiYuFei0217/StreamRig.
- Abstract(参考訳): 移動ロボットと車両は同期マルチカメラリグを搭載しているが、多くのストリーミング3Dファンデーションモデルは単眼入力用に設計されており、効率的なリグ形状の使用が課題となっている。
フリーズ・アンド・ストリームのフレームワークであるStreamRigは、凍結したマルチビュー3D基礎モデルに基づいて、校正リグのための因果ストリーミングオドメトリーを構築する。
凍結したフロントエンドは、リグキャリブレーションを用いて同期されたビューを共同で知覚する。
Rig-Resamplerはその特徴を圧縮し、CausalBridgeはキー値キャッシュで因果注意をし、軽量なヘッドレグレッションリグのポーズを施す。
周期的再集計プロトコルは、長いシーケンス上で安定したポーズ推定をサポートする。
これらのモジュールのみが訓練され、74.6Mのパラメータが与えられ、相対的なポーズが唯一の監督対象となっている。
我々の2段階のトレーニング戦略は,グループ再定位トレーニングと因果リグトレーニングを組み合わせることで,凍結したフロントエンドの幾何学的先行と事前訓練したモジュールのアライメント能力をストリーミングオドメトリーに転送する。
我々はNCLT, TartanGround, KITTI-360, および自己コンパイル型ヒューマノイドロボットデータセットZJHについて評価を行った。
4つのデータセット全体にわたって、StreamRigは、低い推論コストを維持しながら、評価された非オーラルなモノクラーストリーミングやrig対応のオフラインモデルよりも低い翻訳と回転のドリフトを実現している。
アブレーションとコントロールされたカメラカウント実験は、これらの利得の源を特定できる。
さらに、より長い地平線上でのトレーニングウィンドウの推論への影響について検討する。
コードはhttps://github.com/WeiYuFei0217/StreamRigでリリースされた。
関連論文リスト
- Tele360: Real-Time Feed-Forward Human Reconstruction from Sparse Unposed Cameras [43.56045236607455]
我々は,人間の動的再構成とライブ自由視点可視化のための,最初のリアルタイムフィードフォワードシステムであるTele360を紹介する。
本システムでは,時間インスタンス毎に動的3次元ガウス表現を共同で推定し,再構成する。
実験によると、Tele360は1台のGPU上で25FPS以上のリアルタイム2K入力・レンダリングをサポートしながら、スタジオベンチマークの最先端のビジュアル品質を実現している。
論文 参考訳(メタデータ) (2026-09-14T04:50:52Z) - RIGOR: Rig-Informed Geometry for Omnidirectional Reconstruction [38.41034045192577]
フィードフォワード3次元再構成の最近の進歩は、画像ストリームのみから高密度なシーン表現とカメラモーションを復元できるモデルを生み出した。
重力整列全方位ビデオのための大規模再構成パイプラインRIGORを提案する。
提案した整合性機構は, 建設現場の挑戦的配列に基づいて, フィードフォワードベースライン上での軌道精度と再構成幾何の両方を改善することを実証する。
論文 参考訳(メタデータ) (2026-09-11T20:11:43Z) - GeoStream: Toward Precise Camera Controlled Streaming Video Generation [85.01823220801256]
既存のアプローチはカメラの動きを暗黙的に学習し、アウト・オブ・ディストリビューション・トラジェクトリの下で不正確な制御をもたらす。
厳密な幾何学的条件付けにより制御性が向上するが、既存の手法は非自己回帰的である。
自動回帰ストリーミングビデオ生成における高精度なメカニカルカメラ制御を実現するフレームワークであるGeoStreamを提案する。
論文 参考訳(メタデータ) (2026-06-13T07:18:04Z) - Stream3D-VLM: Online 3D Spatial Understanding with Incremental Geometry Priors [54.51965288351254]
ストリーミングビデオからリアルタイムな空間的理解を可能にするオンライン3次元視覚言語モデルを提案する。
提案手法では,LLMの次なる予測に基づく自己回帰型ストリーミング制御モデルを用いて,応答のタイミングを学習する。
3D言語データのストリーミングの難しさに対処するため、我々はさらにスケーラブルなデータ生成パイプラインを開発する。
論文 参考訳(メタデータ) (2026-06-05T04:16:24Z) - Effective Multi-sensor Conditioning for Street-view Novel-view Synthesis [53.67632483195509]
ビデオ拡散フレームワークであるStreetNVSを紹介する。
我々は,高架,車線シフト,引き戻し,回転などの極端な軌道外経路に沿ってコヒーレントな映像を合成する能力を示す。
論文 参考訳(メタデータ) (2026-06-01T02:37:56Z) - ViPS: Video-informed Pose Spaces for Auto-Rigged Meshes [55.32681167870698]
Video-informed Pose Spaces (ViPS)は、自動リップメッシュのための有効な調律の潜時分布を検出するフィードフォワードフレームワークである。
ViPSは生成ビデオの先行値を所定のリグパラメータ化上の普遍分布に転送する。
評価の結果,VPSは,合成アーティストが作成した4Dデータに基づいて訓練した最先端の手法の性能と,妥当性と多様性の両面で一致していることがわかった。
論文 参考訳(メタデータ) (2026-04-19T21:21:11Z) - Visual Odometry with Transformers [68.453547770334]
特徴抽出により単眼フレームのシーケンスを処理するビジュアル・オドメトリ・トランスフォーマ(VoT)を導入する。
従来の方法とは異なり、VoTは密度の高い幾何学を推定することなくカメラの動きを直接予測し、監視のためにカメラのポーズのみに依存する。
VoTは、より大きなデータセットで効果的にスケールし、より強力なトレーニング済みバックボーンの恩恵を受け、多様なカメラモーションとキャリブレーション設定を一般化し、従来のメソッドよりも3倍以上高速に動作しながらパフォーマンスを向上する。
論文 参考訳(メタデータ) (2025-10-02T17:00:14Z) - PriorFormer: A Transformer for Real-time Monocular 3D Human Pose Estimation with Versatile Geometric Priors [1.4932318540666545]
本稿では,人間の2次元関節位置の短い列を1台のカメラで3次元ポーズにマッピングする軽量トランスフォーマーベースリフト機を提案する。
提案モデルでは,セグメント長やカメラ内在性などの入力幾何学的先行を考慮し,キャリブレーションとアンキャリブレーションの両方で動作させるように設計されている。
論文 参考訳(メタデータ) (2025-08-21T08:16:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。