論文の概要: The Operator Mismatch Problem: Deploying BEV Perception with Portable GPU Compute
- arxiv url: http://arxiv.org/abs/2610.11504v1
- Date: Thu, 08 Oct 2026 08:42:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 02:36:53.901
- Title: The Operator Mismatch Problem: Deploying BEV Perception with Portable GPU Compute
- Title(参考訳): Operator Mismatch問題: ポータブルGPUコンピューティングによるBEV知覚の展開
- Abstract要約: 本稿では,BEVPIPE(Bird's-eye-view)知覚パイプラインを実運用環境にデプロイするフレームワークを提案する。
BEVPIPEは、標準のmAPの98.5%を維持しながら、従来のデプロイメントよりも19.5倍のエンドツーエンドのスピードアップを実現している。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Modern autonomous driving systems rely on bird's-eye-view (BEV) perception models that fuse camera and LiDAR inputs to detect objects in 3D space. These models are accurate, but they cannot be deployed through standard inference runtimes. The reason is an operator mismatch between dense convolutions (which runtimes handle well), sparse 3D convolutions (which runtimes cannot represent), and geometric scatter operations (which runtimes have no vocabulary for). Today, every sparse convolution library is CUDA-only and PyTorch-coupled, locking BEV deployment to a single vendor's hardware and a single execution framework. We present BEVPIPE, a framework for deploying multimodal BEV perception pipelines using portable GPU compute APIs and integrating them with production inference runtimes. BEVPIPE partitions the model into runtime-managed dense subgraphs and three external operator extensions (voxelizer, sparse encoder, BEV projector), connected through a shared GPU memory space. BEVPIPE achieves a 19.5x end-to-end speedup over conventional deployments while retaining 98.5% of reference mAP. We also showcase that BEVPIPE is portable across different GPU backends.
- Abstract(参考訳): 現代の自律運転システムは、カメラとLiDAR入力を融合させて3D空間内の物体を検出する鳥の目視(BEV)知覚モデルに依存している。
これらのモデルは正確だが、標準の推論ランタイムを通じてデプロイすることはできない。
理由は、高密度な畳み込み(ランタイムがうまく処理する)、スパースな3D畳み込み(ランタイムが表現できない)、幾何学的な散乱演算(ランタイムが語彙を持たない)の間の演算子ミスマッチである。
現在、すべてのスパース畳み込みライブラリはCUDAのみであり、PyTorch結合であり、単一のベンダーのハードウェアと単一の実行フレームワークへのBEVデプロイメントをロックしている。
我々は、ポータブルGPU計算APIを使用してマルチモーダルなBEV知覚パイプラインをデプロイし、プロダクション推論ランタイムと統合するためのフレームワークであるBEVPIPEを提案する。
BEVPIPEは、モデルをランタイム管理された高密度サブグラフと3つの外部演算子拡張(voxelizer、スパースエンコーダ、BEVプロジェクタ)に分割し、共有GPUメモリ空間を介して接続する。
BEVPIPEは、標準のmAPの98.5%を維持しながら、従来のデプロイメントよりも19.5倍のエンドツーエンドのスピードアップを実現している。
また、BEVPIPEはさまざまなGPUバックエンドに移植可能であることも示しています。
関連論文リスト
- Pre-Compiled Pipeline Shards for Distributed LLM Inference on Intel AI PC Fleets [0.0]
私たちは、少数のAIPCが、単一のAIPCの能力を超えたモデルを提供できることを示しています。
Intel Tiber Cloud上のLunar Lake AI PCの4ノードデプロイは、対話的な速度で単一のユーザに提供する。
論文 参考訳(メタデータ) (2026-08-19T17:33:28Z) - Embodied.cpp: A Portable Inference Runtime of Embodied AI Models on Heterogeneous Robots [19.848719701819153]
Embodied$.$は、組み込みAIモデルとWAMのためのポータブルランタイムである。
ランタイムはマルチレート実行、レイテンシ優先の融合推論、演算子とI/Oサポートを提供する。
Embodied$.$は、様々な具体的モデルアーキテクチャにまたがって高い精度を維持しながら、デプロイメント効率を向上させる。
論文 参考訳(メタデータ) (2026-07-02T17:58:28Z) - vla.cpp: A Unified Inference Runtime for Vision-Language-Action Models [1.8512656289778031]
llama上に構築されたポータブルなC++推論ランタイムであるvlaを紹介します。
これは、フローマッチングと拡散VLA推論パターンを提供する最初のggmlクラスエンジンである。
LIBERO-Objectでは、エンジンは200回中1回で最先端のチェックポイントと一致し、1.3GBBのメモリで100%成功してBitVLAを実行する。
論文 参考訳(メタデータ) (2026-06-06T10:45:40Z) - Profiling-Driven Adaptive Distributed Transformer Inference on Embedded Edge Deployment [60.442064966340524]
本稿では、WiFi経由で接続されたNVIDIA Jetson Orin Nanoデバイスに関するプロトタイプ研究を行う。
主な発見は、主なボトルネックは、ネットワーク帯域幅だけでなく、通信中のCPU-GPUステージングである。
実験によると、この戦略はフルテンソル交換と比較して遅延を65%-77%減らし、エネルギー消費を34%-52%減らしている。
論文 参考訳(メタデータ) (2026-05-25T10:39:28Z) - BEV-IO: Enhancing Bird's-Eye-View 3D Detection with Instance Occupancy [58.92659367605442]
我々は,BEV表現をインスタンス占有情報で拡張する新しい3次元検出パラダイムであるBEV-IOを提案する。
BEV-IOは、パラメータや計算オーバーヘッドの無視できる増加しか加えず、最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2023-05-26T11:16:12Z) - FastPillars: A Deployment-friendly Pillar-based 3D Detector [63.0697065653061]
既存のBEVベースの(つまりバードアイビュー)検出器は、トレーニングと推論を高速化するためにスパース・コンボリューション(SPConv)を好む。
FastPillarsは、CenterPoint(SPConvベース)よりも1.8倍のスピードアップと3.8mAPH/L2の改善で、Openデータセットの最先端の精度を提供する
論文 参考訳(メタデータ) (2023-02-05T12:13:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。