論文の概要: Cross-Modality 3D Object Detection
- arxiv url: http://arxiv.org/abs/2008.10436v1
- Date: Sun, 16 Aug 2020 11:01:20 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-28 11:49:10.858931
- Title: Cross-Modality 3D Object Detection
- Title(参考訳): クロスモダリティ3次元物体検出
- Authors: Ming Zhu, Chao Ma, Pan Ji, Xiaokang Yang
- Abstract要約: 本稿では,3次元物体検出のための新しい2段階多モード融合ネットワークを提案する。
アーキテクチャ全体が2段階の融合を促進する。
KITTIデータセットを用いた実験により,提案したマルチステージ融合により,ネットワークがより良い表現を学習できることが示唆された。
- 参考スコア(独自算出の注目度): 63.29935886648709
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we focus on exploring the fusion of images and point clouds
for 3D object detection in view of the complementary nature of the two
modalities, i.e., images possess more semantic information while point clouds
specialize in distance sensing. To this end, we present a novel two-stage
multi-modal fusion network for 3D object detection, taking both binocular
images and raw point clouds as input. The whole architecture facilitates
two-stage fusion. The first stage aims at producing 3D proposals through sparse
point-wise feature fusion. Within the first stage, we further exploit a joint
anchor mechanism that enables the network to utilize 2D-3D classification and
regression simultaneously for better proposal generation.
The second stage works on the 2D and 3D proposal regions and fuses their
dense features. In addition, we propose to use pseudo LiDAR points from stereo
matching as a data augmentation method to densify the LiDAR points, as we
observe that objects missed by the detection network mostly have too few points
especially for far-away objects. Our experiments on the KITTI dataset show that
the proposed multi-stage fusion helps the network to learn better
representations.
- Abstract(参考訳): 本稿では,3次元物体検出のための画像と点雲の融合について,画像がより意味的情報を持ち,点雲が距離センシングを専門とする2つのモダリティの相補的性質に着目して検討する。
そこで本稿では,二眼画像と生点雲の両方を入力として,3次元物体検出のための2段階マルチモーダル融合ネットワークを提案する。
アーキテクチャ全体が二段階融合を促進する。
第1段階では、スパースポイントワイズ機能融合による3dプロポーザルの作成を目指している。
第1段階では,ネットワークが2d-3dの分類と回帰を同時に活用し,より優れた提案生成を可能にするジョイントアンカー機構をさらに活用する。
第2段階は2Dと3Dの提案領域で動作し、その密集した特徴を融合させる。
また,検出ネットワークで欠落したオブジェクトは,特に遠方対象に対してあまり多くないため,データ拡張手法としてステレオマッチングからの擬似LiDAR点を用いて,LiDAR点を密度化することを提案する。
KITTIデータセットを用いた実験により,提案した多段階融合がネットワークの表現性向上に役立つことが示された。
関連論文リスト
- Unleash the Potential of Image Branch for Cross-modal 3D Object
Detection [67.94357336206136]
画像分岐のポテンシャルを2つの側面から解き放つことを目的として,新しい3Dオブジェクト検出器UPIDetを提案する。
まず、UPIDetは正規化された局所座標写像推定と呼ばれる新しい2次元補助タスクを導入する。
第2に,イメージブランチのトレーニング目標から逆転する勾配によって,ポイントクラウドバックボーンの表現能力を向上できることを見出した。
論文 参考訳(メタデータ) (2023-01-22T08:26:58Z) - Multi-Sem Fusion: Multimodal Semantic Fusion for 3D Object Detection [11.575945934519442]
LiDARとカメラ融合技術は、自律運転において3次元物体検出を実現することを約束している。
多くのマルチモーダルな3Dオブジェクト検出フレームワークは、2D画像からのセマンティック知識を3D LiDARポイントクラウドに統合する。
本稿では2次元画像と3次元ポイントシーン解析結果の両方から意味情報を融合する汎用多モード融合フレームワークであるMulti-Sem Fusion(MSF)を提案する。
論文 参考訳(メタデータ) (2022-12-10T10:54:41Z) - Homogeneous Multi-modal Feature Fusion and Interaction for 3D Object
Detection [16.198358858773258]
マルチモーダル3D物体検出は、自律運転において活発な研究課題となっている。
スパース3D点と高密度2Dピクセルの相互特徴融合を探索するのは簡単ではない。
最近のアプローチでは、画像特徴と2次元画像平面に投影される点雲の特徴を融合させるか、スパース点雲と高密度画像画素を組み合わせるかのどちらかである。
論文 参考訳(メタデータ) (2022-10-18T06:15:56Z) - Bridged Transformer for Vision and Point Cloud 3D Object Detection [92.86856146086316]
Bridged Transformer (BrT) は、3Dオブジェクト検出のためのエンドツーエンドアーキテクチャである。
BrTは3Dオブジェクトと2Dオブジェクトのバウンディングボックスを、ポイントとイメージパッチの両方から識別する。
BrTがSUN RGB-DおよびScanNetV2データセットの最先端手法を上回ることを示す。
論文 参考訳(メタデータ) (2022-10-04T05:44:22Z) - FFPA-Net: Efficient Feature Fusion with Projection Awareness for 3D
Object Detection [19.419030878019974]
構造化されていない3D点雲は2D平面に充填され、3D点雲はプロジェクション対応の畳み込み層を用いて高速に抽出される。
データ前処理において、異なるセンサ信号間の対応するインデックスを予め設定する。
2つの新しいプラグアンドプレイ融合モジュールLiCamFuseとBiLiCamFuseが提案されている。
論文 参考訳(メタデータ) (2022-09-15T16:13:19Z) - MBDF-Net: Multi-Branch Deep Fusion Network for 3D Object Detection [17.295359521427073]
3次元物体検出のためのMulti-Branch Deep Fusion Network (MBDF-Net)を提案する。
最初の段階では、マルチブランチ機能抽出ネットワークは、Adaptive Attention Fusionモジュールを使用して、単一モーダルなセマンティックな特徴からクロスモーダルな融合機能を生成する。
第2段階では、関心領域(RoI)をプールした核融合モジュールを用いて局所的な特徴を改良する。
論文 参考訳(メタデータ) (2021-08-29T15:40:15Z) - Similarity-Aware Fusion Network for 3D Semantic Segmentation [87.51314162700315]
本研究では,3次元セマンティックセグメンテーションのための2次元画像と3次元点雲を適応的に融合する類似性認識融合ネットワーク(SAFNet)を提案する。
我々は、入力とバックプロジェクションされた(2Dピクセルから)点雲の間の幾何学的および文脈的類似性を初めて学習する、後期融合戦略を採用している。
SAFNetは、様々なデータ完全性にまたがって、既存の最先端の核融合ベースのアプローチを著しく上回っている。
論文 参考訳(メタデータ) (2021-07-04T09:28:18Z) - M3DSSD: Monocular 3D Single Stage Object Detector [82.25793227026443]
特徴アライメントと非対称非局所的注意を有するモノクロ3次元単段物体検出器(M3DSSD)を提案する。
提案したM3DSSDは,KITTIデータセット上のモノラルな3Dオブジェクト検出手法よりも大幅に性能が向上する。
論文 参考訳(メタデータ) (2021-03-24T13:09:11Z) - Volumetric Propagation Network: Stereo-LiDAR Fusion for Long-Range Depth
Estimation [81.08111209632501]
長距離深度推定のための幾何認識型ステレオLiDAR融合ネットワークを提案する。
ステレオ画像の対応を統一した3Dボリューム空間で導くためのキューとして、スパースで正確な点群を活用します。
我々のネットワークは,KITTIおよびVirtual-KITTIデータセット上での最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2021-03-24T03:24:46Z) - RoIFusion: 3D Object Detection from LiDAR and Vision [7.878027048763662]
本稿では,3次元関心領域(RoI)の集合を点雲から対応する画像の2次元ロIに投影することで,新しい融合アルゴリズムを提案する。
提案手法は,KITTI 3Dオブジェクト検出課題ベンチマークにおける最先端性能を実現する。
論文 参考訳(メタデータ) (2020-09-09T20:23:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。