論文の概要: DM3D: Distortion-Minimized Weight Pruning for Lossless 3D Object Detection

• arxiv url: http://arxiv.org/abs/2407.02098v1
• Date: Tue, 2 Jul 2024 09:33:32 GMT
• ステータス: 処理完了
• システム内更新日: 2024-07-03 16:04:54.476113
• Title: DM3D: Distortion-Minimized Weight Pruning for Lossless 3D Object Detection
• Title（参考訳）: DM3D:ロスレス3Dオブジェクト検出のための歪み最小化軽量プルーニング
• Authors: Kaixin Xu, Qingtian Feng, Hao Chen, Zhe Wang, Xue Geng, Xulei Yang, Min Wu, Xiaoli Li, Weisi Lin,
• Abstract要約: 本稿では,3次元物体検出のための新しいトレーニング後の重み付け手法を提案する。 事前訓練されたモデルにおける冗長パラメータを決定し、局所性と信頼性の両方において最小限の歪みをもたらす。 本フレームワークは,ネットワーク出力の歪みを最小限に抑え,検出精度を最大に維持することを目的とする。
• 参考スコア（独自算出の注目度）: 42.07920565812081
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Applying deep neural networks to 3D point cloud processing has attracted increasing attention due to its advanced performance in many areas, such as AR/VR, autonomous driving, and robotics. However, as neural network models and 3D point clouds expand in size, it becomes a crucial challenge to reduce the computational and memory overhead to meet latency and energy constraints in real-world applications. Although existing approaches have proposed to reduce both computational cost and memory footprint, most of them only address the spatial redundancy in inputs, i.e. removing the redundancy of background points in 3D data. In this paper, we propose a novel post-training weight pruning scheme for 3D object detection that is (1) orthogonal to all existing point cloud sparsifying methods, which determines redundant parameters in the pretrained model that lead to minimal distortion in both locality and confidence (detection distortion); and (2) a universal plug-and-play pruning framework that works with arbitrary 3D detection model. This framework aims to minimize detection distortion of network output to maximally maintain detection precision, by identifying layer-wise sparsity based on second-order Taylor approximation of the distortion. Albeit utilizing second-order information, we introduced a lightweight scheme to efficiently acquire Hessian information, and subsequently perform dynamic programming to solve the layer-wise sparsity. Extensive experiments on KITTI, Nuscenes and ONCE datasets demonstrate that our approach is able to maintain and even boost the detection precision on pruned model under noticeable computation reduction (FLOPs). Noticeably, we achieve over 3.89x, 3.72x FLOPs reduction on CenterPoint and PVRCNN model, respectively, without mAP decrease, significantly improving the state-of-the-art.
• Abstract（参考訳）: ディープニューラルネットワークを3Dポイントクラウド処理に適用することは、AR/VR、自律運転、ロボット工学など、多くの分野で高度なパフォーマンスのために注目を集めている。 しかし、ニューラルネットワークモデルと3Dポイントクラウドのサイズが拡大するにつれて、現実のアプリケーションにおけるレイテンシとエネルギーの制約を満たすために、計算とメモリオーバーヘッドを減らすことが重要な課題となる。 既存の手法では計算コストとメモリフットプリントの両方を削減することが提案されているが、そのほとんどは入力における空間的冗長性(つまり3Dデータにおける背景点の冗長性)にのみ対応している。 本稿では,(1)既存のクラウドスペーシング手法に直交する3次元物体検出のための新しいトレーニング後プルーニング手法を提案する。これは,局所性と信頼性の両面において最小の歪みを生じる事前学習モデルにおける冗長パラメータを決定するもので,(2)任意の3次元検出モデルで動作する汎用的なプラグアンドプレイプルーニングフレームワークである。 本フレームワークは,2次テイラー近似に基づく層次間隔の同定により,ネットワーク出力の歪みの最小化と検出精度の最大化を図ることを目的とする。 2次情報を利用する一方、我々はヘッセン情報を効率的に取得する軽量なスキームを導入し、その後動的プログラミングを行い、階層的疎性を解決する。 KITTI, Nuscenes および ONCE データセットの大規模な実験により,本手法が顕著な計算削減(FLOPs)の下でのプルーニングモデルの検出精度を維持および向上できることが実証された。 特にCenterPointとPVRCNNの3.89倍,3.72倍のFLOPs削減を実現し,mAPの低下を伴わずに実現した。

関連論文リスト

• R3D-AD: Reconstruction via Diffusion for 3D Anomaly Detection [12.207437451118036]
  3次元異常検出は、精密製造における局所固有の欠陥のモニタリングにおいて重要な役割を担っている。 埋め込みベースおよび再構築ベースのアプローチは、最も人気があり、成功した方法の一つである。 本稿では, 高精度な3次元異常検出のための拡散モデルにより, 異常点雲を再構成するR3D-ADを提案する。
  論文  参考訳（メタデータ） (2024-07-15T16:10:58Z)
• FILP-3D: Enhancing 3D Few-shot Class-incremental Learning with Pre-trained Vision-Language Models [62.663113296987085]
  クラス増分学習(class-incremental learning)は、モデルが限られたデータに基づいて漸進的にトレーニングされている場合、破滅的な忘れの問題を軽減することを目的としている。 冗長特徴除去器(RFE)と空間ノイズ補償器(SNC)の2つの新しいコンポーネントを紹介する。 既存の3次元データセットの不均衡を考慮し、3次元FSCILモデルのより微妙な評価を提供する新しい評価指標を提案する。
  論文  参考訳（メタデータ） (2023-12-28T14:52:07Z)
• StarNet: Style-Aware 3D Point Cloud Generation [82.30389817015877]
  StarNetは、マッピングネットワークを使用して高忠実度および3Dポイントクラウドを再構築し、生成することができる。 我々のフレームワークは、クラウドの再構築と生成タスクにおいて、様々なメトリクスで同等の最先端のパフォーマンスを達成します。
  論文  参考訳（メタデータ） (2023-03-28T08:21:44Z)
• Cylindrical and Asymmetrical 3D Convolution Networks for LiDAR-based Perception [122.53774221136193]
  運転時のLiDARに基づく認識のための最先端の手法は、しばしば点雲を2D空間に投影し、2D畳み込みによって処理する。 自然な対策として、3Dボクセル化と3D畳み込みネットワークを利用する方法がある。 本研究では,3次元幾何学的パターンを探索するために,円筒状分割と非対称な3次元畳み込みネットワークを設計する,屋外LiDARセグメンテーションのための新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-09-12T06:25:11Z)
• Secrets of 3D Implicit Object Shape Reconstruction in the Wild [92.5554695397653]
  コンピュータビジョン、ロボティクス、グラフィックスの様々な用途において、高精細な3Dオブジェクトをスパースから再構築することは重要です。 最近の神経暗黙的モデリング法は、合成データセットまたは高密度データセットで有望な結果を示す。 しかし、粗末でノイズの多い実世界のデータではパフォーマンスが悪い。 本論文では, 一般的な神経暗黙モデルの性能低下の根本原因を解析する。
  論文  参考訳（メタデータ） (2021-01-18T03:24:48Z)
• Reinforced Axial Refinement Network for Monocular 3D Object Detection [160.34246529816085]
  モノクロ3次元物体検出は、2次元入力画像から物体の位置と特性を抽出することを目的としている。 従来のアプローチでは、空間から3D境界ボックスをサンプリングし、対象オブジェクトと各オブジェクトの関係を推定するが、有効サンプルの確率は3D空間で比較的小さい。 我々は,まず最初の予測から始めて,各ステップで1つの3dパラメータだけを変えて,基礎的真理に向けて徐々に洗練することを提案する。 これは、いくつかのステップの後に報酬を得るポリシーを設計する必要があるため、最適化するために強化学習を採用します。
  論文  参考訳（メタデータ） (2020-08-31T17:10:48Z)
• Generative Sparse Detection Networks for 3D Single-shot Object Detection [43.91336826079574]
  3Dオブジェクト検出は、ロボット工学や拡張現実など多くの有望な分野に適用可能であるため、広く研究されている。 しかし、3Dデータのまばらな性質は、このタスクに固有の課題をもたらしている。 本稿では,完全畳み込み単一ショットスパース検出ネットワークであるGenerative Sparse Detection Network (GSDN)を提案する。
  論文  参考訳（メタデータ） (2020-06-22T15:54:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。