論文の概要: 3D Point Cloud Network Pruning: When Some Weights Do not Matter
- arxiv url: http://arxiv.org/abs/2408.14601v1
- Date: Mon, 26 Aug 2024 19:44:18 GMT
- ステータス: 処理完了
- システム内更新日: 2024-08-28 15:44:05.403011
- Title: 3D Point Cloud Network Pruning: When Some Weights Do not Matter
- Title（参考訳）: 3Dポイント・クラウド・ネットワーク・プルーニング:ある重みが重要でないとき
- Authors: Amrijit Biswas, Md. Ismail Hossain, M M Lutfe Elahi, Ali Cheraghian, Fuad Rahman, Nabeel Mohammed, Shafin Rahman,
- Abstract要約: 点雲は、多くのアプリケーションで利用される重要な幾何学的データ構造である。
3Dポイントクラウドを処理するために、ポイントクラウドニューラルネットワーク(PC-NN)と呼ばれるディープニューラルネットワーク。
我々の研究は、標準のPCNNプルーニング技術を洗練できる有望な現象を明らかにした。
- 参考スコア（独自算出の注目度）: 7.916284402013821
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: A point cloud is a crucial geometric data structure utilized in numerous applications. The adoption of deep neural networks referred to as Point Cloud Neural Networks (PC- NNs), for processing 3D point clouds, has significantly advanced fields that rely on 3D geometric data to enhance the efficiency of tasks. Expanding the size of both neural network models and 3D point clouds introduces significant challenges in minimizing computational and memory requirements. This is essential for meeting the demanding requirements of real-world applications, which prioritize minimal energy consumption and low latency. Therefore, investigating redundancy in PCNNs is crucial yet challenging due to their sensitivity to parameters. Additionally, traditional pruning methods face difficulties as these networks rely heavily on weights and points. Nonetheless, our research reveals a promising phenomenon that could refine standard PCNN pruning techniques. Our findings suggest that preserving only the top p% of the highest magnitude weights is crucial for accuracy preservation. For example, pruning 99% of the weights from the PointNet model still results in accuracy close to the base level. Specifically, in the ModelNet40 dataset, where the base accuracy with the PointNet model was 87. 5%, preserving only 1% of the weights still achieves an accuracy of 86.8%. Codes are available in: https://github.com/apurba-nsu-rnd-lab/PCNN_Pruning
- Abstract（参考訳）: 点雲は、多くのアプリケーションで利用される重要な幾何学的データ構造である。
3Dポイントクラウドを処理するために、ポイントクラウドニューラルネットワーク(PC-NN)と呼ばれるディープニューラルネットワークが採用されている。
ニューラルネットワークモデルと3Dポイントクラウドの両方のサイズを拡張することで、計算とメモリ要件の最小化において、大きな課題がもたらされる。
これは、最小限のエネルギー消費と低レイテンシを優先する現実世界のアプリケーションの要求を満たすために不可欠である。
そのため,PCNNにおける冗長性の調査は,パラメータに対する感受性のため,極めて困難である。
さらに、従来のプルーニング手法は、これらのネットワークが重みと点に大きく依存するため、困難に直面している。
それでも、我々の研究は、標準のPCNNプルーニング技術を洗練できる有望な現象を明らかにしている。
以上の結果から,最高級重量の最上位p%しか保存していないことが,精度の維持に重要であることが示唆された。
例えば、PointNetモデルの重量の99%を刈り取ると、ベースレベルに近い精度が得られる。
具体的には、ModelNet40データセットにおいて、PointNetモデルのベース精度は87。
重量の1%しか保存していないため、86.8%の精度が保たれている。
https://github.com/apurba-nsu-rnd-lab/PCNN_Pruning
関連論文リスト
- StarNet: Style-Aware 3D Point Cloud Generation [82.30389817015877]
StarNetは、マッピングネットワークを使用して高忠実度および3Dポイントクラウドを再構築し、生成することができる。
我々のフレームワークは、クラウドの再構築と生成タスクにおいて、様々なメトリクスで同等の最先端のパフォーマンスを達成します。
論文 参考訳（メタデータ） (2023-03-28T08:21:44Z) - SVNet: Where SO(3) Equivariance Meets Binarization on Point Cloud
Representation [65.4396959244269]
本論文は,3次元学習アーキテクチャを構築するための一般的なフレームワークを設計することによる課題に対処する。
提案手法はPointNetやDGCNNといった一般的なバックボーンに適用できる。
ModelNet40、ShapeNet、および実世界のデータセットであるScanObjectNNの実験では、この手法が効率、回転、精度の間の大きなトレードオフを達成することを示した。
論文 参考訳（メタデータ） (2022-09-13T12:12:19Z) - WeightMom: Learning Sparse Networks using Iterative Momentum-based
pruning [0.0]
本稿では,前回の繰り返しの運動量に基づいて徐々に重みを刈り取る,重みに基づくプルーニング手法を提案する。
我々は,CIFAR-10やCIFAR-100といった画像分類データセットを用いて,AlexNet,VGG16,ResNet50などのネットワークに対するアプローチを評価する。
論文 参考訳（メタデータ） (2022-08-11T07:13:59Z) - Convolutional Neural Network-based Efficient Dense Point Cloud
Generation using Unsigned Distance Fields [3.198144010381572]
本稿では,任意の3次元形状の符号なし距離場を学習し,予測する軽量畳み込みニューラルネットワークを提案する。
実験により、提案されたアーキテクチャは、7.8倍のモデルパラメータ、2.4倍の推論時間、最大24.8%の生成品質向上により、技術の状態よりも優れていた。
論文 参考訳（メタデータ） (2022-03-22T08:28:50Z) - PointAttN: You Only Need Attention for Point Cloud Completion [89.88766317412052]
ポイント・クラウド・コンプリート(Point cloud completion)とは、部分的な3次元ポイント・クラウドから3次元の形状を完成させることである。
そこで我々は,kNNを除去するために,ポイントクラウドをポイント単位に処理する新しいニューラルネットワークを提案する。
提案するフレームワークであるPointAttNはシンプルで簡潔で効果的であり、3次元形状の構造情報を正確に捉えることができる。
論文 参考訳（メタデータ） (2022-03-16T09:20:01Z) - Compact Multi-level Sparse Neural Networks with Input Independent
Dynamic Rerouting [33.35713740886292]
疎いディープニューラルネットワークは、モデルの複雑さとメモリ消費を大幅に減らすことができる。
現実の課題に直面する中で,複数のスパースレベルをサポートするスパースモデルをトレーニングすることを提案する。
このようにして、推論中に適切なスパーシティレベルを動的に選択でき、ストレージコストを最小のスパースサブモデルで抑えることができる。
論文 参考訳（メタデータ） (2021-12-21T01:35:51Z) - AdaFit: Rethinking Learning-based Normal Estimation on Point Clouds [31.641383879577894]
本稿では,AdaFit という,雑音と密度の変動を伴う点雲に対処可能な,点雲上でのロバストな正規推定のためのニューラルネットワークを提案する。
既存の研究では、ネットワークを用いて最小表面の重み付けの点での重みを学習し、正規性を推定している。
そこで本研究では,通常の推定精度を向上させるために,新たなオフセット予測を付加する,シンプルで効果的な解を提案する。
論文 参考訳（メタデータ） (2021-08-12T16:37:24Z) - Local Grid Rendering Networks for 3D Object Detection in Point Clouds [98.02655863113154]
CNNは強力だが、全点の雲を高密度の3Dグリッドに酸化した後、点データに直接畳み込みを適用するのは計算コストがかかる。
入力点のサブセットの小さな近傍を低解像度の3Dグリッドに独立してレンダリングする,新しい,原理化されたローカルグリッドレンダリング(LGR)演算を提案する。
ScanNetとSUN RGB-Dデータセットを用いた3次元オブジェクト検出のためのLGR-Netを検証する。
論文 参考訳（メタデータ） (2020-07-04T13:57:43Z) - GRNet: Gridding Residual Network for Dense Point Cloud Completion [54.43648460932248]
完全な3Dポイントクラウドを不完全なクラウドから推定することは、多くのビジョンやロボティクスアプリケーションにおいて重要な問題である。
本稿では,ポイントクラウド補完のための新しいGridding Residual Network(GRNet)を提案する。
実験結果から,提案したGRNetはShapeNet,Completion3D,KITTIベンチマークの最先端手法に対して良好に動作することがわかった。
論文 参考訳（メタデータ） (2020-06-06T02:46:39Z) - Widening and Squeezing: Towards Accurate and Efficient QNNs [125.172220129257]
量子化ニューラルネットワーク(QNN)は、非常に安価な計算とストレージオーバーヘッドのため、業界にとって非常に魅力的なものだが、その性能は、完全な精度パラメータを持つネットワークよりも悪い。
既存の手法の多くは、より効果的なトレーニング技術を利用して、特にバイナリニューラルネットワークの性能を高めることを目的としている。
本稿では,従来の完全精度ネットワークで高次元量子化機能に特徴を投影することで,この問題に対処する。
論文 参考訳（メタデータ） (2020-02-03T04:11:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。