論文の概要: Multi-to-Single Knowledge Distillation for Point Cloud Semantic
Segmentation
- arxiv url: http://arxiv.org/abs/2304.14800v1
- Date: Fri, 28 Apr 2023 12:17:08 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-01 14:18:42.256299
- Title: Multi-to-Single Knowledge Distillation for Point Cloud Semantic
Segmentation
- Title(参考訳): 点群意味セグメンテーションのための多対多知識蒸留
- Authors: Shoumeng Qiu, Feng Jiang, Haiqiang Zhang, Xiangyang Xue and Jian Pu
- Abstract要約: 本稿では,3Dポイントクラウドセマンティックセマンティックセグメンテーションタスクのための多種間知識蒸留フレームワークを提案する。
マルチスキャンのすべてのポイントを直接フューズする代わりに、以前に定義されたハードクラスに属するインスタンスだけが融合する。
- 参考スコア(独自算出の注目度): 41.02741249858771
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: 3D point cloud semantic segmentation is one of the fundamental tasks for
environmental understanding. Although significant progress has been made in
recent years, the performance of classes with few examples or few points is
still far from satisfactory. In this paper, we propose a novel multi-to-single
knowledge distillation framework for the 3D point cloud semantic segmentation
task to boost the performance of those hard classes. Instead of fusing all the
points of multi-scans directly, only the instances that belong to the
previously defined hard classes are fused. To effectively and sufficiently
distill valuable knowledge from multi-scans, we leverage a multilevel
distillation framework, i.e., feature representation distillation, logit
distillation, and affinity distillation. We further develop a novel
instance-aware affinity distillation algorithm for capturing high-level
structural knowledge to enhance the distillation efficacy for hard classes.
Finally, we conduct experiments on the SemanticKITTI dataset, and the results
on both the validation and test sets demonstrate that our method yields
substantial improvements compared with the baseline method. The code is
available at \Url{https://github.com/skyshoumeng/M2SKD}.
- Abstract(参考訳): 3Dポイントクラウドセマンティックセグメンテーションは、環境理解の基本的なタスクの1つである。
近年は大きな進歩を遂げているが、実例が少ないクラスやポイントが少ないクラスのパフォーマンスは、まだ満足できるレベルには程遠い。
本稿では,3Dポイントクラウドセマンティックセマンティックセグメンテーションタスクのための多種間知識蒸留フレームワークを提案する。
マルチスキャンのすべてのポイントを直接フューズする代わりに、以前に定義されたハードクラスに属するインスタンスだけが融合する。
マルチスキャンからの貴重な知識を有効かつ十分に蒸留するために,多段階蒸留フレームワーク,すなわち特徴表現蒸留,ロジット蒸留,親和性蒸留を利用する。
さらに,高次構造知識を取り込み,ハードクラスの蒸留効果を高めるための新規なインスタンス認識アフィニティ蒸留アルゴリズムを開発した。
最後に,semantickittiデータセットについて実験を行い,バリデーションとテストの両方の結果から,本手法がベースライン法に比べて大幅に改善することを示す。
コードは \url{https://github.com/skyshoumeng/m2skd} で入手できる。
関連論文リスト
- LESS: Label-Efficient Semantic Segmentation for LiDAR Point Clouds [62.49198183539889]
我々は,LiDAR点雲を用いた屋外シーンのためのラベル効率のよいセマンティックセマンティックセマンティクスパイプラインを提案する。
本手法は,半弱教師付き学習を用いて,効率的なラベリング手法を設計する。
提案手法は,100%ラベル付き完全教師付き手法と比較して,さらに競争力が高い。
論文 参考訳(メタデータ) (2022-10-14T19:13:36Z) - FAKD: Feature Augmented Knowledge Distillation for Semantic Segmentation [17.294737459735675]
セグメンテーションにおける知識蒸留のためのデータ拡張について検討する。
特徴空間における意味的方向の最近の進歩に触発されて, 効率的な蒸留のために, 特徴空間に拡張を加えることを提案する。
論文 参考訳(メタデータ) (2022-08-30T10:55:31Z) - Point-to-Voxel Knowledge Distillation for LiDAR Semantic Segmentation [74.67594286008317]
本稿では,大きな教師モデルから,LiDARセマンティックセグメンテーションのためのスリムな学生ネットワークへの知識の抽出の問題に対処する。
本稿では,点レベルとボクセルレベルの両方から隠れた知識を伝達するPVDを提案する。
論文 参考訳(メタデータ) (2022-06-05T05:28:32Z) - Knowledge Distillation Meets Open-Set Semi-Supervised Learning [69.21139647218456]
本研究では,事前学習した教師から対象学生へ,表現的知識を意味的に蒸留する新しいモデル名(bfem shortname)を提案する。
問題レベルでは、これは知識蒸留とオープンセット半教師付き学習(SSL)との興味深い関係を確立する。
我々のショートネームは、粗い物体分類と微妙な顔認識タスクの両方において、最先端の知識蒸留法よりもかなり優れている。
論文 参考訳(メタデータ) (2022-05-13T15:15:27Z) - Uncertainty-aware Contrastive Distillation for Incremental Semantic
Segmentation [46.14545656625703]
破滅的な忘れ物とは、ニューラルネットワークが、新しいタスクを学ぶときに、古いタスクから得た知識を保存できない傾向があることです。
我々は新しい蒸留フレームワークである不確かさを意識したコントラスト蒸留法(メソッド)を提案する。
本研究は, 従来のIL法と相乗効果を持つ蒸留法の利点を実証するものである。
論文 参考訳(メタデータ) (2022-03-26T15:32:12Z) - Unsupervised Representation Learning for 3D Point Cloud Data [66.92077180228634]
我々は、教師なしのポイントクラウド学習に対して、シンプルで効果的なアプローチを提案する。
特に、原点雲の優れたコントラストバージョンを生成する非常に有用な変換を同定する。
本研究では,3次元オブジェクト分類,形状部分分割,シーン分割の3つの下流タスクについて実験を行った。
論文 参考訳(メタデータ) (2021-10-13T10:52:45Z) - Few-shot 3D Point Cloud Semantic Segmentation [138.80825169240302]
本稿では,新しい注意型マルチプロトタイプトランスダクティブ・ショットポイント・クラウドセマンティックセマンティック・セマンティクス法を提案する。
提案手法は,雲のセマンティックセマンティックセグメンテーション設定の違いによるベースラインに比べて,顕著で一貫した改善を示す。
論文 参考訳(メタデータ) (2020-06-22T08:05:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。