論文の概要: PointMoment:Mixed-Moment-based Self-Supervised Representation Learning
for 3D Point Clouds
- arxiv url: http://arxiv.org/abs/2312.03350v1
- Date: Wed, 6 Dec 2023 08:49:55 GMT
- ステータス: 処理完了
- システム内更新日: 2023-12-07 15:32:26.924573
- Title: PointMoment:Mixed-Moment-based Self-Supervised Representation Learning
for 3D Point Clouds
- Title（参考訳）: ポイントモーメント:3次元点雲に対する混合モーメントに基づく自己教師付き表現学習
- Authors: Xin Cao, Xinxin Han, Yifan Wang, Mengna Yang, Kang Li
- Abstract要約: 我々は,ポイントクラウドによる自己教師型表現学習のための新しいフレームワークであるPointMomentを提案する。
我々のフレームワークは、非対称ネットワークアーキテクチャや勾配停止など特別な技術を必要としない。
- 参考スコア（独自算出の注目度）: 11.980787751027872
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large and rich data is a prerequisite for effective training of deep neural
networks. However, the irregularity of point cloud data makes manual annotation
time-consuming and laborious. Self-supervised representation learning, which
leverages the intrinsic structure of large-scale unlabelled data to learn
meaningful feature representations, has attracted increasing attention in the
field of point cloud research. However, self-supervised representation learning
often suffers from model collapse, resulting in reduced information and
diversity of the learned representation, and consequently degrading the
performance of downstream tasks. To address this problem, we propose
PointMoment, a novel framework for point cloud self-supervised representation
learning that utilizes a high-order mixed moment loss function rather than the
conventional contrastive loss function. Moreover, our framework does not
require any special techniques such as asymmetric network architectures,
gradient stopping, etc. Specifically, we calculate the high-order mixed moment
of the feature variables and force them to decompose into products of their
individual moment, thereby making multiple variables more independent and
minimizing the feature redundancy. We also incorporate a contrastive learning
approach to maximize the feature invariance under different data augmentations
of the same point cloud. Experimental results show that our approach
outperforms previous unsupervised learning methods on the downstream task of 3D
point cloud classification and segmentation.
- Abstract（参考訳）: 大規模で豊富なデータは、ディープニューラルネットワークの効果的なトレーニングの前提条件である。
しかし、ポイントクラウドデータの不規則性により、手動のアノテーションは時間と労力を消費する。
大規模非ラベルデータの本質的構造を活用して有意義な特徴表現を学習する自己教師あり表現学習は,ポイントクラウド研究の分野で注目を集めている。
しかし、自己指導型表現学習は、しばしばモデル崩壊に悩まされ、結果として学習した表現の情報と多様性が減少し、下流タスクの性能が低下する。
そこで本研究では,従来のコントラスト損失関数ではなく,高次混合モーメント損失関数を用いた,ポイントクラウド自己教師付き表現学習のための新しいフレームワークであるpointmomentを提案する。
さらに、このフレームワークは、非対称ネットワークアーキテクチャや勾配停止など、特別な技術を必要としない。
具体的には、特徴変数の高次混合モーメントを計算し、個々のモーメントの積に分解させ、複数の変数をより独立させ、特徴冗長性を最小化する。
同じポイントクラウドの異なるデータ拡張下での機能不変性を最大化するために、対照的な学習アプローチも取り入れています。
実験の結果,3dポイントクラウド分類とセグメンテーションの下流タスクにおいて,従来の教師なし学習手法よりも優れていた。
関連論文リスト
- PointJEM: Self-supervised Point Cloud Understanding for Reducing Feature
Redundancy via Joint Entropy Maximization [10.53900407467811]
本稿では,ポイントクラウド分野に適用した自己教師付き表現学習手法であるPointJEMを提案する。
特徴の余分な情報を減らすために、PointJEMは異なる部分間の関節のエントロピーを最大化する。
PointJEMは、分類やセグメンテーションといった下流タスクにおける競合的なパフォーマンスを達成する。
論文 参考訳（メタデータ） (2023-12-06T08:21:42Z) - Bidirectional Knowledge Reconfiguration for Lightweight Point Cloud
Analysis [74.00441177577295]
ポイントクラウド分析は計算システムのオーバーヘッドに直面し、モバイルやエッジデバイスでの利用を制限する。
本稿では,軽量点雲モデルのための特徴蒸留について検討する。
本研究では,教師から生徒への情報的文脈的知識を抽出するための双方向知識再構成を提案する。
論文 参考訳（メタデータ） (2023-10-08T11:32:50Z) - Clustering based Point Cloud Representation Learning for 3D Analysis [80.88995099442374]
本稿では,ポイントクラウド分析のためのクラスタリングに基づく教師付き学習手法を提案する。
現在のデファクトでシーンワイドなトレーニングパラダイムとは異なり、我々のアルゴリズムは点埋め込み空間上でクラス内のクラスタリングを行う。
我々のアルゴリズムは、有名なポイントクラウドセグメンテーションデータセットの顕著な改善を示している。
論文 参考訳（メタデータ） (2023-07-27T03:42:12Z) - Joint Data and Feature Augmentation for Self-Supervised Representation
Learning on Point Clouds [4.723757543677507]
ユークリッド空間におけるデータ拡張と特徴空間における特徴拡張を組み合わせた融合コントラスト学習フレームワークを提案する。
提案手法の伝達性を検証するため,広範囲な対象分類実験と対象部分分割実験を行う。
実験の結果,提案フレームワークは,自己指導型でポイントクラウド表現を学習する上で有効であることが示された。
論文 参考訳（メタデータ） (2022-11-02T14:58:03Z) - Data Augmentation-free Unsupervised Learning for 3D Point Cloud
Understanding [61.30276576646909]
ソフトクラスタリング(SoftClu)と呼ばれる,移動可能な点レベルの特徴を学習するための,ポイントクラウドに対する拡張不要な教師なしアプローチを提案する。
我々は,クラスタに対するポイントのアフィリエイトをプロキシとして利用し,擬似ラベル予測タスクを通じて自己学習を可能にする。
論文 参考訳（メタデータ） (2022-10-06T10:18:16Z) - Continual learning on 3D point clouds with random compressed rehearsal [10.667104977730304]
本研究では,3Dポイントクラウドデータ上で連続学習が可能なニューラルネットワークアーキテクチャを提案する。
我々は,過去のデータを強く圧縮した集合を保存するために,点雲構造特性を利用する。
論文 参考訳（メタデータ） (2022-05-16T22:59:52Z) - Unsupervised Representation Learning for 3D Point Cloud Data [66.92077180228634]
我々は、教師なしのポイントクラウド学習に対して、シンプルで効果的なアプローチを提案する。
特に、原点雲の優れたコントラストバージョンを生成する非常に有用な変換を同定する。
本研究では,3次元オブジェクト分類,形状部分分割,シーン分割の3つの下流タスクについて実験を行った。
論文 参考訳（メタデータ） (2021-10-13T10:52:45Z) - Revisiting Point Cloud Simplification: A Learnable Feature Preserving
Approach [57.67932970472768]
MeshとPoint Cloudの単純化手法は、3Dモデルの複雑さを低減しつつ、視覚的品質と関連する健全な機能を維持することを目的としている。
そこで本研究では,正解点の標本化を学習し,高速点雲の簡易化手法を提案する。
提案手法は、入力空間から任意のユーザ定義の点数を選択し、視覚的知覚誤差を最小限に抑えるために、その位置を再配置するよう訓練されたグラフニューラルネットワークアーキテクチャに依存する。
論文 参考訳（メタデータ） (2021-09-30T10:23:55Z) - Point Discriminative Learning for Unsupervised Representation Learning
on 3D Point Clouds [54.31515001741987]
3次元点雲上での教師なし表現学習のための点識別学習法を提案する。
我々は、中間レベルとグローバルレベルの特徴に新しい点識別損失を課すことにより、これを達成した。
提案手法は強力な表現を学習し,新しい最先端性能を実現する。
論文 参考訳（メタデータ） (2021-08-04T15:11:48Z) - Self-supervised Learning of Point Clouds via Orientation Estimation [19.31778462735251]
ラベルの少ないポイントクラウドでダウンストリームタスクを学習するために、私たちは3Dセルフスーパービジョンを活用しています。
点雲は無限に多くの方法で回転することができるので、自己超越のためにリッチなラベルのない情報源を提供する。
論文 参考訳（メタデータ） (2020-08-01T17:49:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。