論文の概要: PointSmile: Point Self-supervised Learning via Curriculum Mutual
Information
- arxiv url: http://arxiv.org/abs/2301.12744v1
- Date: Mon, 30 Jan 2023 09:18:54 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-31 15:18:00.901833
- Title: PointSmile: Point Self-supervised Learning via Curriculum Mutual
Information
- Title(参考訳): PointSmile: カリキュラム相互情報によるポイント自己教師型学習
- Authors: Xin Li, Mingqiang Wei, Songcan Chen
- Abstract要約: 本稿では,クラウドオブジェクトの複製にまたがるカリキュラム相互情報(CMI)を最大化することで,再構成不要な自己教師型学習パラダイムを提案する。
PointSmileは、簡単なカリキュラムから始まり、そのカリキュラムの難しさを徐々に増す、人間のカリキュラム学習を模倣するように設計されている。
我々は、オブジェクト分類やセグメンテーションを含む下流タスクにおけるPointSmileの有効性とロバスト性を実証する。
- 参考スコア(独自算出の注目度): 33.74200235365997
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Self-supervised learning is attracting wide attention in point cloud
processing. However, it is still not well-solved to gain discriminative and
transferable features of point clouds for efficient training on downstream
tasks, due to their natural sparsity and irregularity. We propose PointSmile, a
reconstruction-free self-supervised learning paradigm by maximizing curriculum
mutual information (CMI) across the replicas of point cloud objects. From the
perspective of how-and-what-to-learn, PointSmile is designed to imitate human
curriculum learning, i.e., starting with an easy curriculum and gradually
increasing the difficulty of that curriculum. To solve "how-to-learn", we
introduce curriculum data augmentation (CDA) of point clouds. CDA encourages
PointSmile to learn from easy samples to hard ones, such that the latent space
can be dynamically affected to create better embeddings. To solve
"what-to-learn", we propose to maximize both feature- and class-wise CMI, for
better extracting discriminative features of point clouds. Unlike most of
existing methods, PointSmile does not require a pretext task, nor does it
require cross-modal data to yield rich latent representations. We demonstrate
the effectiveness and robustness of PointSmile in downstream tasks including
object classification and segmentation. Extensive results show that our
PointSmile outperforms existing self-supervised methods, and compares favorably
with popular fully-supervised methods on various standard architectures.
- Abstract(参考訳): 自己教師付き学習は、ポイントクラウド処理において広く注目を集めている。
しかしながら、下流タスクの効率的なトレーニングのためにポイントクラウドの識別的かつ転送可能な特徴を得るには、その自然なスパース性と不規則性のため、まだ十分解決されていない。
我々は,ポイントクラウドオブジェクトのレプリカ間でカリキュラム相互情報(cmi)を最大化することにより,自己教師なし学習パラダイムであるpointsmileを提案する。
学習の仕方の観点からは、PointSmileは人間のカリキュラム学習、すなわち簡単なカリキュラムから始まり、そのカリキュラムの難しさを徐々に増すように設計されている。
学習の仕方」を解決するために,ポイントクラウドのカリキュラムデータ拡張(CDA)を導入する。
CDAはPointSmileに、簡単なサンプルからハードなものへの学習を奨励している。
本稿では,特徴量とクラス量の両方を最大化して,点雲の識別的特徴を抽出する手法を提案する。
既存のほとんどのメソッドとは異なり、PointSmileはプリテキストタスクを必要とせず、リッチな潜在表現を生成するためにクロスモーダルデータも必要としない。
我々は,オブジェクト分類やセグメンテーションを含む下流タスクにおけるpointmileの有効性とロバスト性を示す。
広範な結果から,pointsmileは既存の自己教師あり手法よりも優れており,各種標準アーキテクチャにおける一般的な完全教師ありメソッドと比較できることがわかった。
関連論文リスト
- PointMoment:Mixed-Moment-based Self-Supervised Representation Learning
for 3D Point Clouds [11.980787751027872]
我々は,ポイントクラウドによる自己教師型表現学習のための新しいフレームワークであるPointMomentを提案する。
我々のフレームワークは、非対称ネットワークアーキテクチャや勾配停止など特別な技術を必要としない。
論文 参考訳(メタデータ) (2023-12-06T08:49:55Z) - PointJEM: Self-supervised Point Cloud Understanding for Reducing Feature
Redundancy via Joint Entropy Maximization [10.53900407467811]
本稿では,ポイントクラウド分野に適用した自己教師付き表現学習手法であるPointJEMを提案する。
特徴の余分な情報を減らすために、PointJEMは異なる部分間の関節のエントロピーを最大化する。
PointJEMは、分類やセグメンテーションといった下流タスクにおける競合的なパフォーマンスを達成する。
論文 参考訳(メタデータ) (2023-12-06T08:21:42Z) - Point Contrastive Prediction with Semantic Clustering for
Self-Supervised Learning on Point Cloud Videos [71.20376514273367]
本稿では,オブジェクト中心およびシーン中心のデータを対象とした一元的クラウドビデオ自己教師型学習フレームワークを提案する。
本手法は、広範囲の下流タスクにおいて教師付きタスクよりも優れる。
論文 参考訳(メタデータ) (2023-08-18T02:17:47Z) - Clustering based Point Cloud Representation Learning for 3D Analysis [80.88995099442374]
本稿では,ポイントクラウド分析のためのクラスタリングに基づく教師付き学習手法を提案する。
現在のデファクトでシーンワイドなトレーニングパラダイムとは異なり、我々のアルゴリズムは点埋め込み空間上でクラス内のクラスタリングを行う。
我々のアルゴリズムは、有名なポイントクラウドセグメンテーションデータセットの顕著な改善を示している。
論文 参考訳(メタデータ) (2023-07-27T03:42:12Z) - A Survey of Label-Efficient Deep Learning for 3D Point Clouds [109.07889215814589]
本稿では,点雲のラベル効率学習に関する包括的調査を行う。
本稿では,ラベルの種類によって提供されるデータ前提条件に基づいて,ラベル効率のよい学習手法を整理する分類法を提案する。
それぞれのアプローチについて、問題設定の概要と、関連する進展と課題を示す広範な文献レビューを提供する。
論文 参考訳(メタデータ) (2023-05-31T12:54:51Z) - Few-Shot Point Cloud Semantic Segmentation via Contrastive
Self-Supervision and Multi-Resolution Attention [6.350163959194903]
数発の学習事前学習のための対照的な自己超越フレームワークを提案する。
具体的には、3Dポイントクラウドのための学習可能な拡張子を用いて、新しいコントラスト学習アプローチを実装した。
最接近点と最遠点の両方を用いて多分解能アテンションモジュールを開発し,局所点と大域点の情報をより効率的に抽出する。
論文 参考訳(メタデータ) (2023-02-21T07:59:31Z) - PointCaM: Cut-and-Mix for Open-Set Point Cloud Learning [72.07350827773442]
我々は,新しいポイントカット・アンド・ミクス機構を用いて,オープンセットのクラウド学習を解決することを提案する。
トレーニング段階では,Unknown-Point Simulatorを用いてアウト・オブ・ディストリビューションデータをシミュレートする。
Unknown-Point Estimatorモジュールは、既知のデータを識別するために、ポイントクラウドの機能コンテキストを活用することを学ぶ。
論文 参考訳(メタデータ) (2022-12-05T03:53:51Z) - Data Augmentation-free Unsupervised Learning for 3D Point Cloud
Understanding [61.30276576646909]
ソフトクラスタリング(SoftClu)と呼ばれる,移動可能な点レベルの特徴を学習するための,ポイントクラウドに対する拡張不要な教師なしアプローチを提案する。
我々は,クラスタに対するポイントのアフィリエイトをプロキシとして利用し,擬似ラベル予測タスクを通じて自己学習を可能にする。
論文 参考訳(メタデータ) (2022-10-06T10:18:16Z) - Point Discriminative Learning for Unsupervised Representation Learning
on 3D Point Clouds [54.31515001741987]
3次元点雲上での教師なし表現学習のための点識別学習法を提案する。
我々は、中間レベルとグローバルレベルの特徴に新しい点識別損失を課すことにより、これを達成した。
提案手法は強力な表現を学習し,新しい最先端性能を実現する。
論文 参考訳(メタデータ) (2021-08-04T15:11:48Z) - Self-Contrastive Learning with Hard Negative Sampling for
Self-supervised Point Cloud Learning [17.55440737986014]
本稿では,自己教師付きポイントクラウド表現学習のための新しい自己コントラスト学習を提案する。
我々は、一点クラウド内の自己相似点クラウドパッチを、正のサンプルとして、その他の負のパッチとして利用し、対照的な学習を容易にする。
実験結果から,提案手法は広く使用されているベンチマークデータセットの最先端性能を実現することが示された。
論文 参考訳(メタデータ) (2021-07-05T09:17:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。