論文の概要: DCS-Net: Pioneering Leakage-Free Point Cloud Pretraining Framework with
Global Insights
- arxiv url: http://arxiv.org/abs/2402.02088v1
- Date: Sat, 3 Feb 2024 08:58:23 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-06 22:15:45.261045
- Title: DCS-Net: Pioneering Leakage-Free Point Cloud Pretraining Framework with
Global Insights
- Title(参考訳): DCS-Net: Global Insightsによる漏れのないクラウド事前トレーニングフレームワークのパイオニア化
- Authors: Zhe Li, Zhangyang Gao, Cheng Tan, Stan Z. Li, Laurence T. Yang
- Abstract要約: 微分可能中心サンプリングネットワーク(DCS-Net)と呼ばれる新しいソリューションを導入する。
グローバルな特徴再構成とローカルな特徴再構成の両方を非自明なプロキシタスクとして組み込むことで,情報漏洩問題に対処する。
実験により,本手法は既存の点雲モデルの表現能力を向上することを示した。
- 参考スコア(独自算出の注目度): 55.051626723729896
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Masked autoencoding and generative pretraining have achieved remarkable
success in computer vision and natural language processing, and more recently,
they have been extended to the point cloud domain. Nevertheless, existing point
cloud models suffer from the issue of information leakage due to the
pre-sampling of center points, which leads to trivial proxy tasks for the
models. These approaches primarily focus on local feature reconstruction,
limiting their ability to capture global patterns within point clouds. In this
paper, we argue that the reduced difficulty of pretext tasks hampers the
model's capacity to learn expressive representations. To address these
limitations, we introduce a novel solution called the Differentiable Center
Sampling Network (DCS-Net). It tackles the information leakage problem by
incorporating both global feature reconstruction and local feature
reconstruction as non-trivial proxy tasks, enabling simultaneous learning of
both the global and local patterns within point cloud. Experimental results
demonstrate that our method enhances the expressive capacity of existing point
cloud models and effectively addresses the issue of information leakage.
- Abstract(参考訳): マスク付き自動エンコーディングと生成事前学習はコンピュータビジョンと自然言語処理において顕著な成功を収め、最近ではポイントクラウド領域にまで拡張されている。
それでも、既存のポイントクラウドモデルは、センターポイントの事前サンプリングによる情報漏洩の問題に悩まされており、モデルの簡単なプロキシタスクにつながります。
これらのアプローチは、主にローカルな機能再構成にフォーカスし、ポイントクラウド内のグローバルパターンをキャプチャする能力を制限する。
本稿では、プレテキストタスクの難しさの低減が、表現表現を学習するモデルの能力を損なうことを論じる。
これらの制約に対処するために、微分可能中心サンプリングネットワーク(DCS-Net)と呼ばれる新しいソリューションを導入する。
グローバル機能再構築とローカル機能再構築の両方を非自明なプロキシタスクとして組み込むことで、情報漏洩問題に対処し、ポイントクラウド内のグローバルパターンとローカルパターンの同時学習を可能にする。
実験により,本手法は既存のポイントクラウドモデルの表現能力を高め,情報漏洩問題に効果的に対処することを示す。
関連論文リスト
- Point Cloud Understanding via Attention-Driven Contrastive Learning [64.65145700121442]
トランスフォーマーベースのモデルは、自己認識機構を活用することにより、先進的なポイントクラウド理解を持つ。
PointACLは、これらの制限に対処するために設計された、注意駆動のコントラスト学習フレームワークである。
本手法では, 注意駆動型動的マスキング手法を用いて, モデルが非集中領域に集中するように誘導する。
論文 参考訳(メタデータ) (2024-11-22T05:41:00Z) - PointMoment:Mixed-Moment-based Self-Supervised Representation Learning
for 3D Point Clouds [11.980787751027872]
我々は,ポイントクラウドによる自己教師型表現学習のための新しいフレームワークであるPointMomentを提案する。
我々のフレームワークは、非対称ネットワークアーキテクチャや勾配停止など特別な技術を必要としない。
論文 参考訳(メタデータ) (2023-12-06T08:49:55Z) - Point Cloud Pre-training with Diffusion Models [62.12279263217138]
我々は、ポイントクラウド拡散事前学習(PointDif)と呼ばれる新しい事前学習手法を提案する。
PointDifは、分類、セグメンテーション、検出など、さまざまな下流タスクのために、さまざまな現実世界のデータセット間で大幅に改善されている。
論文 参考訳(メタデータ) (2023-11-25T08:10:05Z) - Bidirectional Knowledge Reconfiguration for Lightweight Point Cloud
Analysis [74.00441177577295]
ポイントクラウド分析は計算システムのオーバーヘッドに直面し、モバイルやエッジデバイスでの利用を制限する。
本稿では,軽量点雲モデルのための特徴蒸留について検討する。
本研究では,教師から生徒への情報的文脈的知識を抽出するための双方向知識再構成を提案する。
論文 参考訳(メタデータ) (2023-10-08T11:32:50Z) - Explore In-Context Learning for 3D Point Cloud Understanding [71.20912026561484]
我々は,特に3Dポイントクラウドにおけるコンテキスト内学習のために設計された,ポイント・イン・コンテキストという新しいフレームワークを紹介した。
一般点サンプリング演算子とタンデムで協調して動作するように慎重に設計したJoint Smplingモジュールを提案する。
提案手法の汎用性と適応性を検証するため,幅広いタスクを扱うための広範囲な実験を行った。
論文 参考訳(メタデータ) (2023-06-14T17:53:21Z) - StarNet: Style-Aware 3D Point Cloud Generation [82.30389817015877]
StarNetは、マッピングネットワークを使用して高忠実度および3Dポイントクラウドを再構築し、生成することができる。
我々のフレームワークは、クラウドの再構築と生成タスクにおいて、様々なメトリクスで同等の最先端のパフォーマンスを達成します。
論文 参考訳(メタデータ) (2023-03-28T08:21:44Z) - Controllable Mesh Generation Through Sparse Latent Point Diffusion
Models [105.83595545314334]
メッシュ生成のための新しいスパース潜在点拡散モデルを設計する。
私たちの重要な洞察は、ポイントクラウドをメッシュの中間表現と見なし、代わりにポイントクラウドの分布をモデル化することです。
提案したスパース潜在点拡散モデルにより,生成品質と制御性において優れた性能が得られる。
論文 参考訳(メタデータ) (2023-03-14T14:25:29Z) - Upsampling Autoencoder for Self-Supervised Point Cloud Learning [11.19408173558718]
人間のアノテーションを使わずに、ポイントクラウド学習のための自己教師付き事前学習モデルを提案する。
アップサンプリング操作は、ポイントクラウドの高レベルセマンティック情報と低レベル幾何情報の両方を捕捉することをネットワークに促す。
我々のUAEは、形状分類、部分分割、点雲アップサンプリングタスクにおいて、従来の最先端手法よりも優れています。
論文 参考訳(メタデータ) (2022-03-21T07:20:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。