論文の概要: HAVANA: Hard negAtiVe sAmples aware self-supervised coNtrastive leArning
for Airborne laser scanning point clouds semantic segmentation
- arxiv url: http://arxiv.org/abs/2210.10626v1
- Date: Wed, 19 Oct 2022 15:05:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-20 14:57:19.239286
- Title: HAVANA: Hard negAtiVe sAmples aware self-supervised coNtrastive leArning
for Airborne laser scanning point clouds semantic segmentation
- Title（参考訳）: havana: 航空機搭載レーザー走査点雲意味分割のための自己教師ありコントラスト学習を意識したハードネガティブなサンプル
- Authors: Yunsheng Zhang, Jianguo Yao, Ruixiang Zhang, Siyang Chen, Haifeng Li
- Abstract要約: 本研究は, セマンティックセグメンテーションのためのモデルを事前学習するための, 自己指導型コントラスト学習手法を提案する。
提案したHAVANA法は,教師付きパラダイム性能の94%をフルトレーニングセットで上回っている。
- 参考スコア（独自算出の注目度）: 9.310873951428238
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep Neural Network (DNN) based point cloud semantic segmentation has
presented significant achievements on large-scale labeled aerial laser point
cloud datasets. However, annotating such large-scaled point clouds is
time-consuming. Due to density variations and spatial heterogeneity of the
Airborne Laser Scanning (ALS) point clouds, DNNs lack generalization capability
and thus lead to unpromising semantic segmentation, as the DNN trained in one
region underperform when directly utilized in other regions. However,
Self-Supervised Learning (SSL) is a promising way to solve this problem by
pre-training a DNN model utilizing unlabeled samples followed by a fine-tuned
downstream task involving very limited labels. Hence, this work proposes a
hard-negative sample aware self-supervised contrastive learning method to
pre-train the model for semantic segmentation. The traditional contrastive
learning for point clouds selects the hardest negative samples by solely
relying on the distance between the embedded features derived from the learning
process, potentially evolving some negative samples from the same classes to
reduce the contrastive learning effectiveness. Therefore, we design an AbsPAN
(Absolute Positive And Negative samples) strategy based on k-means clustering
to filter the possible false-negative samples. Experiments on two typical ALS
benchmark datasets demonstrate that the proposed method is more appealing than
supervised training schemes without pre-training. Especially when the labels
are severely inadequate (10% of the ISPRS training set), the results obtained
by the proposed HAVANA method still exceed 94% of the supervised paradigm
performance with full training set.
- Abstract（参考訳）: deep neural network (dnn) ベースのポイントクラウドセマンティクスセグメンテーションは、大規模ラベル付き空中レーザーポイントクラウドデータセットにおいて重要な業績を示している。
しかし、このような大規模点雲の注釈付けには時間がかかる。
航空機搭載レーザー走査(ALS)点雲の密度変化と空間的不均一性により、DNNは一般化能力が欠如しており、他の領域で直接利用された場合のDNNの訓練が不十分であったため、セマンティックセマンティックセマンティックセグメンテーションが実現できない。
しかし、SSL(Self-Supervised Learning)は、ラベルのないサンプルを使用してDNNモデルを事前訓練し、非常に限られたラベルを含むダウンストリームタスクを実行することで、この問題を解決するための有望な方法である。
そこで本研究では,意味的セグメンテーションのためのモデルを事前学習するための自己指導型コントラスト学習手法を提案する。
ポイントクラウドの伝統的なコントラスト学習は、学習プロセスから派生した埋め込みフィーチャ間の距離のみに依存することで最も難しいネガティブなサンプルを選択し、同じクラスからいくつかのネガティブなサンプルを進化させ、コントラスト学習の有効性を低下させる。
そこで我々は,k平均クラスタリングに基づくAbsPAN(Absolute Positive And Negative sample)戦略を設計し,偽陰性サンプルをフィルタリングする。
2つの典型的なALSベンチマークデータセットの実験により、提案手法は事前トレーニングなしで教師付きトレーニングスキームよりも魅力的であることが示された。
特にラベルが過度に不適切な場合(isprsトレーニングセットの10%)、提案手法によって得られた結果は、完全なトレーニングセットを持つ教師付きパラダイムパフォーマンスの94%を超えている。
関連論文リスト
- Adaptive-Labeling for Enhancing Remote Sensing Cloud Understanding [40.572147431473034]
我々は、トレーニングデータアノテーションの品質を高めるために反復的に運用される、革新的なモデルに依存しないCloud Adaptive-Labeling(CAL)アプローチを導入する。
本手法は,クラウドセグメンテーションモデルをオリジナルのアノテーションを用いてトレーニングすることで開始する。
トレーニング可能なピクセル強度閾値を導入し、雲のトレーニング画像をリアルタイムでアダプティブにラベル付けする。
新たに生成されたラベルはモデルを微調整するために使用される。
論文 参考訳（メタデータ） (2023-11-09T08:23:45Z) - KAKURENBO: Adaptively Hiding Samples in Deep Neural Network Training [2.8804804517897935]
深層ニューラルネットワークのトレーニングにおいて,最も重要でないサンプルを隠蔽する手法を提案する。
我々は,学習プロセス全体への貢献に基づいて,与えられたエポックを除外するサンプルを適応的に見つける。
本手法は, ベースラインと比較して, 最大22%の精度でトレーニング時間を短縮できる。
論文 参考訳（メタデータ） (2023-10-16T06:19:29Z) - LESS: Label-Efficient Semantic Segmentation for LiDAR Point Clouds [62.49198183539889]
我々は,LiDAR点雲を用いた屋外シーンのためのラベル効率のよいセマンティックセマンティックセマンティクスパイプラインを提案する。
本手法は,半弱教師付き学習を用いて,効率的なラベリング手法を設計する。
提案手法は,100%ラベル付き完全教師付き手法と比較して,さらに競争力が高い。
論文 参考訳（メタデータ） (2022-10-14T19:13:36Z) - ScatterSample: Diversified Label Sampling for Data Efficient Graph
Neural Network Learning [22.278779277115234]
グラフニューラルネットワーク(GNN)トレーニングが高価であるいくつかのアプリケーションでは、新しいインスタンスのラベル付けが高価である。
データ効率のよいアクティブサンプリングフレームワークであるScatterSampleを開発し、アクティブな学習環境下でGNNを訓練する。
5つのデータセットに対する実験により、ScatterSampleは他のGNNのアクティブラーニングベースラインよりも大幅に優れていることが示された。
論文 参考訳（メタデータ） (2022-06-09T04:05:02Z) - Open-Set Semi-Supervised Learning for 3D Point Cloud Understanding [62.17020485045456]
半教師付き学習(SSL)では、ラベル付きデータと同じ分布からラベル付きデータが引き出されることが一般的である。
サンプル重み付けによりラベルなしデータを選択的に活用することを提案する。
論文 参考訳（メタデータ） (2022-05-02T16:09:17Z) - Active Learning for Deep Visual Tracking [51.5063680734122]
畳み込みニューラルネットワーク(CNN)は近年,単一目標追跡タスクに成功している。
本稿では,ディープ・ビジュアル・トラッキングのためのアクティブ・ラーニング手法を提案する。
アクティブラーニングの指導のもと、トレーニングされた深層CNNモデルに基づくトラッカーは、ラベリングコストを低減しつつ、競合的なトラッキング性能を達成することができる。
論文 参考訳（メタデータ） (2021-10-17T11:47:56Z) - Guided Point Contrastive Learning for Semi-supervised Point Cloud
Semantic Segmentation [90.2445084743881]
そこで本研究では,モデル性能を向上させるために,未ラベルの点群をトレーニングに採用するための半教師付き点群セマンティックセマンティックセマンティックセマンティクスを提案する。
近年の自己監督型タスクのコントラスト損失に触発されて,特徴表現とモデル一般化能力を高めるためのガイド付きポイントコントラスト損失を提案する。
論文 参考訳（メタデータ） (2021-10-15T16:38:54Z) - A new weakly supervised approach for ALS point cloud semantic
segmentation [1.4620086904601473]
本稿では,ALS点雲のセマンティックセグメンテーションのための,ディープラーニングに基づく弱教師付きフレームワークを提案する。
不完全でスパースなラベルの対象となるラベルのないデータから潜在的情報を利用する。
本手法は, 総合精度が83.0%, 平均F1スコアが70.0%であり, それぞれ6.9%, 12.8%増加した。
論文 参考訳（メタデータ） (2021-10-04T14:00:23Z) - DAAIN: Detection of Anomalous and Adversarial Input using Normalizing
Flows [52.31831255787147]
我々は、アウト・オブ・ディストリビューション(OOD)インプットと敵攻撃(AA)を検出する新しい手法であるDAINを導入する。
本手法は,ニューラルネットワークの内部動作を監視し,活性化分布の密度推定器を学習する。
当社のモデルは,特別なアクセラレータを必要とせずに,効率的な計算とデプロイが可能な単一のGPUでトレーニングすることが可能です。
論文 参考訳（メタデータ） (2021-05-30T22:07:13Z) - S2-BNN: Bridging the Gap Between Self-Supervised Real and 1-bit Neural
Networks via Guided Distribution Calibration [74.5509794733707]
本研究では, 実数値から, 最終予測分布上のバイナリネットワークへの誘導型学習パラダイムを提案する。
提案手法は,bnn上で5.515%の絶対利得で,単純なコントラスト学習ベースラインを向上できる。
提案手法は、単純なコントラスト学習ベースラインよりも大幅に改善され、多くの主流教師付きBNN手法に匹敵する。
論文 参考訳（メタデータ） (2021-02-17T18:59:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。