論文の概要: Toward a foundation model for forest point clouds
- arxiv url: http://arxiv.org/abs/2609.24787v1
- Date: Mon, 21 Sep 2026 15:50:01 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-22 20:29:01.361991
- Title: Toward a foundation model for forest point clouds
- Title(参考訳): 森林点雲の基礎モデルに向けて
- Abstract要約: 現在のモデルは通常、単一のタスク、センサー、森林タイプに特化している。
我々は,森林在庫の多様さにまたがって,単一の事前学習モデルが伝達可能な表現を学習できるかどうかを問う。
- 参考スコア(独自算出の注目度): 35.42092162451642
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Forest inventories increasingly rely on artificial intelligence (AI) models to derive forest attributes from large-scale 3D point clouds. Current models are typically specialized to a single task, sensor, and forest type, making adaptation expensive in terms of annotations, computation, and expertise. We ask whether a single pretrained model can instead learn transferable representations across diverse forest inventory settings. Inspired by recent developments in language modelling and computer vision, we take a step toward a foundation model (FM) for 3D forestry. Using LitePT as backbone, we first establish a strong supervised baseline that sets a new state of the art on forest semantic and instance segmentation, tree species classification, and age regression benchmarks. We then curate a large-scale unlabelled corpus spanning airborne, UAV, and mobile laser scanning across diverse forest ecosystems, and pretrain the same backbone using self-supervised learning. We systematically evaluate representation learning strategies by comparing training from scratch, supervised pretraining, and self-supervised pretraining across four representative forestry tasks, under varying annotation budgets. Compared with training from scratch, self-supervised pretraining accelerates model convergence and consistently improves performance when annotations are scarce. Compared with task-specific supervised pretraining, self-supervised pretraining yields more transferable representations across downstream forestry tasks. These findings identify the practical regime in which pretrained representations are most valuable and suggest that instance discrimination, rather than forest semantics, is the main remaining obstacle to a general-purpose 3D forest foundation model. Code and models are available at: https://github.com/prs-eth/ForPT.
- Abstract(参考訳): 森林在庫は、大規模3Dポイントクラウドから森林特性を引き出すために、人工知能(AI)モデルにますます依存している。
現在のモデルは、通常、単一のタスク、センサー、森林タイプに特化しており、アノテーション、計算、専門知識の点で適応が高価になる。
森林在庫の多様さにまたがって,1つの事前訓練モデルが伝達可能な表現を学習できるかどうかを問う。
言語モデリングとコンピュータビジョンの最近の発展に触発されて,我々は3D林業の基礎モデル(FM)に向けて一歩踏み出した。
LitePTをバックボーンとして使用すると、まず、森林のセマンティックスとインスタンスのセグメンテーション、木の種分類、年齢回帰のベンチマークに新たな最先端を設定できる強力な教師付きベースラインを確立する。
次に、航空機、UAV、移動レーザーによる様々な森林生態系にまたがる大規模な未ラベルコーパスをキュレートし、自己教師付き学習を用いて、同じバックボーンを事前訓練する。
我々は,4つの代表的な林業課題を対象とした,スクラッチからの学習,教師付き事前訓練,自己指導型事前訓練を比較して,表現学習戦略を体系的に評価した。
スクラッチからのトレーニングと比較すると、自己教師付き事前トレーニングはモデルの収束を加速し、アノテーションが不足している場合、一貫してパフォーマンスを改善します。
タスク固有の教師付き事前訓練と比較すると、自己監督型事前訓練は下流の林業タスクにまたがるより伝達可能な表現をもたらす。
これらの知見は、事前学習された表現が最も価値の高い実践的体制を明らかにし、一般的な3次元森林基盤モデルの主要な障害は、森林意味論ではなく、事例識別であることを示している。
コードとモデルは、https://github.com/prs-eth/ForPT.comで入手できる。
関連論文リスト
- ForestFormer3D: A Unified Framework for End-to-End Segmentation of Forest LiDAR 3D Point Clouds [0.06282171844772422]
ForestFormer3Dは、個々のツリーとセマンティックセグメンテーションを正確に記述するための、新しい統合およびエンドツーエンドのフレームワークである。
ForestFormer3Dには、ISA誘導クエリポイントの選択、推論中のスコアベースのブロックマージ戦略、効果的なトレーニングのための1対多のアソシエーションメカニズムが組み込まれている。
本モデルでは,新たに導入されたFOOR-instanceV2データセットを用いて,個々の木分割の最先端性能を実現する。
論文 参考訳(メタデータ) (2025-06-20T13:39:27Z) - Masked Scene Modeling: Narrowing the Gap Between Supervised and Self-Supervised Learning in 3D Scene Understanding [5.035452169519211]
本稿では,3次元シーン理解のための自己監督機能の品質を評価するためのロバストな評価プロトコルを提案する。
本稿では, 線形探索装置において, 市販品のみを使用する場合に, 教師付きモデルと同様に機能する最初の自己教師型モデルを提案する。
我々の実験は、教師付きモデルに対する競合性能を実証するだけでなく、既存の自己教師型アプローチを大きなマージンで上回っている。
論文 参考訳(メタデータ) (2025-04-09T09:19:49Z) - Semantic segmentation of forest stands using deep learning [0.0]
深層学習法はコンピュータビジョンにおいて大きな可能性を証明してきたが、森の起伏への応用は未解明のままである。
本研究では,マルチクラスセグメンテーション問題としてのフレーミングスタンドデライン化と,U-NetベースのDLフレームワークの適用という,新しいアプローチを提案する。
このモデルは、マルチスペクトル画像、ALSデータ、およびエキスパートインタプリタによって作成された既存のスタンドマップを用いて、訓練され評価された。
論文 参考訳(メタデータ) (2025-04-03T10:47:25Z) - Comparison of self-supervised in-domain and supervised out-domain transfer learning for bird species recognition [0.19183348587701113]
別のタスクを支援するために事前訓練されたモデルの重みを移すことは、現代のディープラーニングの重要な部分となっている。
本実験は,鳥種認識のためのドメイン内モデルとデータセットの有用性を実証するものである。
論文 参考訳(メタデータ) (2024-04-26T08:47:28Z) - OccFeat: Self-supervised Occupancy Feature Prediction for Pretraining BEV Segmentation Networks [75.10231099007494]
本稿では,Bird's-Eye-View(BEV)セグメンテーションネットワークのための,OccFeatと呼ばれる自己教師付き事前学習手法を提案する。
OccFeatでは、占有率予測と特徴蒸留タスクを介して、BEVネットワークを事前訓練する。
本手法で事前訓練したモデルでは,特に低データシナリオにおいて,BEVセマンティックセマンティックセマンティクスの性能が向上した。
論文 参考訳(メタデータ) (2024-04-22T09:43:03Z) - Generalized Robot 3D Vision-Language Model with Fast Rendering and Pre-Training Vision-Language Alignment [55.11291053011696]
本研究は,ラベル付きシーンが極めて限定された場合の3次元シーン理解のためのフレームワークを提案する。
事前学習された視覚言語モデルから新しいカテゴリーの知識を抽出するために,階層的特徴整合型事前学習と知識蒸留戦略を提案する。
限定的な再構築の場合、提案手法はWS3D++と呼ばれ、大規模なScanNetベンチマークで1位にランクインした。
論文 参考訳(メタデータ) (2023-12-01T15:47:04Z) - Self-Distillation for Further Pre-training of Transformers [83.84227016847096]
我々は、さらなる事前学習段階の正則化として自己蒸留を提案する。
画像およびテキスト分類タスクのための様々なベンチマークデータセットにおける自己蒸留の有効性を実証的に検証する。
論文 参考訳(メタデータ) (2022-09-30T02:25:12Z) - The Lottery Tickets Hypothesis for Supervised and Self-supervised
Pre-training in Computer Vision Models [115.49214555402567]
事前訓練された重量は、しばしば分類、検出、セグメンテーションを含む幅広い下流タスクを増加させる。
最近の研究は、巨大モデル能力による事前学習の利点を示唆している。
本稿では,抽選券仮説(LTH)のレンズを用いて,教師付きおよび自己指導型事前学習モデルについて検討する。
論文 参考訳(メタデータ) (2020-12-12T21:53:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。