論文の概要: Spectral-Spatial Transformer with Active Transfer Learning for Hyperspectral Image Classification

• arxiv url: http://arxiv.org/abs/2411.18115v1
• Date: Wed, 27 Nov 2024 07:53:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-28 15:26:42.336663
• Title: Spectral-Spatial Transformer with Active Transfer Learning for Hyperspectral Image Classification
• Title（参考訳）: ハイパースペクトル画像分類のための能動変換学習を用いたスペクトル空間変換器
• Authors: Muhammad Ahmad, Manuel Mazzara, Salvatore Distefano,
• Abstract要約: ハイパースペクトル画像(HSI)の分類は、高スペクトル次元と限られたラベル付きデータのために難しい課題である。 本研究では,空間スペクトル変換器(SST)と能動学習プロセスを統合し,効率的なHSI分類を実現するための多段階能動移動学習(ATL)フレームワークを提案する。 HSIデータセットのベンチマーク実験では、SST-ATLフレームワークが既存のCNNやSSTベースの手法よりも大幅に優れていることが示されている。
• 参考スコア（独自算出の注目度）: 3.446873355279676
• License:
• Abstract: The classification of hyperspectral images (HSI) is a challenging task due to the high spectral dimensionality and limited labeled data typically available for training. In this study, we propose a novel multi-stage active transfer learning (ATL) framework that integrates a Spatial-Spectral Transformer (SST) with an active learning process for efficient HSI classification. Our approach leverages a pre-trained (initially trained) SST model, fine-tuned iteratively on newly acquired labeled samples using an uncertainty-diversity (Spatial-Spectral Neighborhood Diversity) querying mechanism. This mechanism identifies the most informative and diverse samples, thereby optimizing the transfer learning process to reduce both labeling costs and model uncertainty. We further introduce a dynamic freezing strategy, selectively freezing layers of the SST model to minimize computational overhead while maintaining adaptability to spectral variations in new data. One of the key innovations in our work is the self-calibration of spectral and spatial attention weights, achieved through uncertainty-guided active learning. This not only enhances the model's robustness in handling dynamic and disjoint spectral profiles but also improves generalization across multiple HSI datasets. Additionally, we present a diversity-promoting sampling strategy that ensures the selected samples span distinct spectral regions, preventing overfitting to particular spectral classes. Experiments on benchmark HSI datasets demonstrate that the SST-ATL framework significantly outperforms existing CNN and SST-based methods, offering superior accuracy, efficiency, and computational performance. The source code can be accessed at \url{https://github.com/mahmad000/ATL-SST}.
• Abstract（参考訳）: ハイパースペクトル画像(HSI)の分類は、高スペクトル次元と、通常訓練に利用できる限られたラベル付きデータのために難しい課題である。 本研究では,空間スペクトル変換器(SST)と能動学習プロセスを統合し,効率的なHSI分類を実現するための多段階能動移動学習(ATL)フレームワークを提案する。 提案手法は,不確実性(空間スペクトル近傍の多様性)クエリ機構を用いて,新たに取得したラベル付きサンプルに対して,事前訓練(初期訓練)されたSSTモデルを活用する。 このメカニズムは、最も情報的で多様なサンプルを識別し、転送学習プロセスを最適化し、ラベリングコストとモデルの不確実性の両方を削減する。 さらに、新しいデータのスペクトル変動への適応性を維持しつつ、計算オーバーヘッドを最小限に抑えるため、SSTモデルの層を選択的に凍結する動的凍結戦略を導入する。 私たちの研究における重要な革新の1つは、不確実性誘導型能動学習によって達成されるスペクトルと空間的注意重みの自己校正である。 これにより、ダイナミックなスペクトルプロファイルと非ジョイントなスペクトルプロファイルを扱う際のモデルの堅牢性が向上するだけでなく、複数のHSIデータセットの一般化も向上する。 さらに,選択したサンプルが異なるスペクトル領域に分散することを保証し,特定のスペクトルクラスへの過度な適合を防止できる多様性促進サンプリング戦略を提案する。 HSIデータセットのベンチマーク実験により、SST-ATLフレームワークは既存のCNNやSSTベースの手法よりも優れており、精度、効率、計算性能が優れていることが示された。 ソースコードは \url{https://github.com/mahmad000/ATL-SST} でアクセスできる。

関連論文リスト

• Hyperspectral Images Efficient Spatial and Spectral non-Linear Model with Bidirectional Feature Learning [7.06787067270941]
  本稿では,分類精度を高めつつ,データ量を大幅に削減する新しいフレームワークを提案する。 本モデルでは,空間特徴解析のための特殊ブロックによって補完されるスペクトル特徴を効率よく抽出するために,双方向逆畳み込みニューラルネットワーク(CNN)を用いる。
  論文  参考訳（メタデータ） (2024-11-29T23:32:26Z)
• Boosting Transformer's Robustness and Efficacy in PPG Signal Artifact Detection with Self-Supervised Learning [0.0]
  本研究は、自己教師付き学習(SSL)を用いて、このデータから潜伏した特徴を抽出することにより、豊富なラベル付きデータの未利用に対処する。 実験の結果,SSLはTransformerモデルの表現学習能力を大幅に向上させることがわかった。 このアプローチは、注釈付きデータがしばしば制限されるPICU環境において、より広範なアプリケーションに対して約束される。
  論文  参考訳（メタデータ） (2024-01-02T04:00:48Z)
• DiffSpectralNet : Unveiling the Potential of Diffusion Models for Hyperspectral Image Classification [6.521187080027966]
  我々は拡散と変圧器技術を組み合わせたDiffSpectralNetと呼ばれる新しいネットワークを提案する。 まず,拡散モデルに基づく教師なし学習フレームワークを用いて,高レベル・低レベルのスペクトル空間的特徴を抽出する。 この拡散法はスペクトル空間の特徴を多様かつ有意義に抽出し,HSI分類の改善につながる。
  論文  参考訳（メタデータ） (2023-10-29T15:26:37Z)
• ESSAformer: Efficient Transformer for Hyperspectral Image Super-resolution [76.7408734079706]
  単一ハイパースペクトル像超解像(単一HSI-SR)は、低分解能観測から高分解能ハイパースペクトル像を復元することを目的としている。 本稿では,1つのHSI-SRの繰り返し精製構造を持つESSA注目組込みトランスフォーマネットワークであるESSAformerを提案する。
  論文  参考訳（メタデータ） (2023-07-26T07:45:14Z)
• Spectrum-BERT: Pre-training of Deep Bidirectional Transformers for Spectral Classification of Chinese Liquors [0.0]
  本稿では,中国酒のスペクトル分類のための双方向トランスフォーマーの事前学習手法を提案し,これをSpectrum-BERTと略した。 我々はNext Curve Prediction (NCP) と Masked Curve Model (MCM) の2つの事前学習タスクを精巧に設計し、未ラベルのサンプルを効果的に活用できるようにした。 比較実験では、提案したSpectrum-BERTは、複数のメトリクスでベースラインを大幅に上回っている。
  論文  参考訳（メタデータ） (2022-10-22T13:11:25Z)
• Towards Automated Imbalanced Learning with Deep Hierarchical Reinforcement Learning [57.163525407022966]
  不均衡学習はデータマイニングにおいて基本的な課題であり、各クラスにトレーニングサンプルの不均等な比率が存在する。 オーバーサンプリングは、少数民族のための合成サンプルを生成することによって、不均衡な学習に取り組む効果的な手法である。 我々は,異なるレベルの意思決定を共同で最適化できる自動オーバーサンプリングアルゴリズムであるAutoSMOTEを提案する。
  論文  参考訳（メタデータ） (2022-08-26T04:28:01Z)
• MST++: Multi-stage Spectral-wise Transformer for Efficient Spectral Reconstruction [148.26195175240923]
  効率的なスペクトル再構成のためのマルチステージスペクトル変換器(MST++)を提案する。 NTIRE 2022 Spectral Reconstruction Challengeでは、私たちのアプローチが優勝しました。
  論文  参考訳（メタデータ） (2022-04-17T02:39:32Z)
• Coarse-to-Fine Sparse Transformer for Hyperspectral Image Reconstruction [138.04956118993934]
  本稿では, サース・トゥ・ファインス・スパース・トランス (CST) を用いた新しいトランス方式を提案する。 HSI再構成のための深層学習にHSI空間を埋め込んだCST 特に,CSTは,提案したスペクトル認識スクリーニング機構(SASM)を粗いパッチ選択に使用し,選択したパッチを,細かなピクセルクラスタリングと自己相似性キャプチャのために,カスタマイズしたスペクトル集約ハッシュ型マルチヘッド自己アテンション(SAH-MSA)に入力する。
  論文  参考訳（メタデータ） (2022-03-09T16:17:47Z)
• Mask-guided Spectral-wise Transformer for Efficient Hyperspectral Image Reconstruction [127.20208645280438]
  ハイパースペクトル画像(HSI)再構成は、2次元計測から3次元空間スペクトル信号を復元することを目的としている。 スペクトル間相互作用のモデル化は、HSI再構成に有用である。 Mask-guided Spectral-wise Transformer (MST) は,HSI再構成のための新しいフレームワークを提案する。
  論文  参考訳（メタデータ） (2021-11-15T16:59:48Z)
• Exploring Complementary Strengths of Invariant and Equivariant Representations for Few-Shot Learning [96.75889543560497]
  多くの現実世界では、多数のラベル付きサンプルの収集は不可能です。 少ないショット学習はこの問題に対処するための主要なアプローチであり、目的は限られた数のサンプルの存在下で新しいカテゴリに迅速に適応することです。 幾何学的変換の一般集合に対する等分散と不変性を同時に強制する新しい訓練機構を提案する。
  論文  参考訳（メタデータ） (2021-03-01T21:14:33Z)
• Improving Deep Hyperspectral Image Classification Performance with Spectral Unmixing [3.84448093764973]
  本稿では,多元HSI分類法を提案する。 我々は、データセット固有のオートエンコーダにより、スペクトル領域から豊富な領域へのすべてのHSIを変換する。 次に、複数のHSIからの豊富な表現を収集して拡大データセットを形成する。
  論文  参考訳（メタデータ） (2020-04-01T17:14:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。