論文の概要: DDPM-CD: Denoising Diffusion Probabilistic Models as Feature Extractors
for Change Detection
- arxiv url: http://arxiv.org/abs/2206.11892v3
- Date: Fri, 12 Jan 2024 14:37:36 GMT
- ステータス: 処理完了
- システム内更新日: 2024-01-15 21:53:21.285671
- Title: DDPM-CD: Denoising Diffusion Probabilistic Models as Feature Extractors
for Change Detection
- Title(参考訳): DDPM-CD:変化検出のための特徴エクストラクタとしての拡散確率モデル
- Authors: Wele Gedara Chaminda Bandara, Nithin Gopalakrishnan Nair, Vishal M.
Patel
- Abstract要約: Deno Diffusion Probabilistic Model (DDPM) の事前学習による変化検出のための新しいアプローチを提案する。
DDPMは、訓練画像を徐々にマルコフ連鎖を用いてガウス分布に変換することにより、トレーニングデータ分布を学習する。
推論(サンプリング)中に、トレーニング分布に近い多様なサンプルセットを生成することができる。
LEVIR-CD, WHU-CD, DSIFN-CD, CDDデータセットを用いて行った実験により,提案手法は既存の変化検出法よりもF1スコアで大幅に優れており, I。
- 参考スコア(独自算出の注目度): 31.125812018296127
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Remote sensing change detection is crucial for understanding the dynamics of
our planet's surface, facilitating the monitoring of environmental changes,
evaluating human impact, predicting future trends, and supporting
decision-making. In this work, we introduce a novel approach for change
detection that can leverage off-the-shelf, unlabeled remote sensing images in
the training process by pre-training a Denoising Diffusion Probabilistic Model
(DDPM) - a class of generative models used in image synthesis. DDPMs learn the
training data distribution by gradually converting training images into a
Gaussian distribution using a Markov chain. During inference (i.e., sampling),
they can generate a diverse set of samples closer to the training distribution,
starting from Gaussian noise, achieving state-of-the-art image synthesis
results. However, in this work, our focus is not on image synthesis but on
utilizing it as a pre-trained feature extractor for the downstream application
of change detection. Specifically, we fine-tune a lightweight change classifier
utilizing the feature representations produced by the pre-trained DDPM
alongside change labels. Experiments conducted on the LEVIR-CD, WHU-CD,
DSIFN-CD, and CDD datasets demonstrate that the proposed DDPM-CD method
significantly outperforms the existing state-of-the-art change detection
methods in terms of F1 score, IoU, and overall accuracy, highlighting the
pivotal role of pre-trained DDPM as a feature extractor for downstream
applications. We have made both the code and pre-trained models available at
https://github.com/wgcban/ddpm-cd
- Abstract(参考訳): リモートセンシングによる変化検出は、地球表面のダイナミクスの理解、環境変化の監視、人的影響の評価、将来のトレンドの予測、意思決定の支援に不可欠である。
そこで本研究では,画像合成に使用される生成モデルであるdenoising diffusion probabilistic model (ddpm) を事前学習することにより,既成の非ラベルリモートセンシングイメージをトレーニングプロセスで活用できる,新しい変化検出手法を提案する。
DDPMは、徐々に訓練画像をマルコフ連鎖を用いてガウス分布に変換することにより、トレーニングデータ分布を学習する。
推論(サンプリング)の間、それらはトレーニング分布に近い多様なサンプルセットを生成することができ、ガウスノイズから始まり、最先端の画像合成結果が得られる。
しかし,本研究では,画像合成ではなく,変化検出の下流適用のための事前学習特徴抽出器としての利用に重点を置いている。
具体的には、事前訓練されたDDPMによって生成された特徴表現と変更ラベルを併用した軽量な変更分類器を微調整する。
LEVIR-CD, WHU-CD, DSIFN-CD, CDDデータセットを用いて行った実験により, 提案手法は, F1スコア, IoU, 全体的な精度で既存の変化検出手法よりも有意に優れており, 下流アプリケーションの特徴抽出器として, DDPMが果たす重要な役割を強調している。
コードとトレーニング済みのモデルの両方をhttps://github.com/wgcban/ddpm-cdで利用可能にしました。
関連論文リスト
- Adaptive Semantic-Enhanced Denoising Diffusion Probabilistic Model for Remote Sensing Image Super-Resolution [7.252121550658619]
Denoising Diffusion Probabilistic Model (DDPM) は画像再構成において有望な性能を示した。
DDPMが生成する高周波の詳細は、モデルが長距離の意味的文脈を見落としているため、HR画像との不一致に悩まされることが多い。
DDPMの詳細な保存能力を高めるために,適応的意味強化DDPM(ASDDPM)を提案する。
論文 参考訳(メタデータ) (2024-03-17T04:08:58Z) - AdjointDPM: Adjoint Sensitivity Method for Gradient Backpropagation of Diffusion Probabilistic Models [103.41269503488546]
既存のカスタマイズ方法は、事前訓練された拡散確率モデルをユーザが提供する概念に合わせるために、複数の参照例にアクセスする必要がある。
本論文は、DPMカスタマイズの課題として、生成コンテンツ上で定義された差別化可能な指標が唯一利用可能な監督基準である場合に解決することを目的とする。
本稿では,拡散モデルから新しいサンプルを初めて生成するAdjointDPMを提案する。
次に、随伴感度法を用いて、損失の勾配をモデルのパラメータにバックプロパゲートする。
論文 参考訳(メタデータ) (2023-07-20T09:06:21Z) - GCD-DDPM: A Generative Change Detection Model Based on
Difference-Feature Guided DDPM [7.922421805234563]
深層学習法は近年,バイテンポラルチェンジ検出(CD)において大きな可能性を秘めている
本研究は,CDマップを直接生成するGCD-DDPMと呼ばれる生成的変化検出モデルを提案する。
4つの高解像度CDデータセットの実験により、提案したGCD-DDPMの優れた性能が確認された。
論文 参考訳(メタデータ) (2023-06-06T05:51:50Z) - Remote Sensing Change Detection With Transformers Trained from Scratch [62.96911491252686]
トランスフォーマーベースの変更検出(CD)アプローチでは、大規模なイメージ分類でトレーニングされた事前トレーニングモデルを使用するか、別のCDデータセットで最初の事前トレーニングを頼りにしてから、ターゲットのベンチマークを微調整する。
我々は、4つの公開ベンチマークにおいて、スクラッチからトレーニングされながら最先端のパフォーマンスを実現するトランスフォーマーを用いたエンドツーエンドCDアプローチを開発した。
論文 参考訳(メタデータ) (2023-04-13T17:57:54Z) - Deep Metric Learning for Unsupervised Remote Sensing Change Detection [60.89777029184023]
リモートセンシング変化検出(RS-CD)は、マルチテンポラルリモートセンシング画像(MT-RSI)から関連する変化を検出することを目的とする。
既存のRS-CD法の性能は、大規模な注釈付きデータセットのトレーニングによるものである。
本稿では,これらの問題に対処可能なディープメトリック学習に基づく教師なしCD手法を提案する。
論文 参考訳(メタデータ) (2023-03-16T17:52:45Z) - Unsupervised Representation Learning from Pre-trained Diffusion
Probabilistic Models [83.75414370493289]
拡散確率モデル(DPM)は高品質の画像サンプルを生成する強力な能力を示している。
Diff-AEは自動符号化による表現学習のためのDPMを探索するために提案されている。
我々は、既存のトレーニング済みDPMをデコーダに適応させるために、textbfPre-trained textbfAutotextbfEncoding (textbfPDAE)を提案する。
論文 参考訳(メタデータ) (2022-12-26T02:37:38Z) - f-DM: A Multi-stage Diffusion Model via Progressive Signal
Transformation [56.04628143914542]
拡散モデル(DM)は、最近、様々な領域で生成モデリングを行うためのSoTAツールとして登場した。
本稿では、プログレッシブ信号変換が可能なDMの一般化されたファミリであるf-DMを提案する。
我々は、ダウンサンプリング、ぼやけ、学習された変換を含む様々な機能を持つ画像生成タスクにf-DMを適用した。
論文 参考訳(メタデータ) (2022-10-10T18:49:25Z) - Change Detection from Synthetic Aperture Radar Images via Dual Path
Denoising Network [38.78699830610313]
SAR画像変化検出のためのDual Path Denoising Network (DPDNet)を提案する。
我々は,事前分類に関わるラベルノイズをクリーンにするために,ランダムなラベル伝搬を導入する。
また,特徴表現学習のための特徴的パッチ畳み込みを提案する。
論文 参考訳(メタデータ) (2022-03-13T01:51:51Z) - Improved Denoising Diffusion Probabilistic Models [4.919647298882951]
その結果,ddpmは高いサンプル品質を維持しつつ,競合的なログライク性を達成できることがわかった。
また,逆拡散過程の学習分散により,フォワードパスが桁違いに小さくサンプリングできることがわかった。
これらのモデルのサンプルの品質と可能性について,モデルのキャパシティとトレーニング計算でスムーズに拡張できることを示し,スケーラビリティを向上する。
論文 参考訳(メタデータ) (2021-02-18T23:44:17Z) - Generalized ODIN: Detecting Out-of-distribution Image without Learning
from Out-of-distribution Data [87.61504710345528]
我々は,OoD検出性能を改善しつつ,ニューラルネットワークをOoDデータのチューニングから解放する2つの方法を提案する。
具体的には、信頼性スコアリングと修正された入力前処理法を分離することを提案する。
大規模画像データセットのさらなる解析により、セマンティックシフトと非セマンティックシフトの2種類の分布シフトが有意な差を示すことが示された。
論文 参考訳(メタデータ) (2020-02-26T04:18:25Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。