論文の概要: Spatially-Aware Diffusion Models with Cross-Attention for Global Field Reconstruction with Sparse Observations

• arxiv url: http://arxiv.org/abs/2409.00230v1
• Date: Fri, 30 Aug 2024 19:46:23 GMT
• ステータス: 処理完了
• システム内更新日: 2024-09-06 16:18:33.965745
• Title: Spatially-Aware Diffusion Models with Cross-Attention for Global Field Reconstruction with Sparse Observations
• Title（参考訳）: 空間認識拡散モデルによる大域的電場再構成とスパース観測
• Authors: Yilin Zhuang, Sibo Cheng, Karthik Duraisamy,
• Abstract要約: フィールド再構成タスクにおけるスコアベース拡散モデルの開発と拡張を行う。 本研究では,観測領域と観測領域の間のトラクタブルマッピングを構築するための条件符号化手法を提案する。 本研究では, モデルが再現可能かどうかを把握し, 融合結果の精度を向上する能力を示す。
• 参考スコア（独自算出の注目度）: 1.371691382573869
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Diffusion models have gained attention for their ability to represent complex distributions and incorporate uncertainty, making them ideal for robust predictions in the presence of noisy or incomplete data. In this study, we develop and enhance score-based diffusion models in field reconstruction tasks, where the goal is to estimate complete spatial fields from partial observations. We introduce a condition encoding approach to construct a tractable mapping mapping between observed and unobserved regions using a learnable integration of sparse observations and interpolated fields as an inductive bias. With refined sensing representations and an unraveled temporal dimension, our method can handle arbitrary moving sensors and effectively reconstruct fields. Furthermore, we conduct a comprehensive benchmark of our approach against a deterministic interpolation-based method across various static and time-dependent PDEs. Our study attempts to addresses the gap in strong baselines for evaluating performance across varying sampling hyperparameters, noise levels, and conditioning methods. Our results show that diffusion models with cross-attention and the proposed conditional encoding generally outperform other methods under noisy conditions, although the deterministic method excels with noiseless data. Additionally, both the diffusion models and the deterministic method surpass the numerical approach in accuracy and computational cost for the steady problem. We also demonstrate the ability of the model to capture possible reconstructions and improve the accuracy of fused results in covariance-based correction tasks using ensemble sampling.
• Abstract（参考訳）: 拡散モデルは、複雑な分布を表現し、不確実性を組み込む能力に注目されており、ノイズや不完全データの存在下での堅牢な予測に理想的である。 本研究では,部分的な観測から完全な空間場を推定するフィールド再構成タスクにおいて,スコアに基づく拡散モデルを開発し,拡張する。 本研究では,観測された領域と観測されていない領域間のトラクタブルマッピングを構築するために,スパース観測と補間フィールドの学習可能な統合を帰納バイアスとして利用する条件符号化手法を提案する。 センシング表現の洗練と時間次元の未解決により、任意の移動センサを処理し、フィールドを効果的に再構築することができる。 さらに,静的および時間依存PDEにおける決定論的補間法に対するアプローチの総合的なベンチマークを行う。 本研究は, 様々なサンプリングハイパーパラメータ, ノイズレベル, コンディショニング手法における性能評価のための, 強いベースラインのギャップに対処する試みである。 提案手法は,ノイズのないデータに優れるが,クロスアテンションを持つ拡散モデルと条件エンコーディングにより,雑音条件下での他の手法よりも優れることを示す。 さらに、拡散モデルと決定論的手法の両方が、定常問題に対する精度と計算コストの数値的アプローチを超越している。 また, アンサンブルサンプリングを用いた共分散に基づく修正作業において, モデルが再現可能かどうかを把握し, 融合結果の精度を向上させる能力を示す。

関連論文リスト

• Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
  連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。 本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。 我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
  論文  参考訳（メタデータ） (2024-10-03T09:07:13Z)
• Inflationary Flows: Calibrated Bayesian Inference with Diffusion-Based Models [0.0]
  本稿では,拡散モデルを用いてベイズ推定を行う方法を示す。 本稿では,新しいノイズスケジュールを用いて,標準的なDBMトレーニングを通じてそのようなマップを学習する方法を示す。 その結果は、低次元の潜在空間上で一意に定義される非常に表現性の高い生成モデルのクラスである。
  論文  参考訳（メタデータ） (2024-07-11T19:58:19Z)
• Efficient Trajectory Inference in Wasserstein Space Using Consecutive Averaging [3.8623569699070353]
  軌道推論は、そのような観測から連続的な過程を再構築する挑戦を扱う。 ワッサーシュタイン空間に直交する連続平均化による点雲のB-スプライン近似法を提案する。 コンバージェンス保証を提供し、シミュレーションセルデータ上でテストすることで、我々の手法を厳格に評価する。
  論文  参考訳（メタデータ） (2024-05-30T04:19:20Z)
• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Reflected Diffusion Models [93.26107023470979]
  本稿では,データのサポートに基づいて進化する反射微分方程式を逆転する反射拡散モデルを提案する。 提案手法は,一般化されたスコアマッチング損失を用いてスコア関数を学習し,標準拡散モデルの主要成分を拡張する。
  論文  参考訳（メタデータ） (2023-04-10T17:54:38Z)
• Score-based Diffusion Models in Function Space [140.792362459734]
  拡散モデルは、最近、生成モデリングの強力なフレームワークとして登場した。 本稿では,関数空間における拡散モデルをトレーニングするためのDDO(Denoising Diffusion Operators)という,数学的に厳密なフレームワークを提案する。 データ解像度に依存しない固定コストで、対応する離散化アルゴリズムが正確なサンプルを生成することを示す。
  論文  参考訳（メタデータ） (2023-02-14T23:50:53Z)
• Score Approximation, Estimation and Distribution Recovery of Diffusion Models on Low-Dimensional Data [68.62134204367668]
  本稿では,未知の低次元線形部分空間上でデータをサポートする場合の拡散モデルのスコア近似,推定,分布回復について検討する。 適切に選択されたニューラルネットワークアーキテクチャでは、スコア関数を正確に近似し、効率的に推定することができる。 推定スコア関数に基づいて生成された分布は、データ幾何学構造を捕捉し、データ分布の近傍に収束する。
  論文  参考訳（メタデータ） (2023-02-14T17:02:35Z)
• Score-based Continuous-time Discrete Diffusion Models [102.65769839899315]
  連続時間マルコフ連鎖を介して逆過程が認知されるマルコフジャンププロセスを導入することにより、拡散モデルを離散変数に拡張する。 条件境界分布の単純なマッチングにより、偏りのない推定器が得られることを示す。 提案手法の有効性を,合成および実世界の音楽と画像のベンチマークで示す。
  論文  参考訳（メタデータ） (2022-11-30T05:33:29Z)
• Fast ABC with joint generative modelling and subset simulation [0.6445605125467573]
  本稿では,高次元入力と高価なフォワードマッピングを用いた逆問題解法を提案する。 結合深部生成モデリングを利用して、元の問題空間を低次元の潜在空間に転送する。
  論文  参考訳（メタデータ） (2021-04-16T15:03:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。