論文の概要: Beyond Loss Guidance: Using PDE Residuals as Spectral Attention in Diffusion Neural Operators
- arxiv url: http://arxiv.org/abs/2512.01370v1
- Date: Mon, 01 Dec 2025 07:34:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-02 19:46:34.746425
- Title: Beyond Loss Guidance: Using PDE Residuals as Spectral Attention in Diffusion Neural Operators
- Title(参考訳): 損失誘導を超えて:拡散型ニューラル演算子におけるスペクトル注意としてPDE残基を用いる
- Authors: Medha Sawhney, Abhilash Neog, Mridul Khurana, Anuj Karpatne,
- Abstract要約: PRISMAは、PDE残基をモデルアーキテクチャに直接埋め込む条件拡散ニューラル演算子である。
PRISMA は 5 つのベンチマーク PDE における従来の手法と比較してかなり低い推算コストで競合精度を持つことを示す。
- 参考スコア(独自算出の注目度): 7.854118707141527
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Diffusion-based solvers for partial differential equations (PDEs) are often bottle-necked by slow gradient-based test-time optimization routines that use PDE residuals for loss guidance. They additionally suffer from optimization instabilities and are unable to dynamically adapt their inference scheme in the presence of noisy PDE residuals. To address these limitations, we introduce PRISMA (PDE Residual Informed Spectral Modulation with Attention), a conditional diffusion neural operator that embeds PDE residuals directly into the model's architecture via attention mechanisms in the spectral domain, enabling gradient-descent free inference. In contrast to previous methods that use PDE loss solely as external optimization targets, PRISMA integrates PDE residuals as integral architectural features, making it inherently fast, robust, accurate, and free from sensitive hyperparameter tuning. We show that PRISMA has competitive accuracy, at substantially lower inference costs, compared to previous methods across five benchmark PDEs, especially with noisy observations, while using 10x to 100x fewer denoising steps, leading to 15x to 250x faster inference.
- Abstract(参考訳): 偏微分方程式(PDE)の拡散に基づく解法は、損失誘導にPDE残差を用いる緩やかな勾配に基づくテスト時間最適化ルーチンによってボトルネッキングされることが多い。
さらに最適化の不安定さに悩まされ、ノイズの多いPDE残基の存在下で推論スキームを動的に適応できない。
これらの制約に対処するため、PRISMA(PDE Residual Informed Spectral Modulation with Attention)を導入し、スペクトル領域の注意機構を介してPDE残差を直接モデルのアーキテクチャに埋め込む条件拡散ニューラル演算子について述べる。
外部最適化ターゲットとしてのみPDE損失を使用する従来の手法とは対照的に、PRISMAはPDE残留物を統合アーキテクチャの特徴として統合し、本質的に高速で、堅牢で、正確で、敏感なハイパーパラメータチューニングを伴わない。
PRISMAの競合精度は,従来の5つのベンチマークPDEの手法と比較してかなり低いが,特にノイズの多い観測では,10倍から100倍のデノナイジングステップを用いることで15倍から250倍高速な推論が可能であった。
関連論文リスト
- Adaptive Stochastic Coefficients for Accelerating Diffusion Sampling [11.922538785783587]
AdaSDEは、SDEのエラーレジリエンスとODEの効率を統一することを目的とした、新しいシングルステップSDEソルバである。
具体的には, 拡散サンプリングを高速化するために, 誤差補正強度を動的に制御する, 軽量蒸留により推定される1ステップ毎の学習可能係数を導入する。
5 NFEで、AdaSDEはCIFAR-10で4.18点、FFHQで8.05点、LSUNベッドルームで6.96点を達成している。
論文 参考訳(メタデータ) (2025-10-27T12:53:48Z) - PDE-aware Optimizer for Physics-informed Neural Networks [0.0]
サンプルごとのPDE残差に基づいてパラメータ更新を適応するPDE認識を提案する。
この方法は、SOAPのような二階勾配の計算コストを伴わずに、勾配のずれに対処する。
PINN訓練におけるPDE残差認識適応性の有効性について検討した。
論文 参考訳(メタデータ) (2025-07-10T19:07:55Z) - Physics-Informed Distillation of Diffusion Models for PDE-Constrained Generation [19.734778762515468]
拡散モデルは、物理系のモデリング、特に偏微分方程式(PDE)によって支配されるものにおいて、注目を集めている。
本稿では, PDE 制約を直接拡散過程に注入するのではなく, ポストホック蒸留段階において適用する, 単純かつ効果的なポストホック蒸留法を提案する。
論文 参考訳(メタデータ) (2025-05-28T14:17:58Z) - Guided Diffusion Sampling on Function Spaces with Applications to PDEs [112.09025802445329]
PDEに基づく逆問題における条件付きサンプリングのための一般的なフレームワークを提案する。
これは、関数空間拡散モデルと条件付けのためのプラグアンドプレイガイダンスによって達成される。
提案手法は,最先端の固定解像度拡散ベースラインに対して平均32%の精度向上を実現する。
論文 参考訳(メタデータ) (2025-05-22T17:58:12Z) - Unisolver: PDE-Conditional Transformers Towards Universal Neural PDE Solvers [53.79279286773326]
我々は、多様なデータに基づいて訓練され、多様なPDEで条件付けされた新しいトランスフォーマーモデルUnisolverを提案する。
Unisolverは3つの挑戦的な大規模ベンチマークで一貫した最先端を実現し、優れたパフォーマンスと一般化性を示している。
論文 参考訳(メタデータ) (2024-05-27T15:34:35Z) - Deep Equilibrium Based Neural Operators for Steady-State PDEs [100.88355782126098]
定常PDEに対する重み付けニューラルネットワークアーキテクチャの利点について検討する。
定常PDEの解を直接解くFNOアーキテクチャの深い平衡変種であるFNO-DEQを提案する。
論文 参考訳(メタデータ) (2023-11-30T22:34:57Z) - Elucidating the solution space of extended reverse-time SDE for diffusion models [23.637881476921596]
サンプリングプロセスを拡張逆時間SDE(ER SDE)として定式化する。
SDE と VE SDE に対してそれぞれ正確な解と近似解を提供する。
我々は,ER-SDE-rsという効率的な高品質なサンプリング装置を考案した。
論文 参考訳(メタデータ) (2023-09-12T12:27:17Z) - PDE-Refiner: Achieving Accurate Long Rollouts with Neural PDE Solvers [40.097474800631]
時間依存偏微分方程式(PDE)は、科学や工学においてユビキタスである。
ディープニューラルネットワークに基づくサロゲートへの関心が高まっている。
論文 参考訳(メタデータ) (2023-08-10T17:53:05Z) - LordNet: An Efficient Neural Network for Learning to Solve Parametric Partial Differential Equations without Simulated Data [47.49194807524502]
エンタングルメントをモデル化するためのチューナブルで効率的なニューラルネットワークであるLordNetを提案する。
ポアソン方程式と(2Dおよび3D)ナビエ・ストークス方程式を解く実験は、長距離の絡み合いがロードネットによってうまくモデル化できることを示した。
論文 参考訳(メタデータ) (2022-06-19T14:41:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。