論文の概要: Parameterized Representations via Implicit Stochastic Modulation for High-Dimensional and High-Order Neural PDE Solvers
- arxiv url: http://arxiv.org/abs/2606.22150v1
- Date: Sat, 20 Jun 2026 17:02:30 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-25 22:32:03.21465
- Title: Parameterized Representations via Implicit Stochastic Modulation for High-Dimensional and High-Order Neural PDE Solvers
- Title(参考訳): 高次元・高次ニューラルPDE解に対する入射確率変調によるパラメータ化表現
- Authors: Zhangyong Liang, Huanhuan Gao,
- Abstract要約: Implicit Modulation (PRISM) は、パラメータ化された高次元および高次ニューラルPDEソルバのためのプラグアンドプレイフレームワークである。
物理パラメータを高次自動微分で絡み合わせることで、余分なメモリ成長とパラメータ分散の増幅を引き起こすことを示す。
非線形パラメータ化PDEにおけるPRISM-STDEとPRISM-SDGDの実験は、安定なゼロショット一般化、メモリ使用量の削減、単一のGPU上での最大10万次元のスケーラビリティを示す。
- 参考スコア(独自算出の注目度): 0.24554686192257416
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Solving high-dimensional and high-order PDEs is challenged by the coupled growth of spatial dimensionality and derivative order. Recent stochastic derivative estimators reduce this cost by replacing full derivative tensors with randomized dimension or Taylor estimators, but they are mostly designed for fixed physical parameters and require retraining for each new parameter. We show that direct conditional parameterization of such solvers entangles physical parameters with the high-order automatic differentiation graph, causing extra memory growth and parameter-induced variance amplification. We propose Parameterized Representations via Implicit Stochastic Modulation (PRISM), a plug-and-play framework for parameterized high-dimensional and high-order stochastic neural PDE solvers. PRISM uses a hyper-generator to map physical parameters to affine modulators that scale and shift a purely spatial latent manifold, while keeping parameter branches value-connected but spatial-tangent-disconnected. This design preserves unbiased stochastic dimension and Taylor estimators, removes the parameter encoder from high-order spatial AD, and provides a variance-aware Lipschitz envelope over the parameter space. We prove parameterized unbiasedness, estimation-error bounds, and convergence under bounded stochastic variance. Experiments with PRISM-STDE and PRISM-SDGD on nonlinear parameterized PDEs show stable zero-shot generalization, reduced memory usage, and scalability up to 100,000 dimensions on a single GPU, with efficient low-rank SVD adaptation for unseen parameters.
- Abstract(参考訳): 高次元および高次PDEの解法は、空間次元と微分次数の複合的な成長によって挑戦される。
最近の確率微分推定器は、全微分テンソルをランダム化次元またはテイラー推定器に置き換えることでこのコストを削減するが、それらは主に固定された物理パラメータのために設計され、新しいパラメータごとに再訓練を必要とする。
本研究では, 物理パラメータを高次自動微分グラフに絡み合わせることで, 余剰メモリの増大とパラメータ誘起分散増幅を引き起こすことを示す。
Inlicit Stochastic Modulation (PRISM) によるパラメータ化表現を提案する。
PRISMはハイパージェネレータを使用して物理パラメータをアフィン変調器にマッピングし、純粋に空間的な潜在多様体を拡大・シフトする。
この設計は、偏りのない確率次元とテイラー推定器を保存し、高次空間ADからパラメータエンコーダを取り除き、パラメータ空間上の分散を意識したリプシッツエンベロープを提供する。
パラメータ化された不偏性, 推定誤差境界, 収束を, 有界確率分散下で証明する。
非線形パラメータ化PDEにおけるPRISM-STDEとPRISM-SDGDによる実験では、ゼロショットの安定な一般化、メモリ使用量の削減、単一のGPU上での最大10,000次元のスケーラビリティが示され、未確認パラメータに対する効率的な低ランクSVD適応が実現された。
関連論文リスト
- AE-ViT: Stable Long-Horizon Parametric Partial Differential Equations Modeling [0.0]
本稿では、畳み込みエンコーダと、潜在表現を操作するトランスフォーマーと、再構成のためのデコーダからなるジョイントモデルを提案する。
提案手法は,潜在進化の効率と全フィールドモデルの忠実さを組み合わせ,多フィールド予測におけるDL-ROM,潜伏変圧器,平VTの性能を向上する。
論文 参考訳(メタデータ) (2026-04-07T21:19:45Z) - Generalized Tensor-based Parameter-Efficient Fine-Tuning via Lie Group Transformations [50.010924231754856]
さまざまな下流タスクに事前訓練された基礎モデルを適用することは、人工知能のコアプラクティスである。
これを解決するために、LoRAのようなパラメータ効率細調整(PEFT)手法が登場し、研究の焦点となっている。
本稿では,行列型PEFT法を高次元パラメータ空間に拡張する一般化法を提案する。
論文 参考訳(メタデータ) (2025-04-01T14:36:45Z) - GEPS: Boosting Generalization in Parametric PDE Neural Solvers through Adaptive Conditioning [14.939978372699084]
データ駆動型アプローチは、異なるPDEパラメータを持つ非常に多種多様な軌跡を組み込むことでパラメトリックPDEを学ぶ。
GEPSはPdeソルバのGEneralizationを促進するための単純な適応機構である。
完全データ駆動型と物理対応型ニューラルソルバの両方に対するアプローチの汎用性を実証する。
論文 参考訳(メタデータ) (2024-10-31T12:51:40Z) - Adapting Projection-Based Reduced-Order Models using Projected Gaussian Process [5.492716202049269]
パラメータ空間から最適部分空間を含むグラスマン多様体への写像を学習するための射影ガウス過程(pGP)を提案する。
統計的学習手法として、提案したpGPは、データからモデルパラメータを最適に推定(あるいは調整)し、予測に関連する統計的不確かさを定量化する。
論文 参考訳(メタデータ) (2024-10-18T00:02:43Z) - Scaling Exponents Across Parameterizations and Optimizers [94.54718325264218]
本稿では,先行研究における重要な仮定を考察し,パラメータ化の新たな視点を提案する。
私たちの経験的調査には、3つの組み合わせでトレーニングされた数万のモデルが含まれています。
最高の学習率のスケーリング基準は、以前の作業の仮定から除外されることがよくあります。
論文 参考訳(メタデータ) (2024-07-08T12:32:51Z) - Maintaining Structural Integrity in Parameter Spaces for Parameter Efficient Fine-tuning [78.39310274926535]
さまざまな下流タスクに事前訓練された基礎モデルを適応させることは、人工知能において一般的である。
これを軽減するために、事前訓練されたモデルの重みをより資源効率の良い方法で更新するために、いくつかの微調整技術が開発されている。
本稿では,多次元パラメータ空間用に設計された一般化されたパラメータ効率の微調整フレームワークを提案する。
論文 参考訳(メタデータ) (2024-05-23T16:04:42Z) - Sliced gradient-enhanced Kriging for high-dimensional function
approximation [2.8228516010000617]
Gradient-enhanced Kriging (GE-Kriging)は、高価な計算モデルを近似するために確立されたサロゲートモデリング技術である。
固有相関行列のサイズのため、高次元問題に対して実用的でない傾向にある。
SGE-Kriging (Sliced GE-Kriging, SGE-Kriging) と呼ばれる新しい手法を開発し, 相関行列のサイズを小さくする。
その結果,SGE-Krigingモデルでは,標準モデルに匹敵する精度と堅牢性を特徴とするが,トレーニングコストの低減が図られた。
論文 参考訳(メタデータ) (2022-04-05T07:27:14Z) - Implicit differentiation of Lasso-type models for hyperparameter
optimization [82.73138686390514]
ラッソ型問題に適した行列逆転のない効率的な暗黙微分アルゴリズムを提案する。
提案手法は,解の空間性を利用して高次元データにスケールする。
論文 参考訳(メタデータ) (2020-02-20T18:43:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。