論文の概要: Sparse Cholesky Factorization for Solving Nonlinear PDEs via Gaussian
Processes
- arxiv url: http://arxiv.org/abs/2304.01294v2
- Date: Thu, 4 May 2023 18:14:09 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-08 16:53:50.024263
- Title: Sparse Cholesky Factorization for Solving Nonlinear PDEs via Gaussian
Processes
- Title(参考訳): ガウス過程による非線形PDEのスパースコレスキー分解
- Authors: Yifan Chen, Houman Owhadi, Florian Sch\"afer
- Abstract要約: 一般非線形偏微分方程式(PDE)を解くためのガウス過程(GP)フレームワークの計算スケーラビリティについて検討する。
ディラックスと微分測定の新しい順序付けの下で、コレスキー因子のほぼ疎度に基づいて、そのようなカーネル行列に対するスパースチョレスキー分解アルゴリズムを提案する。
非線形楕円型, バーガース, モンジュアンペア方程式など, 幅広い非線形PDEに対して, アルゴリズムのほぼ線形空間/時間複雑性を数値的に説明する。
- 参考スコア(独自算出の注目度): 17.40221303803024
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study the computational scalability of a Gaussian process (GP) framework
for solving general nonlinear partial differential equations (PDEs). This
framework transforms solving PDEs to solving quadratic optimization problem
with nonlinear constraints. Its complexity bottleneck lies in computing with
dense kernel matrices obtained from pointwise evaluations of the covariance
kernel of the GP and its partial derivatives at collocation points.
We present a sparse Cholesky factorization algorithm for such kernel matrices
based on the near-sparsity of the Cholesky factor under a new ordering of
Diracs and derivative measurements. We rigorously identify the sparsity pattern
and quantify the exponentially convergent accuracy of the corresponding Vecchia
approximation of the GP, which is optimal in the Kullback-Leibler divergence.
This enables us to compute $\epsilon$-approximate inverse Cholesky factors of
the kernel matrices with complexity $O(N\log^d(N/\epsilon))$ in space and
$O(N\log^{2d}(N/\epsilon))$ in time.
With the sparse factors, gradient-based optimization methods become scalable.
Furthermore, we can use the oftentimes more efficient Gauss-Newton method, for
which we apply the conjugate gradient algorithm with the sparse factor of a
reduced kernel matrix as a preconditioner to solve the linear system. We
numerically illustrate our algorithm's near-linear space/time complexity for a
broad class of nonlinear PDEs such as the nonlinear elliptic, Burgers, and
Monge-Amp\`ere equations. In summary, we provide a fast, scalable, and accurate
method for solving general PDEs with GPs.
- Abstract(参考訳): 一般非線形偏微分方程式(PDE)を解くためのガウス過程(GP)フレームワークの計算スケーラビリティについて検討する。
この枠組みはPDEを非線形制約で2次最適化問題に変換する。
その複雑性のボトルネックは、GPの共分散核とその偏微分のコロケーション点での点での評価から得られる高密度なカーネル行列による計算にある。
ディラックスと微分測定の新しい順序付けの下で、コレスキー因子のほぼ疎度に基づいて、そのようなカーネル行列に対するスパースチョレスキー分解アルゴリズムを提案する。
我々は,スパルシリティパターンを厳密に同定し,kullback-leiblerダイバージェンスにおいて最適であるgpの対応するvecchia近似の指数収束精度を定量化する。
これにより、空間上の複雑性 $o(n\log^d(n/\epsilon))$ と時間内に $o(n\log^{2d}(n/\epsilon))$ を持つカーネル行列の逆コレスキー係数を計算できる。
スパース因子により、勾配に基づく最適化手法はスケーラブルになる。
さらに、しばしばより効率的なガウス・ニュートン法を用いることで、線形系を解くために、縮小されたカーネル行列のスパース係数と共役勾配アルゴリズムを適用することができる。
非線形楕円型, バーガー型, モンジュアンプ型といった幅広い非線形pdesに対して, アルゴリズムの近似空間/時間複雑性を数値的に示す。
要約すると、GPで一般的なPDEを解くための高速でスケーラブルで正確な方法を提供する。
関連論文リスト
- Toward Efficient Kernel-Based Solvers for Nonlinear PDEs [19.975293084297014]
本稿では,非線形偏微分方程式(PDE)を効率的に解くための新しいカーネル学習フレームワークを提案する。
カーネルに微分演算子を埋め込む最先端のカーネルソルバとは対照的に,本手法ではこれらの演算子をカーネルから排除する。
我々は、標準カーネル形式を用いて解をモデル化し、導関数を計算するために補間剤を区別する。
論文 参考訳(メタデータ) (2024-10-15T01:00:43Z) - A Hybrid Kernel-Free Boundary Integral Method with Operator Learning for Solving Parametric Partial Differential Equations In Complex Domains [0.0]
カーネル自由境界積分法(KFBI)は楕円偏微分方程式(PDE)から生じる境界積分方程式に対する反復解を示す
本稿では,KFBI法の基本原理と深層学習能力を統合するハイブリッドKFBI法を提案する。
論文 参考訳(メタデータ) (2024-04-23T17:25:35Z) - A Deep-Genetic Algorithm (Deep-GA) Approach for High-Dimensional
Nonlinear Parabolic Partial Differential Equations [0.0]
本稿では,Deep-BSDE法の性能向上のために,ディープジェネティックアルゴリズム(deep-GA)と呼ばれる新しい手法を提案する。
初期推定選択に対する解の感度を認識し、遺伝的アルゴリズム(GA)を解法に組み込んで選択を最適化する。
提案手法は計算効率が大幅に向上し, 比較精度が向上することを示す。
論文 参考訳(メタデータ) (2023-11-20T06:35:23Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Constrained Optimization via Exact Augmented Lagrangian and Randomized
Iterative Sketching [55.28394191394675]
等式制約付き非線形非IBS最適化問題に対する適応的不正確なニュートン法を開発した。
ベンチマーク非線形問題,LVMのデータによる制約付きロジスティック回帰,PDE制約問題において,本手法の優れた性能を示す。
論文 参考訳(メタデータ) (2023-05-28T06:33:37Z) - Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。
本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
論文 参考訳(メタデータ) (2023-01-30T15:46:39Z) - An Operator-Splitting Method for the Gaussian Curvature Regularization
Model with Applications in Surface Smoothing and Imaging [6.860238280163609]
一般ガウス曲率モデルの演算子分割法を提案する。
提案手法は,パラメータの選択,効率,性能に敏感ではない。
論文 参考訳(メタデータ) (2021-08-04T08:59:41Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳(メタデータ) (2021-06-10T18:17:57Z) - Solving and Learning Nonlinear PDEs with Gaussian Processes [11.09729362243947]
非線形偏微分方程式を解くための単純で厳密で統一された枠組みを提案する。
提案手法は、コロケーションカーネル法を非線形PDEとIPに自然に一般化する。
IP では,PDE におけるパラメータの同定と解の数値近似を反復的に行う手法が提案されているが,アルゴリズムは両手法を同時に扱う。
論文 参考訳(メタデータ) (2021-03-24T03:16:08Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳(メタデータ) (2020-06-16T21:56:22Z) - Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。
我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。
得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
論文 参考訳(メタデータ) (2020-02-21T17:45:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。