論文の概要: Sparse Cholesky Factorization for Solving Nonlinear PDEs via Gaussian
Processes
- arxiv url: http://arxiv.org/abs/2304.01294v3
- Date: Sat, 9 Mar 2024 02:48:15 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-13 17:38:34.860842
- Title: Sparse Cholesky Factorization for Solving Nonlinear PDEs via Gaussian
Processes
- Title（参考訳）: ガウス過程による非線形PDEのスパースコレスキー分解
- Authors: Yifan Chen, Houman Owhadi, Florian Sch\"afer
- Abstract要約: 本稿では、高密度カーネル行列に対するスパースColesky分解アルゴリズムを提案する。
我々は, 幅広い非線形PDEのクラスに対して, アルゴリズムのニア線形空間/時間複雑性を数値的に説明する。
- 参考スコア（独自算出の注目度）: 3.750429354590631
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In recent years, there has been widespread adoption of machine learning-based
approaches to automate the solving of partial differential equations (PDEs).
Among these approaches, Gaussian processes (GPs) and kernel methods have
garnered considerable interest due to their flexibility, robust theoretical
guarantees, and close ties to traditional methods. They can transform the
solving of general nonlinear PDEs into solving quadratic optimization problems
with nonlinear, PDE-induced constraints. However, the complexity bottleneck
lies in computing with dense kernel matrices obtained from pointwise
evaluations of the covariance kernel, and its \textit{partial derivatives}, a
result of the PDE constraint and for which fast algorithms are scarce.
The primary goal of this paper is to provide a near-linear complexity
algorithm for working with such kernel matrices. We present a sparse Cholesky
factorization algorithm for these matrices based on the near-sparsity of the
Cholesky factor under a novel ordering of pointwise and derivative
measurements. The near-sparsity is rigorously justified by directly connecting
the factor to GP regression and exponential decay of basis functions in
numerical homogenization. We then employ the Vecchia approximation of GPs,
which is optimal in the Kullback-Leibler divergence, to compute the approximate
factor. This enables us to compute $\epsilon$-approximate inverse Cholesky
factors of the kernel matrices with complexity $O(N\log^d(N/\epsilon))$ in
space and $O(N\log^{2d}(N/\epsilon))$ in time. We integrate sparse Cholesky
factorizations into optimization algorithms to obtain fast solvers of the
nonlinear PDE. We numerically illustrate our algorithm's near-linear space/time
complexity for a broad class of nonlinear PDEs such as the nonlinear elliptic,
Burgers, and Monge-Amp\`ere equations.
- Abstract（参考訳）: 近年、偏微分方程式(PDE)の解法を自動化する機械学習ベースのアプローチが広く採用されている。
これらのアプローチのうち、ガウス過程(gps)とカーネル法は、その柔軟性、強固な理論的保証、および伝統的な方法との密接な関係からかなりの関心を集めている。
一般非線形PDEの解法を非線形PDE誘導制約を伴う二次最適化問題に変換することができる。
しかし、複雑性のボトルネックは、共分散カーネルのポイントワイズ評価から得られる密集したカーネル行列と、pde制約の結果であり、高速アルゴリズムが不足している \textit{partial derivatives} との計算にある。
本論文の主な目的は,そのような核行列を扱うためのニアリニア複雑性アルゴリズムを提供することである。
本稿では,これらの行列に対するスパース・チョルスキー分解アルゴリズムについて,ポイントワイズと微分測定の新たな順序付けの下でのチョルスキー因子の親和性に基づいて述べる。
近親性は、数値的均質化における因子とgp回帰と基底関数の指数的減衰を直接結びつけることで厳密に正当化される。
次に、Kulback-Leibler分散において最適であるGPのヴェッキア近似を用いて近似係数を計算する。
これにより、空間上の複雑性 $o(n\log^d(n/\epsilon))$ と時間内に $o(n\log^{2d}(n/\epsilon))$ を持つカーネル行列の逆コレスキー係数を計算できる。
スパースチョレスキー分解を最適化アルゴリズムに統合し、非線形PDEの高速解法を得る。
非線形楕円型, バーガー型, モンジュアンプ型といった幅広い非線形pdesに対して, アルゴリズムの近似空間/時間複雑性を数値的に示す。
関連論文リスト
- Toward Efficient Kernel-Based Solvers for Nonlinear PDEs [19.975293084297014]
本稿では,非線形偏微分方程式(PDE)を効率的に解くための新しいカーネル学習フレームワークを提案する。
カーネルに微分演算子を埋め込む最先端のカーネルソルバとは対照的に,本手法ではこれらの演算子をカーネルから排除する。
我々は、標準カーネル形式を用いて解をモデル化し、導関数を計算するために補間剤を区別する。
論文 参考訳（メタデータ） (2024-10-15T01:00:43Z) - A Hybrid Kernel-Free Boundary Integral Method with Operator Learning for Solving Parametric Partial Differential Equations In Complex Domains [0.0]
カーネル自由境界積分法(KFBI)は楕円偏微分方程式(PDE)から生じる境界積分方程式に対する反復解を示す
本稿では,KFBI法の基本原理と深層学習能力を統合するハイブリッドKFBI法を提案する。
論文 参考訳（メタデータ） (2024-04-23T17:25:35Z) - A Deep-Genetic Algorithm (Deep-GA) Approach for High-Dimensional
Nonlinear Parabolic Partial Differential Equations [0.0]
本稿では,Deep-BSDE法の性能向上のために,ディープジェネティックアルゴリズム(deep-GA)と呼ばれる新しい手法を提案する。
初期推定選択に対する解の感度を認識し、遺伝的アルゴリズム(GA)を解法に組み込んで選択を最適化する。
提案手法は計算効率が大幅に向上し, 比較精度が向上することを示す。
論文 参考訳（メタデータ） (2023-11-20T06:35:23Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳（メタデータ） (2023-10-20T12:45:12Z) - Constrained Optimization via Exact Augmented Lagrangian and Randomized
Iterative Sketching [55.28394191394675]
等式制約付き非線形非IBS最適化問題に対する適応的不正確なニュートン法を開発した。
ベンチマーク非線形問題,LVMのデータによる制約付きロジスティック回帰,PDE制約問題において,本手法の優れた性能を示す。
論文 参考訳（メタデータ） (2023-05-28T06:33:37Z) - Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。
本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
論文 参考訳（メタデータ） (2023-01-30T15:46:39Z) - An Operator-Splitting Method for the Gaussian Curvature Regularization
Model with Applications in Surface Smoothing and Imaging [6.860238280163609]
一般ガウス曲率モデルの演算子分割法を提案する。
提案手法は,パラメータの選択,効率,性能に敏感ではない。
論文 参考訳（メタデータ） (2021-08-04T08:59:41Z) - Scalable Variational Gaussian Processes via Harmonic Kernel
Decomposition [54.07797071198249]
汎用性を維持しつつ高い忠実度近似を提供する,スケーラブルな変分ガウス過程近似を導入する。
様々な回帰問題や分類問題において,本手法は変換やリフレクションなどの入力空間対称性を活用できることを実証する。
提案手法は, 純粋なGPモデルのうち, CIFAR-10 の最先端化を実現する。
論文 参考訳（メタデータ） (2021-06-10T18:17:57Z) - Solving and Learning Nonlinear PDEs with Gaussian Processes [11.09729362243947]
非線形偏微分方程式を解くための単純で厳密で統一された枠組みを提案する。
提案手法は、コロケーションカーネル法を非線形PDEとIPに自然に一般化する。
IP では,PDE におけるパラメータの同定と解の数値近似を反復的に行う手法が提案されているが,アルゴリズムは両手法を同時に扱う。
論文 参考訳（メタデータ） (2021-03-24T03:16:08Z) - Multipole Graph Neural Operator for Parametric Partial Differential
Equations [57.90284928158383]
物理系をシミュレーションするためのディープラーニングベースの手法を使用する際の大きな課題の1つは、物理ベースのデータの定式化である。
線形複雑度のみを用いて、あらゆる範囲の相互作用をキャプチャする、新しいマルチレベルグラフニューラルネットワークフレームワークを提案する。
実験により, 離散化不変解演算子をPDEに学習し, 線形時間で評価できることを確認した。
論文 参考訳（メタデータ） (2020-06-16T21:56:22Z) - Optimal Randomized First-Order Methods for Least-Squares Problems [56.05635751529922]
このアルゴリズムのクラスは、最小二乗問題に対する最も高速な解法のうち、いくつかのランダム化手法を含んでいる。
我々は2つの古典的埋め込み、すなわちガウス射影とアダマール変換のサブサンプリングに焦点を当てる。
得られたアルゴリズムは条件数に依存しない最小二乗問題の解法として最も複雑である。
論文 参考訳（メタデータ） (2020-02-21T17:45:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。