論文の概要: Fourier Continuation for Exact Derivative Computation in Physics-Informed Neural Operators

• arxiv url: http://arxiv.org/abs/2211.15960v1
• Date: Tue, 29 Nov 2022 06:37:54 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-30 16:58:03.206745
• Title: Fourier Continuation for Exact Derivative Computation in Physics-Informed Neural Operators
• Title（参考訳）: 物理インフォームドニューラル演算子における厳密な導関数計算のためのフーリエ継続
• Authors: Haydn Maust, Zongyi Li, Yixuan Wang, Daniel Leibovici, Oscar Bruno, Thomas Hou, Anima Anandkumar
• Abstract要約: PINOは、偏微分方程式を学習するための有望な実験結果を示す機械学習アーキテクチャである。 非周期問題に対して、フーリエ継続(FC)を利用して正確な勾配法をPINOに適用するアーキテクチャを提案する。
• 参考スコア（独自算出の注目度）: 53.087564562565774
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The physics-informed neural operator (PINO) is a machine learning architecture that has shown promising empirical results for learning partial differential equations. PINO uses the Fourier neural operator (FNO) architecture to overcome the optimization challenges often faced by physics-informed neural networks. Since the convolution operator in PINO uses the Fourier series representation, its gradient can be computed exactly on the Fourier space. While Fourier series cannot represent nonperiodic functions, PINO and FNO still have the expressivity to learn nonperiodic problems with Fourier extension via padding. However, computing the Fourier extension in the physics-informed optimization requires solving an ill-conditioned system, resulting in inaccurate derivatives which prevent effective optimization. In this work, we present an architecture that leverages Fourier continuation (FC) to apply the exact gradient method to PINO for nonperiodic problems. This paper investigates three different ways that FC can be incorporated into PINO by testing their performance on a 1D blowup problem. Experiments show that FC-PINO outperforms padded PINO, improving equation loss by several orders of magnitude, and it can accurately capture the third order derivatives of nonsmooth solution functions.
• Abstract（参考訳）: physics-informed neural operator (pino) は、偏微分方程式の学習に有望な経験的結果を示す機械学習アーキテクチャである。 PINOは、物理インフォームドニューラルネットワークが直面する最適化課題を克服するために、フーリエニューラルネットワーク(FNO)アーキテクチャを使用している。 PINOの畳み込み作用素はフーリエ級数表現を使用するので、その勾配はフーリエ空間上で正確に計算できる。 フーリエ級数は非周期関数を表現できないが、ピノとfnoはパディングを通じてフーリエ拡大を持つ非周期問題を学ぶ表現性を持っている。 しかし、フーリエ拡張の計算は、不適切なシステムを解く必要があり、結果として、効果的な最適化を妨げる不正確な導関数が生じる。 本研究では,フーリエ継続(fc)を活用し,非周期問題に対するピノに正確な勾配法を適用するアーキテクチャを提案する。 本論文では, fcをピノに組み込むための3つの方法を検討した。 実験により、fc-pinoはパディングピノよりも優れており、方程式損失を数桁改善し、非スムース解関数の3階微分を正確に捉えることができることが示されている。

関連論文リスト

• DimOL: Dimensional Awareness as A New 'Dimension' in Operator Learning [63.5925701087252]
  本稿では,DimOL(Dimension-aware Operator Learning)を紹介し,次元解析から洞察を得る。 DimOLを実装するために,FNOおよびTransformerベースのPDEソルバにシームレスに統合可能なProdLayerを提案する。 経験的に、DimOLモデルはPDEデータセット内で最大48%のパフォーマンス向上を達成する。
  論文  参考訳（メタデータ） (2024-10-08T10:48:50Z)
• Invertible Fourier Neural Operators for Tackling Both Forward and Inverse Problems [18.48295539583625]
  前方および逆問題の両方に対処する可逆フーリエニューラル演算子(iFNO)を提案する。 我々は,入力空間内の固有構造を捕捉し,後部推論を可能にする変分自動エンコーダを統合した。 5つのベンチマーク問題に対する評価は,提案手法の有効性を実証した。
  論文  参考訳（メタデータ） (2024-02-18T22:16:43Z)
• Fourier-MIONet: Fourier-enhanced multiple-input neural operators for multiphase modeling of geological carbon sequestration [3.3058870667947646]
  多孔質媒質中の多相流は、GCSに付随する表面におけるCO$$マイグレーションと圧力場を理解するために不可欠である。 本稿では,多孔質媒体における多相流問題の解演算子を学習するために,フーリエ強化多入力ニューラル演算子(フーリエ・ミオネット)を開発した。 改良されたFNO (U-FNO) と比較して、提案されたフーリエ・ミオネトは未知のパラメータが90%少なく、非常に少ない時間で訓練できる。
  論文  参考訳（メタデータ） (2023-03-08T18:20:56Z)
• Incremental Spatial and Spectral Learning of Neural Operators for Solving Large-Scale PDEs [86.35471039808023]
  Incrmental Fourier Neural Operator (iFNO)を導入し、モデルが使用する周波数モードの数を徐々に増加させる。 iFNOは、各種データセット間の一般化性能を維持したり改善したりしながら、トレーニング時間を短縮する。 提案手法は,既存のフーリエニューラル演算子に比べて20%少ない周波数モードを用いて,10%低いテスト誤差を示すとともに,30%高速なトレーニングを実現する。
  論文  参考訳（メタデータ） (2022-11-28T09:57:15Z)
• Factorized Fourier Neural Operators [77.47313102926017]
  Factorized Fourier Neural Operator (F-FNO) は偏微分方程式をシミュレートする学習法である。 我々は,数値解法よりも桁違いに高速に動作しながら,誤差率2%を維持していることを示す。
  論文  参考訳（メタデータ） (2021-11-27T03:34:13Z)
• Physics-Informed Neural Operator for Learning Partial Differential Equations [55.406540167010014]
  PINOは、演算子を学ぶために異なる解像度でデータとPDE制約を組み込んだ最初のハイブリッドアプローチである。 結果の PINO モデルは、多くの人気のある PDE ファミリの基底構造解演算子を正確に近似することができる。
  論文  参考訳（メタデータ） (2021-11-06T03:41:34Z)
• Learning in Sinusoidal Spaces with Physics-Informed Neural Networks [22.47355575565345]
  物理インフォームドニューラルネットワーク(PINN)は、物理増強された損失関数を用いて、その出力が基本的な物理法則と一致していることを保証する。 実際に多くの問題に対して正確なPINNモデルをトレーニングすることは困難であることが判明した。
  論文  参考訳（メタデータ） (2021-09-20T07:42:41Z)
• Learning Set Functions that are Sparse in Non-Orthogonal Fourier Bases [73.53227696624306]
  フーリエスパース集合関数を学習するための新しいアルゴリズム群を提案する。 Walsh-Hadamard変換に焦点をあてた他の研究とは対照的に、我々の新しいアルゴリズムは最近導入された非直交フーリエ変換で機能する。 いくつかの実世界のアプリケーションで有効性を示す。
  論文  参考訳（メタデータ） (2020-10-01T14:31:59Z)
• Fourier Neural Networks as Function Approximators and Differential Equation Solvers [0.456877715768796]
  活性化と損失関数の選択は、フーリエ級数展開を密接に再現する結果をもたらす。 我々はこのFNNを自然周期的滑らかな関数と断片的連続周期関数で検証する。 現在のアプローチの主な利点は、トレーニング領域外のソリューションの有効性、トレーニングされたモデルの解釈可能性、使用の単純さである。
  論文  参考訳（メタデータ） (2020-05-27T00:30:58Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。