Fugu-MT 論文翻訳(概要): Adaptive Training of Grid-Dependent Physics-Informed Kolmogorov-Arnold Networks

論文の概要: Adaptive Training of Grid-Dependent Physics-Informed Kolmogorov-Arnold Networks

arxiv url: http://arxiv.org/abs/2407.17611v2
Date: Wed, 9 Oct 2024 12:18:37 GMT
ステータス: 処理完了
システム内更新日: 2024-11-08 15:12:19.867588
Title: Adaptive Training of Grid-Dependent Physics-Informed Kolmogorov-Arnold Networks
Title（参考訳）: 格子依存型物理インフォームドコルモゴロフ・アルノルドネットワークの適応学習
Authors: Spyros Rigas, Michalis Papachristou, Theofilos Papadopoulos, Fotios Anagnostopoulos, Georgios Alexandridis,
Abstract要約: 物理インフォームドニューラルネットワーク(PINN)は、部分微分方程式(PDE)を解くための堅牢なフレームワークとして登場した。本稿では、PDEを解くために、グリッド依存のKolmogorov-Arnold Networks(PIKAN)の高速なJAXベースの実装を提案する。適応的特徴は解の精度を著しく向上させ,基準解に対するL2誤差を最大43.02%減少させることを示した。
参考スコア（独自算出の注目度）: 4.216184112447278
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Physics-Informed Neural Networks (PINNs) have emerged as a robust framework for solving Partial Differential Equations (PDEs) by approximating their solutions via neural networks and imposing physics-based constraints on the loss function. Traditionally, Multilayer Perceptrons (MLPs) have been the neural network of choice, with significant progress made in optimizing their training. Recently, Kolmogorov-Arnold Networks (KANs) were introduced as a viable alternative, with the potential of offering better interpretability and efficiency while requiring fewer parameters. In this paper, we present a fast JAX-based implementation of grid-dependent Physics-Informed Kolmogorov-Arnold Networks (PIKANs) for solving PDEs, achieving up to 84 times faster training times than the original KAN implementation. We propose an adaptive training scheme for PIKANs, introducing an adaptive state transition technique to avoid loss function peaks between grid extensions, and a methodology for designing PIKANs with alternative basis functions. Through comparative experiments, we demonstrate that the adaptive features significantly enhance solution accuracy, decreasing the L^2 error relative to the reference solution by up to 43.02%. For the studied PDEs, our methodology approaches or surpasses the results obtained from architectures that utilize up to 8.5 times more parameters, highlighting the potential of adaptive, grid-dependent PIKANs as a superior alternative in scientific and engineering applications.
Abstract（参考訳）: 物理インフォームドニューラルネットワーク(PINN)は、ニューラルネットワークを介して解を近似し、損失関数に物理に基づく制約を課することにより、部分微分方程式(PDE)を解決するための堅牢なフレームワークとして登場した。伝統的に、マルチレイヤパーセプトロン(MLP)は選択されたニューラルネットワークであり、トレーニングを最適化する上で大きな進歩を遂げてきた。近年、KAN(Kolmogorov-Arnold Networks)が実現可能な代替手段として導入され、より優れた解釈可能性と効率を提供すると同時に、パラメータを少なくする可能性があった。本稿では,PDEを解くために,グリッド依存のKolmogorov-Arnold Networks (PIKANs) の高速JAXベースの実装を提案する。本稿では、グリッド拡張間の損失関数ピークを回避するための適応状態遷移手法を導入し、PIKANを代替基底関数で設計する手法を提案する。比較実験により,適応的特徴は解の精度を著しく向上させ,基準解に対するL^2誤差を最大43.02%減少させることを示した。調査対象のPDEでは,最大8.5倍のパラメータを持つアーキテクチャから得られた結果にアプローチあるいは超越し,科学的・工学的応用において優れた代替手段として,適応型グリッド依存型PIKANの可能性を強調した。

関連論文リスト

A Gaussian Process Framework for Solving Forward and Inverse Problems Involving Nonlinear Partial Differential Equations [0.0]
非線形PDEシステムを解くためにカーネル法とディープNNの長所を統合するためにカーネル重み付き補正残差(CoRes)を導入する。 CoResは幅広いベンチマーク問題の解決において競合する手法を一貫して上回っている。我々はPDEの解決にカーネル手法を活用することに新たな関心を喚起する可能性があると考えている。
論文参考訳（メタデータ） (2024-01-07T14:09:42Z)
Hypernetwork-based Meta-Learning for Low-Rank Physics-Informed Neural Networks [24.14254861023394]
本研究では,物理インフォームドニューラルネットワーク (PINN) がそのような解法の一つとして考えられる可能性を秘めた経路を提案する。 PINNは、ディープラーニングと科学計算の適切な統合を開拓してきたが、ニューラルネットワークの反復的な時間的トレーニングを必要としている。本稿では,数百のモデルパラメータと関連するハイパーネットワークに基づくメタ学習アルゴリズムを含む軽量な低ランクPINNを提案する。
論文参考訳（メタデータ） (2023-10-14T08:13:43Z)
A Stable and Scalable Method for Solving Initial Value PDEs with Neural Networks [52.5899851000193]
我々は,ネットワークの条件が悪くなるのを防止し,パラメータ数で時間線形に動作するODEベースのIPPソルバを開発した。このアプローチに基づく現在の手法は2つの重要な問題に悩まされていることを示す。まず、ODEに従うと、問題の条件付けにおいて制御不能な成長が生じ、最終的に許容できないほど大きな数値誤差が生じる。
論文参考訳（メタデータ） (2023-04-28T17:28:18Z)
Implicit Stochastic Gradient Descent for Training Physics-informed Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。 PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文参考訳（メタデータ） (2023-03-03T08:17:47Z)
NeuralStagger: Accelerating Physics-constrained Neural PDE Solver with Spatial-temporal Decomposition [67.46012350241969]
本稿では,NeuralStaggerと呼ばれる一般化手法を提案する。元の学習タスクをいくつかの粗い解像度のサブタスクに分解する。本稿では,2次元および3次元流体力学シミュレーションにおけるNeuralStaggerの適用例を示す。
論文参考訳（メタデータ） (2023-02-20T19:36:52Z)
Mitigating Learning Complexity in Physics and Equality Constrained Artificial Neural Networks [0.9137554315375919]
偏微分方程式(PDE)の解を学ぶために物理インフォームドニューラルネットワーク(PINN)が提案されている。 PINNでは、利害関係のPDEの残留形態とその境界条件は、軟罰として複合目的関数にまとめられる。本稿では,この目的関数を定式化する方法が,異なる種類のPDEに適用した場合のPINNアプローチにおける厳しい制約の源であることを示す。
論文参考訳（メタデータ） (2022-06-19T04:12:01Z)
Learning Physics-Informed Neural Networks without Stacked Back-propagation [82.26566759276105]
我々は,物理インフォームドニューラルネットワークのトレーニングを著しく高速化する新しい手法を開発した。特に、ガウス滑らか化モデルによりPDE解をパラメータ化し、スタインの恒等性から導かれる2階微分がバックプロパゲーションなしで効率的に計算可能であることを示す。実験の結果,提案手法は通常のPINN訓練に比べて2桁の精度で競合誤差を実現できることがわかった。
論文参考訳（メタデータ） (2022-02-18T18:07:54Z)
Physics and Equality Constrained Artificial Neural Networks: Application to Partial Differential Equations [1.370633147306388]
偏微分方程式(PDE)の解を学ぶために物理インフォームドニューラルネットワーク(PINN)が提案されている。本稿では,この目的関数の定式化方法が,PINNアプローチにおける厳密な制約の源であることを示す。本稿では,逆問題と前方問題の両方に対処可能な多目的フレームワークを提案する。
論文参考訳（メタデータ） (2021-09-30T05:55:35Z)
Optimal Transport Based Refinement of Physics-Informed Neural Networks [0.0]
我々は、最適輸送(OT)の概念に基づく偏微分方程式(PDE)の解法として、よく知られた物理情報ニューラルネットワーク(PINN)の改良戦略を提案する。 PINNの解法は、完全接続された病理のスペクトルバイアス、不安定な勾配、収束と精度の難しさなど、多くの問題に悩まされている。本稿では,既存の PINN フレームワークを補完する OT-based sample を用いて,Fokker-Planck-Kolmogorov Equation (FPKE) を解くための新しいトレーニング戦略を提案する。
論文参考訳（メタデータ） (2021-05-26T02:51:20Z)
Learning to Solve the AC-OPF using Sensitivity-Informed Deep Neural Networks [52.32646357164739]
最適な電力フロー(ACOPF)のソリューションを解決するために、ディープニューラルネットワーク(DNN)を提案します。提案されたSIDNNは、幅広いOPFスキームと互換性がある。他のLearning-to-OPFスキームとシームレスに統合できる。
論文参考訳（メタデータ） (2021-03-27T00:45:23Z)
dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
論文参考訳（メタデータ） (2021-03-15T19:14:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。