Fugu-MT 論文翻訳(概要): Adaptive Training of Grid-Dependent Physics-Informed Kolmogorov-Arnold Networks

論文の概要: Adaptive Training of Grid-Dependent Physics-Informed Kolmogorov-Arnold Networks

arxiv url: http://arxiv.org/abs/2407.17611v1
Date: Wed, 24 Jul 2024 19:55:08 GMT
ステータス: 処理完了
システム内更新日: 2024-07-26 16:09:00.063582
Title: Adaptive Training of Grid-Dependent Physics-Informed Kolmogorov-Arnold Networks
Title（参考訳）: 格子依存型物理インフォームドコルモゴロフ・アルノルドネットワークの適応学習
Authors: Spyros Rigas, Michalis Papachristou, Theofilos Papadopoulos, Fotios Anagnostopoulos, Georgios Alexandridis,
Abstract要約: 物理インフォームドニューラルネットワーク(PINN)は、部分微分方程式(PDE)を解くための堅牢なフレームワークとして登場した。本稿では,PDEの解法として,グリッド依存のKolmogorov-Arnold Networks(PIKANs)を高速に実装する。これらの適応的特徴はトレーニング効率と解の精度を大幅に向上させることを示す。
参考スコア（独自算出の注目度）: 4.216184112447278
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Physics-Informed Neural Networks (PINNs) have emerged as a robust framework for solving Partial Differential Equations (PDEs) by approximating their solutions via neural networks and imposing physics-based constraints on the loss function. Traditionally, Multilayer Perceptrons (MLPs) are the neural network of choice, and significant progress has been made in optimizing their training. Recently, Kolmogorov-Arnold Networks (KANs) were introduced as a viable alternative, with the potential of offering better interpretability and efficiency while requiring fewer parameters. In this paper, we present a fast JAX-based implementation of grid-dependent Physics-Informed Kolmogorov-Arnold Networks (PIKANs) for solving PDEs. We propose an adaptive training scheme for PIKANs, incorporating known MLP-based PINN techniques, introducing an adaptive state transition scheme to avoid loss function peaks between grid updates, and proposing a methodology for designing PIKANs with alternative basis functions. Through comparative experiments we demonstrate that these adaptive features significantly enhance training efficiency and solution accuracy. Our results illustrate the effectiveness of PIKANs in improving performance for PDE solutions, highlighting their potential as a superior alternative in scientific and engineering applications.
Abstract（参考訳）: 物理インフォームドニューラルネットワーク(PINN)は、ニューラルネットワークを介して解を近似し、損失関数に物理に基づく制約を課することにより、部分微分方程式(PDE)を解決するための堅牢なフレームワークとして登場した。伝統的に、マルチレイヤパーセプトロン(MLP)は選択されたニューラルネットワークであり、トレーニングを最適化する上で大きな進歩を遂げている。近年、KAN(Kolmogorov-Arnold Networks)が実現可能な代替手段として導入され、より優れた解釈可能性と効率を提供すると同時に、パラメータを少なくする可能性があった。本稿では,PDEを解くために,グリッド依存のKolmogorov-Arnold Networks (PIKANs) の高速 JAX ベースの実装を提案する。本稿では,MPPベースのPINN技術を導入し,グリッド更新間の損失関数ピークを回避するための適応状態遷移スキームを導入し,代替基底関数を用いたPIKANの設計手法を提案する。比較実験により、これらの適応的特徴がトレーニング効率と解の精度を大幅に向上させることを示した。本研究は,PDEソリューションの性能向上にPIKANが有効であることを示すとともに,科学的・工学的応用において優れた代替手段としての可能性を明らかにするものである。

関連論文リスト

Which Optimizer Works Best for Physics-Informed Neural Networks and Kolmogorov-Arnold Networks? [1.8175282137722093]
物理学アーノルドニューラルネットワーク(PINN)は偏微分方程式(PDE)の計算に革命をもたらしたこれらのPINNは、ニューラルネットワークのトレーニングプロセスにPDEをソフト制約として統合する。
論文参考訳（メタデータ） (2025-01-22T21:19:42Z)
PIG: Physics-Informed Gaussians as Adaptive Parametric Mesh Representations [5.4087282763977855]
ニューラルネットワークを用いた部分微分方程式(PDE)の近似は、大きく進歩している。 PINNは、高周波および非線形成分の学習に苦慮しているMLP(Multi-Layer Perceptrons)のスペクトルバイアスによって、限られた精度に悩まされることが多い。本稿では,ガウス関数を用いた特徴埋め込みと軽量ニューラルネットワークを組み合わせた物理インフォームドガウス(PIG)を提案する。
論文参考訳（メタデータ） (2024-12-08T16:58:29Z)
SPIKANs: Separable Physics-Informed Kolmogorov-Arnold Networks [0.9999629695552196]
偏微分方程式(PDE)の解法として物理情報ニューラルネットワーク(PINN)が誕生した。我々はSPIKAN(Sparable Physics-Informed Kolmogorov-Arnold Networks)を紹介する。この新しいアーキテクチャは変数分離の原則をPIKANに適用し、各次元が個別のKAで扱われるような問題を分解する。
論文参考訳（メタデータ） (2024-11-09T21:10:23Z)
Hypernetwork-based Meta-Learning for Low-Rank Physics-Informed Neural Networks [24.14254861023394]
本研究では,物理インフォームドニューラルネットワーク (PINN) がそのような解法の一つとして考えられる可能性を秘めた経路を提案する。 PINNは、ディープラーニングと科学計算の適切な統合を開拓してきたが、ニューラルネットワークの反復的な時間的トレーニングを必要としている。本稿では,数百のモデルパラメータと関連するハイパーネットワークに基づくメタ学習アルゴリズムを含む軽量な低ランクPINNを提案する。
論文参考訳（メタデータ） (2023-10-14T08:13:43Z)
Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
ニューラルネットワークのような予測器のための新しいトレーニング原理であるLFP(Layer-wise Feedback Propagation)を提案する。 LFPは、与えられたタスクの解決へのそれぞれの貢献に基づいて、個々のニューロンに報酬を分解する。提案手法は,ネットワークの有用な部分を補強し,有害な部分を弱めるという欲求的アプローチを実現する。
論文参考訳（メタデータ） (2023-08-23T10:48:28Z)
A Stable and Scalable Method for Solving Initial Value PDEs with Neural Networks [52.5899851000193]
我々は,ネットワークの条件が悪くなるのを防止し,パラメータ数で時間線形に動作するODEベースのIPPソルバを開発した。このアプローチに基づく現在の手法は2つの重要な問題に悩まされていることを示す。まず、ODEに従うと、問題の条件付けにおいて制御不能な成長が生じ、最終的に許容できないほど大きな数値誤差が生じる。
論文参考訳（メタデータ） (2023-04-28T17:28:18Z)
Implicit Stochastic Gradient Descent for Training Physics-informed Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。 PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文参考訳（メタデータ） (2023-03-03T08:17:47Z)
NeuralStagger: Accelerating Physics-constrained Neural PDE Solver with Spatial-temporal Decomposition [67.46012350241969]
本稿では,NeuralStaggerと呼ばれる一般化手法を提案する。元の学習タスクをいくつかの粗い解像度のサブタスクに分解する。本稿では,2次元および3次元流体力学シミュレーションにおけるNeuralStaggerの適用例を示す。
論文参考訳（メタデータ） (2023-02-20T19:36:52Z)
Learning Physics-Informed Neural Networks without Stacked Back-propagation [82.26566759276105]
我々は,物理インフォームドニューラルネットワークのトレーニングを著しく高速化する新しい手法を開発した。特に、ガウス滑らか化モデルによりPDE解をパラメータ化し、スタインの恒等性から導かれる2階微分がバックプロパゲーションなしで効率的に計算可能であることを示す。実験の結果,提案手法は通常のPINN訓練に比べて2桁の精度で競合誤差を実現できることがわかった。
論文参考訳（メタデータ） (2022-02-18T18:07:54Z)
Physics and Equality Constrained Artificial Neural Networks: Application to Partial Differential Equations [1.370633147306388]
偏微分方程式(PDE)の解を学ぶために物理インフォームドニューラルネットワーク(PINN)が提案されている。本稿では,この目的関数の定式化方法が,PINNアプローチにおける厳密な制約の源であることを示す。本稿では,逆問題と前方問題の両方に対処可能な多目的フレームワークを提案する。
論文参考訳（メタデータ） (2021-09-30T05:55:35Z)
dNNsolve: an efficient NN-based PDE solver [62.997667081978825]
ODE/PDEを解決するためにデュアルニューラルネットワークを利用するdNNsolveを紹介します。我々は,dNNsolveが1,2,3次元の幅広いODE/PDEを解くことができることを示す。
論文参考訳（メタデータ） (2021-03-15T19:14:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。