論文の概要: Physics-Informed Stochastic Configuration Machine: A Backpropagation-Free Neural Network with Fast Training for Nonlinear Differential Equations
- arxiv url: http://arxiv.org/abs/2608.26549v1
- Date: Thu, 27 Aug 2026 02:40:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.218877
- Title: Physics-Informed Stochastic Configuration Machine: A Backpropagation-Free Neural Network with Fast Training for Nonlinear Differential Equations
- Title(参考訳): 物理インフォームド確率的構成機械:非線形微分方程式の高速学習によるバックプロパゲーションフリーニューラルネットワーク
- Authors: Yuehao Song, Zhong Chen, Lihui Cen, Liang Wu, Kai Zhang,
- Abstract要約: 物理ネットワーク (SCN) は複素微分方程式を解くための変換パラダイムとして登場した。
私たちの仕事は、次世代のリアルタイムScientific Machineアプリケーションに、非常に効率的でスケーラブルな基盤を提供します。
- 参考スコア(独自算出の注目度): 7.927063711454594
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: While Physics-Informed Neural Networks (PINNs) have emerged as a transformative paradigm for solving complex differential equations, their reliance on backpropagation-based gradient descent and automatic differentiation (AD) imposes significant computational bottlenecks and severe non-convex optimization challenges. To overcome these fundamental limitations, we propose the Physics-Informed Stochastic Configuration Machine (PI-SCM), a novel backpropagation-free framework for both forward and inverse problems in differential equations. The core mathematical contribution lies in the analytical evaluation of local Jacobians for nonlinear differential operators, which facilitates a linearized representation of the physical loss and projects it into a unified, linearized algebraic subspace. This reformulation allows for the explicit determination of optimal network weights via a sequence of generalized linear least squares solvers, effectively bypassing the iterative traps of traditional nonlinear optimizers. We develop a progressive algorithmic suite comprising localized construction (PI-SC-I), sliding-window updating (PI-SC-II), and global updating (PI-SC-III), and rigorously establish their universal approximation properties. Extensive experiments demonstrate that PI-SCM achieves high-fidelity predictive accuracy and robust parameter identification while accelerating the training process by orders of magnitude compared to standard PINNs. Our work provides a highly efficient and scalable foundation for next-generation, real-time Scientific Machine Learning applications.
- Abstract(参考訳): 物理インフォームドニューラルネットワーク(PINN)は複雑な微分方程式を解くための変換パラダイムとして登場したが、バックプロパゲーションに基づく勾配勾配勾配と自動微分(AD)に依存しているため、計算上の重大なボトルネックと、厳密な非凸最適化の課題が課せられる。
これらの基本的な制約を克服するために、微分方程式の前方および逆問題に対する新しいバックプロパゲーションフリーフレームワークであるPhysical-Informed Stochastic Configuration Machine (PI-SCM)を提案する。
中心的な数学的貢献は、非線形微分作用素に対する局所ジャコビアンの解析的評価にあり、これは物理損失の線型化表現を促進し、それを統一線型化代数部分空間に射影する。
この再構成により、一般化された線形最小二乗解法の列による最適ネットワーク重みの明確な決定が可能となり、従来の非線形オプティマイザの反復トラップを効果的に回避できる。
局所化構成(PI-SC-I)、スライディングウインドウ更新(PI-SC-II)、グローバル更新(PI-SC-III)からなるプログレッシブアルゴリズムスイートを開発し、その普遍近似特性を厳格に確立する。
PI-SCMは, 従来のPINNと比較して, 精度の高い予測精度と頑健なパラメータ同定を実現し, トレーニング過程を桁違いに高速化することを示した。
私たちの仕事は、次世代のリアルタイムScientific Machine Learningアプリケーションに、非常に効率的でスケーラブルな基盤を提供します。
関連論文リスト
- Physics-Informed Broad Learning System: An Efficient Backpropagation-Free Framework for Solving Partial Differential Equations [9.497148303350697]
物理インフォームドニューラルネットワーク(PINN)は、物理法則を深いニューラルネットワークに埋め込むことによって偏微分方程式(PDE)を解くための強力なパラダイムとして登場した。
広義のRdNNに基づく最初の物理インフォームドラーニングフレームワークである,新しい物理インフォームド・ブロードラーニングシステム (PI-BLS) を提案する。
PI-BLSはPDEを解くための物理インフォームドラーニングフレームワークのための効率的な学習パラダイムを提供し、基礎となる物理制約を保ちながら反復的なバックプロパゲーションを排除する。
論文 参考訳(メタデータ) (2026-07-28T11:36:34Z) - Variational Boosting for Physics-Informed Neural Networks [0.794957965474334]
モノリシックPINNは、しばしば不調、スペクトルバイアス、最適化不安定に悩まされる。
本稿では,関数空間における解を付加的に構築する変分ブースティングフレームワークを提案する。
このフレームワークは多段PINNの幾何学的解釈を関数勾配勾配として提供する。
論文 参考訳(メタデータ) (2026-07-27T02:32:22Z) - Learning universal approximations for partial differential equations with Physics-Informed Broad Learning System [47.73467147921344]
偏微分方程式(PDE)は、複雑な物理・生物学的・工学系のモデリングにおいて中心的な役割を果たす。
最近の物理情報ニューラルネットワーク(PINN)はメッシュのない代替手段を提供するが、しばしば収束が遅く、最適化の不安定さに悩まされる。
本稿では,PDEの解法を最小二乗最適化として再構成する新しいバックプロパゲーションフリーフレームワークであるPhromics-Informed Broad Learning System (PIBLS)を提案する。
論文 参考訳(メタデータ) (2026-06-18T03:34:06Z) - ODELoRA: Training Low-Rank Adaptation by Solving Ordinary Differential Equations [54.886931928255564]
低ランク適応(LoRA)は、深層移動学習においてパラメータ効率の高い微調整法として広く採用されている。
常微分方程式(ODE)の形でLoRA因子行列に対する新しい連続時間最適化ダイナミクスを提案する。
ODELoRAは,問題次元の異なるスケールのディープニューラルネットワークのトレーニングに不可欠な特性である,安定した特徴学習を実現する。
論文 参考訳(メタデータ) (2026-02-07T10:19:36Z) - PTL-PINNs: Perturbation-Guided Transfer Learning with Physics- Informed Neural Networks for Nonlinear Systems [7.961515776672606]
PINNのための摂動誘導型転送学習フレームワーク(PTL-PINN)を提案する。
PTL-PINNは閉形式式を用いて近似線形摂動系を解き、行列ベクトル乗算の時間的複雑さを高速に一般化する。
我々は,PTL-PINNが,最大1桁の計算速度で,様々なRunge-Kutta法に匹敵する精度を実現することを示す。
論文 参考訳(メタデータ) (2026-01-17T16:09:33Z) - Gradient Descent as a Perceptron Algorithm: Understanding Dynamics and Implicit Acceleration [67.12978375116599]
勾配降下(GD)のステップが一般化されたパーセプトロンアルゴリズムのステップに還元されることを示す。
これは、ニューラルネットワークで観測される最適化力学と暗黙の加速現象を説明するのに役立つ。
論文 参考訳(メタデータ) (2025-12-12T14:16:35Z) - S-Crescendo: A Nested Transformer Weaving Framework for Scalable Nonlinear System in S-Domain Representation [4.945568106952893]
S-Crescendoは、スケーラブルな時間領域予測のために、ニューラルネットワークとSドメインを相乗化するネストトランスフォーマーウィービングフレームワークである。
HSPICEゴールデン波形に対して最大0.99のテストセット(R2$)精度を実現し,シミュレーションを最大18(X)高速化する。
論文 参考訳(メタデータ) (2025-05-17T05:06:58Z) - Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
レイヤワイドフィードバックフィードバック(LFP)は、ニューラルネットワークのような予測器のための新しいトレーニング原則である。
LFPはそれぞれの貢献に基づいて個々のニューロンに報酬を分解する。
提案手法は,ネットワークの有用な部分と有害な部分の弱体化を両立させる手法である。
論文 参考訳(メタデータ) (2023-08-23T10:48:28Z) - Fractal Structure and Generalization Properties of Stochastic
Optimization Algorithms [71.62575565990502]
最適化アルゴリズムの一般化誤差は、その一般化尺度の根底にあるフラクタル構造の複雑性'にバウンドできることを示す。
さらに、特定の問題(リニア/ロジスティックレグレッション、隠れ/層ニューラルネットワークなど)とアルゴリズムに対して、結果をさらに専門化します。
論文 参考訳(メタデータ) (2021-06-09T08:05:36Z) - LQF: Linear Quadratic Fine-Tuning [114.3840147070712]
本稿では,非線形微調整に匹敵する性能を実現する事前学習モデルの線形化手法を提案する。
LQFはアーキテクチャの単純な変更、損失関数、そして一般的に分類に使用される最適化で構成されている。
論文 参考訳(メタデータ) (2020-12-21T06:40:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。