論文の概要: CoLoRA: Continuous low-rank adaptation for reduced implicit neural modeling of parameterized partial differential equations

• arxiv url: http://arxiv.org/abs/2402.14646v1
• Date: Thu, 22 Feb 2024 15:45:31 GMT
• ステータス: 処理完了
• システム内更新日: 2024-02-23 14:44:14.500399
• Title: CoLoRA: Continuous low-rank adaptation for reduced implicit neural modeling of parameterized partial differential equations
• Title（参考訳）: CoLoRA:パラメータ化偏微分方程式の暗黙的ニューラルモデリングのための連続低ランク適応
• Authors: Jules Berman and Benjamin Peherstorfer
• Abstract要約: Continuous Low Rank Adaptation (CoLoRA) 適応は純粋にデータ駆動か、あるいは方程式駆動の変分アプローチで行うことができる。 CoLoRA は解体を時間的に局所的に近似するので、重みのランクは小さく保つことができる。
• 参考スコア（独自算出の注目度）: 1.5281057386824812
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This work introduces reduced models based on Continuous Low Rank Adaptation (CoLoRA) that pre-train neural networks for a given partial differential equation and then continuously adapt low-rank weights in time to rapidly predict the evolution of solution fields at new physics parameters and new initial conditions. The adaptation can be either purely data-driven or via an equation-driven variational approach that provides Galerkin-optimal approximations. Because CoLoRA approximates solution fields locally in time, the rank of the weights can be kept small, which means that only few training trajectories are required offline so that CoLoRA is well suited for data-scarce regimes. Predictions with CoLoRA are orders of magnitude faster than with classical methods and their accuracy and parameter efficiency is higher compared to other neural network approaches.
• Abstract（参考訳）: この研究は、与えられた偏微分方程式に対する事前学習ニューラルネットワークを用いて、新しい物理パラメータと新しい初期条件における解場の進化を迅速に予測するために、時間内に低ランクの重みを連続的に適応する連続低ランク適応(CoLoRA)に基づく縮小モデルを導入する。 この適応は純粋にデータ駆動か、あるいはガレルキン-最適近似を与える方程式駆動の変分法によって可能である。 CoLoRA は解場を時間的に局所的に近似するので、重みのランクは小さく保つことができるので、CoLoRA がデータスカース状態によく適合するようにオフラインで訓練される軌道はごくわずかである。 CoLoRAの予測は従来の手法よりも桁違いに高速で、その精度とパラメータ効率は他のニューラルネットワークのアプローチよりも高い。

関連論文リスト

• FEM-based Neural Networks for Solving Incompressible Fluid Flows and Related Inverse Problems [41.94295877935867]
  偏微分方程式で記述された技術システムの数値シミュレーションと最適化は高価である。 この文脈で比較的新しいアプローチは、ニューラルネットワークの優れた近似特性と古典的有限要素法を組み合わせることである。 本稿では, この手法を, サドルポイント問題と非線形流体力学問題に拡張する。
  論文  参考訳（メタデータ） (2024-09-06T07:17:01Z)
• Neural Parameter Regression for Explicit Representations of PDE Solution Operators [22.355460388065964]
  偏微分方程式(PDE)の解演算子を学習するための新しいフレームワークであるニューラル回帰(NPR)を導入する。 NPRは、ニューラルネットワーク(NN)パラメータを回帰するために、Physics-Informed Neural Network (PINN, Raissi et al., 2021) 技術を使用している。 このフレームワークは、新しい初期条件と境界条件に顕著な適応性を示し、高速な微調整と推論を可能にした。
  論文  参考訳（メタデータ） (2024-03-19T14:30:56Z)
• SPDE priors for uncertainty quantification of end-to-end neural data assimilation schemes [4.213142548113385]
  ディープラーニングコミュニティの最近の進歩は、データ同化変動フレームワークを組み込んだニューラルネットワークとしてこの問題に対処する上で有効である。 本研究では、SPDEに基づくプロセスから、空間と時間の両方で非定常共分散を扱える事前モデルを推定する。 我々のニューラル変分法は、両方の状態SPDEパラメトリゼーションによる拡張状態定式化を組み込むように修正されている。
  論文  参考訳（メタデータ） (2024-02-02T19:18:12Z)
• Speed Limits for Deep Learning [67.69149326107103]
  熱力学の最近の進歩は、初期重量分布から完全に訓練されたネットワークの最終分布への移動速度の制限を可能にする。 線形および線形化可能なニューラルネットワークに対して,これらの速度制限に対する解析式を提供する。 NTKスペクトルとラベルのスペクトル分解に関するいくつかの妥当なスケーリング仮定を考えると、学習はスケーリングの意味で最適である。
  論文  参考訳（メタデータ） (2023-07-27T06:59:46Z)
• A Neural Network-Based Enrichment of Reproducing Kernel Approximation for Modeling Brittle Fracture [0.0]
  脆性破壊をモデル化するためのニューラルネットワーク強化再生カーネル粒子法(NN-RKPM)の改良版を提案する。 提案手法の有効性は,損傷伝播と分岐を含む一連の数値例によって実証された。
  論文  参考訳（メタデータ） (2023-07-04T21:52:09Z)
• Machine learning in and out of equilibrium [58.88325379746631]
  我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。 我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。 本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
  論文  参考訳（メタデータ） (2023-06-06T09:12:49Z)
• Neural Basis Functions for Accelerating Solutions to High Mach Euler Equations [63.8376359764052]
  ニューラルネットワークを用いた偏微分方程式(PDE)の解法を提案する。 ニューラルネットワークの集合を縮小順序 Proper Orthogonal Decomposition (POD) に回帰する。 これらのネットワークは、所定のPDEのパラメータを取り込み、PDEに還元順序近似を計算する分岐ネットワークと組み合わせて使用される。
  論文  参考訳（メタデータ） (2022-08-02T18:27:13Z)
• Adaptive Self-supervision Algorithms for Physics-informed Neural Networks [59.822151945132525]
  物理情報ニューラルネットワーク(PINN)は、損失関数のソフト制約として問題領域からの物理的知識を取り入れている。 これらのモデルの訓練性に及ぼす座標点の位置の影響について検討した。 モデルがより高い誤りを犯している領域に対して、より多くのコロケーションポイントを段階的に割り当てる適応的コロケーション方式を提案する。
  論文  参考訳（メタデータ） (2022-07-08T18:17:06Z)
• On feedforward control using physics-guided neural networks: Training cost regularization and optimized initialization [0.0]
  モデルベースのフィードフォワードコントローラの性能は、典型的には逆システム力学モデルの精度によって制限される。 本稿では,特定物理パラメータを用いた正規化手法を提案する。 実生活の産業用リニアモーターで検証され、追跡精度と外挿の精度が向上する。
  論文  参考訳（メタデータ） (2022-01-28T12:51:25Z)
• Provably Efficient Neural Estimation of Structural Equation Model: An Adversarial Approach [144.21892195917758]
  一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。 線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。 提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
  論文  参考訳（メタデータ） (2020-07-02T17:55:47Z)
• Extrapolation for Large-batch Training in Deep Learning [72.61259487233214]
  我々は、バリエーションのホストが、我々が提案する統一されたフレームワークでカバー可能であることを示す。 本稿では,この手法の収束性を証明し,ResNet,LSTM,Transformer上での経験的性能を厳格に評価する。
  論文  参考訳（メタデータ） (2020-06-10T08:22:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。