論文の概要: Towards Real-time Training of Physics-informed Neural Networks:
Applications in Ultrafast Ultrasound Blood Flow Imaging
- arxiv url: http://arxiv.org/abs/2309.04755v1
- Date: Sat, 9 Sep 2023 11:03:06 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-12 16:38:21.047307
- Title: Towards Real-time Training of Physics-informed Neural Networks:
Applications in Ultrafast Ultrasound Blood Flow Imaging
- Title（参考訳）: 物理インフォームドニューラルネットワークのリアルタイムトレーニングに向けて:超高速超音波血流イメージングへの応用
- Authors: Haotian Guan, Jinping Dong, Wei-Ning Lee
- Abstract要約: 物理インフォームドニューラルネットワーク(PINN)は、ナビエ・ストークス方程式の最も卓越した解法の一つである。
完全なナビエ・ストークス方程式を頼りにしている現在のアプローチは、超高速ドプラ法では実用的ではない。
- 参考スコア（独自算出の注目度）: 4.5249682648669385
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Physics-informed Neural Network (PINN) is one of the most preeminent solvers
of Navier-Stokes equations, which are widely used as the governing equation of
blood flow. However, current approaches, relying on full Navier-Stokes
equations, are impractical for ultrafast Doppler ultrasound, the
state-of-the-art technique for depiction of complex blood flow dynamics
\emph{in vivo} through acquired thousands of frames (or, timestamps) per
second. In this article, we first propose a novel training framework of PINN
for solving Navier-Stokes equations by discretizing Navier-Stokes equations
into steady state and sequentially solving steady-state Navier-Stokes equations
with transfer learning. The novel training framework is coined as SeqPINN. Upon
the success of SeqPINN, we adopt the idea of averaged constant stochastic
gradient descent (SGD) as initialization and propose a parallel training scheme
for all timestamps. To ensure an initialization that generalizes well, we
borrow the concept of Stochastic Weight Averaging Gaussian to perform
uncertainty estimation as an indicator of generalizability of the
initialization. This algorithm, named SP-PINN, further expedites training of
PINN while achieving comparable accuracy with SeqPINN. Finite-element
simulations and \emph{in vitro} phantoms of single-branch and trifurcate blood
vessels are used to evaluate the performance of SeqPINN and SP-PINN. Results
show that both SeqPINN and SP-PINN are manyfold faster than the original design
of PINN, while respectively achieving Root Mean Square Errors (RMSEs) of 1.01
cm/s and 1.26 cm/s on the straight vessel and 1.91 cm/s and 2.56 cm/s on the
trifurcate blood vessel when recovering blood flow velocities.
- Abstract（参考訳）: 物理学に変形したニューラルネットワーク(pinn)は、ナビエ・ストークス方程式の最も有力な解法の一つであり、血流の制御方程式として広く使われている。
しかし、navier-stokes方程式に完全依存する現在のアプローチは、毎秒数千フレーム(またはタイムスタンプ)の取得によって複雑な血流動態を表現できる最先端のドプラ法である超高速超音波ドプラ法では実用的ではない。
本稿では,Navier-Stokes方程式を定常状態に離散化し,遷移学習を伴う定常状態Navier-Stokes方程式を逐次解くことにより,Navier-Stokes方程式を解くためのPINNの新しいトレーニングフレームワークを提案する。
新たなトレーニングフレームワークはSeqPINNと呼ばれている。
SeqPINNの成功により、初期化として平均定性確率勾配降下(SGD)の概念を採用し、全タイムスタンプに対する並列トレーニング手法を提案する。
一般化した初期化を確実にするために、ガウス平均化確率的重みの概念を借用し、初期化の一般化可能性の指標として不確実性推定を行う。
SP-PINNと名付けられたこのアルゴリズムは、SeqPINNと同等の精度でPINNのトレーニングを高速化する。
SeqPINNとSP-PINNの性能を評価するために, 有限要素シミュレーションと単枝血管および三葉血管のファントムを用いた。
その結果,SeqPINN と SP-PINN はいずれも PINN の当初の設計よりはるかに高速であり,それぞれ1.1 cm/s と 1.26 cm/s のルート平均角誤差 (RMSEs) を直線血管で達成し,血流速度の回復時に3成分血管で 1.91 cm/s と 2.56 cm/s を達成できた。
関連論文リスト
- Spectral-Refiner: Fine-Tuning of Accurate Spatiotemporal Neural Operator for Turbulent Flows [6.961408873053586]
本稿では,ボヒナー空間間のマップを学習する新しい時間的ニューラル演算子(SFNO)と,これらの問題に対処する新しい学習フレームワークを提案する。
この新しいパラダイムは、従来の数値PDE理論と技法の知恵を利用して、一般的に採用されているエンドツーエンドのニューラル演算子のトレーニングと評価のパイプラインを洗練する。
2次元NSEのための一般的なベンチマークの数値実験は、エンドツーエンド評価や従来の数値PDEソルバと比較して計算効率と精度の両方が大幅に向上した。
論文 参考訳（メタデータ） (2024-05-27T14:33:06Z) - Speed Limits for Deep Learning [67.69149326107103]
熱力学の最近の進歩は、初期重量分布から完全に訓練されたネットワークの最終分布への移動速度の制限を可能にする。
線形および線形化可能なニューラルネットワークに対して,これらの速度制限に対する解析式を提供する。
NTKスペクトルとラベルのスペクトル分解に関するいくつかの妥当なスケーリング仮定を考えると、学習はスケーリングの意味で最適である。
論文 参考訳（メタデータ） (2023-07-27T06:59:46Z) - RANS-PINN based Simulation Surrogates for Predicting Turbulent Flows [3.1861308132183384]
我々は,高レイノルズ数乱流状態における流れ場を予測するために,改良されたPINNフレームワークであるRANS-PINNを導入する。
乱流によってもたらされるさらなる複雑さを考慮するため、RANS-PINNはレイノルズ平均ナヴィエ・ストークス(RANS)の定式化に基づく2方程式渦粘性モデルを採用している。
論文 参考訳（メタデータ） (2023-06-09T16:55:49Z) - Forecasting subcritical cylinder wakes with Fourier Neural Operators [58.68996255635669]
実験によって測定された速度場の時間的変化を予測するために,最先端の演算子学習手法を適用した。
その結果、FNOはレイノルズ数の範囲で実験速度場の進化を正確に予測できることがわかった。
論文 参考訳（メタデータ） (2023-01-19T20:04:36Z) - A Physics-Informed Neural Network to Model Port Channels [0.09830751917335563]
PINNモデルは、物理システムとデータ駆動機械学習モデルの知識を組み合わせることを目的としている。
まず,従来のシミュレーション手法では実現不可能な周期的な流れを仮定するために,本モデルの設計を行う。
第2に、計算コストがほぼゼロに近いトレーニング中に関数評価点を再サンプリングする利点を評価する。
論文 参考訳（メタデータ） (2022-12-20T22:53:19Z) - Deep Random Vortex Method for Simulation and Inference of Navier-Stokes
Equations [69.5454078868963]
ナビエ・ストークス方程式(Navier-Stokes equation)は、液体や空気などの流体の運動を記述する重要な偏微分方程式である。
AI技術の発展に伴い、非圧縮性ナビエ・ストークス方程式によって支配される流体力学をシミュレーションし、推論するために、ディープニューラルネットワークを統合するためにいくつかのアプローチが設計された。
本研究では,ニューラルネットワークとNavier-Stokes方程式に相当するランダム渦力学系を組み合わせたemphDeep Random Vortex Method (DRVM)を提案する。
論文 参考訳（メタデータ） (2022-06-20T04:58:09Z) - Training Feedback Spiking Neural Networks by Implicit Differentiation on
the Equilibrium State [66.2457134675891]
スパイキングニューラルネットワーク(英: Spiking Neural Network、SNN)は、ニューロモルフィックハードウェア上でエネルギー効率の高い実装を可能にする脳にインスパイアされたモデルである。
既存のほとんどの手法は、人工ニューラルネットワークのバックプロパゲーションフレームワークとフィードフォワードアーキテクチャを模倣している。
本稿では,フォワード計算の正逆性に依存しない新しいトレーニング手法を提案する。
論文 参考訳（メタデータ） (2021-09-29T07:46:54Z) - Estimating permeability of 3D micro-CT images by physics-informed CNNs
based on DNS [1.6274397329511197]
本稿では,地質岩のマイクロCTによる透水率予測手法を提案する。
透過性予測専用のCNNのためのトレーニングデータセットは、古典格子ボルツマン法(LBM)によって通常生成される透過性ラベルからなる。
その代わりに、定常ストークス方程式を効率的かつ分散並列に解き、直接数値シミュレーション(DNS)を行う。
論文 参考訳（メタデータ） (2021-09-04T08:43:19Z) - Simultaneous boundary shape estimation and velocity field de-noising in
Magnetic Resonance Velocimetry using Physics-informed Neural Networks [70.7321040534471]
MRV(MR resonance velocimetry)は、流体の速度場を測定するために医療や工学で広く用いられている非侵襲的な技術である。
これまでの研究では、境界(例えば血管)の形状が先駆体として知られていた。
我々は、ノイズの多いMRVデータのみを用いて、最も可能性の高い境界形状と減音速度場を推定する物理インフォームニューラルネットワークを提案する。
論文 参考訳（メタデータ） (2021-07-16T12:56:09Z) - When and why PINNs fail to train: A neural tangent kernel perspective [2.1485350418225244]
PINNのニューラルタンジェントカーネル(NTK)を導出し、適切な条件下では、無限幅極限でのトレーニング中に一定となる決定論的カーネルに収束することを示す。
学習誤差の総和に寄与する損失成分の収束率に顕著な差があることが判明した。
本研究では,NTKの固有値を用いて学習誤差の収束率を適応的に調整する勾配降下アルゴリズムを提案する。
論文 参考訳（メタデータ） (2020-07-28T23:44:56Z) - Revisiting Initialization of Neural Networks [72.24615341588846]
ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。
Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
論文 参考訳（メタデータ） (2020-04-20T18:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。