論文の概要: The Baldwin Effect in Advancing Generalizability of Physics-Informed Neural Networks

• arxiv url: http://arxiv.org/abs/2312.03243v2
• Date: Mon, 16 Dec 2024 02:26:24 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-12-17 13:52:57.993260
• Title: The Baldwin Effect in Advancing Generalizability of Physics-Informed Neural Networks
• Title（参考訳）: 物理インフォームドニューラルネットワークの一般化性向上におけるボールドウィン効果
• Authors: Jian Cheng Wong, Chin Chun Ooi, Abhishek Gupta, Pao-Hsiung Chiu, Joshua Shao Zheng Low, My Ha Dao, Yew-Soon Ong,
• Abstract要約: 物理インフォームドニューラルネットワーク(PINN)は、科学機械学習の最前線にある。 PINNは1つの物理タスクのために訓練されることが多く、新しいタスクごとに計算的に高価な再訓練を必要とする。 本稿では,ボールドウィン進化の枠組みを通じて,PINNの一般化可能性を高めるための先駆的なアプローチを提案する。
• 参考スコア（独自算出の注目度）: 22.57730294475146
• License:
• Abstract: Physics-informed neural networks (PINNs) are at the forefront of scientific machine learning, making possible the creation of machine intelligence that is cognizant of physical laws and able to accurately simulate them. However, today's PINNs are often trained for a single physics task and require computationally expensive re-training for each new task, even for tasks from similar physics domains. To address this limitation, this paper proposes a pioneering approach to advance the generalizability of PINNs through the framework of Baldwinian evolution. Drawing inspiration from the neurodevelopment of precocial species that have evolved to learn, predict and react quickly to their environment, we envision PINNs that are pre-wired with connection strengths inducing strong biases towards efficient learning of physics. A novel two-stage stochastic programming formulation coupling evolutionary selection pressure (based on proficiency over a distribution of physics tasks) with lifetime learning (to specialize on a sampled subset of those tasks) is proposed to instantiate the Baldwin effect. The evolved Baldwinian-PINNs demonstrate fast and physics-compliant prediction capabilities across a range of empirically challenging problem instances with more than an order of magnitude improvement in prediction accuracy at a fraction of the computation cost compared to state-of-the-art gradient-based meta-learning methods. For example, when solving the diffusion-reaction equation, a 70x improvement in accuracy was obtained while taking 700x less computational time. This paper thus marks a leap forward in the meta-learning of PINNs as generalizable physics solvers. Sample codes are available at \url{https://github.com/chiuph/Baldwinian-PINN}.
• Abstract（参考訳）: 物理インフォームドニューラルネットワーク(PINN)は、科学機械学習の最前線にあり、物理的法則を認識し、それらを正確にシミュレートできるマシンインテリジェンスの作成を可能にする。 しかし、今日のPINNは単一の物理タスクのために訓練され、同様の物理領域のタスクであっても、新しいタスクごとに計算的に高価な再訓練を必要とすることが多い。 この制限に対処するため,本論文では,ボールドウィン進化の枠組みを通じて,PINNの一般化可能性を高めるための先駆的なアプローチを提案する。 環境を学習し、予測し、迅速に反応するように進化してきた先駆的な種の神経発達からインスピレーションを得て、我々は、物理学の効率的な学習に向けて強いバイアスをもたらす接続強度にあらかじめ結びついているPINNを想像する。 新しい2段階確率計画定式化法は、Baldwin効果をインスタンス化するために、(これらのタスクのサンプルサブセットを専門化するために)生涯学習と(物理タスクの分布の習熟度に基づく)進化選択圧を結合する。 進化したBaldwinian-PINNは、最先端の勾配に基づくメタ学習法と比較して、計算コストのごく一部で予測精度が大幅に向上した、経験的に困難なさまざまな問題インスタンスに対して、高速で物理に準拠した予測能力を実証している。 例えば、拡散反応方程式の解法では、700倍の計算時間で精度が70倍向上した。 そこで本研究では,一般化可能な物理解法として,PINNのメタラーニングの飛躍的な進歩を示す。 サンプルコードは \url{https://github.com/chiuph/Baldwinian-PINN} で公開されている。

関連論文リスト

• Physics-Informed Neuro-Evolution (PINE): A Survey and Prospects [23.92936460045325]
  物理インフォームドニューラルネットワーク(PINN)は、数学的に表現可能な自然法則をそれらのトレーニング損失関数に注入する。 PINNは、データリミットにおける純粋にデータ駆動モデルよりも利点がある。 本稿では,モデル最適化と一般化の観点から初めてPINNについて検討する。
  論文  参考訳（メタデータ） (2025-01-11T15:45:11Z)
• Advancing Physics Data Analysis through Machine Learning and Physics-Informed Neural Networks [0.0]
  本研究は,物理データ解析のための機械学習(ML)アルゴリズムについて評価する。 これらの手法をシミュレーションシナリオの実験的生存性を識別する二項分類タスクに適用する。 XGBoostは、そのスピードと有効性のために評価された機械学習アルゴリズムの中で好まれる選択として登場した。
  論文  参考訳（メタデータ） (2024-10-18T11:05:52Z)
• ST-PINN: A Self-Training Physics-Informed Neural Network for Partial Differential Equations [13.196871939441273]
  偏微分方程式 (Partial differential equations, PDE) は物理学や工学において重要な計算核である。 ディープラーニングの進歩により、物理インフォームドニューラルネットワーク(PINN)は、様々なアプリケーションで高速なPDE解決の可能性を示している。 本稿では,既存のPINNの低精度・収束問題に対処するため,自己学習型物理インフォームドニューラルネットワークST-PINNを提案する。
  論文  参考訳（メタデータ） (2023-06-15T15:49:13Z)
• NeuralStagger: Accelerating Physics-constrained Neural PDE Solver with Spatial-temporal Decomposition [67.46012350241969]
  本稿では,NeuralStaggerと呼ばれる一般化手法を提案する。 元の学習タスクをいくつかの粗い解像度のサブタスクに分解する。 本稿では,2次元および3次元流体力学シミュレーションにおけるNeuralStaggerの適用例を示す。
  論文  参考訳（メタデータ） (2023-02-20T19:36:52Z)
• SPIDE: A Purely Spike-based Method for Training Feedback Spiking Neural Networks [56.35403810762512]
  イベントベースの計算を伴うスパイキングニューラルネットワーク(SNN)は、ニューロモルフィックハードウェアにおけるエネルギー効率の高い応用のために、脳にインスパイアされたモデルを約束している。 本研究では,最近提案されたトレーニング手法を拡張した平衡状態(SPIDE)に対するスパイクに基づく暗黙差分法について検討した。
  論文  参考訳（メタデータ） (2023-02-01T04:22:59Z)
• Neuroevolution of Physics-Informed Neural Nets: Benchmark Problems and Comparative Results [25.12291688711645]
  物理インフォームドニューラルネットワーク(PINN)は、最近の進歩の最前線にある重要な技術の一つである。 PINNのユニークな損失の定式化は、勾配降下に寄与しない高い複雑さと頑丈さをもたらす。 優れたグローバル検索能力を持つ神経進化アルゴリズムは、PINNにとってより良い選択であるかもしれない。
  論文  参考訳（メタデータ） (2022-12-15T05:54:16Z)
• Training Feedback Spiking Neural Networks by Implicit Differentiation on the Equilibrium State [66.2457134675891]
  スパイキングニューラルネットワーク(英: Spiking Neural Network、SNN)は、ニューロモルフィックハードウェア上でエネルギー効率の高い実装を可能にする脳にインスパイアされたモデルである。 既存のほとんどの手法は、人工ニューラルネットワークのバックプロパゲーションフレームワークとフィードフォワードアーキテクチャを模倣している。 本稿では,フォワード計算の正逆性に依存しない新しいトレーニング手法を提案する。
  論文  参考訳（メタデータ） (2021-09-29T07:46:54Z)
• Characterizing possible failure modes in physics-informed neural networks [55.83255669840384]
  科学機械学習における最近の研究は、いわゆる物理情報ニューラルネットワーク(PINN)モデルを開発した。 既存のPINN方法論は比較的自明な問題に対して優れたモデルを学ぶことができるが、単純なPDEであっても、関連する物理現象を学習するのに失敗する可能性があることを実証する。 これらの障害モードは,NNアーキテクチャの表現力の欠如によるものではなく,PINNのセットアップによって損失状況の最適化が極めて困難であることを示す。
  論文  参考訳（メタデータ） (2021-09-02T16:06:45Z)
• Parsimonious neural networks learn interpretable physical laws [77.34726150561087]
  本稿では、ニューラルネットワークと進化的最適化を組み合わせたパシモニクスニューラルネットワーク(PNN)を提案し、精度とパシモニクスのバランスをとるモデルを求める。 アプローチのパワーと汎用性は、古典力学のモデルを開発し、基本特性から材料の融解温度を予測することによって実証される。
  論文  参考訳（メタデータ） (2020-05-08T16:15:47Z)
• Rectified Linear Postsynaptic Potential Function for Backpropagation in Deep Spiking Neural Networks [55.0627904986664]
  スパイキングニューラルネットワーク(SNN)は、時間的スパイクパターンを用いて情報を表現し、伝達する。 本稿では,情報符号化,シナプス可塑性,意思決定におけるスパイクタイミングダイナミクスの寄与について検討し,将来のDeepSNNやニューロモルフィックハードウェアシステムの設計への新たな視点を提供する。
  論文  参考訳（メタデータ） (2020-03-26T11:13:07Z)
• Understanding and mitigating gradient pathologies in physics-informed neural networks [2.1485350418225244]
  この研究は、物理システムの結果を予測し、ノイズの多いデータから隠れた物理を発見するための物理情報ニューラルネットワークの有効性に焦点を当てる。 本稿では,モデル学習中の勾配統計を利用して,複合損失関数の異なる項間の相互作用のバランスをとる学習速度アニーリングアルゴリズムを提案する。 また、そのような勾配に耐性のある新しいニューラルネットワークアーキテクチャを提案する。
  論文  参考訳（メタデータ） (2020-01-13T21:23:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。