論文の概要: Replay-Based Continual Learning for Physics-Informed Neural Operators
- arxiv url: http://arxiv.org/abs/2605.04832v1
- Date: Wed, 06 May 2026 12:28:38 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-07 18:41:07.809179
- Title: Replay-Based Continual Learning for Physics-Informed Neural Operators
- Title（参考訳）: 物理インフォームドニューラル演算子のリプレイに基づく連続学習
- Abstract要約: この研究は、物理インフォームド・ニューラル演算子に連続的な学習を導入する。
ラベル付きデータを必要とせず、入力フィールドにのみ依存し、トレーニングのための物理的な制約を課す。
これは、新しいデータへの高速な適応性を維持しながら、以前に学んだデータに対する破滅的な忘れを軽減します。
- 参考スコア（独自算出の注目度）: 1.8022762287615333
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Neural operators generally demonstrate strong predictive performance on in-distribution (ID) problems. However, a critical limitation of existing methods is their significant performance degradation when encountering out-of-distribution (OOD) data. To address this issue, this work introduces continual learning into physics-informed neural operators, with particular emphasis on neural operators built upon the Transolver architecture, and proposes a simple yet effective replay-based continual learning strategy. The proposed method is fully physics-informed and does not require labeled data, relying solely on input fields together with physical constraints for training. When new OOD data become available, a small number of past data are incorporated through a distillation-based constraint to preserve previously acquired knowledge and alleviate catastrophic forgetting. Meanwhile, a transfer learning LoRA is employed to enable rapid adaptation to the new data. The proposed framework is systematically validated on three representative physical problems, including the Darcy flow problem in fluid mechanics, a two-dimensional hyperelastic brain tumor problem in biomechanics, and a three-dimensional linear elastic Triply Periodic Minimal Surfaces problem in solid mechanics. The results demonstrate that the proposed method effectively mitigates catastrophic forgetting on previously learned data while maintaining fast adaptability to new data. Compared with conventional joint training strategies, the proposed method significantly improves training efficiency while reducing additional memory usage and computational cost.
- Abstract（参考訳）: ニューラル演算子は一般に、分布内問題(ID)に強い予測性能を示す。
しかし、既存の手法の限界は、アウト・オブ・ディストリビューション(OOD)データに遭遇する際の大幅な性能低下である。
この問題に対処するために、この研究は、トランスオーバーアーキテクチャ上に構築されたニューラル演算子に特に重点を置いて、物理インフォームドニューラル演算子に連続学習を導入し、シンプルで効果的なリプレイベースの連続学習戦略を提案する。
提案手法は完全に物理インフォームドされており,入力フィールドにのみ依存するラベル付きデータを必要としない。
新しいOODデータが利用可能になると、蒸留ベースの制約によって少数の過去のデータが組み込まれ、それまでの知識を保存し、破滅的な忘れを緩和する。
一方、新しいデータへの迅速な適応を可能にするために、転送学習LoRAを用いる。
提案手法は, 流体力学におけるダーシー流問題, 生体力学における2次元超弾性脳腫瘍問題, 固体力学における3次元線形弾性三相周期表面問題など, 代表的な3つの物理的問題に対して体系的に検証された。
その結果,提案手法は,新しいデータへの高速適応性を保ちつつ,これまでに学習したデータに対する破滅的な忘れを効果的に軽減することを示した。
従来のジョイントトレーニング戦略と比較して,提案手法はメモリ使用量や計算コストを削減しつつ,トレーニング効率を大幅に向上させる。
関連論文リスト
- Physics-Informed Neural Networks with Learnable Loss Balancing and Transfer Learning [0.0]
本稿では,物理ベースとデータ駆動型監視を適応的にバランスさせる,自己制御型物理情報ニューラルネットワーク(PINN)フレームワークを提案する。
我々のフレームワークは、ニューラルネットワークに物理を適応的に埋め込むための一般的なレシピを提供し、データスカース問題に対して堅牢で再現可能なアプローチを提供する。
論文 参考訳（メタデータ） (2026-04-17T01:48:54Z) - Forget Less, Retain More: A Lightweight Regularizer for Rehearsal-Based Continual Learning [51.07663354001582]
ディープニューラルネットワークは破滅的な忘れ込みに悩まされ、新しいタスクのトレーニング後に以前のタスクのパフォーマンスが低下する。
本稿では,メモリベースの手法と正規化手法の交わりに着目し,この問題に対処する新しいアプローチを提案する。
我々は、メモリベース連続学習法において、情報最大化(IM)正則化と呼ばれる正規化戦略を定式化する。
論文 参考訳（メタデータ） (2025-12-01T15:56:00Z) - From Physics to Machine Learning and Back: Part II - Learning and Observational Bias in PHM [52.64097278841485]
物理インフォームドモデリングとデータストラテジーによる学習と観察バイアスの導入は、モデルを物理的に一貫した信頼性のある予測へと導くことができるかを検討する。
メタラーニングや少数ショットラーニングなどの高速適応手法をドメイン一般化手法とともに検討する。
論文 参考訳（メタデータ） (2025-09-25T14:15:43Z) - Fusing CFD and measurement data using transfer learning [49.1574468325115]
本稿では,伝送学習によるシミュレーションと計測データを組み合わせたニューラルネットワークに基づく非線形手法を提案する。
最初のステップでは、ニューラルネットワークがシミュレーションデータに基づいてトレーニングされ、分散量の空間的特徴を学習する。
第2のステップは、ニューラルネットワークモデル全体の小さなサブセットを再トレーニングするだけで、シミュレーションと測定の間の体系的なエラーを修正するために、測定データ上での変換学習である。
論文 参考訳（メタデータ） (2025-07-28T07:21:46Z) - Physics Informed Constrained Learning of Dynamics from Static Data [8.346864633675414]
物理インフォームドニューラルネットワーク(PINN)は、制御物理法則をニューラルネットワークのアーキテクチャに統合することにより、システムのダイナミクスをモデル化する。
既存のPINNフレームワークは、完全に観測された時間軸データに依存しており、多くのシステムでは取得が禁止される可能性がある。
本研究では,非時間コースや部分的に観測されたデータを用いて一階微分や動きを近似できる新しいPINN学習パラダイムであるConstrained Learningを開発した。
論文 参考訳（メタデータ） (2025-04-17T06:06:53Z) - Towards Robust and Parameter-Efficient Knowledge Unlearning for LLMs [25.91643745340183]
大規模言語モデル(LLM)は、大量のテキストコーパスの事前学習を通じて、強い推論と記憶能力を示す。
これはプライバシーと著作権侵害のリスクを生じさせ、効率的な機械学習手法の必要性を強調している。
LLMの堅牢かつ効率的なアンラーニングを可能にする新しいフレームワークであるLoKUを提案する。
論文 参考訳（メタデータ） (2024-08-13T04:18:32Z) - DeltaPhi: Physical States Residual Learning for Neural Operators in Data-Limited PDE Solving [54.605760146540234]
DeltaPhiは、PDE解決タスクを、直接入力出力マッピングの学習から、類似の物理的状態間の残差学習に変換する、新しい学習フレームワークである。
大規模な実験は、様々な物理的システムにまたがって一貫した、重要な改善を示す。
論文 参考訳（メタデータ） (2024-06-14T07:45:07Z) - Learning fast changing slow in spiking neural networks [3.069335774032178]
強化学習(Reinforcement Learning, RL)は、実生活問題に適用する際の課題である。
生涯学習機械は可塑性安定パラドックスを解決しなければならない。
新たな知識の獲得と安定性の維持のバランスを取ることは、人工エージェントにとって不可欠である。
論文 参考訳（メタデータ） (2024-01-25T12:03:10Z) - Large-Scale OD Matrix Estimation with A Deep Learning Method [70.78575952309023]
提案手法は,ディープラーニングと数値最適化アルゴリズムを統合し,行列構造を推論し,数値最適化を導出する。
大規模合成データセットを用いて,提案手法の優れた一般化性能を実証するために実験を行った。
論文 参考訳（メタデータ） (2023-10-09T14:30:06Z) - Convolutional generative adversarial imputation networks for
spatio-temporal missing data in storm surge simulations [86.5302150777089]
GAN(Generative Adversarial Imputation Nets)とGANベースの技術は、教師なし機械学習手法として注目されている。
提案手法を Con Conval Generative Adversarial Imputation Nets (Conv-GAIN) と呼ぶ。
論文 参考訳（メタデータ） (2021-11-03T03:50:48Z) - Understanding Catastrophic Forgetting and Remembering in Continual
Learning with Optimal Relevance Mapping [10.970706194360451]
ニューラルネットワークにおける破滅的な忘れは、継続的な学習にとって重要な問題です。
最適オーバーラップ仮説にインスパイアされたRelevance Mapping Networks(RMN)を紹介します。
我々は、RMNが破滅的な忘れと記憶の双対の問題を乗り越える最適化された表現重複を学ぶことを示しています。
論文 参考訳（メタデータ） (2021-02-22T20:34:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。