論文の概要: MetaNO: How to Transfer Your Knowledge on Learning Hidden Physics
- arxiv url: http://arxiv.org/abs/2301.12095v1
- Date: Sat, 28 Jan 2023 05:30:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-01-31 19:06:02.398286
- Title: MetaNO: How to Transfer Your Knowledge on Learning Hidden Physics
- Title(参考訳): MetaNO:隠れた物理学を学ぶための知識の伝達方法
- Authors: Lu Zhang, Huaiqian You, Tian Gao, Mo Yu, Chung-Hao Lee, Yue Yu
- Abstract要約: 本稿では,パラメータの異なる(未知の)PDE間で解演算子の知識を伝達する手法として,ニューラル演算子のメタラーニング手法を提案する。
我々のアプローチは、複数のPDE問題解決タスクに対する証明可能な普遍解演算子であり、基礎となるパラメータフィールドをニューラルネットワークモデルの第1層で捉えることができるという重要な理論的な観察である。
応用として,本手法が複雑で非線形な物理応答学習タスクを処理できると同時に,未確認タスクのサンプリング効率を大幅に改善できることを示す,PDEベースのデータセットと実世界の物質モデリング問題に対する提案手法の有効性を実証する。
- 参考スコア(独自算出の注目度): 39.83408993820245
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Gradient-based meta-learning methods have primarily been applied to classical
machine learning tasks such as image classification. Recently, PDE-solving deep
learning methods, such as neural operators, are starting to make an important
impact on learning and predicting the response of a complex physical system
directly from observational data. Since the data acquisition in this context is
commonly challenging and costly, the call of utilization and transfer of
existing knowledge to new and unseen physical systems is even more acute.
Herein, we propose a novel meta-learning approach for neural operators, which
can be seen as transferring the knowledge of solution operators between
governing (unknown) PDEs with varying parameter fields. Our approach is a
provably universal solution operator for multiple PDE solving tasks, with a key
theoretical observation that underlying parameter fields can be captured in the
first layer of neural operator models, in contrast to typical final-layer
transfer in existing meta-learning methods. As applications, we demonstrate the
efficacy of our proposed approach on PDE-based datasets and a real-world
material modeling problem, illustrating that our method can handle complex and
nonlinear physical response learning tasks while greatly improving the sampling
efficiency in unseen tasks.
- Abstract(参考訳): 勾配に基づくメタ学習法は主に画像分類などの古典的な機械学習タスクに適用されている。
近年、ニューラル演算子などのPDE解決深層学習法は、観測データから直接複雑な物理系の応答を学習し予測することに重要な影響を与え始めている。
この文脈でのデータ取得は一般的に困難で費用がかかるため、既存の知識を新規で未認識の物理システムに移行することはさらに深刻である。
そこで本研究では, パラメータフィールドの異なる支配的(未知の)PDE間で解演算子の知識を伝達する, ニューラル演算子のメタラーニング手法を提案する。
提案手法は, 従来のメタ学習法における最終層移動とは対照的に, ニューラルネットワークモデルの第1層において, 基礎となるパラメータ場を捕捉できるという理論的な考察を取り入れた, 複数のPDE問題解決タスクに対する証明可能な普遍解演算子である。
本稿では,提案手法が提案するpdeに基づくデータセットと実世界の物質モデリング問題の有効性を実証し,非知覚タスクのサンプリング効率を大幅に向上しつつ,複雑で非線形な物理応答学習タスクを処理可能であることを示す。
関連論文リスト
- DeepONet as a Multi-Operator Extrapolation Model: Distributed Pretraining with Physics-Informed Fine-Tuning [6.635683993472882]
マルチオペレータ学習を実現するためのファインチューニング手法を提案する。
本手法は,事前学習における各種演算子からのデータを分散学習と組み合わせ,物理インフォームド手法によりゼロショット微調整が可能となる。
論文 参考訳(メタデータ) (2024-11-11T18:58:46Z) - Interpretable Meta-Learning of Physical Systems [4.343110120255532]
最近のメタラーニング手法はブラックボックスニューラルネットワークに依存しており、計算コストが高く、解釈可能性も限られている。
我々は,学習課題に対するアフィン構造を持つ,より単純な学習モデルを用いて,マルチ環境の一般化を実現することができると論じる。
本稿では,物理系の最先端アルゴリズムと比較することにより,競合一般化性能と計算コストの低さを実証する。
論文 参考訳(メタデータ) (2023-12-01T10:18:50Z) - Variational operator learning: A unified paradigm marrying training
neural operators and solving partial differential equations [9.148052787201797]
ニューラル演算子を訓練し、変分形式でPDEを解くための統一的な枠組みを提供する新しいパラダイムを提案する。
ラベルなしのトレーニングセットと5ラベルのみのシフトセットにより、VOLは、未ラベルデータの量に関して、そのテストエラーが電力法則で減少して解演算子を学習する。
論文 参考訳(メタデータ) (2023-04-09T13:20:19Z) - MARS: Meta-Learning as Score Matching in the Function Space [79.73213540203389]
本稿では,一連の関連するデータセットから帰納バイアスを抽出する手法を提案する。
機能的ベイズニューラルネットワーク推論を用いて、前者をプロセスとみなし、関数空間で推論を行う。
本手法は,データ生成プロセスのスコア関数をメタラーニングすることにより,複雑な事前知識をシームレスに獲得し,表現することができる。
論文 参考訳(メタデータ) (2022-10-24T15:14:26Z) - Characterizing possible failure modes in physics-informed neural
networks [55.83255669840384]
科学機械学習における最近の研究は、いわゆる物理情報ニューラルネットワーク(PINN)モデルを開発した。
既存のPINN方法論は比較的自明な問題に対して優れたモデルを学ぶことができるが、単純なPDEであっても、関連する物理現象を学習するのに失敗する可能性があることを実証する。
これらの障害モードは,NNアーキテクチャの表現力の欠如によるものではなく,PINNのセットアップによって損失状況の最適化が極めて困難であることを示す。
論文 参考訳(メタデータ) (2021-09-02T16:06:45Z) - IQ-Learn: Inverse soft-Q Learning for Imitation [95.06031307730245]
少数の専門家データからの模倣学習は、複雑な力学を持つ高次元環境では困難である。
行動クローニングは、実装の単純さと安定した収束性のために広く使われている単純な方法である。
本稿では,1つのQ-関数を学習することで,対向学習を回避する動的適応型ILを提案する。
論文 参考訳(メタデータ) (2021-06-23T03:43:10Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳(メタデータ) (2021-06-17T17:26:31Z) - Model-Based Deep Learning [155.063817656602]
信号処理、通信、制御は伝統的に古典的な統計モデリング技術に依存している。
ディープニューラルネットワーク(DNN)は、データから操作を学ぶ汎用アーキテクチャを使用し、優れたパフォーマンスを示す。
私たちは、原理数学モデルとデータ駆動システムを組み合わせて両方のアプローチの利点を享受するハイブリッド技術に興味があります。
論文 参考訳(メタデータ) (2020-12-15T16:29:49Z) - Physics-based polynomial neural networks for one-shot learning of
dynamical systems from one or a few samples [0.0]
本論文は, 単純な振り子と世界最大規模のX線源の双方について, 実測結果について述べる。
提案手法により, ノイズ, 制限, 部分的な観測から複雑な物理を復元することができることが実証された。
論文 参考訳(メタデータ) (2020-05-24T09:27:10Z) - Watch and learn -- a generalized approach for transferrable learning in
deep neural networks via physical principles [0.0]
本研究では,物理状態の異なる統計物理学における問題に対して,完全に伝達可能な学習を実現するための教師なし学習手法を実証する。
逐次ニューラルネットワークに基づくシーケンスモデルを広範囲のディープニューラルネットワークに結合することにより、古典的な統計力学系の平衡確率分布と粒子間相互作用モデルを学ぶことができる。
論文 参考訳(メタデータ) (2020-03-03T18:37:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。