論文の概要: Disentangled Representation Learning for Parametric Partial Differential Equations
- arxiv url: http://arxiv.org/abs/2410.02136v1
- Date: Thu, 3 Oct 2024 01:40:39 GMT
- ステータス: 処理完了
- システム内更新日: 2024-11-04 08:35:44.723295
- Title: Disentangled Representation Learning for Parametric Partial Differential Equations
- Title(参考訳): パラメトリック部分微分方程式の非交叉表現学習
- Authors: Ning Liu, Lu Zhang, Tian Gao, Yue Yu,
- Abstract要約: ニューラル演算子パラメータから不整合表現を学習するための新しいパラダイムを提案する。
DisentangOは、ブラックボックス・ニューラル・オペレーターパラメータに埋め込まれた変動の潜在的物理的要因を明らかにし、取り除くように設計された、新しいハイパーニューラル・オペレーターアーキテクチャである。
本研究では、DentangOが有意義かつ解釈可能な潜在特徴を効果的に抽出し、ニューラルネットワークフレームワークにおける予測性能と身体的理解の分離を橋渡しすることを示す。
- 参考スコア(独自算出の注目度): 31.240283037552427
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Neural operators (NOs) have demonstrated remarkable success in learning mappings between function spaces, serving as efficient approximators for the forward solutions of complex physical systems governed by partial differential equations (PDEs). However, while effective as black-box solvers, they offer limited insight into the underlying physical mechanism, due to the lack of interpretable representations of the physical parameters that drive the system. To tackle this challenge, we propose a new paradigm for learning disentangled representations from neural operator parameters, thereby effectively solving an inverse problem. Specifically, we introduce DisentangO, a novel hyper-neural operator architecture designed to unveil and disentangle the latent physical factors of variation embedded within the black-box neural operator parameters. At the core of DisentangO is a multi-task neural operator architecture that distills the varying parameters of the governing PDE through a task-wise adaptive layer, coupled with a hierarchical variational autoencoder that disentangles these variations into identifiable latent factors. By learning these disentangled representations, our model not only enhances physical interpretability but also enables more robust generalization across diverse physical systems. Empirical evaluations across supervised, semi-supervised, and unsupervised learning contexts show that DisentangO effectively extracts meaningful and interpretable latent features, bridging the divide between predictive performance and physical understanding in neural operator frameworks.
- Abstract(参考訳): ニューラル作用素 (NOs) は関数空間間の写像の学習において顕著に成功し、偏微分方程式 (PDE) によって支配される複雑な物理系の前方解の効率的な近似器として役立っている。
しかしながら、ブラックボックスソルバとして有効であるが、システムを駆動する物理パラメータの解釈可能な表現が欠如しているため、基礎となる物理的メカニズムについての限られた洞察を提供する。
この課題に対処するために、ニューラル演算子パラメータから不整合表現を学習する新しいパラダイムを提案し、それによって逆問題を効果的に解決する。
具体的には、ブラックボックス・ニューラル・オペレーターパラメータに埋め込まれた変動の潜在的物理的要因を明らかにし、取り除くために設計された、新しいハイパー・ニューラル・オペレーター・アーキテクチャであるDisentangOを紹介する。
DisentangOの中核にあるマルチタスク・ニューラル・オペレーターアーキテクチャは、タスクワイド適応層を通じてPDEの様々なパラメータを蒸留し、これらのバリエーションを識別可能な潜在因子に分解する階層的変分オートエンコーダと結合する。
これらの不整合表現を学習することにより、我々のモデルは物理的解釈可能性を高めるだけでなく、多様な物理系をまたいだより堅牢な一般化を可能にする。
教師付き、半教師付き、教師なしの学習コンテキストにおける実証的な評価は、DentangOが有意義で解釈可能な潜在的特徴を効果的に抽出し、ニューラルネットワークフレームワークにおける予測性能と物理的理解の分割をブリッジしていることを示している。
関連論文リスト
- DimOL: Dimensional Awareness as A New 'Dimension' in Operator Learning [63.5925701087252]
本稿では,DimOL(Dimension-aware Operator Learning)を紹介し,次元解析から洞察を得る。
DimOLを実装するために,FNOおよびTransformerベースのPDEソルバにシームレスに統合可能なProdLayerを提案する。
経験的に、DimOLモデルはPDEデータセット内で最大48%のパフォーマンス向上を達成する。
論文 参考訳(メタデータ) (2024-10-08T10:48:50Z) - Diffusion models as probabilistic neural operators for recovering unobserved states of dynamical systems [49.2319247825857]
拡散に基づく生成モデルは、ニューラル演算子に好適な多くの特性を示す。
本稿では,複数のタスクに適応可能な単一モデルを,トレーニング中のタスク間で交互に学習することを提案する。
論文 参考訳(メタデータ) (2024-05-11T21:23:55Z) - Physics-informed Discretization-independent Deep Compositional Operator Network [1.2430809884830318]
我々はPDEパラメータと不規則領域形状の様々な離散表現に一般化できる新しい物理インフォームドモデルアーキテクチャを提案する。
ディープ・オペレーター・ニューラルネットワークにインスパイアされた我々のモデルは、パラメータの繰り返し埋め込みの離散化に依存しない学習を含む。
提案手法の精度と効率を数値計算により検証した。
論文 参考訳(メタデータ) (2024-04-21T12:41:30Z) - Neural Parameter Regression for Explicit Representations of PDE Solution Operators [22.355460388065964]
偏微分方程式(PDE)の解演算子を学習するための新しいフレームワークであるニューラル回帰(NPR)を導入する。
NPRは、ニューラルネットワーク(NN)パラメータを回帰するために、Physics-Informed Neural Network (PINN, Raissi et al., 2021) 技術を使用している。
このフレームワークは、新しい初期条件と境界条件に顕著な適応性を示し、高速な微調整と推論を可能にした。
論文 参考訳(メタデータ) (2024-03-19T14:30:56Z) - Hierarchical Invariance for Robust and Interpretable Vision Tasks at Larger Scales [54.78115855552886]
本稿では、畳み込みニューラルネットワーク(CNN)のような階層型アーキテクチャを用いて、オーバーコンプリート不変量を構築する方法を示す。
オーバーコンプリート性により、そのタスクはニューラルアーキテクチャサーチ(NAS)のような方法で適応的に形成される。
大規模で頑健で解釈可能な視覚タスクの場合、階層的不変表現は伝統的なCNNや不変量に対する効果的な代替物とみなすことができる。
論文 参考訳(メタデータ) (2024-02-23T16:50:07Z) - Manipulating Feature Visualizations with Gradient Slingshots [54.31109240020007]
本稿では,モデルの決定過程に大きな影響を及ぼすことなく,特徴可視化(FV)を操作する新しい手法を提案する。
ニューラルネットワークモデルにおける本手法の有効性を評価し,任意の選択したニューロンの機能を隠蔽する能力を示す。
論文 参考訳(メタデータ) (2024-01-11T18:57:17Z) - Deciphering and integrating invariants for neural operator learning with
various physical mechanisms [22.508244510177683]
本稿では,PDE系列からの演算子学習のための物理不変量(PI)を様々な物理機構で解読し,統合する物理不変量ニューラルネットワーク(PIANO)を提案する。
既存の手法と比較して、PIANO は係数、力、境界条件の異なる PDE 予測タスクにおいて相対誤差を 13.6%-82.2% 削減することができる。
論文 参考訳(メタデータ) (2023-11-24T09:03:52Z) - Interpretable Neural PDE Solvers using Symbolic Frameworks [0.0]
偏微分方程式 (Partial differential equation, PDE) は、熱や音から量子システムへの現象をモデル化する。
近年のディープラーニングの進歩は、強力なニューラルソルバの開発に繋がった。
しかし、その解釈可能性には大きな課題が残っている。
論文 参考訳(メタデータ) (2023-10-31T13:56:25Z) - Neural Operator: Learning Maps Between Function Spaces [75.93843876663128]
本稿では,無限次元関数空間間を写像する演算子,いわゆるニューラル演算子を学習するためのニューラルネットワークの一般化を提案する。
提案したニューラル作用素に対して普遍近似定理を証明し、任意の非線形連続作用素を近似することができることを示す。
ニューラル作用素に対する重要な応用は、偏微分方程式の解作用素に対する代理写像を学習することである。
論文 参考訳(メタデータ) (2021-08-19T03:56:49Z) - Provably Efficient Neural Estimation of Structural Equation Model: An
Adversarial Approach [144.21892195917758]
一般化構造方程式モデル(SEM)のクラスにおける推定について検討する。
線形作用素方程式をmin-maxゲームとして定式化し、ニューラルネットワーク(NN)でパラメータ化し、勾配勾配を用いてニューラルネットワークのパラメータを学習する。
提案手法は,サンプル分割を必要とせず,確固とした収束性を持つNNをベースとしたSEMの抽出可能な推定手順を初めて提供する。
論文 参考訳(メタデータ) (2020-07-02T17:55:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。