論文の概要: Tensor-Train Compressed Separable PINNs: A Curvature-Aware Optimization Framework for Parametric PDEs in High Dimensions

• arxiv url: http://arxiv.org/abs/2609.36165v1
• Date: Mon, 28 Sep 2026 19:35:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-30 21:28:46.972968
• Title: Tensor-Train Compressed Separable PINNs: A Curvature-Aware Optimization Framework for Parametric PDEs in High Dimensions
• Title（参考訳）: Tensor-Train Compressed Separable PINNs:高次元パラメトリックPDEのための曲率対応最適化フレームワーク
• Abstract要約: 我々は高次元パラメトリック偏微分方程式(PDE)に適用した物理学情報ニューラルネットワーク(PINN)の2次最適化フレームワークを開発する。 フレームワークはGauss--Newtonのプルバックメトリック上に構築されており、パラメータ空間における曲率の演算子インフォームド概念を提供する。 座標分離型ニューラルアーキテクチャと線形微分作用素が有限分離型表現を許す場合、残留ヤコビアンは構造分離型分解を継承することを示す。
• 参考スコア（独自算出の注目度）: 0.8021197489470758
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In this work, we develop a second-order optimization framework for physics-informed neural networks (PINNs) applied to high-dimensional parametric partial differential equations (PDEs). The framework is built on the Gauss--Newton pullback metric, which provides an operator-informed notion of curvature in parameter space and connects the method to the broader family of natural gradient schemes. We show that, for coordinate-separable neural architectures and linear differential operators (or linearized operators in the nonlinear case) admitting a finite separable representation, the residual Jacobian inherits a structured separable factorization. This yields an exact compressed formulation of the Gauss--Newton step in a reduced space, without assembling the full residual Jacobian on the exponentially large tensor-product collocation grid. The dimension of the reduced space (the effective compressed dimension) is determined by the local collocation grid sizes, the separable operator structure, and the contraction pattern of the architecture, thereby avoiding dependence on the full tensor-product grid size and replacing dense linear algebra in parameter space by a substantially smaller structured problem. Within our framework, we investigate canonical polyadic and tensor-train parametrizations and derive their full algebraic characterization relevant to the Gauss--Newton method, including the structure of the residual Jacobian, the resulting compressed system, and its effective compressed dimension. Numerical experiments on high-dimensional PDEs, including parametric problems, demonstrate the high efficiency of the proposed compressed Gauss--Newton method, which achieves substantially lower errors than tensor-compressed first-order baselines with orders of magnitude fewer iterations and only a fraction of the computing time.
• Abstract（参考訳）: 本研究では,高次元パラメトリック偏微分方程式(PDE)に適用した物理インフォームドニューラルネットワーク(PINN)の2次最適化フレームワークを開発する。 このフレームワークはガウス-ニュートン引き戻し計量に基づいて構築され、パラメータ空間における曲率の演算子インフォームドの概念を提供し、この手法をより広範な自然勾配スキームの族に接続する。 座標分離型ニューラルアーキテクチャと線形微分作用素(あるいは非線形の場合の線形化作用素)が有限可分表現を許す場合、残留ヤコビアンが構造化可分分解を継承することを示す。 これにより、ガウス-ニュートンステップの縮減空間における正確な圧縮された定式化が得られ、指数関数的に大きいテンソル積のコロケーション格子上に完全残留ヤコビアンを組み立てることなく得られる。 縮小空間(実圧縮次元)の次元は、局所的なコロケーショングリッドサイズ、分離可能な作用素構造、およびアーキテクチャの縮退パターンによって決定され、したがって、全テンソル積グリッドサイズへの依存を回避し、パラメータ空間における密度線形代数をかなり小さい構造問題で置き換える。 フレームワーク内では、標準ポリアディックおよびテンソルトレインパラメトリゼーションを調査し、残留ヤコビアンの構造、圧縮されたシステム、そしてその有効圧縮次元を含む、ガウス-ニュートン法に関連する全代数的特徴を導出する。 パラメトリック問題を含む高次元PDEの数値実験により, 圧縮したガウス-ニュートン法は, テンソル圧縮した1次ベースラインよりも誤差が大幅に小さく, 演算時間のごく一部しか得られないことを示した。

関連論文リスト

• Generalization in Nonlinear Least Squares via Learned Feature Geometry [15.966075413898336]
  リッジ規則化非線形最小二乗モデルのオンアレージアルゴリズムによる一般化について検討する。 勾配モデルの幾何学を反映したデータ依存実効次元を用いて局所最小化器の誤差境界を導出する。
  論文  参考訳（メタデータ） (2026-06-07T19:33:36Z)
• A Mean Curvature Approach to Boundary Detection: Geometric Insights for Unsupervised Learning [52.452902154360565]
  本稿では,幾何学的機械学習に基づく新しい幾何学的フレームワークであるMean Curvature Boundary Points (MCBP)を紹介する。 MCBPはデータ多様体の固有曲率を明示的にモデル化し、原理化された多様体のパラメトリゼーションを必要としない点平均曲率を計算する。 合成および実世界のデータセットの実験により、MCBPはクラスタリング性能を一貫して改善することを示した。
  論文  参考訳（メタデータ） (2026-05-05T20:19:09Z)
• Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
  本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。 最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
  論文  参考訳（メタデータ） (2023-10-20T12:45:12Z)
• Multi-Grid Tensorized Fourier Neural Operator for High-Resolution PDEs [93.82811501035569]
  本稿では,メモリ要求を低減し,より一般化したデータ効率・並列化可能な演算子学習手法を提案する。 MG-TFNOは、実世界の実世界の現象の局所的構造と大域的構造を活用することで、大規模な分解能にスケールする。 乱流ナビエ・ストークス方程式において150倍以上の圧縮で誤差の半分以下を達成できる優れた性能を示す。
  論文  参考訳（メタデータ） (2023-09-29T20:18:52Z)
• Sparse Cholesky Factorization for Solving Nonlinear PDEs via Gaussian Processes [3.750429354590631]
  本稿では、高密度カーネル行列に対するスパースColesky分解アルゴリズムを提案する。 我々は, 幅広い非線形PDEのクラスに対して, アルゴリズムのニア線形空間/時間複雑性を数値的に説明する。
  論文  参考訳（メタデータ） (2023-04-03T18:35:28Z)
• Designing Universal Causal Deep Learning Models: The Case of Infinite-Dimensional Dynamical Systems from Stochastic Analysis [7.373617024876726]
  解析におけるいくつかの非線形作用素は、現代のニューラル作用素によって利用されていない時間構造に依存している。 本稿では,無限次元線形距離空間を適切に扱うディープラーニングモデル設計フレームワークを提案する。 我々のフレームワークはコンパクトな集合や任意の有限時間地平線 H" や滑らかなトレースクラス作用素に対して均一に近似できることを示す。
  論文  参考訳（メタデータ） (2022-10-24T14:43:03Z)
• Understanding Implicit Regularization in Over-Parameterized Single Index Model [55.41685740015095]
  我々は高次元単一インデックスモデルのための正規化自由アルゴリズムを設計する。 暗黙正則化現象の理論的保証を提供する。
  論文  参考訳（メタデータ） (2020-07-16T13:27:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。