論文の概要: Derivative-Informed Training of Neural Operators On-the-Fly via Sketched Tangent Consistency
- arxiv url: http://arxiv.org/abs/2609.32797v1
- Date: Sat, 26 Sep 2026 17:18:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 20:12:09.560254
- Title: Derivative-Informed Training of Neural Operators On-the-Fly via Sketched Tangent Consistency
- Title(参考訳): スケッチされたタンジェント整合性によるニューラル演算子のオンザフライ導出訓練
- Abstract要約: 派生インフォームドトレーニングは、入力出力感度を直接監視することで、ニューラル演算子を改善する。
既存の方法はオフラインで生成されたデリバティブラベルに依存しており、データ生成が遅く、ストレージ集約的で、適応が難しい。
そこで本研究では,オンザフライ微分インフォームドトレーニングの目的であるスケッチ付きタンジェント整合性損失(sTCL)を提案する。
- 参考スコア(独自算出の注目度): 4.210242909618253
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Derivative-informed training improves neural operators by directly supervising their input-output sensitivities, which is crucial when neural operators are used as differentiable surrogates for inverse problems, PDE-constrained optimization, design, and control. However, existing methods rely on offline-generated derivative labels, making data generation slow, storage-intensive, and difficult to adapt across datasets, resolutions, or perturbation bases. We propose sketched tangent consistency loss (sTCL), an on-the-fly derivative-informed training objective that, for PDEs with a known and differentiable residual, enforces sensitivity consistency directly from the governing equation without offline tangent labels or neural-operator architecture changes. sTCL uses randomly sketched input perturbations to provide a lightweight derivative-level physics constraint during training. However, raw forward-sensitivity residual penalties can fail for stiff, ill-conditioned, indefinite, or coupled saddle-point tangent operators. To address this, we introduce lightweight operator-aware loss-conditioning mechanisms selected by a simple tangent-operator decision rule. Across Helmholtz, nonlinear diffusion-reaction, Burgers, Allen-Cahn, and Navier-Stokes, with the same neural-operator backbone for all methods, the PDE-specific sTCL losses achieve solution and Jacobian accuracy comparable to offline derivative-informed training (DIFNO) while eliminating the offline derivative-data generation and storage pipeline. These results show that on-the-fly derivative-informed training need not merely amortize offline tangent-solve cost into training; with appropriate sketching and loss design, sTCL provides an effective drop-in path to derivative-informed neural operators. Code is available at https://github.com/yang9579/Derivative-informed-traning-on-the-fly.
- Abstract(参考訳): 微分インフォームドトレーニングは、ニューラル演算子を逆問題、PDE制約最適化、設計、制御の微分可能なサロゲートとして使用する場合に重要な入力出力感度を直接監視することによって、ニューラル演算子を改善する。
しかし、既存の方法はオフラインで生成されたデリバティブラベルに依存しており、データ生成が遅く、ストレージ集約的で、データセット、解像度、摂動ベースにまたがる適応が難しい。
そこで,本研究では, PDE が既知かつ微分可能な残差を持つ場合, オフラインのタンジェントラベルやニューラル・オペレーショナル・オペレーショナル・アーキテクチャを変更することなく, 制御方程式から直接感度整合を強制する,オンザフライの微分インフォームドトレーニング目標であるスケッチ付きタンジェント整合性損失(sTCL)を提案する。
sTCLはランダムにスケッチされた入力摂動を用いて、トレーニング中に軽量な微分レベルの物理制約を提供する。
しかし、生の前方感度残差ペナルティは、硬く、不条件で、不定で、あるいは結合したサドル点接点演算子に対して失敗することがある。
そこで本研究では,簡易なタンジェント・オペレーショナル決定規則によって選択された,軽量な演算子対応損失調和機構を提案する。
ヘルムホルツ、非線形拡散反応、バーガース、アレン・カーン、ナヴィエル・ストークスは、全てのメソッドで同じニューラル演算バックボーンを持つが、PDE固有のsTCL損失は、オフライン微分インフォームドトレーニング(DIFNO)に匹敵する解とジャコビアン精度を達成し、オフライン微分データ生成とストレージパイプラインを排除している。
これらの結果は、オンザフライデリバティブインフォームドトレーニングは、単にオフラインのタンジェント解決コストをトレーニングに補正するだけでなく、適切なスケッチと損失設計により、微分インフォームドニューラルネットワークへの効果的なドロップインパスを提供することを示している。
コードはhttps://github.com/yang9579/Derivative-informed-traning-on-the-flyで入手できる。
関連論文リスト
- Linearized PINN with pretrained nonlinear layers [48.01541150431857]
lPINNは、前方および逆微分方程式の低次ニューラルネットワーク基底法である。
我々は, 対流拡散方程式, バーガーズ方程式, 非線形振り子方程式に対する逆問題に対する lPINN の評価を行った。
論文 参考訳(メタデータ) (2026-09-14T02:18:00Z) - Operator Learning Using Weak Supervision from Walk-on-Spheres [81.26322147849918]
トレーニング型PDEソルバは、高価なデータ生成や不安定な物理インフォームドニューラルネットワーク(PINN)によってボトルネックされることが多い
モンテカルロ法を用いてPDEの解をトレーニング中の弱監督過程として推定する手法を提案する。
論文 参考訳(メタデータ) (2026-03-01T17:23:39Z) - Flow matching Operators for Residual-Augmented Probabilistic Learning of Partial Differential Equations [0.5729426778193397]
無限次元関数空間におけるフローマッチングを定式化し、確率的輸送を学習する。
本研究では,フローマッチングベクトル場に対する特徴量線形変調に基づく条件付きニューラル演算子アーキテクチャを開発する。
提案手法は,解演算子を様々な解像度と忠実度で正確に学習できることを示す。
論文 参考訳(メタデータ) (2025-12-14T16:06:10Z) - A reduced-order derivative-informed neural operator for subsurface fluid-flow [0.21585047554218337]
ニューラル演算子のための低次微分インフォームドトレーニングフレームワークを提案する。
DeFINOは、観測データによって直接情報を得る感度情報をキャプチャする。
基礎流体力学の頑健な前方予測を維持しつつ, 勾配精度の向上を実証する。
論文 参考訳(メタデータ) (2025-09-17T01:30:44Z) - DeltaPhi: Physical States Residual Learning for Neural Operators in Data-Limited PDE Solving [54.605760146540234]
DeltaPhiは、PDE解決タスクを、直接入力出力マッピングの学習から、類似の物理的状態間の残差学習に変換する、新しい学習フレームワークである。
大規模な実験は、様々な物理的システムにまたがって一貫した、重要な改善を示す。
論文 参考訳(メタデータ) (2024-06-14T07:45:07Z) - Derivative-enhanced Deep Operator Network [3.169190797722534]
デリバティブ強化ディープオペレータネットワーク(DE-DeepONet)
システムは、訓練コストを削減するために、DeepONetに入力された高次元パラメータの線形次元の削減を取り入れている。
微分損失は、フーリエ神経演算子(FNO)のような他の神経演算子を強化するために拡張することができる
論文 参考訳(メタデータ) (2024-02-29T15:18:37Z) - Monte Carlo Neural PDE Solver for Learning PDEs via Probabilistic Representation [59.45669299295436]
教師なしニューラルソルバのトレーニングのためのモンテカルロPDEソルバを提案する。
我々は、マクロ現象をランダム粒子のアンサンブルとみなすPDEの確率的表現を用いる。
対流拡散, アレン・カーン, ナヴィエ・ストークス方程式に関する実験により, 精度と効率が著しく向上した。
論文 参考訳(メタデータ) (2023-02-10T08:05:19Z) - Derivative-Informed Neural Operator: An Efficient Framework for
High-Dimensional Parametric Derivative Learning [3.7051887945349518]
微分インフォームド・ニューラル演算子(DINO)を提案する。
DINO は入力関数空間から出力関数空間や興味の量への無限次元写像として近似する。
提案したDINOは,デリバティブ情報なしで訓練したニューラル演算子よりも有意に精度が高いことを示す。
論文 参考訳(メタデータ) (2022-06-21T21:40:01Z) - Incorporating NODE with Pre-trained Neural Differential Operator for
Learning Dynamics [73.77459272878025]
ニューラル微分演算子(NDO)の事前学習による動的学習における教師付き信号の強化を提案する。
NDOは記号関数のクラスで事前訓練され、これらの関数の軌跡サンプルとそれらの導関数とのマッピングを学習する。
我々は,NDOの出力が,ライブラリの複雑さを適切に調整することで,基礎となる真理微分を適切に近似できることを理論的に保証する。
論文 参考訳(メタデータ) (2021-06-08T08:04:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。