論文の概要: Tackling Failure Modes of PINNs and PIKANs Using Conflict-Free Gradients
- arxiv url: http://arxiv.org/abs/2609.14841v2
- Date: Wed, 16 Sep 2026 15:40:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:53.404874
- Title: Tackling Failure Modes of PINNs and PIKANs Using Conflict-Free Gradients
- Title(参考訳): 衝突のない勾配を用いたPINNとPIKANの故障モードの対応
- Abstract要約: プロジェクションベース勾配手術により領域分解をブリッジし、トレーニングを低下させる矛盾する勾配を緩和する。
また,Norm-PCGradは,勾配手術を伴わないトレーニングに比べて,L$の誤差が低いことが示唆された。
さらに, 3次元領域分解の精度向上を図るために, 物理インフォームドのコルモゴロフ・アルノルドネットワーク(KANPI)に勾配手術を適用できることを実証した。
- 参考スコア(独自算出の注目度): 0.30586855806896046
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Scientific machine learning methods such as physics-informed neural networks (PINNs) increasingly rely on domain decomposition for better scalability while solving partial differential equations (PDEs) over complex geometries, yet the resulting composite loss comprising residual, boundary, and interface terms is highly susceptible to conflicting gradients that degrade training. This work bridges domain decomposition with projection-based gradient surgery to systematically mitigate such conflicts in 2D and 3D settings. We evaluate two existing projection-based algorithms, PCGrad and ConFIG, and identify their performance degradation in specific scenarios such as 3D domains with multiple overlapping interfaces. To address this limitation, we propose Norm-PCGrad, a normalized variant that achieves state-of-the-art accuracy across a range of 2D and 3D domain decomposition problems. Across the benchmarks considered, Norm-PCGrad consistently achieves the lowest relative $L_2$ error compared to training without gradient surgery as well as to existing algorithms such as PCGrad and ConFIG, while incurring negligible additional computational overhead. To improve computational efficiency of domain decomposition frameworks such as Extended PINN (XPINN), we propose replacing vanilla PINNs in selected subdomains with separable architectures such as Separable PINN (SPINN), reducing the computational cost from quadratic (or cubic) to linear. We additionally demonstrate that gradient surgery extends to physics-informed Kolmogorov-Arnold Networks (PIKANs), yielding substantial accuracy improvements for 3D domain decomposition and confirming the generality of the proposed approach across network architectures.
- Abstract(参考訳): 物理情報ニューラルネットワーク(PINN)のような科学的機械学習手法は、複雑なジオメトリ上の偏微分方程式(PDE)を解きながら、よりよいスケーラビリティのためにドメイン分解に依存している。
この作業は、ドメイン分解をプロジェクションベースの勾配手術でブリッジし、2Dおよび3D設定でこれらの競合を系統的に緩和する。
我々はPCGradとConFIGという2つの既存のプロジェクションベースアルゴリズムを評価し、複数の重なり合うインタフェースを持つ3Dドメインのような特定のシナリオにおいて、それらの性能劣化を識別する。
この制限に対処するため,Norm-PCGradを提案する。
ベンチマーク全体では、Norm-PCGradはグラデーション手術のないトレーニングや、PCGradやConFIGのような既存のアルゴリズムと比較して、最小の相対的な$L_2$エラーを常に達成し、計算オーバーヘッドは無視できない。
拡張PINN(XPINN)などのドメイン分解フレームワークの計算効率を向上させるため,選択したサブドメインのバニラPINNを分離可能なPINN(SPINN)などの分離可能なアーキテクチャに置き換えることを提案し,計算コストを2次(あるいは3次)から線形に削減した。
さらに,3次元領域分解の精度向上と,提案手法のネットワークアーキテクチャ全体に対する一般化性を確認することを目的として,物理インフォームドのKolmogorov-Arnold Networks (PIKANs) に勾配手術が適用可能であることを実証した。
関連論文リスト
- GAIA: Geometry-Adaptive Operator Learning for Forward and Inverse Problems [17.161755403211252]
本稿では,領域境界と内界分布を幾何学トークンに符号化する演算子学習モデルであるGeometry-Adaptive Integral Autoencoder (GAIA)を紹介する。
これにより、前方(BVPを含む)と任意の領域上の逆問題に対する単一のアーキテクチャが得られる。
我々はGAIAを7つの2Dおよび3Dベンチマークで評価し、そのうち4つは逆問題とBVPに対する新しいまたは実質的に拡張されたベンチマークである。
論文 参考訳(メタデータ) (2026-07-01T16:14:22Z) - Joint Optimization of Model Partitioning and Resource Allocation for Anti-Jamming Collaborative Inference Systems [52.842088497389746]
この手紙は、悪意のあるジャマーの存在下での、アンチジャミングの協調推論システムに焦点を当てている。
まず、ジャミングとDNNパーティショニングがデータ回帰による推測精度に与える影響を解析する。
問題を3つのサブプロブレムに分解する,効率的な交互最適化アルゴリズムを提案する。
論文 参考訳(メタデータ) (2026-03-03T03:52:52Z) - Tail-Aware Post-Training Quantization for 3D Geometry Models [58.79500829118265]
ポストトレーニング量子化(PTQ)は、再トレーニングなしに効率的な推論を可能にする。
PTQは複雑な特徴分布と禁止キャリブレーションオーバーヘッドのために、3Dモデルに効果的に転送できない。
3次元幾何学学習のためのTail-Aware Post-Training Quantization PipelineであるTAPTQを提案する。
論文 参考訳(メタデータ) (2026-02-02T07:21:15Z) - Adaptive Mesh-Quantization for Neural PDE Solvers [51.26961483962011]
グラフニューラルネットワークは複雑なジオメトリや境界条件に必要な不規則なメッシュを処理できるが、それでもすべてのノードで一様計算処理を適用できる。
適応メッシュ量子化(Adaptive Mesh Quantization): メッシュノード,エッジ,クラスタ特徴間の空間適応量子化であり,量子化モデルで使用されるビット幅を動的に調整する。
我々は,MP-PDEとGraphViTという2つの最先端モデルと統合して,複数のタスクのパフォーマンスを評価することで,フレームワークの有効性を実証する。
論文 参考訳(メタデータ) (2025-11-23T14:47:24Z) - Gated X-TFC: Soft Domain Decomposition for Forward and Inverse Problems in Sharp-Gradient PDEs [0.0]
Gated X-TFCは、前方および逆問題の両方のための新しいフレームワークである。
ソフトで学習されたドメイン分解によって制限を克服する。
ゲーテッドX-TFCは、計算効率の精度と劇的な改善を実現している。
論文 参考訳(メタデータ) (2025-10-01T15:43:02Z) - Solved in Unit Domain: JacobiNet for Differentiable Coordinate-Transformed PINNs [8.879523745749973]
JacobiNetは学習ベースの座標変換PINNフレームワークである。
エンドツーエンドの差別化可能なアーキテクチャにおいて、ドメインマッピングとPDE解決を緩和します。
予測精度を平均3.65*で改善し、10*以上のスピードをアップデモする強力な一般化、精度、効率性を実現している。
論文 参考訳(メタデータ) (2025-08-04T15:45:03Z) - Decentralized Nonconvex Composite Federated Learning with Gradient Tracking and Momentum [78.27945336558987]
分散サーバ(DFL)はクライアント・クライアント・アーキテクチャへの依存をなくす。
非滑らかな正規化はしばしば機械学習タスクに組み込まれる。
本稿では,これらの問題を解決する新しいDNCFLアルゴリズムを提案する。
論文 参考訳(メタデータ) (2025-04-17T08:32:25Z) - Dual Cone Gradient Descent for Training Physics-Informed Neural Networks [0.0]
物理インフォームド・デュアルニューラルネットワーク(PINN)は偏微分方程式の解法として注目されている。
コーン領域内に落下するのを確実にするために、更新された勾配の方向を調節する新しいフレームワークであるDual Cone Gradient Descent (DCGD)を提案する。
論文 参考訳(メタデータ) (2024-09-27T03:27:46Z) - Error Analysis of Three-Layer Neural Network Trained with PGD for Deep Ritz Method [7.723218675113336]
我々はディープ・リッツ法(英語版)の枠組み内に3層タンニューラルネットを用い、二階楕円方程式を解く。
我々は3層ネットワークをトレーニングするために、予測勾配降下を行い、そのグローバル収束を確立する。
サンプルサイズ$n$の誤差を提示し、ネットワーク深さ、幅、ステップサイズ、および予測勾配降下アルゴリズムの反復数の設定方法についてのガイダンスを提供する。
論文 参考訳(メタデータ) (2024-05-19T05:07:09Z) - Tunable Complexity Benchmarks for Evaluating Physics-Informed Neural
Networks on Coupled Ordinary Differential Equations [64.78260098263489]
本研究では,より複雑に結合した常微分方程式(ODE)を解く物理インフォームドニューラルネットワーク(PINN)の能力を評価する。
PINNの複雑性が増大するにつれて,これらのベンチマークに対する正しい解が得られないことが示される。
PINN損失のラプラシアンは,ネットワーク容量の不足,ODEの条件の低下,局所曲率の高さなど,いくつかの理由を明らかにした。
論文 参考訳(メタデータ) (2022-10-14T15:01:32Z) - InverseForm: A Loss Function for Structured Boundary-Aware Segmentation [80.39674800972182]
逆変換ネットワークを用いたセマンティックセグメンテーションのための新しい境界認識損失項を提案する。
このプラグイン損失項は境界変換の捕捉におけるクロスエントロピー損失を補完する。
室内および屋外のセグメンテーションベンチマークにおける損失関数の定量的および定性的効果を解析した。
論文 参考訳(メタデータ) (2021-04-06T18:52:45Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。