論文の概要: A Family of Adaptive Activation Functions for Mitigating Failure Modes in Physics-Informed Neural Networks
- arxiv url: http://arxiv.org/abs/2603.18328v1
- Date: Wed, 18 Mar 2026 22:24:40 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-20 17:19:05.870518
- Title: A Family of Adaptive Activation Functions for Mitigating Failure Modes in Physics-Informed Neural Networks
- Title（参考訳）: 物理インフォームドニューラルネットワークにおける故障モードの緩和のための適応活性化関数の一家系
- Abstract要約: 標準PINNの共通障害モードに触発された本研究は、適応ウェーブレットベースのアクティベーション関数の新たなファミリを導入する。
トレーニング可能なウェーブレット関数とトレーニング可能なあるいは固定された双曲接点関数とソフトプラス関数を組み合わせることにより、トレーニング安定性と表現力を大幅に向上させる。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Physics-Informed Neural Networks(PINNs) are a powerful and flexible learning framework that has gained significant attention in recent years. It has demonstrated strong performance across a wide range of scientific and engineering problems. In parallel, wavelets have been extensively used as efficient computational tools due to their strong approximation capabilities. Motivated by the common failure modes observed in standard PINNs, this work introduces a novel family of adaptive wavelet-based activation functions. The proposed activation functions significantly improve training stability and expressive power by combining trainable wavelet functions with either trainable or fixed hyperbolic tangent and softplus functions. Five distinct activation functions are developed within the PINN framework and systematically evaluated across four representative classes of partial differential equations (PDEs). Comprehensive comparisons using bar plots demonstrate improved robustness and accuracy compared to traditional activation functions. Furthermore, the proposed approach is validated through direct comparisons with baseline PINNs, transformer-based architectures such as PINNsFormer, and other deep learning models, highlighting its effectiveness and generality.
- Abstract（参考訳）: 物理インフォームドニューラルネットワーク(PINN)は強力で柔軟な学習フレームワークであり、近年大きな注目を集めている。
幅広い科学的・工学的な問題に対して強い性能を示してきた。
平行して、ウェーブレットはその強い近似能力のために効率的な計算ツールとして広く使われている。
標準PINNの共通障害モードに触発された本研究は、適応ウェーブレットベースのアクティベーション関数の新たなファミリを導入する。
トレーニング可能なウェーブレット関数とトレーニング可能なあるいは固定された双曲接点関数とソフトプラス関数を組み合わせることにより、トレーニング安定性と表現力を大幅に向上させる。
5つの異なる活性化関数がPINNフレームワーク内で開発され、偏微分方程式(PDE)の4つの代表クラスで体系的に評価される。
バープロットを用いた総合的な比較では、従来のアクティベーション関数と比較して堅牢性と精度が向上した。
さらに,提案手法は,ベースラインPINN,PINNsFormerなどのトランスフォーマーベースアーキテクチャ,その他のディープラーニングモデルと直接比較することにより,その有効性と汎用性を強調した。
関連論文リスト
- Feature Interaction Modeling for Physics-Informed Neural Networks and Neural Operators [1.2604738912025477]
因子化マシン(FMN)から派生した特徴的相互作用モジュールを物理インフォームドニューラルネットワーク(PIN)とニューラル演算子学習に組み込む。
まず,時間変動の相互作用を明示的に捉え,高次PDEの近似精度を向上させるFM-PINを提案する。
FM-Operator と FM-DeepONet は, 急勾配や不連続の非線形保存法則問題に対して特に有効である。
論文 参考訳（メタデータ） (2026-07-30T18:28:50Z) - Relay-Assisted Activation-Integrated SIM for Wireless Physical Neural Networks [53.64687377045908]
無線物理ニューラルネットワーク(WPNN)は、無線システムの物理層で直接ニューラルネットワークを実行するための有望なパラダイムとして登場した。
本稿では,アクティベーション統合された集積型知的準曲面(AI-SIM)に基づくリレー支援型WPNNアーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-04-05T18:07:13Z) - Neural Approximation and Its Applications [73.11802084858294]
トレーニングされていないニューラルネットワークをベース関数として活用することにより、ニューラルネットワークの基盤関数を導入する。
多変量関数近似のための神経近似(NeuApprox)パラダイムを提案する。
多様な多次元画像、光フィールドデータ、ビデオ、トラフィックデータ、ポイントクラウドデータの実験は、NeuApproxの有望な性能を示している。
論文 参考訳（メタデータ） (2026-03-04T06:05:43Z) - Improving physics-informed neural network extrapolation via transfer learning and adaptive activation functions [44.44497277876625]
物理情報ニューラルネットワーク(英: Physics-Informed Neural Networks、PINN)は、システムの物理法則を学習プロセスに組み込んだディープラーニングモデルである。
本稿では,PINNの補間性能を向上させるために,転送学習(TL)手法を提案する。
提案手法は, 平均L2誤差を平均40%, 平均絶対誤差を平均50%削減する。
論文 参考訳（メタデータ） (2025-07-16T22:19:53Z) - Fourier Multi-Component and Multi-Layer Neural Networks: Unlocking High-Frequency Potential [9.699640804685629]
本稿では,FMMNN(Fourier Multi-Component and Multi-Layer Neural Network)を紹介する。
我々は、FMMNNが高周波成分のモデリングに非常に効果的で柔軟なことを実証した。
また、FMMNNの最適化状況を分析し、標準の完全連結ニューラルネットワークよりもずっと好都合であることを示した。
論文 参考訳（メタデータ） (2025-02-26T09:12:52Z) - On the practical applicability of modern DFT functionals for chemical computations. Case study of DM21 applicability for geometry optimization [55.88862563823878]
本研究は,分子量予測におけるDM21関数の効率評価に焦点をあてる。
幾何最適化問題におけるDM21関数に対するPySCFの幾何最適化を実装した。
本研究は,DFTにおける幾何最適化におけるニューラルネットワーク機能の可能性と現状の課題を明らかにするものである。
論文 参考訳（メタデータ） (2025-01-21T14:01:06Z) - Learnable Activation Functions in Physics-Informed Neural Networks for Solving Partial Differential Equations [0.0]
偏微分方程式(PDE)の解法として物理情報ニューラルネットワーク(PINN)が誕生した。
これらの制限は、急激な振動、鋭い勾配、複雑な境界挙動を含む問題の精度に影響を与える。
これらの課題に対する解決策として,学習可能なアクティベーション関数について検討する。
論文 参考訳（メタデータ） (2024-11-22T18:25:13Z) - LeRF: Learning Resampling Function for Adaptive and Efficient Image Interpolation [64.34935748707673]
最近のディープニューラルネットワーク(DNN)は、学習データ前処理を導入することで、パフォーマンスを著しく向上させた。
本稿では,DNNが学習した構造的前提と局所的連続仮定の両方を活かした学習再サンプリング(Learning Resampling, LeRF)を提案する。
LeRFは空間的に異なる再サンプリング関数を入力画像ピクセルに割り当て、ニューラルネットワークを用いてこれらの再サンプリング関数の形状を予測する。
論文 参考訳（メタデータ） (2024-07-13T16:09:45Z) - Efficient and Flexible Neural Network Training through Layer-wise Feedback Propagation [49.44309457870649]
レイヤワイドフィードバックフィードバック(LFP)は、ニューラルネットワークのような予測器のための新しいトレーニング原則である。
LFPはそれぞれの貢献に基づいて個々のニューロンに報酬を分解する。
提案手法は,ネットワークの有用な部分と有害な部分の弱体化を両立させる手法である。
論文 参考訳（メタデータ） (2023-08-23T10:48:28Z) - Unification of popular artificial neural network activation functions [0.0]
本稿では,最も一般的なニューラルネットワーク活性化関数の統一表現について述べる。
分数計算のMittag-Leffler関数を採用することにより、フレキシブルでコンパクトな関数形式を提案する。
論文 参考訳（メタデータ） (2023-02-21T21:20:59Z) - Otimizacao de pesos e funcoes de ativacao de redes neurais aplicadas na
previsao de series temporais [0.0]
本稿では,ニューラルネットワークにおける自由パラメータ非対称活性化関数群の利用を提案する。
定義された活性化関数の族は普遍近似定理の要求を満たすことを示す。
ニューラルネットワークの処理ユニット間の接続の重み付けと自由パラメータを用いたこの活性化関数系のグローバル最適化手法を用いる。
論文 参考訳（メタデータ） (2021-07-29T23:32:15Z) - eQE 2.0: Subsystem DFT Beyond GGA Functionals [58.720142291102135]
サブシステム-DFT (subsystem-DFT) は、大規模電子構造計算の計算コストを劇的に削減することができる。
sDFTの鍵となる要素は、その精度を支配する非付加的な運動エネルギーと交換相関関数である。
eQE 2.0は従来のコーンシャムDFTやCCSD(T)と比較して優れた相互作用エネルギーを提供する
論文 参考訳（メタデータ） (2021-03-12T22:26:36Z) - Variational Monte Carlo calculations of $\mathbf{A\leq 4}$ nuclei with
an artificial neural-network correlator ansatz [62.997667081978825]
光核の基底状態波動関数をモデル化するためのニューラルネットワーク量子状態アンサッツを導入する。
我々は、Aleq 4$核の結合エネルギーと点核密度を、上位のピオンレス実効場理論から生じるものとして計算する。
論文 参考訳（メタデータ） (2020-07-28T14:52:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。