論文の概要: An Imbalanced Learning-based Sampling Method for Physics-informed Neural Networks
- arxiv url: http://arxiv.org/abs/2501.11222v1
- Date: Mon, 20 Jan 2025 02:16:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-01-22 14:25:25.742720
- Title: An Imbalanced Learning-based Sampling Method for Physics-informed Neural Networks
- Title(参考訳): 物理インフォームドニューラルネットワークの非平衡学習に基づくサンプリング法
- Authors: Jiaqi Luo, Yahong Yang, Yuan Yuan, Shixin Xu, Wenrui Hao,
- Abstract要約: RSmoteは、物理インフォームドニューラルネットワーク(PINN)の性能向上を目的とした、革新的な局所適応サンプリング技術である。
従来の残留型適応サンプリング法は、PINNの精度を高めるのに有効であるが、効率と高いメモリ消費に苦しむことが多い。
- 参考スコア(独自算出の注目度): 4.609724496676172
- License:
- Abstract: This paper introduces Residual-based Smote (RSmote), an innovative local adaptive sampling technique tailored to improve the performance of Physics-Informed Neural Networks (PINNs) through imbalanced learning strategies. Traditional residual-based adaptive sampling methods, while effective in enhancing PINN accuracy, often struggle with efficiency and high memory consumption, particularly in high-dimensional problems. RSmote addresses these challenges by targeting regions with high residuals and employing oversampling techniques from imbalanced learning to refine the sampling process. Our approach is underpinned by a rigorous theoretical analysis that supports the effectiveness of RSmote in managing computational resources more efficiently. Through extensive evaluations, we benchmark RSmote against the state-of-the-art Residual-based Adaptive Distribution (RAD) method across a variety of dimensions and differential equations. The results demonstrate that RSmote not only achieves or exceeds the accuracy of RAD but also significantly reduces memory usage, making it particularly advantageous in high-dimensional scenarios. These contributions position RSmote as a robust and resource-efficient solution for solving complex partial differential equations, especially when computational constraints are a critical consideration.
- Abstract(参考訳): 本稿では,物理インフォームドニューラルネットワーク(PINN)の性能向上に資する局所適応サンプリング技術であるResidual-based Smote(RSmote)を提案する。
従来の残留型適応サンプリング法は、PINNの精度を高めるのに有効であるが、特に高次元問題において、効率と高メモリ消費に苦しむことが多い。
RSmoteは、高残量領域をターゲットとし、不均衡学習からサンプリングプロセスを洗練するためのオーバーサンプリング技術を採用することで、これらの課題に対処する。
本手法は,より効率的な計算資源管理におけるRSmoteの有効性を裏付ける厳密な理論的解析によって支えられている。
RSmoteを,様々な次元と微分方程式にまたがって,最先端のResidual-based Adaptive Distribution (RAD)法と比較した。
その結果、RSmoteはRADの精度を達成または超えるだけでなく、メモリ使用量を大幅に削減し、特に高次元シナリオにおいて有利であることがわかった。
これらの貢献により、RSmoteは複雑な偏微分方程式を解くための堅牢で資源効率のよい解として位置づけられる。
関連論文リスト
- Optimization of Actuarial Neural Networks with Response Surface Methodology [0.0]
本研究では,CANNの性能を最適化するために因子設計および応答面法(RSM)を用いる。
統計的に重要でないハイパーパラメーターを減らし,288から188に減らした。
論文 参考訳(メタデータ) (2024-10-01T15:45:41Z) - Robust Neural Pruning with Gradient Sampling Optimization for Residual Neural Networks [0.0]
この研究は、勾配サンプリング最適化技術、特にStochGradAdamをニューラルネットワークのプルーニングプロセスに統合するパイオニアとなる。
我々の主な目的は、資源制約のあるシナリオにおいて重要なプルーニングニューラルネットワークモデルの精度を維持するという重要な課題に対処することである。
論文 参考訳(メタデータ) (2023-12-26T12:19:22Z) - Latent assimilation with implicit neural representations for unknown dynamics [6.682908186025083]
本研究は、LAINR(Latent Assimilation with Implicit Neural Representations)と呼ばれる新しい同化フレームワークを提案する。
Spherical Implicit Neural Representation (SINR)とデータ駆動型ニューラルネットワークの不確実性推定器を導入することにより、LAINRは同化過程における効率を向上させる。
論文 参考訳(メタデータ) (2023-09-18T08:33:23Z) - Implicit Stochastic Gradient Descent for Training Physics-informed
Neural Networks [51.92362217307946]
物理インフォームドニューラルネットワーク(PINN)は、前方および逆微分方程式問題の解法として効果的に実証されている。
PINNは、近似すべきターゲット関数が高周波またはマルチスケールの特徴を示す場合、トレーニング障害に閉じ込められる。
本稿では,暗黙的勾配降下法(ISGD)を用いてPINNを訓練し,トレーニングプロセスの安定性を向上させることを提案する。
論文 参考訳(メタデータ) (2023-03-03T08:17:47Z) - Learning k-Level Structured Sparse Neural Networks Using Group Envelope Regularization [4.0554893636822]
制約のあるリソースに大規模ディープニューラルネットワークをデプロイするための新しいアプローチを導入する。
この手法は推論時間を短縮し、メモリ需要と消費電力を減らすことを目的とする。
論文 参考訳(メタデータ) (2022-12-25T15:40:05Z) - FasterPose: A Faster Simple Baseline for Human Pose Estimation [65.8413964785972]
本稿では,高速ポーズ推定のためのLR表現を用いた費用対効果ネットワークの設計パラダイムであるFasterPoseを提案する。
我々は,FasterPoseのトレーニング挙動について検討し,収束を加速する新しい回帰クロスエントロピー(RCE)損失関数を定式化する。
従来のポーズ推定ネットワークと比較すると,FLOPの58%が減少し,精度が1.3%向上した。
論文 参考訳(メタデータ) (2021-07-07T13:39:08Z) - Fast Distributionally Robust Learning with Variance Reduced Min-Max
Optimization [85.84019017587477]
分散的ロバストな教師付き学習は、現実世界のアプリケーションのための信頼性の高い機械学習システムを構築するための重要なパラダイムとして登場している。
Wasserstein DRSLを解くための既存のアルゴリズムは、複雑なサブプロブレムを解くか、勾配を利用するのに失敗する。
我々はmin-max最適化のレンズを通してwaserstein drslを再検討し、スケーラブルで効率的に実装可能な超勾配アルゴリズムを導出する。
論文 参考訳(メタデータ) (2021-04-27T16:56:09Z) - Optimization-driven Machine Learning for Intelligent Reflecting Surfaces
Assisted Wireless Networks [82.33619654835348]
インテリジェントサーフェス(IRS)は、個々の散乱素子の位相シフトを制御して無線チャネルを再形成するために用いられる。
散乱素子の規模が大きいため、受動ビームフォーミングは一般に高い計算複雑性によって挑戦される。
本稿では、IRS支援無線ネットワークの性能向上のための機械学習(ML)アプローチに焦点を当てる。
論文 参考訳(メタデータ) (2020-08-29T08:39:43Z) - ALF: Autoencoder-based Low-rank Filter-sharing for Efficient
Convolutional Neural Networks [63.91384986073851]
オートエンコーダを用いた低ランクフィルタ共有技術(ALF)を提案する。
ALFは、ネットワークパラメータの70%、オペレーションの61%、実行時間の41%を削減し、精度の低下を最小限にしている。
論文 参考訳(メタデータ) (2020-07-27T09:01:22Z) - Deep Adaptive Inference Networks for Single Image Super-Resolution [72.7304455761067]
シングルイメージ超解像(SISR)は、ディープ畳み込みニューラルネットワーク(CNN)の展開により、近年大きく進歩している。
本稿では,深部SISR(AdaDSR)の適応型推論ネットワークを活用することで,この問題に対処する。
我々のAdaDSRは、SISRモデルをバックボーンとし、画像の特徴とリソース制約を入力として取り、ローカルネットワーク深さのマップを予測する軽量アダプタモジュールを備える。
論文 参考訳(メタデータ) (2020-04-08T10:08:20Z) - Distributionally Robust Deep Learning using Hardness Weighted Sampling [5.277562268045534]
本稿では、ディープラーニングの文脈に特に適した機械学習におけるDROの原理的かつ効率的なアルゴリズムを提案する。
MRIにおける胎児脳の3次元MRIセグメント化と脳腫瘍セグメント化に関する実験は、我々のアプローチの有効性と有用性を示している。
論文 参考訳(メタデータ) (2020-01-08T18:02:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。