論文の概要: Adaptive-Distribution Randomized Neural Networks for PDEs: A Low-Dimensional Distribution-Learning Framework

• arxiv url: http://arxiv.org/abs/2604.23999v1
• Date: Mon, 27 Apr 2026 03:25:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-28 17:12:07.718983
• Title: Adaptive-Distribution Randomized Neural Networks for PDEs: A Low-Dimensional Distribution-Learning Framework
• Title（参考訳）: PDEのための適応分布ランダム化ニューラルネットワーク:低次元分布学習フレームワーク
• Authors: You Yang, Fei Wang,
• Abstract要約: ランダム化されたニューラルネットワーク(RaNN)は、高価なエンドツーエンドトレーニングをリニアな最小二乗で置き換えることで、ランダム化された隠れた特徴を解消するため、偏微分方程式(PDE)にとって魅力的である。 それらの実用性能は隠れ層パラメータのサンプリング分布に強く依存する。 この分布感度は、ランダム化されたニューラルPDEソルバにおける中心的なボトルネックである。 本稿では,適応分布ランダム化ニューラルネットワーク(adaptive-Distribution Randomized Neural Networks,AD-RaNN)を提案する。
• 参考スコア（独自算出の注目度）: 12.844261326264416
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Randomized neural networks (RaNNs) are attractive for partial differential equations (PDEs) because they replace expensive end-to-end training with a linear least-squares solve over randomized hidden features. Their practical performance, however, depends strongly on the sampling distribution of the hidden-layer parameters, which is usually chosen heuristically and problem by problem. This distribution sensitivity is a central bottleneck in randomized neural PDE solvers. In this work, we propose Adaptive-Distribution Randomized Neural Networks (AD-RaNN), a framework that promotes randomized feature generation from a fixed heuristic choice to a low-dimensional adaptive optimization problem. Instead of training all hidden weights and biases, AD-RaNN parameterizes the hidden-feature sampling distribution by a low-dimensional vector p and optimizes only p, thereby preserving the least-squares structure of RaNNs while reducing manual distribution tuning. The method uses a two-stage strategy: ridge-regularized reduced training for stable distribution-parameter optimization, followed by an unregularized least-squares refit for final solution recovery. We develop two adaptive mechanisms, PDE-Driven Adaptive Distribution (PDAD) and Data-Driven Adaptive Distribution (DDAD), and deploy them in space-time solvers, discrete-time solvers, and operator-learning models. We also incorporate an adaptive layer-growth enhancement for localized structures. For the reduced optimization problem, we establish well-posedness of the reduced objectives, consistency of ridge-regularized minimizers, an efficient gradient formula, and a practical lower-bound estimate for the ridge parameter. Numerical experiments on benchmark problems show that AD-RaNN provides an effective distribution-level adaptation mechanism, reduces reliance on hand-crafted hidden-feature distributions, and achieves strong empirical accuracy.
• Abstract（参考訳）: ランダム化されたニューラルネットワーク(RaNN)は、高価なエンドツーエンドトレーニングをリニアな最小二乗で置き換えることで、ランダム化された隠れた特徴を解消するため、偏微分方程式(PDE)にとって魅力的である。 しかし, 実際の性能は, 隠れ層パラメータのサンプリング分布に大きく依存する。 この分布感度は、ランダム化されたニューラルPDEソルバにおける中心的なボトルネックである。 本研究では,適応分布ランダム化ニューラルネットワーク(adaptive-Distribution Randomized Neural Networks,AD-RaNN)を提案する。 隠れた重みとバイアスを全て訓練する代わりに、AD-RaNNは低次元ベクトル p で隠れた状態のサンプリング分布をパラメータ化し、p だけを最適化し、RaNN の最小二乗構造を保ちながら、手動の分布調整を減らした。 この方法は2段階の戦略を用いており、安定な分布パラメータ最適化のためのリッジ正規化還元トレーニングと、最終解回復のための非正規化最小二乗補正である。 PDE-Driven Adaptive Distribution (PDAD) と Data-Driven Adaptive Distribution (DDAD) の2つの適応メカニズムを開発し、それらを時空分解器、離散時間分解器、演算子学習モデルに展開する。 また,局所構造に対する適応層成長の促進も取り入れた。 最適化問題を削減するために、削減対象の適正性、リッジ正規化最小化器の整合性、効率的な勾配式、およびリッジパラメータの実用的な下限推定値を確立する。 ベンチマーク問題に関する数値実験により、AD-RaNNは効果的な分布レベル適応機構を提供し、手作りの隠れ機能分布への依存を低減し、強力な経験的精度を実現することが示された。

関連論文リスト

• Low-Rank Adaptation of Evolutionary Deep Neural Networks for Efficient Learning of Time-Dependent PDEs [11.156869211296156]
  本稿では,低ランク部分空間にパラメータ進化を制約する低ランク進化深層ニューラルネットワーク(LR-EDNN)を提案する。 LR-EDNNは、トレーニング可能なパラメータが大幅に少なく、計算コストが削減された同等の精度を実現する。
  論文  参考訳（メタデータ） (2025-09-19T20:17:31Z)
• Generative Diffusion Models for Resource Allocation in Wireless Networks [74.84410305593006]
  我々は、専門家を模倣し、最適な分布から新しいサンプルを生成するポリシーを訓練する。 生成したサンプルの逐次実行により,ほぼ最適性能を実現する。 電力制御のケーススタディにおいて数値的な結果を示す。
  論文  参考訳（メタデータ） (2025-04-28T21:44:31Z)
• Probabilistic Neural Networks (PNNs) with t-Distributed Outputs: Adaptive Prediction Intervals Beyond Gaussian Assumptions [2.77390041716769]
  確率的ニューラルネットワーク(PNN)は出力分布を生成し、予測間隔の構築を可能にする。 本稿では, 位置, スケール, 自由度でパラメータ化された t 分散出力を生成する t-Distributed Neural Networks (TDistNNs) を提案する。 我々は,TDistNNがガウスベースのPNNよりも狭い予測間隔を連続的に生成し,適切なカバレッジを維持していることを示す。
  論文  参考訳（メタデータ） (2025-03-16T04:47:48Z)
• RoPINN: Region Optimized Physics-Informed Neural Networks [66.38369833561039]
  物理インフォームドニューラルネットワーク(PINN)は偏微分方程式(PDE)の解法として広く応用されている。 本稿では,地域最適化としての新たな訓練パラダイムを提案し,理論的に検討する。 実践的なトレーニングアルゴリズムであるRerea Optimized PINN(RoPINN)は、この新しいパラダイムからシームレスに派生している。
  論文  参考訳（メタデータ） (2024-05-23T09:45:57Z)
• Adversarial Adaptive Sampling: Unify PINN and Optimal Transport for the Approximation of PDEs [2.526490864645154]
  ニューラルネットワークモデルにより与えられた近似解とトレーニングセットのランダムサンプルを同時に最適化する新しいminmax式を提案する。 鍵となる考え方は、深層生成モデルを用いてトレーニングセット内のランダムサンプルを調整し、近似されたPDE解によって誘導される残差が滑らかなプロファイルを維持することである。
  論文  参考訳（メタデータ） (2023-05-30T02:59:18Z)
• DAS: A deep adaptive sampling method for solving partial differential equations [2.934397685379054]
  偏微分方程式(PDE)を解くための深層適応サンプリング法(DAS)を提案する。 深部ニューラルネットワークを用いてPDEの解を近似し、深部生成モデルを用いてトレーニングセットを洗練させる新しいコロケーションポイントを生成する。 そこで本研究では,DAS法が誤差境界を低減し,数値実験によりその有効性を実証できることを示す理論的解析を行った。
  論文  参考訳（メタデータ） (2021-12-28T08:37:47Z)
• Sampling-free Variational Inference for Neural Networks with Multiplicative Activation Noise [51.080620762639434]
  サンプリングフリー変動推論のための後方近似のより効率的なパラメータ化を提案する。 提案手法は,標準回帰問題に対する競合的な結果をもたらし,大規模画像分類タスクに適している。
  論文  参考訳（メタデータ） (2021-03-15T16:16:18Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。