論文の概要: Optimization of randomized neural networks for transfer operator approximation

• arxiv url: http://arxiv.org/abs/2605.23689v1
• Date: Fri, 22 May 2026 14:47:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-25 17:29:20.390966
• Title: Optimization of randomized neural networks for transfer operator approximation
• Title（参考訳）: トランスファー演算子近似のためのランダム化ニューラルネットワークの最適化
• Authors: Mohammad Tabish, Stefan Klus,
• Abstract要約: RaNNDyは、転送演算子のデータ駆動近似のためのランダム化されたニューラルネットワークアーキテクチャである。 ネットワークの隠されたレイヤの重みとバイアスはランダムに固定され、出力層のみが訓練される。 これは、完全に最適化されたニューラルネットワーク、特に出力層に対するクローズドフォームソリューションに対して、いくつかの利点がある。
• 参考スコア（独自算出の注目度）: 0.5027571997864707
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: RaNNDy is a randomized neural network architecture for the data-driven approximation of transfer operators associated with complex dynamical systems. The weights and biases of the hidden layers of the network are randomly initialized and kept fixed, only the output layer is trained. This has several advantages over fully optimized neural networks, notably a closed-form solution for the output layer and significantly lower training costs. Despite these advantages, RaNNDy is restricted to the initial selection of weights and biases that parametrize the basis functions required for the operator approximation. Since the basis functions are determined by the activation function, choosing an appropriate activation function for the hidden layers is crucial. In this work, we propose an algorithm that optimizes the activation function itself, while keeping the weights and biases in the randomized neural network fixed, providing a more suitable dictionary. We illustrate the efficacy of the approach using various benchmark problems, including stochastic differential equations and random walks on graphons.
• Abstract（参考訳）: RaNNDyは、複雑な力学系に関連する転送演算子のデータ駆動近似のためのランダム化されたニューラルネットワークアーキテクチャである。 ネットワークの隠されたレイヤの重みとバイアスはランダムに初期化され、固定され、出力層のみが訓練される。 これは、完全に最適化されたニューラルネットワーク、特に出力層に対するクローズドフォームソリューションに対するいくつかのアドバンテージがあり、トレーニングコストが大幅に削減される。 これらの利点にもかかわらず、RaNNDyは演算子近似に必要な基底関数をパラメータ化する重みとバイアスの最初の選択に制限される。 基本関数は活性化関数によって決定されるので、隠蔽層に対して適切な活性化関数を選択することが重要である。 本研究では、ランダム化されたニューラルネットワークの重みとバイアスを固定しつつ、アクティベーション関数自体を最適化するアルゴリズムを提案し、より適切な辞書を提供する。 本稿では,確率微分方程式やランダムウォークなど,様々なベンチマーク問題を用いたアプローチの有効性について述べる。

関連論文リスト

• SmartMixed: A Two-Phase Training Strategy for Adaptive Activation Function Learning in Neural Networks [0.0]
  ネットワークが最適なニューロン単位のアクティベーション関数を学習できるようにするための2段階のトレーニング戦略であるSmartMixedを導入する。 We evaluate SmartMixed on the MNIST dataset using feedforward neural network of various depths。
  論文  参考訳（メタデータ） (2025-10-25T22:46:37Z)
• How deep is your network? Deep vs. shallow learning of transfer operators [0.4473327661758546]
  我々は、データから転送演算子とそのスペクトル分解を学習するためのRaNNDyと呼ばれるランダム化ニューラルネットワークアプローチを提案する。 主な利点は、精度の顕著な低下がなければ、このアプローチがトレーニング時間とリソースを大幅に削減することです。 複素力学系の挙動解析に重要な応用があるクープマン作用素やペロン・フロベニウス作用素など、様々な力学作用素に対する結果を示す。
  論文  参考訳（メタデータ） (2025-09-24T09:38:42Z)
• Points of non-linearity of functions generated by random neural networks [0.0]
  1つの隠れ活性化層、任意の幅、ReLU活性化関数を持つニューラルネットワークによって出力される実数から実数への関数を考える。 非線型性の点の期待分布を計算する。
  論文  参考訳（メタデータ） (2023-04-19T17:40:19Z)
• Promises and Pitfalls of the Linearized Laplace in Bayesian Optimization [73.80101701431103]
  線形化ラプラス近似(LLA)はベイズニューラルネットワークの構築に有効で効率的であることが示されている。 ベイズ最適化におけるLLAの有用性について検討し,その性能と柔軟性を強調した。
  論文  参考訳（メタデータ） (2023-04-17T14:23:43Z)
• Provable Data Subset Selection For Efficient Neural Network Training [73.34254513162898]
  本稿では,任意の放射基底関数ネットワーク上での入力データの損失を近似する,emphRBFNNのコアセットを構成するアルゴリズムについて紹介する。 次に、一般的なネットワークアーキテクチャやデータセット上で、関数近似とデータセットサブセットの選択に関する経験的評価を行う。
  論文  参考訳（メタデータ） (2023-03-09T10:08:34Z)
• Globally Optimal Training of Neural Networks with Threshold Activation Functions [63.03759813952481]
  しきい値アクティベートを伴うディープニューラルネットワークの重み劣化正規化学習問題について検討した。 ネットワークの特定の層でデータセットを破砕できる場合に、簡易な凸最適化の定式化を導出する。
  論文  参考訳（メタデータ） (2023-03-06T18:59:13Z)
• Permutation Equivariant Neural Functionals [92.0667671999604]
  この研究は、他のニューラルネットワークの重みや勾配を処理できるニューラルネットワークの設計を研究する。 隠れた層状ニューロンには固有の順序がないため, 深いフィードフォワードネットワークの重みに生じる置換対称性に着目する。 実験の結果, 置換同変ニューラル関数は多種多様なタスクに対して有効であることがわかった。
  論文  参考訳（メタデータ） (2023-02-27T18:52:38Z)
• Consensus Function from an $L_p^q-$norm Regularization Term for its Use as Adaptive Activation Functions in Neural Networks [0.0]
  本稿では,学習過程においてその形状に適応する暗黙的,パラメトリックな非線形活性化関数の定義と利用を提案する。 この事実は、ネットワーク内で最適化するパラメータの空間を増大させるが、柔軟性を高め、ニューラルネットワークの概念を一般化する。 予備的な結果は、この種の適応的アクティベーション関数によるニューラルネットワークの使用は、回帰や分類の例における誤差を減少させることを示している。
  論文  参考訳（メタデータ） (2022-06-30T04:48:14Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。