論文の概要: An improved periodic activation for PINNs reconstructing convective flows
- arxiv url: http://arxiv.org/abs/2609.21798v1
- Date: Fri, 18 Sep 2026 14:13:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 00:05:17.6483
- Title: An improved periodic activation for PINNs reconstructing convective flows
- Title(参考訳): 対流流を再構成するPINNの周期的活性化の改善
- Abstract要約: 複雑な指数関数を使い、活性化関数として正弦出力と余弦出力のペアを生成するネットワークアーキテクチャについて検討する。
シンアクティベートされた多層パーセプトロンと比較すると、トレーニングステップあたりの計算コストを大幅に増加させることなく、再構成品質が大幅に向上したことが分かる。
- 参考スコア(独自算出の注目度): 4.231181719953954
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Architectures with periodic activation functions have already been shown to be beneficial in comparison to monotonic counterparts for a wide range of applications of physics-informed neural networks. Here, we investigate a network architecture which uses the complex exponential function, generating pairs of sine and cosine outputs as activation functions. Testing it against comparable, sine-activated multi-layer perceptrons for the task of temperature reconstruction from sparse velocity data for cubic Rayleigh-Bénard convection reveals significant improvements in the reconstruction quality without a substantial increase in computational cost per training step. Vice versa, the improved architecture enables reaching similar reconstruction qualities for a fraction of the expense. Analyzing the mathematical structure of these networks points to the improvements being rooted in the property of passing both a sine and cosine function forward. This way, the subsequent layer is able to adapt the phase of the provided latent periodic functions, and doing it individually for each of its neurons.
- Abstract(参考訳): 周期的アクティベーション関数を持つアーキテクチャは、物理インフォームドニューラルネットワークの幅広い応用において、単調なアーキテクチャと比較して既に有益であることが示されている。
本稿では,複雑な指数関数を用いて,正弦出力と余弦出力のペアを活性化関数として生成するネットワークアーキテクチャについて検討する。
立方体レイリー・ベナード対流のスパース速度データから温度再構成を行うために、シイン活性化多層パーセプトロンを比較検討したところ、トレーニング1歩あたりの計算コストを大幅に増加させることなく、再構成品質が大幅に向上したことが明らかとなった。
逆に、改良されたアーキテクチャは、コストのごく一部で、同様の再構築品質に達することができる。
これらのネットワークの数学的構造を分析することは、正弦関数と余弦関数の両方を前方に渡す性質に根ざした改善であることを示している。
このようにして、後続の層は提供された潜在周期関数の位相を適応させ、それぞれのニューロンに対して個別に行うことができる。
関連論文リスト
- Machine Learning-Augmented Acceleration of Iterative Ptychographic Reconstruction [56.83110460392765]
反復画像再構成アルゴリズムはコヒーレント・ディファレント・ディファレント・イメージングに広く用いられている。
本稿では, 反復的画像再構成を高速化する機械学習によるアプローチを提案する。
論文 参考訳(メタデータ) (2026-05-01T21:46:58Z) - Deep-Unrolling Multidimensional Harmonic Retrieval Algorithms on Neuromorphic Hardware [78.17783007774295]
本稿では,高精度かつエネルギー効率の高い単発多次元高調波検索のための変換に基づくニューロモルフィックアルゴリズムの可能性について検討する。
複雑な値の畳み込み層と活性化をスパイクニューラルネットワーク(SNN)に変換する新しい手法を開発した。
変換されたSNNは、元のCNNに比べて性能が低下し、ほぼ5倍の電力効率を実現している。
論文 参考訳(メタデータ) (2024-12-05T09:41:33Z) - Deep Learning without Global Optimization by Random Fourier Neural Networks [0.0]
本稿では、ランダムな複雑な指数関数活性化関数を利用するディープニューラルネットワークの新しいトレーニングアルゴリズムを提案する。
提案手法では,マルコフ連鎖モンテカルロサンプリング法を用いてネットワーク層を反復的に訓練する。
複雑な指数的活性化関数を持つ残留ネットワークの理論的近似速度を一貫して達成する。
論文 参考訳(メタデータ) (2024-07-16T16:23:40Z) - TCCT-Net: Two-Stream Network Architecture for Fast and Efficient Engagement Estimation via Behavioral Feature Signals [58.865901821451295]
本稿では,新しい2ストリーム機能融合 "Tensor-Convolution and Convolution-Transformer Network" (TCCT-Net) アーキテクチャを提案する。
時間空間領域における意味のあるパターンをよりよく学習するために、ハイブリッド畳み込み変換器を統合する「CT」ストリームを設計する。
並行して、時間周波数領域からリッチなパターンを効率的に抽出するために、連続ウェーブレット変換(CWT)を用いて情報を2次元テンソル形式で表現する「TC」ストリームを導入する。
論文 参考訳(メタデータ) (2024-04-15T06:01:48Z) - A Recursively Recurrent Neural Network (R2N2) Architecture for Learning
Iterative Algorithms [64.3064050603721]
本研究では,リカレントニューラルネットワーク (R2N2) にランゲ・クッタニューラルネットワークを一般化し,リカレントニューラルネットワークを最適化した反復アルゴリズムの設計を行う。
本稿では, 線形方程式系に対するクリロフ解法, 非線形方程式系に対するニュートン・クリロフ解法, 常微分方程式に対するルンゲ・クッタ解法と類似の繰り返しを計算問題クラスの入力・出力データに対して提案した超構造内における重みパラメータの正規化について述べる。
論文 参考訳(メタデータ) (2022-11-22T16:30:33Z) - Oscillatory Fourier Neural Network: A Compact and Efficient Architecture
for Sequential Processing [16.69710555668727]
本稿では,コサイン活性化と時系列処理のための時間変化成分を有する新しいニューロンモデルを提案する。
提案したニューロンは、スペクトル領域に逐次入力を投影するための効率的なビルディングブロックを提供する。
IMDBデータセットの感情分析に提案されたモデルを適用すると、5時間以内のテスト精度は89.4%に達する。
論文 参考訳(メタデータ) (2021-09-14T19:08:07Z) - The staircase property: How hierarchical structure can guide deep
learning [38.713566366330326]
本稿では,深層ニューラルネットワークが階層的に学習できるデータ分布の構造特性を明らかにする。
この特性を満たす関数は、通常のニューラルネットワーク上で階層的に座標降下を用いて時間的に学習できることを実証する。
論文 参考訳(メタデータ) (2021-08-24T08:19:05Z) - Unfolding recurrence by Green's functions for optimized reservoir
computing [3.7823923040445995]
皮質ネットワークは強くリカレントであり、ニューロンは固有の時間的ダイナミクスを持っている。
これにより、ディープフィードフォワードネットワークとは切り離される。
本稿では,フィードフォワードネットワークにリンクする可解リカレントネットワークモデルを提案する。
論文 参考訳(メタデータ) (2020-10-13T09:17:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。