論文の概要: Wave-PDE Nets: Trainable Wave-Equation Layers as an Alternative to Attention
- arxiv url: http://arxiv.org/abs/2510.04304v1
- Date: Sun, 05 Oct 2025 17:52:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-07 16:52:59.574886
- Title: Wave-PDE Nets: Trainable Wave-Equation Layers as an Alternative to Attention
- Title(参考訳): Wave-PDEネット:注意の代替としてトレーニング可能なWave-Equation Layers
- Authors: Harshil Vejendla,
- Abstract要約: ウェーブ-PDEネット(Wave-PDE Nets)は、2階波動方程式の微分可能なシミュレーションであるニューラルネットワークである。
FFTに基づくシンプレクティックスペクトル解法は、この伝播をO(nlog n)時間で実現する。
言語とビジョンのベンチマークでは、Wave-PDE NetsはTransformerのパフォーマンスにマッチするか、超える。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We introduce Wave-PDE Nets, a neural architecture whose elementary operation is a differentiable simulation of the second-order wave equation. Each layer propagates its hidden state as a continuous field through a medium with trainable spatial velocity c(x) and damping {\gamma}(x). A symplectic spectral solver based on FFTs realises this propagation in O(nlog n) time. This oscillatory, global mechanism provides a powerful alternative to attention and first-order state-space models. We prove that a single Wave-PDE layer is a universal approximator. On language and vision benchmarks, Wave-PDE Nets match or exceed Transformer performance while demonstrating superior practical efficiency, reducing wall-clock time by up to 30% and peak memory by 25%. Ablation studies confirm the critical role of symplectic integration and a spectral Laplacian for stability and performance. Visualizations of the learned physical parameters reveal that the model learns intuitive strategies for information propagation. These results position Wave-PDE Nets as a computationally efficient and robust architecture with a strong physical inductive bias.
- Abstract(参考訳): 本稿では,2次波動方程式の微分可能シミュレーションを基本動作とするニューラルネットワークであるWave-PDE Netsを紹介する。
各層は、訓練可能な空間速度 c(x) と減衰 {\gamma}(x) を持つ媒質を介して、その隠れた状態を連続体として伝播する。
FFTに基づくシンプレクティックスペクトル解法は、この伝播をO(nlog n)時間で実現する。
この発振的大域的なメカニズムは、注意と一階状態空間モデルに対する強力な代替手段を提供する。
我々は単一のWave-PDE層が普遍近似器であることを証明した。
言語とビジョンのベンチマークでは、Wave-PDE NetsはTransformerのパフォーマンスにマッチまたは超過し、実用的な効率を向上し、ウォールクロック時間を最大30%削減し、ピークメモリを25%削減した。
アブレーション研究はシンプレクティック積分とスペクトルラプラシアンの安定性と性能に対する重要な役割を証明している。
学習した物理パラメータの可視化により、モデルは情報伝達のための直感的な戦略を学習することが明らかになった。
これらの結果は、Wave-PDE Netsを強力な物理的帰納バイアスを持つ計算効率が高く堅牢なアーキテクチャとして位置づけている。
関連論文リスト
- Physics-informed waveform inversion using pretrained wavefield neural operators [9.048550821334116]
フルウェーブフォームインバージョン(FWI)は高分解能地下モデルの再構築に不可欠である。
学習波動場ニューラル演算子を用いてFWIを加速する最近の試みは、効率と微分可能性の有望性を示している。
ニューラル演算子に基づくFWIの効率を維持しつつ、精度の反転を高める新しい物理インフォームドFWIフレームワークを提案する。
論文 参考訳(メタデータ) (2025-09-10T19:57:18Z) - Wave-Based Semantic Memory with Resonance-Based Retrieval: A Phase-Aware Alternative to Vector Embedding Stores [51.56484100374058]
本稿では,波動パターン$psi(x) = A(x) eiphi(x)$として知識をモデル化し,共振に基づく干渉によってそれを検索する新しいフレームワークを提案する。
このアプローチは振幅情報と位相情報の両方を保存し、より表現的かつ堅牢な意味的類似性を実現する。
論文 参考訳(メタデータ) (2025-08-21T10:13:24Z) - An effective physics-informed neural operator framework for predicting wavefields [10.94738894332709]
我々はヘルムホルツ方程式を効率的に解くために物理インフォームド畳み込みニューラル演算子(PICNO)を導入する。
PICNOは、均質媒質と速度モデルに対応する背景波動場を入力関数空間とし、散乱波動場を出力関数空間として生成する。
限られたトレーニングサンプルであっても、精度の高い精度の予測が可能になる。
論文 参考訳(メタデータ) (2025-07-22T10:22:30Z) - Graph Wave Networks [17.80926325018177]
グラフ上の波動伝搬を利用するグラフ波動方程式を開発した。
本稿では,グラフ波動方程式が従来のスペクトルGNNと接続可能であることを示す。
実験により、GWNはベンチマークデータセット上でSOTAと効率的なパフォーマンスを達成することが示された。
論文 参考訳(メタデータ) (2025-05-26T14:20:41Z) - KFD-NeRF: Rethinking Dynamic NeRF with Kalman Filter [49.85369344101118]
KFD-NeRFは,Kalmanフィルタに基づく効率的かつ高品質な運動再構成フレームワークと統合された,新しい動的ニューラル放射場である。
我々のキーとなる考え方は、動的放射場を、観測と予測という2つの知識源に基づいて時間的に異なる状態が推定される動的システムとしてモデル化することである。
我々のKFD-NeRFは、同等の計算時間と最先端の視線合成性能で、徹底的な訓練を施した類似または優れた性能を示す。
論文 参考訳(メタデータ) (2024-07-18T05:48:24Z) - SEGNO: Generalizing Equivariant Graph Neural Networks with Physical
Inductive Biases [66.61789780666727]
等変性を維持しながら, 2階連続性をGNNに組み込む方法を示す。
また、SEGNOに関する理論的知見も提供し、隣接する状態間の一意の軌跡を学習できることを強調している。
我々のモデルは最先端のベースラインよりも大幅に改善されている。
論文 参考訳(メタデータ) (2023-08-25T07:15:58Z) - Machine learning for phase-resolved reconstruction of nonlinear ocean
wave surface elevations from sparse remote sensing data [37.69303106863453]
ニューラルネットワークを用いた位相分解波面再構成のための新しい手法を提案する。
提案手法は,一次元格子を用いた合成的かつ高精度な訓練データを利用する。
論文 参考訳(メタデータ) (2023-05-18T12:30:26Z) - Fast Sampling of Diffusion Models via Operator Learning [74.37531458470086]
我々は,拡散モデルのサンプリング過程を高速化するために,確率フロー微分方程式の効率的な解法であるニューラル演算子を用いる。
シーケンシャルな性質を持つ他の高速サンプリング手法と比較して、並列復号法を最初に提案する。
本稿では,CIFAR-10では3.78、ImageNet-64では7.83の最先端FIDを1モデル評価環境で達成することを示す。
論文 参考訳(メタデータ) (2022-11-24T07:30:27Z) - NAG-GS: Semi-Implicit, Accelerated and Robust Stochastic Optimizer [45.47667026025716]
2つの重要な要素に依存した、新しく、堅牢で、加速された反復を提案する。
NAG-GSと呼ばれる手法の収束と安定性は、まず広範に研究されている。
我々は、NAG-arityが、重量減衰を伴う運動量SGDや機械学習モデルのトレーニングのためのAdamWといった最先端の手法と競合していることを示す。
論文 参考訳(メタデータ) (2022-09-29T16:54:53Z) - Wave simulation in non-smooth media by PINN with quadratic neural
network and PML condition [2.7651063843287718]
最近提案された物理インフォームドニューラルネットワーク(PINN)は、幅広い偏微分方程式(PDE)を解くことに成功している。
本稿では、波動方程式の代わりにPINNを用いて周波数領域における音響および粘性音響散乱波動方程式を解き、震源の摂動を除去する。
PMLと2次ニューロンは、その効果と減衰を改善できることを示し、この改善の理由を議論する。
論文 参考訳(メタデータ) (2022-08-16T13:29:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。