論文の概要: Frequency Domain Reservoir Computing

• arxiv url: http://arxiv.org/abs/2606.24969v1
• Date: Tue, 23 Jun 2026 10:14:46 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-25 21:36:10.194617
• Title: Frequency Domain Reservoir Computing
• Title（参考訳）: 周波数領域貯留層計算
• Authors: Klaus Schertler, Xiomara Runge, Andrea Ceni, David Kappel, Claudio Gallicchio,
• Abstract要約: Echo State Networks (ESN) は、時間を通してバックプロパゲーションを回避するために、固定されたリカレントウェイトを利用することによって、魅力的なアプローチを提供する。 本稿では、周波数領域で完全に動作するESNアーキテクチャである周波数領域貯水池計算(FRESCO)を紹介する。 FRESCOは、トレーニングと推論の計算コストとエネルギー消費を大幅に削減する。
• 参考スコア（独自算出の注目度）: 10.316233181797408
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While the quadratic sequence-length bottleneck of transformers has fueled a resurgence in recurrent models, effectively capturing complex dynamics requires architectures that balance efficient training with highly expressive latent states. Echo State Networks (ESNs) offer a compelling approach by utilizing fixed recurrent weights to circumvent backpropagation through time, enabling a closed-form training solution. However, achieving the expressivity needed for complex tasks demands large reservoirs, exposing an $\mathcal{O}(N^2)$ state-update bottleneck that prevents ESNs from matching the scale of contemporary recurrent models. To address this limitation, we introduce Frequency Domain Reservoir Computing (FRESCO), an ESN architecture operating entirely in the frequency domain while avoiding domain-shift overheads to achieve $\mathcal{O}(N)$ complexity for dense, non-linear recurrent updates. By employing a novel dimensional zero-padding input embedding, a packed \FDh readout, and a natively applied frequency-domain non-linearity, FRESCO drastically reduces computational costs and energy consumption of training and inference. Furthermore, FRESCO matches the state-of-the-art predictive performance on memory benchmarks, sequential classification, and multivariate long-horizon forecasting, offering a scalable path forward for dense recurrent architectures.
• Abstract（参考訳）: 変換器の二次的なシーケンス長のボトルネックは再帰的なモデルの復活に拍車をかけたが、複雑なダイナミクスを効果的に捉えるには、非常に表現力のある潜在状態との効率的なトレーニングのバランスを必要とする。 Echo State Networks(ESNs)は、固定されたリカレントウェイトを利用して、時間を通してバックプロパゲーションを回避し、クローズドフォームのトレーニングソリューションを可能にする、魅力的なアプローチを提供する。 しかし、複雑なタスクに必要な表現力を達成するには、大規模な貯水池が必要であり、現在のリカレントモデルのスケールとESNが一致しないよう、$\mathcal{O}(N^2)$ 状態更新ボトルネックを露呈する。 この制限に対処するために、周波数領域貯水池計算(FRESCO)という、周波数領域で完全に動作するESNアーキテクチャを導入し、ドメインシフトオーバーヘッドを回避して、密度の高い非線形リカレント更新のために$\mathcal{O}(N)$複雑さを実現する。 FRESCOは、新しい次元ゼロパディング入力埋め込み、充填された \FDh 読み出し、およびネイティブに適用される周波数領域の非線形性を利用して、トレーニングと推論の計算コストとエネルギー消費を大幅に削減する。 さらに、FRESCOは、メモリベンチマーク、シーケンシャル分類、多変量長水平予測における最先端の予測性能と一致し、高密度リカレントアーキテクチャのためのスケーラブルなパスを提供する。

関連論文リスト

• FRACTAL: SSM with Fractional Recurrent Architecture for Computational Temporal Analysis of Long Sequences [13.320173396455226]
  本稿では,長周期計算時間解析のためのフラクショナル・リカレント・アーキテクチャを提案する。 スペクトル特性とチューナブル指数を解析的に特徴づけた投影演算子を導出することにより,分数スケール不変メモリダイナミクスを符号化したスペクトル構造を保ちながら,近年の信号摂動に敏感な手法を提案する。 FRACTALはLong Range Arenaベンチマークで平均87.11%のスコアを獲得し、リストOpsタスクでは61.85%でS5モデルを上回った。
  論文  参考訳（メタデータ） (2026-05-09T09:38:44Z)
• When Learning Hurts: Fixed-Pole RNN for Real-Time Online Training [58.25341036646294]
  本研究では,再帰性極の学習がデータに有意な利点をもたらしない理由を解析的に検討し,実時間学習シナリオを実証的に提供する。 固定極ネットワークは、トレーニングの複雑さを低減し、オンラインリアルタイムタスクにより適していることを示す。
  論文  参考訳（メタデータ） (2026-02-25T00:15:13Z)
• Distributed physics-informed neural networks via domain decomposition for fast flow reconstruction [8.614942690565782]
  PINは流れの復元に強力なパラダイムを提供し、速度測定を支配的なNavier-N方程式とシームレスに統合し、完全な速度場と潜水圧場を回復する。 このような分散PINにおける重要な課題は、独立したサブネットワークが非一貫性な局所的な圧力ベースラインに流れ込む圧力不決定性である。 指定されたマスターランクから一方向の流れを強制することにより,一意性を排除し,時間的連続性を保ちながら大域的な圧力を保証できる。
  論文  参考訳（メタデータ） (2026-02-05T16:41:55Z)
• Multivariate time series prediction using clustered echo state network [4.4778341776682735]
  エコー状態ネットワーク(ESN)は、従来のリカレントニューラルネットワークに代わる効率的な代替手段を提供する。 予測精度と雑音に対する頑健性の観点から,CESNは従来型ESNよりも一貫して優れていた。 当社のアルゴリズムは、株式市場、太陽風、カオスRsslerシステムなど、さまざまな現実世界のデータセットでうまく機能します。
  論文  参考訳（メタデータ） (2025-11-28T17:14:15Z)
• Echo Flow Networks [4.298381633106637]
  非線形読み出しを伴うEcho State Networks (X-ESNs) グループで構成されるフレームワークである Echo Flow Networks (EFNs) を紹介する。 EFNは、PatchTSTのような主要なメソッドに比べて最大4倍高速なトレーニングと3倍のモデルサイズを実現している。 当社のフレームワークのインスタンス化のひとつであるEchoFormerは、5つのベンチマークデータセットで、常に新しい最先端のパフォーマンスを実現しています。
  論文  参考訳（メタデータ） (2025-09-28T23:38:55Z)
• ResFormer: All-Time Reservoir Memory for Long Sequence Classification [4.298381633106637]
  シーケンス分類は、感情分析、意図検出、トピック分類といったタスクにおける言語パターンの理解と分類に欠かせない。 トランスフォーマーベースのモデルは、最先端のパフォーマンスを達成しているにもかかわらず、2次時間とメモリの複雑さのために固有の制限がある。 提案するResFormerは,カスケード手法を用いて,コンテキスト長を効率的にモデル化するニューラルネットワークアーキテクチャである。
  論文  参考訳（メタデータ） (2025-09-28T21:20:49Z)
• MesaNet: Sequence Modeling by Locally Optimal Test-Time Training [67.45211108321203]
  我々は,最近提案されたMesa層の数値的に安定かつチャンクワイズ可能な並列化版を導入する。 テストタイムの最適トレーニングにより、従来のRNNよりも言語モデリングの難易度が低く、ダウンストリームベンチマークのパフォーマンスが向上することを示す。
  論文  参考訳（メタデータ） (2025-06-05T16:50:23Z)
• Fast Training of Recurrent Neural Networks with Stationary State Feedbacks [48.22082789438538]
  リカレントニューラルネットワーク(RNN)は最近、Transformerよりも強力なパフォーマンスと高速な推論を実証している。 BPTTを固定勾配フィードバック機構で置き換える新しい手法を提案する。
  論文  参考訳（メタデータ） (2025-03-29T14:45:52Z)
• Spatial Annealing for Efficient Few-shot Neural Rendering [73.49548565633123]
  我々はtextbfSpatial textbf Annealing regularized textbfNeRF (textbfSANeRF) という,正確で効率的な数発のニューラルレンダリング手法を導入する。 単に1行のコードを追加することで、SANeRFは、現在の数ショットのニューラルレンダリング方法と比較して、より優れたレンダリング品質とはるかに高速な再構築速度を提供する。
  論文  参考訳（メタデータ） (2024-06-12T02:48:52Z)
• TCCT-Net: Two-Stream Network Architecture for Fast and Efficient Engagement Estimation via Behavioral Feature Signals [58.865901821451295]
  本稿では,新しい2ストリーム機能融合 "Tensor-Convolution and Convolution-Transformer Network" (TCCT-Net) アーキテクチャを提案する。 時間空間領域における意味のあるパターンをよりよく学習するために、ハイブリッド畳み込み変換器を統合する「CT」ストリームを設計する。 並行して、時間周波数領域からリッチなパターンを効率的に抽出するために、連続ウェーブレット変換(CWT)を用いて情報を2次元テンソル形式で表現する「TC」ストリームを導入する。
  論文  参考訳（メタデータ） (2024-04-15T06:01:48Z)
• MF-NeRF: Memory Efficient NeRF with Mixed-Feature Hash Table [62.164549651134465]
  MF-NeRFは,Mixed-Featureハッシュテーブルを用いてメモリ効率を向上し,再構成品質を維持しながらトレーニング時間を短縮するメモリ効率の高いNeRFフレームワークである。 最新技術であるInstant-NGP、TensoRF、DVGOによる実験は、MF-NeRFが同じGPUハードウェア上で、同様のあるいはそれ以上のリコンストラクション品質で最速のトレーニング時間を達成できることを示唆している。
  論文  参考訳（メタデータ） (2023-04-25T05:44:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。