論文の概要: Breaking Symmetries of the Reservoir Equations in Echo State Networks
- arxiv url: http://arxiv.org/abs/2010.07103v2
- Date: Fri, 4 Dec 2020 10:28:07 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-16 05:00:48.230951
- Title: Breaking Symmetries of the Reservoir Equations in Echo State Networks
- Title（参考訳）: エコー状態ネットワークにおける貯水池方程式の破断対称性
- Authors: Joschka Herteux, Christoph R\"ath
- Abstract要約: 最も一般的なセットアップは有害な対称性を持ち、ミラー・トラクターと呼ばれるものを予測することに繋がる。
同様の問題が一般的な文脈で起こりうるので、いくつかの設計の成功や失敗を説明するためにそれらを使用します。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reservoir computing has repeatedly been shown to be extremely successful in
the prediction of nonlinear time-series. However, there is no complete
understanding of the proper design of a reservoir yet. We find that the
simplest popular setup has a harmful symmetry, which leads to the prediction of
what we call mirror-attractor. We prove this analytically. Similar problems can
arise in a general context, and we use them to explain the success or failure
of some designs. The symmetry is a direct consequence of the hyperbolic tangent
activation function. Further, four ways to break the symmetry are compared
numerically: A bias in the output, a shift in the input, a quadratic term in
the readout, and a mixture of even and odd activation functions. Firstly, we
test their susceptibility to the mirror-attractor. Secondly, we evaluate their
performance on the task of predicting Lorenz data with the mean shifted to
zero. The short-time prediction is measured with the forecast horizon while the
largest Lyapunov exponent and the correlation dimension are used to represent
the climate. Finally, the same analysis is repeated on a combined dataset of
the Lorenz attractor and the Halvorsen attractor, which we designed to reveal
potential problems with symmetry. We find that all methods except the output
bias are able to fully break the symmetry with input shift and quadratic
readout performing the best overall.
- Abstract（参考訳）: 貯留層計算は非線形時系列の予測に非常に成功したことが繰り返し示されている。
しかし、貯水池の適切な設計についてはまだ完全には理解されていない。
最も一般的なセットアップは有害な対称性を持ち、ミラー・トラクターと呼ばれるものを予測することに繋がる。
分析的に証明します
同様の問題は一般的な状況で発生し、いくつかの設計の成功や失敗を説明するのに使用します。
対称性は双曲的接点活性化関数の直接の結果である。
さらに、対称性を破る4つの方法は数値的に比較される:出力のバイアス、入力のシフト、読み出しの二次項、偶数と奇数の活性化関数の混合。
まず, 鏡装具に対する感受性を試験する。
第2に,平均値が0にシフトしたLorenzデータを予測するタスクにおいて,その性能を評価する。
短時間の予測は予測地平線で測定され、最大のリャプノフ指数と相関次元は気候を表すために用いられる。
最後に、lorenzアトラクタとhalvorsenアトラクタの複合データセットで同じ解析を繰り返す。
出力バイアスを除くすべてのメソッドは、入力シフトと二次読み出しによって、全体的なパフォーマンスを最大にする対称性を完全に破ることができることが分かりました。
関連論文リスト
- Learning Infinitesimal Generators of Continuous Symmetries from Data [15.42275880523356]
1-パラメータ群で定義された変換に基づく新しい対称性学習アルゴリズムを提案する。
この手法は最小限の帰納バイアスに基づいて構築され、リー群に根付いた一般的な対称性だけでなく、非線形発生器由来の対称性にまで拡張される。
論文 参考訳（メタデータ） (2024-10-29T08:28:23Z) - Noether's razor: Learning Conserved Quantities [16.81984465529089]
我々は対称性を学習可能な保存量としてパラメータ化する。
次に、保存された量と関連する対称性を直接列車データから学ぶことを許す。
この手法は正しい保存量と U($n$) および SE($n$) 対称性群を正しく同定する。
論文 参考訳（メタデータ） (2024-10-10T16:29:49Z) - Probing the effects of broken symmetries in machine learning [0.0]
我々は,非対称モデルがデータから対称性を学習できることを示す。
我々は、対称性の破れによって、直接的または間接的に影響を受けやすい物理的観測物に特に焦点を合わせ、モデルが補間的でバルクな状態で使用されるとき、無視可能な結果を見つける。
論文 参考訳（メタデータ） (2024-06-25T17:34:09Z) - A U-turn on Double Descent: Rethinking Parameter Counting in Statistical
Learning [68.76846801719095]
二重降下がいつどこで起こるのかを正確に示し、その位置が本質的に閾値 p=n に結び付けられていないことを示す。
これは二重降下と統計的直観の間の緊張を解消する。
論文 参考訳（メタデータ） (2023-10-29T12:05:39Z) - Third quantization of open quantum systems: new dissipative symmetries
and connections to phase-space and Keldysh field theory formulations [77.34726150561087]
3つの方法全てを明示的に接続する方法で第3量子化の手法を再構成する。
まず、我々の定式化は、すべての二次ボゾンあるいはフェルミオンリンドブラディアンに存在する基本散逸対称性を明らかにする。
ボソンに対して、ウィグナー関数と特徴関数は密度行列の「波動関数」と考えることができる。
論文 参考訳（メタデータ） (2023-02-27T18:56:40Z) - Modeling the space-time correlation of pulsed twin beams [68.8204255655161]
パラメトリックダウンコンバージョンによって生成される絡み合ったツインビームは、画像指向アプリケーションで好まれるソースである。
本研究では,時間消費数値シミュレーションと非現実的な平面波ポンプ理論のギャップを埋めることを目的とした半解析モデルを提案する。
論文 参考訳（メタデータ） (2023-01-18T11:29:49Z) - Implicit Bias of Gradient Descent on Reparametrized Models: On
Equivalence to Mirror Descent [64.26008239544085]
通勤パラメトリゼーションのある勾配流は、関連するレジェンド関数を持つ連続ミラー降下と等価である。
ルジャンドル関数を持つ連続ミラー降下は、関連する通勤パラメトリゼーションを伴う勾配流と見なすことができる。
論文 参考訳（メタデータ） (2022-07-08T17:47:11Z) - Emergent XY* transition driven by symmetry fractionalization and anyon
condensation [0.0]
トーリック・コードにおけるイジング相互作用によって摂動される$mathbbZ$位相階の位相図および任意の凝縮遷移について検討する。
大域イジング対称性と格子空間群対称性の間の相互作用は、エノンに対する非自明な対称性の分数化クラスをもたらす。
探索相図中のエノンの特定の対称性分数化クラスによって予測される2つの対称性の破れパターンの発生に関する数値的な証拠を提供する。
論文 参考訳（メタデータ） (2022-04-07T18:00:00Z) - Quantum Error Mitigation using Symmetry Expansion [0.0]
ノイズは、近い将来の量子デバイスを実用化するための最大の課題である。
我々は、対称性に基づく誤差緩和スキームの幅広いスペクトルを提供する対称性拡張と呼ばれる一般的なフレームワークを開発する。
ある種の対称性拡張スキームは対称性の検証よりも小さい推定バイアスが得られることを示す。
論文 参考訳（メタデータ） (2021-01-08T18:30:48Z) - Analytic Signal Phase in $N-D$ by Linear Symmetry Tensor--fingerprint
modeling [69.35569554213679]
解析信号位相とその勾配は2-D$以上の不連続性を持つことを示す。
この欠点は深刻なアーティファクトをもたらす可能性があるが、問題は1-D $シグナルには存在しない。
本稿では,複数のGaborフィルタに頼って線形シンメトリー位相を用いることを提案する。
論文 参考訳（メタデータ） (2020-05-16T21:17:26Z) - Continuous-time quantum walks in the presence of a quadratic
perturbation [55.41644538483948]
連続時間量子ウォークの特性を、$mathcalH=L + lambda L2$という形のハミルトン群で解決する。
低/高接続性および/または対称性を持つパラダイムモデルであるため、サイクル、完全、およびスターグラフを考える。
論文 参考訳（メタデータ） (2020-05-13T14:53:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。