論文の概要: Limits to Analog Reservoir Learning

• arxiv url: http://arxiv.org/abs/2307.14474v2
• Date: Mon, 24 Mar 2025 00:58:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-25 14:28:25.502100
• Title: Limits to Analog Reservoir Learning
• Title（参考訳）: アナログ貯留層学習の限界
• Authors: Anthony M. Polloreno,
• Abstract要約: アナログ貯水池コンピュータの学習能力に及ぼす雑音の影響について検討する。 情報処理能力(IPC)はノイズによる性能劣化の定量化に有用な指標であることを示す。 ノイズに晒された物理的アナログ貯水池コンピュータは、学習量の増加にのみ利用できると結論付けている。
• 参考スコア（独自算出の注目度）: 0.0
• License:
• Abstract: Reservoir computation is a recurrent framework for learning and predicting time series data, that benefits from extremely simple training and interpretability, often as the the dynamics of a physical system. In this paper, we will study the impact of noise on the learning capabilities of analog reservoir computers. Recent work on reservoir computation has shown that the information processing capacity (IPC) is a useful metric for quantifying the degradation of the performance due to noise. We further this analysis and demonstrate that this degradation of the IPC limits the possible features that can be meaningfully constructed in an analog reservoir computing setting. We borrow a result from quantum complexity theory that relates the circuit model of computation to a continuous time model, and demonstrate an exponential reduction in the accessible volume of reservoir configurations. We conclude by relating this degradation in the IPC to the fat-shattering dimension of a family of functions describing the reservoir dynamics, which allows us to express our result in terms of a classification task. We conclude that any physical, analog reservoir computer that is exposed to noise can only be used to perform a polynomial amount of learning, despite the exponentially large latent space, even with an exponential amount of post-processing.
• Abstract（参考訳）: 貯留層計算(Reservoir compute)は、時系列データを学習し、予測するための反復的なフレームワークであり、しばしば物理系の力学として、非常に単純な訓練と解釈可能性の恩恵を受ける。 本稿では,アナログ貯水池コンピュータの学習能力に及ぼす雑音の影響について検討する。 貯水池計算の最近の研究は、情報処理能力(IPC)がノイズによる性能劣化の定量化に有用な指標であることが示されている。 さらに、この分析により、ICCの劣化により、アナログ貯水池計算環境において有意義に構築できる可能性のある特徴が制限されることを実証する。 計算の回路モデルと連続時間モデルとを関連づけた量子複雑性理論の結果を借り、貯水池構成の容量を指数関数的に減らしたことを示す。 我々は、IPCのこの劣化を貯水池の力学を記述した関数群の脂肪破砕次元に関連づけることで、分類タスクの観点で結果を表現することができると結論付けた。 我々は,指数関数的に大きい潜在空間であっても,雑音に曝される任意の物理的アナログ貯水池コンピュータは,指数関数的な後処理量であっても,多項式量の学習にのみ使用できると結論付けた。

関連論文リスト

• Rate-reliability functions for deterministic identification [49.126395046088014]
  正の指数に対して線形スケーリングが復元され、信頼指数の関数であるレートが復元される。 製品入力制限付き古典量子チャネルや量子チャネルに結果を拡張します。
  論文  参考訳（メタデータ） (2025-02-04T15:09:14Z)
• Stochastic Reservoir Computers [0.0]
  貯水池計算では、貯水池のコンピュータ全体の異なる状態の数は、貯水池のハードウェアのサイズに比例して指数関数的にスケールすることができる。 ショットノイズは貯水池計算の性能に限界があるが,ノイズの影響が小さい場合,類似のハードウェアを持つ貯水池コンピュータに比べて性能が大幅に向上した。
  論文  参考訳（メタデータ） (2024-05-20T21:26:00Z)
• Tuning the activation function to optimize the forecast horizon of a reservoir computer [0.0]
  本稿では,ノード活性化関数が貯水池コンピュータのカオス時系列の学習と予測能力に与える影響について検討する。 貯水池の予測が正確である時間であるフォアキャスト・ホライゾン(FH)は、16の活性化関数の集合で桁違いに変化する。
  論文  参考訳（メタデータ） (2023-12-20T16:16:01Z)
• Squeezing as a resource for time series processing in quantum reservoir computing [3.072340427031969]
  時系列処理におけるニューロモルフィック機械学習におけるスクイーズの効果について考察する。 特に,貯水池計算のためのループ型フォトニックアーキテクチャについて考察する。 マルチモードスクイーズによりアクセス可能なメモリが向上し,複数のベンチマーク時間的タスクのパフォーマンスが向上することを示す。
  論文  参考訳（メタデータ） (2023-10-11T11:45:31Z)
• Memory capacity of two layer neural networks with smooth activations [27.33243506775655]
  隠れニューロンと入力次元が$d$の2層ニューラルネットワークのメモリ容量を決定する。 我々は、ネットワークのヤコビアン(英語版)の正確な一般的なランクを導出する。 われわれのアプローチは、メモリ容量に関する以前の研究と異なり、より深いモデルへの拡張を約束している。
  論文  参考訳（メタデータ） (2023-08-03T19:31:15Z)
• On sampling determinantal and Pfaffian point processes on a quantum computer [49.1574468325115]
  DPPは1970年代の量子光学のモデルとしてマッキによって導入された。 ほとんどのアプリケーションはDPPからのサンプリングを必要としており、その量子起源を考えると、古典的なコンピュータでDPPをサンプリングするのは古典的なものよりも簡単かどうか疑問に思うのが自然である。 バニラサンプリングは、各コスト$mathcalO(N3)$と$mathcalO(Nr2)$の2つのステップから構成される。
  論文  参考訳（メタデータ） (2023-05-25T08:43:11Z)
• Computationally Budgeted Continual Learning: What Does Matter? [128.0827987414154]
  CL (Continuous Learning) は、新しいデータに適応しながら、以前の知識を保存し、分布の異なる入力データのストリーム上でモデルを逐次訓練することを目的としている。 現在のCL文献では、以前のデータへのアクセス制限に焦点が当てられているが、トレーニングの計算予算に制約は課されていない。 本稿では,この問題を大規模ベンチマークで再検討し,計算制約条件下での従来のCL手法の性能解析を行う。
  論文  参考訳（メタデータ） (2023-03-20T14:50:27Z)
• Detection-Recovery Gap for Planted Dense Cycles [72.4451045270967]
  期待帯域幅$n tau$とエッジ密度$p$をエルドホス=R'enyiグラフ$G(n,q)$に植え込むモデルを考える。 低次アルゴリズムのクラスにおいて、関連する検出および回復問題に対する計算しきい値を特徴付ける。
  論文  参考訳（メタデータ） (2023-02-13T22:51:07Z)
• FeDXL: Provable Federated Learning for Deep X-Risk Optimization [105.17383135458897]
  我々は、既存のアルゴリズムが適用できないXリスクのファミリーを最適化するために、新しい連邦学習(FL)問題に取り組む。 Xリスクに対するFLアルゴリズムを設計する際の課題は、複数のマシンに対する目的の非可逆性と、異なるマシン間の相互依存にある。
  論文  参考訳（メタデータ） (2022-10-26T00:23:36Z)
• Random pattern and frequency generation using a photonic reservoir computer with output feedback [3.0395687958102937]
  貯留層コンピューティング(Reservoir computing)は、時間依存信号を処理するためのバイオインスパイアされたコンピューティングパラダイムである。 出力フィードバックを持つ最初の光電子貯水池コンピュータを実演し、時系列生成タスクの2つの例でテストする。
  論文  参考訳（メタデータ） (2020-12-19T07:26:32Z)
• Learning Halfspaces with Tsybakov Noise [50.659479930171585]
  テュバコフ雑音の存在下でのハーフスペースの学習可能性について検討する。 真半空間に関して誤分類誤差$epsilon$を達成するアルゴリズムを与える。
  論文  参考訳（メタデータ） (2020-06-11T14:25:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。