論文の概要: Bayesian optimisation of large-scale photonic reservoir computers

• arxiv url: http://arxiv.org/abs/2004.02535v1
• Date: Mon, 6 Apr 2020 10:11:03 GMT
• ステータス: 処理完了
• システム内更新日: 2022-12-16 06:02:11.600577
• Title: Bayesian optimisation of large-scale photonic reservoir computers
• Title（参考訳）: 大規模フォトニック貯水池コンピュータのベイズ最適化
• Authors: Piotr Antonik, Nicolas Marsal, Daniel Brunner, Damien Rontani
• Abstract要約: 貯留層コンピューティングは、リカレントニューラルネットワークの簡易トレーニングのパラダイムとして成長している。 この分野における最近の研究は、数万の物理ノードと任意の相互接続を持つ大規模フォトニクスシステムに焦点を当てている。
• 参考スコア（独自算出の注目度）: 0.774229787612056
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Introduction. Reservoir computing is a growing paradigm for simplified training of recurrent neural networks, with a high potential for hardware implementations. Numerous experiments in optics and electronics yield comparable performance to digital state-of-the-art algorithms. Many of the most recent works in the field focus on large-scale photonic systems, with tens of thousands of physical nodes and arbitrary interconnections. While this trend significantly expands the potential applications of photonic reservoir computing, it also complicates the optimisation of the high number of hyper-parameters of the system. Methods. In this work, we propose the use of Bayesian optimisation for efficient exploration of the hyper-parameter space in a minimum number of iteration. Results. We test this approach on a previously reported large-scale experimental system, compare it to the commonly used grid search, and report notable improvements in performance and the number of experimental iterations required to optimise the hyper-parameters. Conclusion. Bayesian optimisation thus has the potential to become the standard method for tuning the hyper-parameters in photonic reservoir computing.
• Abstract（参考訳）: はじめに。 Reservoirコンピューティングは、リカレントニューラルネットワークの簡易トレーニングのパラダイムとして成長し、ハードウェア実装に高い可能性を秘めている。 光学とエレクトロニクスに関する数多くの実験は、デジタル最先端アルゴリズムに匹敵する性能をもたらす。 この分野の最近の作品の多くは、数万の物理ノードと任意の相互接続を持つ大規模フォトニックシステムに焦点を当てている。 この傾向はフォトニック貯水池コンピューティングの潜在的な応用を著しく拡大する一方で、システムの多数のハイパーパラメータの最適化も複雑にしている。 メソッド。 本研究では,ベイズ最適化を用いた極小反復数でのハイパーパラメータ空間の効率的な探索を提案する。 結果だ この手法を,従来報告した大規模実験システムでテストし,一般的なグリッド探索と比較し,ハイパーパラメータの最適化に必要な性能改善と実験イテレーション数を報告した。 結論だ したがってベイズ最適化は、フォトニックリザーバコンピューティングにおけるハイパーパラメータのチューニングの標準となる可能性を持っている。

関連論文リスト

• Scalable Differentially Private Bayesian Optimization [17.28046301424826]
  勾配インフォーマティブベイズ最適化を用いて,潜在的に高次元なパラメータ空間をプライベートに推定する手法を開発した。 理論的には, 最適条件下では, 最適パラメータ構成の周囲の球に指数関数的に収束する。 仮定が満たされているかどうかに関わらず、我々のアルゴリズムはプライバシを維持し、既存の手法よりも優れた性能を実証的に示すことを示す。
  論文  参考訳（メタデータ） (2025-02-09T21:49:50Z)
• Synergistic Development of Perovskite Memristors and Algorithms for Robust Analog Computing [53.77822620185878]
  本稿では,ペロブスカイト・メムリスタの製作を同時に最適化し,ロバストなアナログDNNを開発するための相乗的手法を提案する。 BO誘導ノイズインジェクションを利用したトレーニング戦略であるBayesMultiを開発した。 我々の統合されたアプローチは、より深くより広いネットワークでのアナログコンピューティングの使用を可能にし、最大100倍の改善を実現します。
  論文  参考訳（メタデータ） (2024-12-03T19:20:08Z)
• Bayesian Optimization for Hyperparameters Tuning in Neural Networks [0.0]
  ベイズ最適化 (Bayesian Optimization) は、連続的な入力と限られた評価予算を持つブラックボックス関数に適した微分自由大域最適化手法である。 本研究では,畳み込みニューラルネットワーク(CNN)の強化を目的としたニューラルネットワークのハイパーパラメータチューニングにおけるBOの適用について検討する。 実験結果から,BOは探索と利用のバランスを効果的に保ち,CNNアーキテクチャの最適設定に向けて急速に収束することが明らかとなった。 このアプローチは、ニューラルネットワークチューニングの自動化におけるBOの可能性を強調し、機械学習パイプラインの精度と計算効率の改善に寄与する。
  論文  参考訳（メタデータ） (2024-10-29T09:23:24Z)
• Benchmarking Optimizers for Qumode State Preparation with Variational Quantum Algorithms [10.941053143198092]
  この分野の進歩と潜在的な応用により、クォーモックへの関心が高まっている。 本稿では,変分量子アルゴリズムを用いて状態準備に使用する各種パラメータのパフォーマンスベンチマークを提供することにより,このギャップを埋めることを目的とする。
  論文  参考訳（メタデータ） (2024-05-07T17:15:58Z)
• Model-aware reinforcement learning for high-performance Bayesian experimental design in quantum metrology [0.4999814847776097]
  量子センサは、様々なパラメータにわたる実験者による操作を可能にすることで、推定中に制御の柔軟性を提供する。 量子力学、推定、仮説テストにおいて、幅広い問題を最適化できる汎用的な手順を導入する。 粒子フィルタリングに基づくモデル認識強化学習(RL)とベイズ推定を組み合わせた。
  論文  参考訳（メタデータ） (2023-12-28T12:04:15Z)
• Convergence and scaling of Boolean-weight optimization for hardware reservoirs [0.0]
  我々は、ランダムにリカレント接続されたニューラルネットワークの読み出し層を最適化するために、高効率なコーディネートDescentのスケーリング法則を解析的に導出した。 本結果は,概念実証実験で実施した大規模フォトニック貯水池の収束とスケーリングを完璧に再現するものである。
  論文  参考訳（メタデータ） (2023-05-13T12:15:25Z)
• Optimization of a Hydrodynamic Computational Reservoir through Evolution [58.720142291102135]
  我々は,スタートアップが開発中の流体力学系のモデルと,計算貯水池としてインターフェースする。 我々は、進化探索アルゴリズムを用いて、読み出し時間と入力を波の振幅や周波数にどのようにマッピングするかを最適化した。 この貯水池システムに進化的手法を適用することで、手作業パラメータを用いた実装と比較して、XNORタスクの分離性が大幅に向上した。
  論文  参考訳（メタデータ） (2023-04-20T19:15:02Z)
• Adaptive pruning-based optimization of parameterized quantum circuits [62.997667081978825]
  Variisyハイブリッド量子古典アルゴリズムは、ノイズ中間量子デバイスの使用を最大化する強力なツールである。 我々は、変分量子アルゴリズムで使用されるそのようなアンサーゼを「効率的な回路訓練」(PECT)と呼ぶ戦略を提案する。 すべてのアンサッツパラメータを一度に最適化する代わりに、PECTは一連の変分アルゴリズムを起動する。
  論文  参考訳（メタデータ） (2020-10-01T18:14:11Z)
• Optimal Bayesian experimental design for subsurface flow problems [77.34726150561087]
  本稿では,設計ユーティリティ機能のためのカオス拡張サロゲートモデル(PCE)の開発のための新しいアプローチを提案する。 この手法により,対象関数に対する適切な品質応答面の導出が可能となり,計算予算は複数の単点評価に匹敵する。
  論文  参考訳（メタデータ） (2020-08-10T09:42:59Z)
• An Asymptotically Optimal Multi-Armed Bandit Algorithm and Hyperparameter Optimization [48.5614138038673]
  本稿では,高パラメータ探索評価のシナリオにおいて,SS (Sub-Sampling) と呼ばれる効率的で堅牢な帯域幅に基づくアルゴリズムを提案する。 また,BOSSと呼ばれる新しいパラメータ最適化アルゴリズムを開発した。 実験的な研究は、SSの理論的議論を検証し、多くのアプリケーションにおけるBOSSの優れた性能を実証する。
  論文  参考訳（メタデータ） (2020-07-11T03:15:21Z)
• Large Batch Training Does Not Need Warmup [111.07680619360528]
  大きなバッチサイズを使用してディープニューラルネットワークをトレーニングすることは、有望な結果を示し、多くの現実世界のアプリケーションに利益をもたらしている。 本稿では,大規模バッチ学習のための全層適応レートスケーリング(CLARS)アルゴリズムを提案する。 分析に基づいて,このギャップを埋め,3つの一般的な大規模バッチトレーニング手法の理論的洞察を提示する。
  論文  参考訳（メタデータ） (2020-02-04T23:03:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。