論文の概要: Alleviating Barren Plateaus in Parameterized Quantum Machine Learning Circuits: Investigating Advanced Parameter Initialization Strategies

• arxiv url: http://arxiv.org/abs/2311.13218v1
• Date: Wed, 22 Nov 2023 08:07:53 GMT
• ステータス: 処理完了
• システム内更新日: 2023-11-23 15:40:35.404729
• Title: Alleviating Barren Plateaus in Parameterized Quantum Machine Learning Circuits: Investigating Advanced Parameter Initialization Strategies
• Title（参考訳）: パラメータ化量子機械学習回路における不毛高原の緩和:高度パラメータ初期化戦略の検討
• Authors: Muhammad Kashif, Muhammad Rashid, Saif Al-Kuwari, Muhammad Shafique
• Abstract要約: ランダムパラメータ値を持つ場合、量子量子回路(PQC)はしばしばバレンプラトー(BP)を示す。 BPは量子アルゴリズムの最適化を妨げるため、量子ビット数の増加とともに勾配が消えつつある。 本稿では,PQCにおける古典的機械学習における最先端パラメータ初期化戦略の影響を解析する。
• 参考スコア（独自算出の注目度）: 4.169604865257672
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Parameterized quantum circuits (PQCs) have emerged as a foundational element in the development and applications of quantum algorithms. However, when initialized with random parameter values, PQCs often exhibit barren plateaus (BP). These plateaus, characterized by vanishing gradients with an increasing number of qubits, hinder optimization in quantum algorithms. In this paper, we analyze the impact of state-of-the-art parameter initialization strategies from classical machine learning in random PQCs from the aspect of BP phenomenon. Our investigation encompasses a spectrum of initialization techniques, including random, Xavier (both normal and uniform variants), He, LeCun, and Orthogonal methods. Empirical assessment reveals a pronounced reduction in variance decay of gradients across all these methodologies compared to the randomly initialized PQCs. Specifically, the Xavier initialization technique outperforms the rest, showing a 62\% improvement in variance decay compared to the random initialization. The He, Lecun, and orthogonal methods also display improvements, with respective enhancements of 32\%, 28\%, and 26\%. This compellingly suggests that the adoption of these existing initialization techniques holds the potential to significantly amplify the training efficacy of Quantum Neural Networks (QNNs), a subclass of PQCs. Demonstrating this effect, we employ the identified techniques to train QNNs for learning the identity function, effectively mitigating the adverse effects of BPs. The training performance, ranked from the best to the worst, aligns with the variance decay enhancement as outlined above. This paper underscores the role of tailored parameter initialization in mitigating the BP problem and eventually enhancing the training dynamics of QNNs.
• Abstract（参考訳）: パラメタライズド量子回路(PQC)は、量子アルゴリズムの開発と応用の基礎的要素として登場した。 しかし、ランダムパラメータ値で初期化すると、pqcはしばしば不毛高原(bp)を示す。 これらの高原は量子ビット数の増加に伴う勾配の消失によって特徴づけられ、量子アルゴリズムの最適化を妨げる。 本稿では,ランダムpqcにおける古典的機械学習における最先端パラメータ初期化戦略の影響をbp現象の側面から分析する。 本研究は,ランダム,Xavier(正常および均一な変種),He,LeCun,Orthogonalメソッドなど,初期化手法のスペクトルを包含する。 経験的評価は, ランダムに初期化したPQCと比較して, 勾配の分散減衰を顕著に減少させることを示した。 具体的には、Xavier初期化法は残りよりも優れており、ランダム初期化法に比べて62%の分散減衰が改善している。 He, Lecunおよび直交法も改善され, それぞれ32\%, 28\%, 26\%となった。 これは、これらの既存の初期化技術の採用が、PQCのサブクラスである量子ニューラルネットワーク(QNN)のトレーニング効果を著しく増幅する可能性を示唆している。 この効果を実証し、識別されたQNNを訓練してアイデンティティ関数を学習し、BPの悪影響を効果的に軽減する。 最善から最悪のレベルにランクされたトレーニングパフォーマンスは、上述の分散減衰の強化と一致している。 本稿では,bp問題の緩和とqnnのトレーニングダイナミクス向上におけるパラメータ初期化の役割について考察する。

関連論文リスト

• Improving Parameter Training for VQEs by Sequential Hamiltonian Assembly [4.646930308096446]
  量子機械学習における中心的な課題は、パラメータ化量子回路(PQC)の設計と訓練である。 局所成分を用いて損失関数を反復的に近似する逐次ハミルトンアセンブリを提案する。 提案手法は,従来のパラメータトレーニングを29.99%,実証的手法であるレイヤワイズラーニングを5.12%,平均精度を5.12%向上させる。
  論文  参考訳（メタデータ） (2023-12-09T11:47:32Z)
• Weight Re-Mapping for Variational Quantum Algorithms [54.854986762287126]
  変動量子回路(VQC)における重み付けの考え方を紹介する。 我々は,8つの分類データセットに対する影響を評価するために,7つの異なる重み再マッピング関数を用いる。 以上の結果から,重量再マッピングによりVQCの収束速度が向上することが示唆された。
  論文  参考訳（メタデータ） (2023-06-09T09:42:21Z)
• Trainability Enhancement of Parameterized Quantum Circuits via Reduced-Domain Parameter Initialization [3.031137751464259]
  回路深さの平方根に比例する各パラメータの初期領域を減少させることで、コスト勾配の最大値は、キュービット数と回路深さにほぼ逆向きに減衰することを示す。 この戦略は、特定の量子ニューラルネットワークを指数関数的に多くの局所的なミニマから保護することができる。
  論文  参考訳（メタデータ） (2023-02-14T06:41:37Z)
• LAWS: Look Around and Warm-Start Natural Gradient Descent for Quantum Neural Networks [11.844238544360149]
  Vari Quantum Algorithm (VQA) は、ノイズ中間スケール量子コンピュータ (NISQ) における有望な性能のために最近注目されている。 パラメータ化量子回路(PQC)上でランダムなパラメータを持つVQAは、勾配が量子ビット数で指数関数的に消えるバレンプラトー(BP)によって特徴づけられる。 本稿では、古典的な1次最適化点から、VQAでよく使われるアルゴリズムの1つである量子自然勾配(QNG)について述べる。 そして、私たちはアンダーラインAroundアンダーラインを提案しました。
  論文  参考訳（メタデータ） (2022-05-05T14:16:40Z)
• Connecting geometry and performance of two-qubit parameterized quantum circuits [0.0]
  主バンドルを用いて2量子ビット量子回路(PQC)を幾何学的に特徴付ける。 変分量子固有解法(VQE)最適化プロセス中にリッチスカラーを計算することにより、新しい視点を提供する。 我々は、量子自然勾配の優れた性能の鍵は、高い負曲率の領域を見つける能力であると主張している。
  論文  参考訳（メタデータ） (2021-06-04T16:44:53Z)
• Data-driven Weight Initialization with Sylvester Solvers [72.11163104763071]
  本稿では,ディープニューラルネットワークのパラメータを初期化するためのデータ駆動方式を提案する。 提案手法は,特にショットや微調整の設定において有効であることを示す。
  論文  参考訳（メタデータ） (2021-05-02T07:33:16Z)
• FLIP: A flexible initializer for arbitrarily-sized parametrized quantum circuits [105.54048699217668]
  任意サイズのパラメタライズド量子回路のためのFLexible Initializerを提案する。 FLIPは任意の種類のPQCに適用することができ、初期パラメータの一般的なセットに頼る代わりに、成功したパラメータの構造を学ぶように調整されている。 本稿では, 3つのシナリオにおいてFLIPを用いることの利点を述べる。不毛な高原における問題ファミリ, 最大カット問題インスタンスを解くPQCトレーニング, 1次元フェルミ-ハッバードモデルの基底状態エネルギーを求めるPQCトレーニングである。
  論文  参考訳（メタデータ） (2021-03-15T17:38:33Z)
• GradInit: Learning to Initialize Neural Networks for Stable and Efficient Training [59.160154997555956]
  ニューラルネットワークを初期化するための自動化およびアーキテクチャ手法であるgradinitを提案する。 各ネットワーク層の分散は、SGDまたはAdamの単一ステップが最小の損失値をもたらすように調整される。 また、学習率のウォームアップを伴わずに、オリジナルのPost-LN Transformerを機械翻訳用にトレーニングすることもできる。
  論文  参考訳（メタデータ） (2021-02-16T11:45:35Z)
• Where Should We Begin? A Low-Level Exploration of Weight Initialization Impact on Quantized Behaviour of Deep Neural Networks [93.4221402881609]
  異なる重みの初期化が重みの最終的な分布と異なるCNNアーキテクチャの活性化に与える影響について、詳細なアブレーション研究を行う。 我々の知る限りでは、ウェイトの初期化とその量子化行動に対する影響について、そのような低レベルで詳細な定量分析を行うのは、私たちは初めてである。
  論文  参考訳（メタデータ） (2020-11-30T06:54:28Z)
• Revisiting Initialization of Neural Networks [72.24615341588846]
  ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。 Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
  論文  参考訳（メタデータ） (2020-04-20T18:12:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。