論文の概要: Connecting ansatz expressibility to gradient magnitudes and barren
plateaus
- arxiv url: http://arxiv.org/abs/2101.02138v1
- Date: Wed, 6 Jan 2021 17:09:37 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-11 00:11:13.362471
- Title: Connecting ansatz expressibility to gradient magnitudes and barren
plateaus
- Title(参考訳): アンサッツ表現性と勾配マグニチュードおよび不毛高原の連結
- Authors: Zo\"e Holmes, Kunal Sharma, M. Cerezo, Patrick J. Coles
- Abstract要約: 量子回路は「変分問題の解法」として機能する。
理想的には、そのような ans"atze は、所望の解の近接近似にアクセスできるように高度に表現的であるべきである。
これら2つの重要な特性、表現可能性と訓練可能性の基本的な関係を導出する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Parameterized quantum circuits serve as ans\"{a}tze for solving variational
problems and provide a flexible paradigm for programming near-term quantum
computers. Ideally, such ans\"{a}tze should be highly expressive so that a
close approximation of the desired solution can be accessed. On the other hand,
the ansatz must also have sufficiently large gradients to allow for training.
Here, we derive a fundamental relationship between these two essential
properties: expressibility and trainability. This is done by extending the well
established barren plateau phenomenon, which holds for ans\"{a}tze that form
exact 2-designs, to arbitrary ans\"{a}tze. Specifically, we calculate the
variance in the cost gradient in terms of the expressibility of the ansatz, as
measured by its distance from being a 2-design. Our resulting bounds indicate
that highly expressive ans\"{a}tze exhibit flatter cost landscapes and
therefore will be harder to train. Furthermore, we provide numerics
illustrating the effect of expressiblity on gradient scalings, and we discuss
the implications for designing strategies to avoid barren plateaus.
- Abstract(参考訳): パラメータ化量子回路は変分問題を解くための ans\"{a}tze として機能し、短期量子コンピュータをプログラミングするための柔軟なパラダイムを提供する。
理想的には、そのような ans\"{a}tze は、所望の解の近接近似にアクセスできるように高度に表現的であるべきである。
一方、アンザッツはトレーニングを可能にする十分な大きな勾配を持つ必要がある。
ここで、これらの2つの重要な特性、表現可能性と訓練可能性の基本的な関係を導出する。
これは、正確な2-設計を形成する ans\"{a}tze を任意の ans\"{a}tze に持つ、確立された不毛台地現象を拡張することによって行われる。
具体的には,アンサッツの表現性の観点から,コスト勾配のばらつきを2設計からの距離で算出する。
結果として得られた境界は、非常に表現力の高い ans\"{a}tze がよりフラットなコストランドスケープを示し、したがって訓練が困難になることを示している。
さらに,表現度が勾配スケーリングに与える影響を示す数値を提示し,不毛高原を回避するための戦略設計の意義について考察する。
関連論文リスト
- How to guess a gradient [68.98681202222664]
我々は、勾配が以前考えられていたよりもより構造化されていることを示す。
この構造をエクスプロイトすると、勾配のない最適化スキームが大幅に改善される。
厳密な勾配の最適化と勾配の推測の間に大きなギャップを克服する上での新たな課題を強調した。
論文 参考訳(メタデータ) (2023-12-07T21:40:44Z) - Tight and Efficient Gradient Bounds for Parameterized Quantum Circuits [7.0379869298557844]
パラメータ化モデルのトレーニングは、下層の損失関数のランドスケープに大きく依存する。
これらの境界は, 損失そのものの分散とともに, VQAモデルの損失景観を研究するために, 効率よく, 古典的に逆向きに推定できることが示される。
この洞察は、局所的およびグローバル的用語からなる観測可能なVQAとして再構成できる生成モデルであるハイブリッド量子生成広告ネットワーク(qGANs)に直接的な意味を持つ。
論文 参考訳(メタデータ) (2023-09-22T07:38:13Z) - Constrained Optimization of Rank-One Functions with Indicator Variables [0.0]
様々な機械学習アプリケーションに現れる決定変数のサポートに関する制約をモデル化する制約よりも、ランクワン凸関数が関与する最適化問題である。
本稿では、視点関数によって誘導される隠れ円錐構造を利用する構成的アプローチを提案する。
これにより、非線形可分あるいは非可分な目的関数を持つ集合の凸包記述に対する視点記述を体系的に与え、連続変数の制約にサインし、指標変数の制約を与えることができる。
論文 参考訳(メタデータ) (2023-03-31T15:51:56Z) - Semantic Strengthening of Neuro-Symbolic Learning [85.6195120593625]
ニューロシンボリックアプローチは一般に確率論的目的のファジィ近似を利用する。
トラクタブル回路において,これを効率的に計算する方法を示す。
我々は,Warcraftにおける最小コストパスの予測,最小コスト完全マッチングの予測,スドクパズルの解法という3つの課題に対して,アプローチを検証した。
論文 参考訳(メタデータ) (2023-02-28T00:04:22Z) - An exponentially-growing family of universal quantum circuits [0.0]
この研究は、2つの新しいアーキテクチャを導入し、そのFourier次数は指数関数的に増加する。
実際、並列指数型アーキテクチャは1次元のテスト問題において、最終的な平均2乗誤差値を44.7%まで削減することで、既存の線形アーキテクチャよりも優れていることを示した。
論文 参考訳(メタデータ) (2022-12-01T18:29:48Z) - Towards More Robust Interpretation via Local Gradient Alignment [37.464250451280336]
任意の非負の同質ニューラルネットワークに対して、勾配に対する単純な$ell$-robust criterionは、テクスティノ正規化不変量であることを示す。
我々は,局所勾配の整合性を両立させるために,$ell$とcosine distance-based criteriaを正則化項として組み合わせることを提案する。
我々は,CIFAR-10 と ImageNet-100 でトレーニングしたモデルにより,より堅牢な解釈が得られたことを実験的に示す。
論文 参考訳(メタデータ) (2022-11-29T03:38:28Z) - Towards Scalable Hyperbolic Neural Networks using Taylor Series
Approximations [10.056167107654089]
ハイパーボリックネットワークは、階層的データセットを含むいくつかの領域において、ユークリッドネットワークよりも顕著に改善されている。
それらの実践における採用は、(i)高速化されたディープラーニングハードウェアの非スケーリング性、(ii)双曲空間の閉鎖による消滅、(iii)情報損失により制限されている。
テイラー級数展開を用いた双曲作用素の近似を提案し、双曲函数の接勾配を同変に再構成する。
論文 参考訳(メタデータ) (2022-06-07T22:31:17Z) - Realization of arbitrary doubly-controlled quantum phase gates [62.997667081978825]
本稿では,最適化問題における短期量子優位性の提案に着想を得た高忠実度ゲートセットを提案する。
3つのトランペット四重項のコヒーレントな多レベル制御を編成することにより、自然な3量子ビット計算ベースで作用する決定論的連続角量子位相ゲートの族を合成する。
論文 参考訳(メタデータ) (2021-08-03T17:49:09Z) - Lifting the Convex Conjugate in Lagrangian Relaxations: A Tractable
Approach for Continuous Markov Random Fields [53.31927549039624]
断片的な離散化は既存の離散化問題と矛盾しないことを示す。
この理論を2つの画像のマッチング問題に適用する。
論文 参考訳(メタデータ) (2021-07-13T12:31:06Z) - Hyperbolic Graph Embedding with Enhanced Semi-Implicit Variational
Inference [48.63194907060615]
半単純グラフ変分自動エンコーダを用いて,低次元グラフ潜在表現における高次統計量を取得する。
我々は、階層構造を示すグラフを効率的に表現するために、ポインケア埋め込みを通して潜在空間に双曲幾何学を組み込む。
論文 参考訳(メタデータ) (2020-10-31T05:48:34Z) - Differentiating through the Fr\'echet Mean [51.32291896926807]
フレット平均(Fr'echet mean)はユークリッド平均の一般化である。
任意のリーマン多様体に対して Fr'echet 平均を微分する方法を示す。
これにより、Fr'echet平均を双曲型ニューラルネットワークパイプラインに完全に統合する。
論文 参考訳(メタデータ) (2020-02-29T19:49:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。