論文の概要: Isometric tensor network optimization for extensive Hamiltonians is free
of barren plateaus
- arxiv url: http://arxiv.org/abs/2304.14320v1
- Date: Thu, 27 Apr 2023 16:45:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-28 12:44:14.192768
- Title: Isometric tensor network optimization for extensive Hamiltonians is free
of barren plateaus
- Title(参考訳): 広範ハミルトンの等尺テンソルネットワーク最適化は不毛高原を含まない
- Authors: Qiang Miao, Thomas Barthel
- Abstract要約: 我々はなぜ等尺テンソルネットワーク状態(TNS)のエネルギー最適化にバレンプラトーが存在しないのかを説明し、数値的に確認する。
具体的には,行列積状態,木テンソルネットワーク状態,およびマルチスケールエンタングルメント再正規化アンサッツについて考察する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We explain why and numerically confirm that there are no barren plateaus in
the energy optimization of isometric tensor network states (TNS) for extensive
Hamiltonians with finite-range interactions. Specifically, we consider matrix
product states, tree tensor network states, and the multiscale entanglement
renormalization ansatz. The variance of the energy gradient, evaluated by
taking the Haar average over the TNS tensors, has a leading system-size
independent term and decreases according to a power law in the bond dimension.
For a hierarchical TNS with branching ratio $b$, the variance of the gradient
with respect to a tensor in layer $\tau$ scales as $(b\eta)^\tau$, where $\eta$
is the second largest eigenvalue of the Haar-average doubled layer-transition
channel and decreases algebraically with increasing bond dimension. The
observed scaling properties of the gradient variance bear implications for
efficient initialization procedures.
- Abstract(参考訳): 有限次元相互作用を持つ広範囲ハミルトニアンの等尺テンソルネットワーク状態(tns)のエネルギー最適化において、不規則な高原が存在しない理由を説明し、数値的に確認する。
具体的には,行列積状態,木テンソルネットワーク状態,マルチスケールエンタングルメント再正規化アンサッツについて考察する。
エネルギー勾配のばらつきは、tnsテンソル上のハール平均値を用いて評価され、ボンド次元のパワー則に従って、システムサイズ独立項が主要なものとなり、減少する。
分岐比が$b$の階層的 TNS に対し、テンソルに対する勾配の分散は$(b\eta)^\tau$ となり、$\eta$ は平均2重層遷移チャネルの2番目に大きな固有値であり、結合次元の増加とともに代数的に減少する。
勾配分散の観測されたスケーリング特性は、効率的な初期化手順に寄与する。
関連論文リスト
- Tensor cumulants for statistical inference on invariant distributions [49.80012009682584]
我々は,PCAが信号の大きさの臨界値で計算的に困難になることを示す。
我々は、与えられた次数の不変量に対して明示的でほぼ直交的な基底を与える新しい対象の集合を定義する。
また、異なるアンサンブルを区別する新しい問題も分析できます。
論文 参考訳(メタデータ) (2024-04-29T14:33:24Z) - Computational complexity of isometric tensor network states [0.0]
2D isoTNSを1+1Dユニタリ量子回路にマッピングする。
強いインジェクティブなアイソTNSで局所的な期待値を計算するための高速な古典的アルゴリズムを求める。
本研究の結果は,isoTNSを契約する証明可能なアルゴリズムの設計に利用できる。
論文 参考訳(メタデータ) (2024-02-12T19:00:00Z) - Absence of barren plateaus and scaling of gradients in the energy optimization of isometric tensor network states [0.0]
広いハミルトンと有限範囲の相互作用を持つ量子多体系のエネルギー問題を考える。
行列積状態,木テンソルネットワーク,およびマルチスケールエンタングル化再正規化アンサッツに対する変分最適化問題は,バレンプラトーを含まないことを証明した。
論文 参考訳(メタデータ) (2023-03-31T22:49:49Z) - Barren plateaus in quantum tensor network optimization [0.0]
行列積状態(qMPS)、ツリーテンソルネットワーク(qTTN)、およびマルチスケールエンタングルメント再正規化アンサッツ(qMERA)にインスパイアされた量子回路の変動最適化を解析する。
量子テンソルネットワークの正準中心からハミルトン項の距離に比例して,コスト関数勾配のばらつきが指数関数的に減少することを示す。
論文 参考訳(メタデータ) (2022-09-01T08:42:35Z) - BiTAT: Neural Network Binarization with Task-dependent Aggregated
Transformation [116.26521375592759]
量子化は、与えられたニューラルネットワークの高精度ウェイトとアクティベーションを、メモリ使用量と計算量を減らすために、低精度ウェイト/アクティベーションに変換することを目的としている。
コンパクトに設計されたバックボーンアーキテクチャの極端量子化(1ビットの重み/1ビットのアクティベーション)は、深刻な性能劣化をもたらす。
本稿では,性能劣化を効果的に緩和する新しいQAT法を提案する。
論文 参考訳(メタデータ) (2022-07-04T13:25:49Z) - Tensor Network States with Low-Rank Tensors [6.385624548310884]
テンソルネットワークを構成するテンソルに低ランク制約を課すという考え方を導入する。
この修正により、ネットワーク最適化の時間と複雑さを大幅に削減できる。
テンソル階数 $r$ を$m$ の順序で選ぶことは、高い精度の基底状態近似を得るのに十分である。
論文 参考訳(メタデータ) (2022-05-30T17:58:16Z) - Boundary theories of critical matchgate tensor networks [59.433172590351234]
AdS/CFT対応の重要な側面は、双曲格子上のテンソルネットワークモデルの観点から捉えることができる。
マッチゲート制約を満たすテンソルに対しては、これらは以前、乱れた境界状態を生成することが示されている。
これらのハミルトニアンは、解析的な玩具モデルによって捉えられたマルチスケールの準周期対称性を示す。
論文 参考訳(メタデータ) (2021-10-06T18:00:03Z) - On the closedness and geometry of tensor network state sets [5.989041429080286]
ネットワーク状態(TNS)は強い相関量子物質の研究において強力なアプローチである。
現実的なアルゴリズムでは、エネルギー期待値やオーバーラップのような関数は、特定の TNS の集合に対して最適化される。
開境界条件を持つ行列積状態 (MPS) の集合, ツリーテンソルネットワーク状態 (TTNS) およびマルチスケールエンタングル化再正規化アンサッツ (MERA) は常に閉じていることを示す。
論文 参考訳(メタデータ) (2021-07-30T18:09:28Z) - Dimension of Tensor Network varieties [68.8204255655161]
テンソルネットワーク多様体の次元上の上限を決定する。
洗練された上界は、行列積状態の多様体や射影絡み合ったペア状態のような応用に関係している場合に与えられる。
論文 参考訳(メタデータ) (2021-01-08T18:24:50Z) - T-Basis: a Compact Representation for Neural Networks [89.86997385827055]
テンソルの集合をコンパクトに表現するための概念である T-Basis をニューラルネットワークでよく見られる任意の形状で導入する。
ニューラルネットワーク圧縮の課題に対する提案手法の評価を行い, 許容性能低下時に高い圧縮速度に達することを示す。
論文 参考訳(メタデータ) (2020-07-13T19:03:22Z) - Revisiting Initialization of Neural Networks [72.24615341588846]
ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。
Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
論文 参考訳(メタデータ) (2020-04-20T18:12:56Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。