論文の概要: Implicit differentiation of tensor network algorithms

• arxiv url: http://arxiv.org/abs/2607.15030v1
• Date: Thu, 16 Jul 2026 14:13:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-17 17:01:33.131859
• Title: Implicit differentiation of tensor network algorithms
• Title（参考訳）: テンソルネットワークアルゴリズムの帰納的微分
• Authors: Lander Burgelman, Anna Francuz, Paul Brehmer, Lukas Devos, Jutho Haegeman, Frank Verstraete, Bram Vanhecke,
• Abstract要約: 本研究では,PEPS最適化の課題に対処するために,近年の暗黙差分法を応用した。 収縮環境における単一特性方程式を用いて勾配計算のコアステップを再構成することにより、勾配計算のコストを削減できる。 また、安定勾配に基づくPEPS最適化の実践的実装をいかに大幅に単純化するかを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The current leading approach to the variational optimization of projected entangled-pair states (PEPS) is based on automatic differentiation, which allows for a convenient evaluation of the energy gradient with respect to the local variational degrees of freedom. However, evaluating the energy gradient not only remains a major computational bottleneck of the optimization procedure, but also suffers from frequent numerical instabilities. In this work, we adopt recent advances in implicit differentiation techniques to address these challenges in PEPS optimization. By reformulating the core step of the gradient computation in terms of a single characteristic equation for the contraction environment, we reduce the cost of the gradient computation and improve its scaling with the problem size. By choosing a suitable parametrization of this characteristic equation based on the intrinsic symmetries of the contraction environment, we can directly remove instabilities from the global gradient computation that would otherwise arise from the derivatives of subroutines of the contraction algorithm. Finally, we demonstrate how this approach drastically simplifies the practical implementation of stable gradient-based PEPS optimization.
• Abstract（参考訳）: 射影絡み合ったペア状態(PEPS)の変分最適化に対する現在の先導的なアプローチは、局所的な自由度に対するエネルギー勾配の便利な評価を可能にする自動微分に基づいている。 しかし、エネルギー勾配の評価は最適化手順の計算上のボトルネックとして残るだけでなく、しばしば数値的な不安定さに悩まされている。 本研究では,PEPS最適化におけるこれらの課題に対処するために,近年の暗黙差分法を応用した。 収縮環境における単一特性方程式を用いて勾配計算のコアステップを再構成することにより、勾配計算のコストを削減し、問題の大きさに応じてスケーリングを改善する。 この特性方程式の固有対称性に基づいて適切なパラメトリゼーションを選択することにより、縮合アルゴリズムのサブルーチンの微分から生じるであろう大域勾配計算から不安定性を直接除去することができる。 最後に、安定勾配に基づくPEPS最適化の実践的実装をいかに単純化するかを示す。

関連論文リスト

• Accelerated training of Gaussian processes using banded square exponential covariances [0.0]
  本稿では,2乗指数(SE)共分散行列が非対角成分を極端に0に近い数成分を含むという観測に基づいて,計算効率のよいGPトレーニング手法を提案する。 計算コストを削減し,逆行列と行列式を計算可能な元の共分散に対するエンフバンド行列近似を生成するために,これらのエントリを除去する原理的な手順を構築した。
  論文  参考訳（メタデータ） (2026-01-26T22:35:20Z)
• Revisiting the Initial Steps in Adaptive Gradient Descent Optimization [6.468625143772815]
  Adamのような適応的な勾配最適化手法は、さまざまな機械学習タスクにわたるディープニューラルネットワークのトレーニングで広く使われている。 これらの手法は、降下勾配 (SGD) と比較して最適下一般化に苦しむことが多く、不安定性を示す。 非ゼロ値で2階モーメント推定を初期化する。
  論文  参考訳（メタデータ） (2024-12-03T04:28:14Z)
• Gradients without Backpropagation [16.928279365071916]
  本稿では、フォワードモードによって正確に効率的に計算できる方向微分のみに基づいて勾配を計算する方法を提案する。 様々な問題において前方降下勾配を示し、計算の大幅な削減を示し、場合によっては最大2倍の速さで訓練を可能にする。
  論文  参考訳（メタデータ） (2022-02-17T11:07:55Z)
• Differentiable Annealed Importance Sampling and the Perils of Gradient Noise [68.44523807580438]
  Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。 差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。 我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
  論文  参考訳（メタデータ） (2021-07-21T17:10:14Z)
• Adaptive Importance Sampling for Finite-Sum Optimization and Sampling with Decreasing Step-Sizes [4.355567556995855]
  ステップサイズを小さくした有限サム最適化とサンプリングのための適応的重要度サンプリングのための簡易かつ効率的なアルゴリズムであるavareを提案する。 標準的な技術的条件下では、$mathcalO(T2/3)$と$mathcalO(T5/6)$の動的後悔をそれぞれ、$mathcalO(T5/6)$のステップサイズで実行するときに達成している。
  論文  参考訳（メタデータ） (2021-03-23T00:28:15Z)
• Zeroth-Order Hybrid Gradient Descent: Towards A Principled Black-Box Optimization Framework [100.36569795440889]
  この作業は、一階情報を必要としない零次最適化(ZO)の反復である。 座標重要度サンプリングにおける優雅な設計により,ZO最適化法は複雑度と関数クエリコストの両面において効率的であることを示す。
  論文  参考訳（メタデータ） (2020-12-21T17:29:58Z)
• Channel-Directed Gradients for Optimization of Convolutional Neural Networks [50.34913837546743]
  本稿では,畳み込みニューラルネットワークの最適化手法を提案する。 出力チャネル方向に沿って勾配を定義することで性能が向上し,他の方向が有害となることを示す。
  論文  参考訳（メタデータ） (2020-08-25T00:44:09Z)
• Efficient Learning of Generative Models via Finite-Difference Score Matching [111.55998083406134]
  有限差分で任意の順序方向微分を効率的に近似する汎用戦略を提案する。 我々の近似は関数評価にのみ関係しており、これは並列で実行でき、勾配計算は行わない。
  論文  参考訳（メタデータ） (2020-07-07T10:05:01Z)
• Cogradient Descent for Bilinear Optimization [124.45816011848096]
  双線形問題に対処するために、CoGDアルゴリズム(Cogradient Descent Algorithm)を導入する。 一方の変数は、他方の変数との結合関係を考慮し、同期勾配降下をもたらす。 本アルゴリズムは,空間的制約下での1変数の問題を解くために応用される。
  論文  参考訳（メタデータ） (2020-06-16T13:41:54Z)
• Proximal Gradient Algorithm with Momentum and Flexible Parameter Restart for Nonconvex Optimization [73.38702974136102]
  アルゴリズムの高速化のために,パラメータ再起動方式が提案されている。 本論文では,非滑らかな問題を解くアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-02-26T16:06:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。