論文の概要: Identity-Paired Progressive Depth Training: When Trainability Persists Beyond Expressibility
- arxiv url: http://arxiv.org/abs/2607.16800v1
- Date: Sat, 18 Jul 2026 12:47:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-21 18:48:37.261469
- Title: Identity-Paired Progressive Depth Training: When Trainability Persists Beyond Expressibility
- Title(参考訳): アイデンティティに障害のあるプログレッシブディープトレーニング: 表現性を超えたトレーニング容易性
- Authors: Athanasios Hadjidimoulas, Tirthak Patel, Anastasios Kyrillidis,
- Abstract要約: Emphprogressive depth Training (PDT)について検討する。
PDTは階層的なカリキュラムで、新しいレイヤを追加する前に浅い回路をトレーニングする。
以上の結果から,IP-PDTはCNOTゲートの大部分を排除し,両ベースラインよりも低い総ゲートコストを実現することを示す。
- 参考スコア(独自算出の注目度): 11.5521820702581
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Variational Quantum Algorithms (VQAs) are a leading paradigm for near-term quantum computing, yet their training suffers from sensitivity to circuit depth, initialization, and landscape pathologies such as barren plateaus. We study \emph{progressive depth training} (PDT) -- a layerwise curriculum that trains a shallow circuit before appending new layers -- and identify a fundamental obstacle: fixed entangling gates (CNOTs) in hardware-efficient ansätze cause \emph{initialization shock}, an energy spike when new layers are added. We propose \emph{identity-paired progressive depth training} (IP-PDT), which appends forward/inverse block pairs -- each consisting of a standard rotation$+$CNOT block followed by its reverse -- that compose to the identity at initialization. Because the adjacent CNOT rings cancel, the effective circuit retains only \textit{a single entangling layer} surrounded by \textit{overparameterized local rotations}. We prove a simple \textit{Reachable Set Saturation Theorem}: under this construction the variational manifold expands exactly once (when post-entangler rotations are first introduced) and then \emph{saturates}; all subsequent depth increases provide pure overparameterization of single-qubit unitaries. Despite this saturation, progressive addition of rotation parameters can continue to improve optimization outcomes -- a phenomenon we term \emph{trainability beyond expressibility}. We formalize IP-PDT as a continuation method on nested manifolds, prove monotone energy guarantees under an acceptance rule, and connect energy error to ground-state fidelity through spectral-gap inequalities. A detailed resource analysis shows that IP-PDT achieves lower total gate cost than both baselines by eliminating most CNOT gates.
- Abstract(参考訳): 変分量子アルゴリズム(VQA)は、短期量子コンピューティングの主要なパラダイムであるが、そのトレーニングは回路深度に対する感度、初期化、バレンプラトーのようなランドスケープ・パノロジーに悩まされている。
我々は,新しい層を追加する前に浅い回路を訓練する階層的なカリキュラムである 'emph{progressive depth Training} (PDT) について検討し,ハードウェア効率のよいアンサテズの原因である 'emph{initialization shock} における固定エンタングリングゲート (CNOT) の基本的な障害を特定する。
本稿では,前/逆ブロック対を付加する「emph{identity-paired Progress depth Training}」(IP-PDT)を提案する。
隣り合う CNOT 環がキャンセルされるので、有効回路は \textit{a single entangling layer} のみを保持し、それを \textit{overparameterized local rotations} で囲む。
この構成の下で、変分多様体はちょうど1回だけ拡大し(後エンタングル回転が最初に導入されたとき)、次に \emph{saturates} となる。
この飽和にもかかわらず、回転パラメータのプログレッシブな追加は最適化結果の改善を継続することができる。
我々は、ネスト多様体上の継続法としてIP-PDTを定式化し、受理則の下で単調エネルギーの保証を証明し、スペクトルギャップの不等式によりエネルギー誤差と基底状態の忠実度を接続する。
詳細な資源分析により、IP-PDTは、ほとんどのCNOTゲートを除去することで、両方のベースラインよりも低い総ゲートコストを達成することが示された。
関連論文リスト
- Latent Recurrent Transformer: Architecture Exploration, Training Strategies, and Scaling Behavior [107.2098567818173]
Latent Recurrent Transformer (LRT) は自己回帰変換器の軽量化である。
LRTは、次のトークンのリカレントメモリとして、前のトークンから高レベルなソース層隠れステートを再利用する。
論文 参考訳(メタデータ) (2026-05-26T10:10:26Z) - TABES: Trajectory-Aware Backward-on-Entropy Steering for Masked Diffusion Models [35.327100592206115]
Backward-on-Entropy (BoE) Steeringは勾配誘導型推論フレームワークで、無限水平コンテキストを1つの後方パスで近似する。
スケーラビリティを確保するために,マスク対象の構造を利用した疎結合プリミティブであるttexttActiveQueryAttentionを導入し,後方通過の複雑さを低減する。
論文 参考訳(メタデータ) (2026-01-30T19:10:32Z) - Tracing the Representation Geometry of Language Models from Pretraining to Post-training [22.18942718274405]
本研究では,事前学習と後学習にまたがる学習表現の幾何学をスペクトル的に検討する。
自己回帰事前学習中に3つの幾何位相の一貫した非単調列が発見された。
SFTとDPOは、特定の命令データや優先データを統合するために「エントロピー探索」ダイナミクスを駆動します。
論文 参考訳(メタデータ) (2025-09-27T00:46:29Z) - Description of the Training Process of Neural Networks via Ergodic Theorem : Ghost nodes [3.637162892228131]
本稿では、訓練勾配降下(SGD)による深層ニューラルネットワークの理解と加速のための統一的な枠組みを提案する。
我々は,安定剤に対する真の収束を識別する,最も大きなリャプノフ指数の実用診断,実行推定を導入する。
本稿では,補助的なゴースト出力ノードを付加した標準分類器のゴーストカテゴリ拡張を提案する。
論文 参考訳(メタデータ) (2025-07-01T17:54:35Z) - Restarted contractive operators to learn at equilibrium [0.0]
我々は、再起動戦略とADによって計算されたJFBを組み合わせるアルゴリズムを導入し、学習手順を最適なDECフレームワークに任意に近づけることができることを示す。
本稿では,重み付きノルムの重み付け,プラグイン・アンド・プレイスキームの段階化と正規化レベル,フォワード・バックワード・イテレートに埋め込まれたDRUNetデノイザの訓練に有効であることを示す。
論文 参考訳(メタデータ) (2025-06-16T08:38:56Z) - Stable Nonconvex-Nonconcave Training via Linear Interpolation [51.668052890249726]
本稿では,ニューラルネットワークトレーニングを安定化(大規模)するための原理的手法として,線形アヘッドの理論解析を提案する。
最適化過程の不安定性は、しばしば損失ランドスケープの非単調性によって引き起こされるものであり、非拡張作用素の理論を活用することによって線型性がいかに役立つかを示す。
論文 参考訳(メタデータ) (2023-10-20T12:45:12Z) - Towards Training Without Depth Limits: Batch Normalization Without
Gradient Explosion [83.90492831583997]
バッチ正規化ネットワークは,信号伝搬特性を最適に保ちつつ,爆発的な勾配を回避することができることを示す。
線形アクティベーションとバッチ正規化を備えた多層パーセプトロン(MLP)を用いて,有界深度を実証する。
また、ある非線形活性化に対して同じ特性を経験的に達成する活性化整形法を設計する。
論文 参考訳(メタデータ) (2023-10-03T12:35:02Z) - Degradation-Aware Unfolding Half-Shuffle Transformer for Spectral
Compressive Imaging [142.11622043078867]
圧縮画像と物理マスクからパラメータを推定し,これらのパラメータを用いて各イテレーションを制御する,DAUF(Degradation-Aware Unfolding Framework)を提案する。
HST を DAUF に接続することにより,HSI 再構成のための変換器の深部展開法であるデグレーション・アウェア・アンフォールディング・ハーフシャッフル変換器 (DAUHST) を確立した。
論文 参考訳(メタデータ) (2022-05-20T11:37:44Z) - Deeply Shared Filter Bases for Parameter-Efficient Convolutional Neural
Networks [0.0]
現代の畳み込みニューラルネットワーク(CNN)は、大きな同一の畳み込みブロックを持つ。
本稿では,トレーニング中の勾配問題を効果的に回避しつつ,フィルタベースを分離して学習する方法を示す。
画像分類とオブジェクト検出の実験結果から,従来のパラメータ共有手法と異なり,パラメータを節約するために性能を交換しないことがわかった。
論文 参考訳(メタデータ) (2020-06-09T06:09:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。