論文の概要: Apparent Compression, Real Stability: The Intrinsic Dimension of Learning a Quantum Wavefunction

• arxiv url: http://arxiv.org/abs/2609.33193v1
• Date: Sun, 27 Sep 2026 04:19:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-06 02:19:05.527186
• Title: Apparent Compression, Real Stability: The Intrinsic Dimension of Learning a Quantum Wavefunction
• Title（参考訳）: Apparent Compression, Real Stability: The Intrinsic Dimension of Learning a Quantum Wavefunction
• Abstract要約: 内在次元では、トレーニングに必要な重量空間の方向はいくつあるか? 量子多体系の基底状態を表すためにニューラルネットワークを訓練する変分モンテカルロについて測定する。 小さな次元は誤解を招くことがあるが、安定性をもたらすのは現実である。
• 参考スコア（独自算出の注目度）: 42.21989596721942
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: How many directions in weight space does training need? The intrinsic dimension answers this with the smallest number of random directions in which training still reaches a target accuracy, and small values have motivated parameter-efficient methods such as LoRA. We measure it for variational Monte Carlo (VMC), which trains a neural network to represent the ground state of a quantum many-body system. VMC is a demanding test, because the network generates its own training samples and every gradient is noisy, and a revealing one, because the exact answer is known and every run can be scored. We train only a small latent vector that a frozen random map turns into the network's weights, with no change to the standard natural-gradient optimizer. We find that a small dimension can be misleading, while the stability it brings is real. On a magnet with a hard sign pattern, a network that cannot represent signs reaches its best energy in 8 of 28,642 directions, but only because no such network can go lower; once signs are learnable, neither the signs nor the magnitudes are cheap. The dimension rises across a quantum phase transition, so it tracks how difficult a state is at far less compute than fitting a scaling law, yet it never falls below a floor set by the random subspace itself, even where the ground state is nearly trivial. Training in the subspace, in contrast, never diverged in our experiments, whereas full-parameter training with the same settings did, and a control with matched solvers attributes the difference to the reduced dimension.
• Abstract（参考訳）: トレーニングに必要な重量空間の方向はいくつか? 固有次元は、トレーニングが依然として目標精度に達する最小数のランダムな方向に対応しており、小さな値はLoRAのようなパラメータ効率の手法を動機付けている。 量子多体系の基底状態を表すためにニューラルネットワークを訓練する変分モンテカルロ(VMC)について測定する。 VMCは、ネットワークが独自のトレーニングサンプルを生成し、すべての勾配がノイズで、明確な答えが分かっていて、すべての実行が得点できるため、要求の多いテストである。 我々は、凍結したランダムマップがネットワークの重みに変わる小さな潜在ベクトルのみを訓練するが、通常の自然勾配最適化器は変更しない。 小さな次元は誤解を招くことがあるが、それがもたらす安定性は本物である。 ハードサインパターンを持つ磁石上では、符号を表現できないネットワークは、28,642方向の8つの最もエネルギーに到達するが、そのようなネットワークは低くならないためのみである。 次元は量子相転移を越えて上昇するので、状態がスケーリング法則に適合するよりもはるかに計算が難しいかを追跡するが、基底状態がほとんど自明な場所であっても、ランダムな部分空間自体によって設定されたフロアの下には落ちない。 対照的に、サブスペースでのトレーニングは我々の実験では決して分岐しなかったが、同じ設定でフルパラメータトレーニングを行った。

関連論文リスト

• Partial Feedback Online Learning [88.27143767009376]
  我々は、偏見フィードバックオンライン学習と呼ばれる新しい学習プロトコルについて研究する。 各インスタンスは許容できるラベルのセットを許可するが、学習者は1ラウンドごとに許容できるラベルを1つだけ観察する。
  論文  参考訳（メタデータ） (2026-01-29T09:39:11Z)
• Just How Flexible are Neural Networks in Practice? [89.80474583606242]
  ニューラルネットワークは、パラメータを持つ少なくとも多くのサンプルを含むトレーニングセットに適合できると広く信じられている。 しかし実際には、勾配や正規化子など、柔軟性を制限したトレーニング手順によるソリューションしか見つからない。
  論文  参考訳（メタデータ） (2024-06-17T12:24:45Z)
• The Implicit Bias of Minima Stability in Multivariate Shallow ReLU Networks [53.95175206863992]
  本研究では,2次損失を持つ1層多変量ReLUネットワークをトレーニングする際に,勾配勾配勾配が収束する解のタイプについて検討する。 我々は、浅いReLUネットワークが普遍近似器であるにもかかわらず、安定した浅層ネットワークは存在しないことを証明した。
  論文  参考訳（メタデータ） (2023-06-30T09:17:39Z)
• Spectral Bias Outside the Training Set for Deep Networks in the Kernel Regime [0.0]
  ネットワークは、トレーニングセットだけでなく、入力空間全体にわたって、ニューラルネットワークの上位固有関数を学習するために偏りがあることが示される。 このバイアスはモデルアーキテクチャと入力分布のみに依存する。 我々は,漁業情報マトリックスの低効率な位置からの局所的な容量制御は理論的には未熟である,と結論づける。
  論文  参考訳（メタデータ） (2022-06-06T22:09:15Z)
• Scalable approach to many-body localization via quantum data [69.3939291118954]
  多体局在は、量子多体物理学の非常に難しい現象である。 計算コストの高いステップを回避できるフレキシブルニューラルネットワークベースの学習手法を提案する。 我々のアプローチは、量子多体物理学の新たな洞察を提供するために、大規模な量子実験に適用することができる。
  論文  参考訳（メタデータ） (2022-02-17T19:00:09Z)
• DeepMLS: Geometry-Aware Control Point Deformation [76.51312491336343]
  本稿では,空間に基づく変形技術であるDeepMLSを紹介する。 ニューラルネットワークの力を利用して、下層の形状を変形パラメータに注入する。 本手法は直感的に滑らかな変形をしやすくし, 製造物に適している。
  論文  参考訳（メタデータ） (2022-01-05T23:55:34Z)
• How many degrees of freedom do we need to train deep networks: a loss landscape perspective [28.414369753825884]
  ディープニューラルネットワークは、パラメータの総数よりもはるかに少ない自由度でトレーニング可能であることを示す。 トレーニング次元がしきい値を超えると、成功確率の急激な位相遷移が0ドルから1ドルになる。 このしきい値トレーニング次元は、訓練の自由度を減らすためのより洗練された方法の有効性を評価するための強力なヌルモデルを提供する。
  論文  参考訳（メタデータ） (2021-07-13T01:29:24Z)
• Perspective: A Phase Diagram for Deep Learning unifying Jamming, Feature Learning and Lazy Training [4.318555434063275]
  ディープラーニングアルゴリズムは、画像認識やgoプレイなど、さまざまなタスクにおける技術革命の責任を負う。 しかし、なぜ働くのかは分かっていない。 最終的に、彼らは高い次元に横たわるデータを分類することに成功しました。 我々は、異なる学習体制をフェーズダイアグラムにまとめることができると論じる。
  論文  参考訳（メタデータ） (2020-12-30T11:00:36Z)
• How Powerful are Shallow Neural Networks with Bandlimited Random Weights? [25.102870584507244]
  制限深度2バンドランダムニューラルネットワークの表現力について検討する。 ランダムネットは、隠れた層パラメータがランダムな帯域幅で凍結されるニューラルネットワークである。
  論文  参考訳（メタデータ） (2020-08-19T13:26:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。