論文の概要: Neural Network Quantum Field Theory from Transformer Architectures
- arxiv url: http://arxiv.org/abs/2602.10209v1
- Date: Tue, 10 Feb 2026 19:02:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-02-12 21:44:01.233372
- Title: Neural Network Quantum Field Theory from Transformer Architectures
- Title(参考訳): 変圧器アーキテクチャによるニューラルネットワーク量子場理論
- Authors: Dmitry S. Ageev, Yulia A. Ageeva,
- Abstract要約: 本稿では,変圧器のアテンションヘッドを用いたユークリッドスカラー量子場理論のニューラルネットワーク構築を提案する。
単一の注意ヘッドに対して、共有ランダムなソフトマックス重みは異なる幅座標を結合し、非ガウス場統計を誘導する。
標準の1/N_h$正規化で多くの独立ヘッドをまとめると、接続された非ガウスの相関子を1/N_h$に抑え、大きな上限でガウスのNN-QFTが得られることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We propose a neural-network construction of Euclidean scalar quantum field theories from transformer attention heads, defining $n$-point correlators by averaging over random network parameters in the NN-QFT framework. For a single attention head, shared random softmax weights couple different width coordinates and induce non-Gaussian field statistics that persist in the infinite-width limit $d_k\to\infty$. We compute the two-point function in an attention-weight representation and show how Euclidean-invariant kernels can be engineered via random-feature token embeddings. We then analyze the connected four-point function and identify an "independence-breaking" contribution, expressible as a covariance over query-key weights, which remains finite at infinite width. Finally, we show that summing many independent heads with standard $1/N_h$ normalization suppresses connected non-Gaussian correlators as $1/N_h$, yielding a Gaussian NN-QFT in the large-head limit.
- Abstract(参考訳): NN-QFTフレームワークにおけるランダムなネットワークパラメータを平均化することにより、トランスフォーマーアテンションヘッドからユークリッドスカラー量子場理論をニューラルネットワークで構築し、$n$-point correlatorを定義する。
単一の注意ヘッドに対して、共有ランダムなソフトマックス重みは異なる幅座標を結合し、無限幅極限$d_k\to\infty$に持続する非ガウス場統計を誘導する。
注意重みの表現で2点関数を計算し、ユークリッド不変カーネルをランダムなトークン埋め込みで設計する方法を示す。
次に、接続された四点関数を分析し、無限の幅で有限であるクエリキー重みの共分散として表現可能な「独立破れ」寄与を同定する。
最後に、標準の1/N_h$正規化で多くの独立ヘッドをまとめると、接続された非ガウスの相関子を1/N_h$に抑え、大きな上限でガウスのNN-QFTが得られることを示す。
関連論文リスト
- FFT-Accelerated Auxiliary Variable MCMC for Fermionic Lattice Models: A Determinant-Free Approach with $O(N\log N)$ Complexity [52.3171766248012]
量子多体系のシミュレーションを劇的に高速化するマルコフ連鎖モンテカルロ(MCMC)アルゴリズムを導入する。
我々は,量子物理学のベンチマーク問題に対するアルゴリズムの有効性を検証し,既知の理論結果を正確に再現する。
我々の研究は、大規模確率的推論のための強力なツールを提供し、物理学に着想を得た生成モデルのための道を開く。
論文 参考訳(メタデータ) (2025-10-13T07:57:21Z) - Viability of perturbative expansion for quantum field theories on neurons [0.0]
無限のニューロン数制限では、単層NNは局所量子場理論を正確に再現することができる。
再正規化された$O(1/N)$を2点と4点の相関子に補正すると、紫外線遮断に敏感な摂動列が得られる。
我々は,この収束性を改善するためにアーキテクチャの変更を提案し,理論のパラメータとNのスケーリングに関する制約について議論し,正確な場の理論結果の抽出を可能にする。
論文 参考訳(メタデータ) (2025-08-05T18:00:31Z) - Learning with Norm Constrained, Over-parameterized, Two-layer Neural Networks [54.177130905659155]
近年の研究では、再生カーネルヒルベルト空間(RKHS)がニューラルネットワークによる関数のモデル化に適した空間ではないことが示されている。
本稿では,有界ノルムを持つオーバーパラメータ化された2層ニューラルネットワークに適した関数空間について検討する。
論文 参考訳(メタデータ) (2024-04-29T15:04:07Z) - Multi-layer random features and the approximation power of neural networks [4.178980693837599]
再現カーネルヒルベルト空間はアーキテクチャによって近似できる関数のみを含むことを証明している。
NNGPの積分作用素の固有値が$k-n-frac23$よりも遅く、$k$が固有値の順序である場合、我々の定理はバロンの定理よりも簡潔なニューラルネットワーク近似を保証する。
論文 参考訳(メタデータ) (2024-04-26T14:57:56Z) - Simplex Random Features [53.97976744884616]
ソフトマックスおよびガウスカーネルの非バイアス近似のための新しいランダム特徴(RF)機構であるSimplex Random Features (SimRFs)を提案する。
我々は,これらのカーネルの非バイアス推定値に対して,SimRFが最小平均二乗誤差(MSE)を提供することを示す。
ポイントワイドカーネル推定,非パラメトリック分類,スケーラブルトランスフォーマーなどの設定において,SimRFによる一貫したゲインを示す。
論文 参考訳(メタデータ) (2023-01-31T18:53:39Z) - On the Neural Tangent Kernel Analysis of Randomly Pruned Neural Networks [91.3755431537592]
ニューラルネットワークのニューラルカーネル(NTK)に重みのランダムプルーニングが及ぼす影響について検討する。
特に、この研究は、完全に接続されたニューラルネットワークとそのランダムに切断されたバージョン間のNTKの等価性を確立する。
論文 参考訳(メタデータ) (2022-03-27T15:22:19Z) - The edge of chaos: quantum field theory and deep neural networks [0.0]
我々は、ディープニューラルネットワークの一般クラスに対応する量子場理論を明示的に構築する。
我々は、深さ$T$と幅$N$との比の摂動展開において、相関関数に対するループ補正を計算する。
我々の分析は、急速に出現するNN-QFT対応に対する第一原理のアプローチを提供し、ディープニューラルネットワークの臨界性の研究にいくつかの興味深い道を開く。
論文 参考訳(メタデータ) (2021-09-27T18:00:00Z) - Variational Monte Carlo calculations of $\mathbf{A\leq 4}$ nuclei with
an artificial neural-network correlator ansatz [62.997667081978825]
光核の基底状態波動関数をモデル化するためのニューラルネットワーク量子状態アンサッツを導入する。
我々は、Aleq 4$核の結合エネルギーと点核密度を、上位のピオンレス実効場理論から生じるものとして計算する。
論文 参考訳(メタデータ) (2020-07-28T14:52:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。