論文の概要: The proton structure one mode at a time: a Neural Tangent Kernel analysis of a DIS fit

• arxiv url: http://arxiv.org/abs/2610.36034v1
• Date: Mon, 26 Oct 2026 18:00:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.39145
• Title: The proton structure one mode at a time: a Neural Tangent Kernel analysis of a DIS fit
• Title（参考訳）: 1回に1回のプロトン構造 : DIS適合のニューラルタンジェントカーネル解析
• Abstract要約: ニューラル・タンジェント・カーネル(NTK)の解析を通して、フィードフォワード・ニューラル・ネットワーク(NN)のトレーニングダイナミクスについて検討する。 従来の単香気解析による勾配流の正確な積分を多香気の場合に一般化する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We study the training dynamics of a feed-forward neural network (NN) through the analysis of the neural tangent kernel (NTK) in a phenomenologically relevant fit of parton distribution functions (PDFs) from deep inelastic scattering (DIS) data. The exact integration of the gradient flow derived in a previous single-flavour analysis is generalised to the multi-flavour case, yielding an analytical perspective on the relationship between data and methodology during training. The Shapley value recently used in the context of PDFs is derived within our statistical framework for observables that depend linearly on the PDFs, and we outline a geometric interpretation of training. We expose the role of gradient-based optimisation algorithms and of the parametrisation in the regularisation of the ill-posed inverse problem that affects the determination of PDFs from experimental data, demonstrating that the regularisation amounts to the incremental inclusion of NTK modes, each learned at the timescale set by the corresponding eigenvalue. We find that only a few leading modes of the NTK are necessary to reconstruct the target PDFs, while the noise of the data is carried by the sub-leading ones learned at later stages of training. Finally, we consider the impact of the initialisation on the training dynamics, and recover a transient behaviour observed in the previous analysis and in the machine learning (ML) literature. Beyond sharpening our understanding of the training dynamics, our framework can be applied to other parametrisations (such as fixed functional forms) and ML applications in physics, as well as to stress tests in the presence of inconsistent data.
• Abstract（参考訳）: 深部非弾性散乱 (DIS) データから, パートン分布関数 (PDF) の表現論的適合性について, ニューラルネットワーク (NTK) の解析を通して, フィードフォワードニューラルネットワーク (NN) のトレーニングダイナミクスについて検討した。 従来の単香気解析による勾配流の正確な積分は多香気の場合に一般化され、訓練中のデータと方法論の関係に関する解析的視点が導かれる。 近年,PDF の文脈で用いられるShapley 値は,PDF に線形に依存する観測可能な統計フレームワーク内で導出されている。 実験データからPDFの判定に影響を及ぼす不測の逆問題において、勾配に基づく最適化アルゴリズムとパラメトリゼーションの役割を明らかにし、その正規化がNTKモードのインクリメンタルインクルージョンに相当することを示し、それぞれ対応する固有値によって学習された時間尺度で学習する。 対象PDFを再構成するにはNTKのリードモードがいくつか必要であるのに対し,学習後期に学習したサブリードモードでは,データのノイズが伴うことが判明した。 最後に,初期化がトレーニングダイナミクスに与える影響を考察し,前回の分析や機械学習(ML)の文献で観察された過渡的な振る舞いを復元する。 我々のフレームワークは、トレーニングダイナミクスの理解を深めるだけでなく、物理学における他のパラメータ(固定機能形式など)やMLアプリケーションにも適用できます。

関連論文リスト

• Dynamics and Representation Structure of Local Approximations to Gradient-Based Learning in Linear Recurrent Neural Networks [56.42974363744522]
  ランダム・フィードバック・ローカル・オンライン(RFLO)の学習動態と時間による逆伝播(tBPTT)について検討する。 我々の研究は、局所性制約が学習力学をどう形成するかに関する分析的な洞察を提供し、学習の神経科学的モデルやRNNの代替最適化アプローチに影響を及ぼす。
  論文  参考訳（メタデータ） (2026-05-29T18:19:45Z)
• Quantitative Understanding of PDF Fits and their Uncertainties [0.0]
  ニューラルネットワークのトレーニング力学を解析するために,NTK(Neural Kernel)に基づく理論的枠組みを開発した。 このアプローチは、正確な仮定の下で、トレーニング中のニューラルネットワークの進化の分析的な記述を導出することを可能にする。 本研究はPDFフィッティングの代用ではなく,現在のフィッティング手法のロバスト性を評価するための強力な診断ツールを提供する。
  論文  参考訳（メタデータ） (2025-12-30T09:53:02Z)
• Beyond Discreteness: Finite-Sample Analysis of Straight-Through Estimator for Quantization [2.8948274245812327]
  この研究は、ニューラルネットワーク量子化の文脈におけるストレートスルー推定器(STE)の最初の有限サンプル解析を示す。 具体的には、2重みとアクティベーションを持つ2層ニューラルネットワークの量子化学習を解析することにより、データの次元性の観点から、サンプルの複雑さを導出する。 ラベルノイズの存在下では,STE-gradient法の興味深い再帰性を明らかにする。
  論文  参考訳（メタデータ） (2025-05-23T17:11:22Z)
• An Analytical Characterization of Sloppiness in Neural Networks: Insights from Linear Models [18.99511760351873]
  近年の研究では、複数の深層ニューラルネットワークのトレーニング軌道が、驚くほど低次元の「ハイパーリボン様」多様体上で進化することが示されている。 深層ネットワークと線形ネットワークの訓練軌跡の類似性から着想を得て,この現象を後者に対して解析的に特徴付ける。 この低次元多様体の幾何学は, (i) トレーニングデータの入力相関行列の固有値の減衰率, (ii) トレーニング開始時の接地トラスト出力の相対スケール, (iii) 勾配勾配のステップ数によって制御されることを示す。
  論文  参考訳（メタデータ） (2025-05-13T19:20:19Z)
• In-Context Linear Regression Demystified: Training Dynamics and Mechanistic Interpretability of Multi-Head Softmax Attention [52.159541540613915]
  本研究では,マルチヘッド型ソフトマックスアテンションモデルを用いて,線形データを用いたコンテキスト内学習を行う方法について検討する。 この結果から,学習内容の学習能力は,そのアーキテクチャと基礎となるデータ分布の集約的効果として,訓練されたトランスフォーマーから出現することが明らかとなった。
  論文  参考訳（メタデータ） (2025-03-17T02:00:49Z)
• On the Dynamics Under the Unhinged Loss and Beyond [104.49565602940699]
  我々は、閉形式力学を解析するための数学的機会を提供する、簡潔な損失関数であるアンヒンジド・ロスを導入する。 アンヒンジされた損失は、時間変化学習率や特徴正規化など、より実践的なテクニックを検討することができる。
  論文  参考訳（メタデータ） (2023-12-13T02:11:07Z)
• Understanding Multi-phase Optimization Dynamics and Rich Nonlinear Behaviors of ReLU Networks [8.180184504355571]
  線形可分データに基づく勾配流による2層ReLUネットワークの学習過程の理論的評価を行う。 学習過程全体から4つの段階が明らかになり,学習の簡略化と複雑化の傾向が示された。 特定の非線形挙動は、初期、サドルプラトー力学、凝縮エスケープ、複雑化に伴う活性化パターンの変化など、理論的に正確に識別することもできる。
  論文  参考訳（メタデータ） (2023-05-21T14:08:34Z)
• Capturing dynamical correlations using implicit neural representations [85.66456606776552]
  実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。 そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
  論文  参考訳（メタデータ） (2023-04-08T07:55:36Z)
• Imitating Deep Learning Dynamics via Locally Elastic Stochastic Differential Equations [20.066631203802302]
  本研究では, 深層学習における特徴の進化を, それぞれが学習サンプルに対応する微分方程式(SDE)を用いて研究する。 我々の結果は、ニューラルネットワークのトレーニング力学における局所弾性の決定的な役割に光を当てた。
  論文  参考訳（メタデータ） (2021-10-11T17:17:20Z)
• Neural Dynamic Mode Decomposition for End-to-End Modeling of Nonlinear Dynamics [49.41640137945938]
  ニューラルネットワークに基づくリフト関数を推定するためのニューラルダイナミックモード分解法を提案する。 提案手法により,予測誤差はニューラルネットワークとスペクトル分解によって逆伝搬される。 提案手法の有効性を,固有値推定と予測性能の観点から実証した。
  論文  参考訳（メタデータ） (2020-12-11T08:34:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。