論文の概要: Dynamical coarse-graining of neural-network training

• arxiv url: http://arxiv.org/abs/2610.36180v1
• Date: Mon, 26 Oct 2026 19:13:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-28 21:04:31.408573
• Title: Dynamical coarse-graining of neural-network training
• Title（参考訳）: ニューラルネットワークトレーニングにおける動的粗粒化
• Abstract要約: ニューラルネットワークの動的粗粒化により、マクロ観測が可能となり、パラメータ空間よりもはるかに小さな状態空間でトレーニングを予測および制御することが可能となる。 本稿ではまず,ニューラルネットワークの学習法則に従って学習演算子を定義し,学習演算子の降下定理を確立する。 正確な閉包定理と動的粗粒化定理は連続して示される。
• 参考スコア（独自算出の注目度）: 3.586614601241914
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Dynamical coarse-graining of neural networks gives macroscopic observables and enables training to be predicted, and controlled in a state space far smaller than the parameter space. In this paper, we first define the learning operator following the training law of neural networks and establish a descent theorem for the learning operator, which serves to determine whether the operator is sufficient to characterize the learning dynamics. Then the exact closure theorem and the dynamic coarse-graining theorem are presented in sequence. The three theorems established in this paper provide a systematic framework for constructing and assessing dynamical coarse-grained models of neural-network training. Finally, we demonstrate the applicability of the theorems with a finite-width nonlinear ReLU network. Its dynamic coarse-grained model for a fixed pattern is exactly derived and composed of five independent moments. The model exactly predict the training outputs and evolving learning operator. The framework may also guide the development of approximate coarse-grained models for more general neural networks when exact closure is unavailable.
• Abstract（参考訳）: ニューラルネットワークの動的粗粒化により、マクロ観測が可能となり、パラメータ空間よりもはるかに小さな状態空間でトレーニングを予測し、制御することが可能となる。 本稿ではまず,ニューラルネットワークの学習法則に従って学習者を定義し,学習者に対する降下定理を定め,その演算者が学習力学を特徴付けるのに十分かどうかを判断する。 すると、正確な閉包定理と動的粗粒化定理が列で示される。 本稿では,ニューラルネットワークトレーニングの動的粗粒度モデルの構築と評価のための体系的枠組みについて述べる。 最後に、有限幅非線形ReLUネットワークによる定理の適用性を示す。 固定パターンに対するその動的粗粒度モデルは、正確に導出され、5つの独立したモーメントから構成される。 モデルは、トレーニングのアウトプットと進化する学習オペレータを正確に予測する。 このフレームワークは、正確なクロージャが利用できない場合に、より一般的なニューラルネットワークのための近似粗いモデルの開発を導くこともできる。

関連論文リスト

• KPFlow: An Operator Perspective on Dynamic Collapse Under Gradient Descent Training of Recurrent Networks [9.512147747894026]
  勾配流を2つの作用素を含む積に分解する方法を示す。 それらの相互作用がGDの下での低次元潜在力学にどのように影響するかを示す。 マルチタスクトレーニングでは,各サブタスクの目的がどのように一致しているかを演算子を用いて測定できることが示される。
  論文  参考訳（メタデータ） (2025-07-08T20:33:15Z)
• Leveraging chaos in the training of artificial neural networks [3.379574469735166]
  従来とは違って大きな学習率のトレーニングに沿って、ニューラルネットワークの軌道のダイナミクスを探求する。 学習率の値の領域において、GD最適化は純粋に活用可能なアルゴリズムから探索・探索バランスの体制へと移行することを示す。
  論文  参考訳（メタデータ） (2025-06-10T07:41:58Z)
• Harnessing Neural Unit Dynamics for Effective and Scalable Class-Incremental Learning [38.09011520275557]
  クラスインクリメンタルラーニング(Class-incremental Learning, CIL)は、古いクラスを忘れずに、非定常データストリームから新しいクラスを学ぶためのモデルをトレーニングすることを目的としている。 本稿では、ニューラルネットワークの動作をCILに適応させるニューラルネットワークユニットダイナミクスを調整し、新しい種類のコネクショナリストモデルを提案する。
  論文  参考訳（メタデータ） (2024-06-04T15:47:03Z)
• Enhancing lattice kinetic schemes for fluid dynamics with Lattice-Equivariant Neural Networks [79.16635054977068]
  我々はLattice-Equivariant Neural Networks (LENNs)と呼ばれる新しい同変ニューラルネットワークのクラスを提案する。 我々の手法は、ニューラルネットワークに基づく代理モデルLattice Boltzmann衝突作用素の学習を目的とした、最近導入されたフレームワーク内で開発されている。 本研究は,実世界のシミュレーションにおける機械学習強化Lattice Boltzmann CFDの実用化に向けて展開する。
  論文  参考訳（メタデータ） (2024-05-22T17:23:15Z)
• How neural networks learn to classify chaotic time series [77.34726150561087]
  本研究では,通常の逆カオス時系列を分類するために訓練されたニューラルネットワークの内部動作について検討する。 入力周期性とアクティベーション周期の関係は,LKCNNモデルの性能向上の鍵となる。
  論文  参考訳（メタデータ） (2023-06-04T08:53:27Z)
• ConCerNet: A Contrastive Learning Based Framework for Automated Conservation Law Discovery and Trustworthy Dynamical System Prediction [82.81767856234956]
  本稿では,DNNに基づく動的モデリングの信頼性を向上させるために,ConCerNetという新しい学習フレームワークを提案する。 本手法は, 座標誤差と保存量の両方において, ベースラインニューラルネットワークよりも一貫して優れていることを示す。
  論文  参考訳（メタデータ） (2023-02-11T21:07:30Z)
• Stretched and measured neural predictions of complex network dynamics [2.1024950052120417]
  微分方程式のデータ駆動近似は、力学系のモデルを明らかにする従来の方法に代わる有望な方法である。 最近、ダイナミックスを研究する機械学習ツールとしてニューラルネットワークが採用されている。これは、データ駆動型ソリューションの検出や微分方程式の発見に使用できる。 従来の統計学習理論の限界を超えてモデルの一般化可能性を拡張することは可能であることを示す。
  論文  参考訳（メタデータ） (2023-01-12T09:44:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。