論文の概要: Understanding Latent-Dimension Scaling in Dynamical-System Learning through Spectral Reliability

• arxiv url: http://arxiv.org/abs/2610.11866v1
• Date: Thu, 08 Oct 2026 12:42:27 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-10 02:36:54.029329
• Title: Understanding Latent-Dimension Scaling in Dynamical-System Learning through Spectral Reliability
• Title（参考訳）: スペクトル信頼性による動的システム学習における潜時次元スケーリングの理解
• Abstract要約: クープマン作用素の固有構造を通して学習時間の進化を分析する。 有界クープマン作用素に対して、学習された辞書空間上の極小残差は、その全空間に対して点的に収束する。 我々の仮説は、クープマンスペクトルの信頼性が、次元の増大とともに確実にロールアウトエラーが減少する理由を説明するのに役立つというものである。
• 参考スコア（独自算出の注目度）: 4.876446735726356
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In deep learning, approximation theory motivates increasing representation size. We ask whether this benefit extends to dynamics learning through autoregressive prediction. We analyze the learned time evolution through the eigenstructure of Koopman operators, using relative residuals to detect spurious eigenpairs arising even as one-step error falls. For bounded Koopman operators, we show that minimal residuals over learned dictionary spaces converge pointwise to their full-space counterparts as these spaces approximate the observable space in $L^2$. Our hypothesis is that Koopman spectral reliability helps explain how consistently rollout error decreases with increasing dimension. We compare two models of a shared Koopman autoencoder trained alternately for reconstruction and latent evolution, using latent-prediction loss (one-step prediction errors in latent coordinates) or spectral-residual loss (relative residuals of candidate eigenpairs). Across six chaotic systems, both models reduced median windowed rollout error from smallest to largest dimension. The spectral-residual model achieved lower medians than the latent-prediction model for all systems and dimensions, and its median fell by a larger factor in every system. Its median decreased monotonically with dimension in four systems, against one for latent prediction. Against four baseline families, its mean valid prediction times were nearly always longer. At the largest dimension under two-stage training, we compared eigenvalue positions with each learned dictionary's residual contours. Spectral-residual eigenvalues concentrated in low-residual regions, whereas latent-prediction eigenvalues also appeared in high-residual regions, consistent with the hypothesis.
• Abstract（参考訳）: 深層学習において、近似理論は表現サイズの増加を動機付けている。 この利点が自己回帰予測による動的学習に拡張されるかどうかを問う。 コープマン作用素の固有構造の学習時間進化を相対的残差を用いて解析し,一段階の誤差が生じたとしても,突発的な固有ペアを検出する。 有界クープマン作用素に対して、学習された辞書空間上の極小残差は、これらの空間が$L^2$の可観測空間に近似するので、その全空間に対して点的に収束することを示す。 我々の仮説は、クープマンスペクトルの信頼性が、次元の増大とともに確実にロールアウトエラーが減少する理由を説明するのに役立つというものである。 共用クープマンオートエンコーダの2つのモデルを比較し,遅延予測損失(潜時座標の1ステップ予測誤差)とスペクトル残差(固有ペアの相対残差)を用いて,再構成と潜時進化を交互に訓練した。 6つのカオスシステムにおいて、どちらのモデルも中央値の窓のロールアウト誤差を最小次元から最大次元に減らした。 スペクトル残差モデルでは,全ての系および次元において潜時予測モデルよりも低い中央値を示し,その中央値が各系において大きく低下した。 中央値は4つの系で1つの系で1つの系で単調に減少し、もう1つは潜伏予測である。 4家系に対して平均的有効予測時間は, ほぼ常に長かった。 2段階の学習において最大次元で固有値の位置を学習した辞書の残余の輪郭と比較した。 スペクトル-残留固有値は低残留領域に集中する一方、潜在予測固有値は高残留領域にも出現し、仮説と一致した。

関連論文リスト

• Structured Extrema Errors in Classical Surrogates for Viscous Burgers: A Physics-Consistent Interpretation [0.0]
  粘性バーガース方程式の時間発展を近似した機械学習サロゲートモデルの局所誤差について検討した。 4つのモデル全体において、ここで定義されている1ステップ残差は、各格子点における予測値を無視する真の値として定義され、予測された最大値と最小値の近くに明確な曲線の枝を形成する。 KRRのより詳細な分析により、これらの誤差は第1の空間微分よりも局所曲率を測定する第2の空間微分と強く関連していることが示された。
  論文  参考訳（メタデータ） (2026-09-07T20:17:58Z)
• Unregularized Linear Convergence in Zero-Sum Game from Preference Feedback [50.89125374999765]
  NLHFにおける最適乗算重み更新(mathtOMWU$)に対する最初の収束保証を提供する。 本分析では, 稀に発生する行動の確率が指数関数的に小さい値から指数関数的に増大する新たな限界収束挙動を同定する。
  論文  参考訳（メタデータ） (2025-12-31T12:08:29Z)
• Structured Radial Basis Function Network: Modelling Diversity for Multiple Hypotheses Prediction [51.82628081279621]
  多重モード回帰は非定常過程の予測や分布の複雑な混合において重要である。 構造的放射基底関数ネットワークは回帰問題に対する複数の仮説予測器のアンサンブルとして提示される。 この構造モデルにより, このテッセルレーションを効率よく補間し, 複数の仮説対象分布を近似することが可能であることが証明された。
  論文  参考訳（メタデータ） (2023-09-02T01:27:53Z)
• Sharp Spectral Rates for Koopman Operator Learning [27.820383937933034]
  クープマン固有値と固有関数に対する非漸近学習境界を初めて提示する。 我々の結果は、突発的固有値の出現に新たな光を当てた。
  論文  参考訳（メタデータ） (2023-02-03T21:19:56Z)
• On the Role of Optimization in Double Descent: A Least Squares Study [30.44215064390409]
  最小二乗対象の降下勾配解に対して過大なリスクを負うことを示す。 ノイズのない回帰の場合、二重降下は最適化関連量によってのみ説明される。 ニューラルネットワークの予測が保たれているかどうかを実証的に調査する。
  論文  参考訳（メタデータ） (2021-07-27T09:13:11Z)
• Towards an Understanding of Benign Overfitting in Neural Networks [104.2956323934544]
  現代の機械学習モデルは、しばしば膨大な数のパラメータを使用し、通常、トレーニング損失がゼロになるように最適化されている。 ニューラルネットワークの2層構成において、これらの良質な過適合現象がどのように起こるかを検討する。 本稿では,2層型ReLUネットワーク補間器を極小最適学習率で実現可能であることを示す。
  論文  参考訳（メタデータ） (2021-06-06T19:08:53Z)
• Optimization Variance: Exploring Generalization Properties of DNNs [83.78477167211315]
  ディープニューラルネットワーク(DNN)のテストエラーは、しばしば二重降下を示す。 そこで本研究では,モデル更新の多様性を測定するために,新しい測度である最適化分散(OV)を提案する。
  論文  参考訳（メタデータ） (2021-06-03T09:34:17Z)
• Confidence Adaptive Anytime Pixel-Level Recognition [86.75784498879354]
  任意の時間推論は、いつでも停止される可能性のある予測の進行を行うモデルを必要とする。 我々は,任意のピクセルレベルの認識に対して,最初の統一とエンドツーエンドのモデルアプローチを提案する。
  論文  参考訳（メタデータ） (2021-04-01T20:01:57Z)
• Binary Classification of Gaussian Mixtures: Abundance of Support Vectors, Benign Overfitting and Regularization [39.35822033674126]
  生成ガウス混合モデルに基づく二項線形分類について検討する。 後者の分類誤差に関する新しい非漸近境界を導出する。 この結果は, 確率が一定である雑音モデルに拡張される。
  論文  参考訳（メタデータ） (2020-11-18T07:59:55Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。