論文の概要: Beyond Compression: Training Latent Representations for Stable Long-Horizon Rollout in Neural Surrogate Solvers
- arxiv url: http://arxiv.org/abs/2609.30198v1
- Date: Thu, 24 Sep 2026 17:36:46 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-25 21:10:10.174001
- Title: Beyond Compression: Training Latent Representations for Stable Long-Horizon Rollout in Neural Surrogate Solvers
- Title（参考訳）: 圧縮を超えて:ニューラルサロゲート法における安定長軸ロールアウトのための潜在表現の訓練
- Abstract要約: ラテントニューラルネットワークサロゲートソルバは、全分解能場を直接解決するのではなく、圧縮されたラテント空間を進化させることにより、時間依存物理系のシミュレーションを加速する。
この不安定性は潜在表現そのものに起因するものではなく、再構築のみのために訓練されたときに生じるものである。
遅延表現と長軸ロールアウトを協調する訓練レベルの介入を系統的に評価した。
- 参考スコア（独自算出の注目度）: 0.24983341821562796
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Latent neural surrogate solvers, or latent dynamics models, accelerate simulations of time-dependent physical systems by evolving a compressed latent space rather than resolving full-resolution fields directly. In principle this reduces computational cost and simplifies learning, but in practice errors often accumulate rapidly during long autoregressive rollouts, limiting predictive utility. We show that this instability does not stem from the latent representation itself, but arises when it is trained solely for reconstruction, producing representations poorly suited to long-horizon forecasting. We systematically evaluate training-level interventions that align latent representations with long-horizon rollout: Koopman operator learning and Hamming noise injection during autoencoder training to improve compression, together with noise injection and multi-step rollout fine-tuning to improve dynamics. Interventions that improve long-horizon rollout stability often degrade conventional training metrics, including reconstruction and one-step prediction accuracy. Collectively, these interventions reduce long-rollout error by approximately 40\% and match or exceed the accuracy of full-resolution models on two physics benchmarks, while requiring 2 orders of magnitude fewer floating point operations and half the GPU memory. Applied to mesoscale crystal-plasticity simulations of high-cycle fatigue, the resulting surrogate achieves stable extrapolation over horizons orders of magnitude beyond those observed during training. More broadly, these results show that neural compression should be designed not merely to reduce dimensionality, but to restructure the solution space for stable dynamical evolution, a key requirement for reliable, efficient neural surrogates in scientific applications.
- Abstract（参考訳）: ラテント・ニューラル・サロゲート・ソルバ(Latent Neural surrogate solver)またはラテント・ダイナミクス・モデル(Latent dynamics model)は、フル解像度の場を直接解決するのではなく、圧縮されたラテント空間を進化させることにより、時間依存の物理系のシミュレーションを加速する。
原則として、これは計算コストを削減し、学習を単純化するが、実際には、長い自己回帰的なロールアウト中にエラーが急速に蓄積され、予測ユーティリティが制限される。
この不安定性は, 遅延表現自体に起因しないが, 復元専用に訓練された場合に生じ, 長期予測に適さない表現を生成する。
自動エンコーダトレーニングにおけるHammingノイズインジェクションと、ノイズインジェクションとマルチステップロールアウトファインタニングを併用して、動的に改善する。
長期のロールアウト安定性を改善する介入は、リコンストラクションや1ステップの予測精度を含む従来のトレーニング指標を劣化させることが多い。
これらの介入によって、長いロールアウトエラーを約40倍減らし、2つの物理ベンチマークでフルレゾリューションモデルの精度を満足または超過し、2桁の浮動小数点演算と半分のGPUメモリを必要とする。
高サイクル疲労のメソスケール結晶塑性シミュレーションに応用すると、サロゲートはトレーニング中に観測されたものを超える水平線上の安定な外挿を達成する。
より広範に、これらの結果は、ニューラル圧縮は次元を減少させるだけでなく、安定な動的進化のための解空間を再構築するために設計されるべきであることを示している。
関連論文リスト
- Physics-integrated neural differentiable modeling for immersed boundary systems [33.49956187870957]
本研究では,入力境界流の予測のための物理積分微分可能なフレームワークを開発することにより,既存のニューラルPDE解法を拡張した。
フレームワークの重要な設計側面は、物理的原則をエンドツーエンドの差別化可能なアーキテクチャに構造的に統合することである。
提案手法は, 流動場忠実度および長水平安定性において, 純粋にデータ駆動, 物理ロスの制約, 粗いグリッドの数値ベースラインより一貫して優れる。
論文 参考訳（メタデータ） (2026-03-17T09:08:04Z) - When Learning Hurts: Fixed-Pole RNN for Real-Time Online Training [58.25341036646294]
本研究では,再帰性極の学習がデータに有意な利点をもたらしない理由を解析的に検討し,実時間学習シナリオを実証的に提供する。
固定極ネットワークは、トレーニングの複雑さを低減し、オンラインリアルタイムタスクにより適していることを示す。
論文 参考訳（メタデータ） (2026-02-25T00:15:13Z) - Adaptive Visual Autoregressive Acceleration via Dual-Linkage Entropy Analysis [50.48301331112126]
我々は,Visual AutoRegressive モデリングのためのトレーニング不要なトークン削減促進フレームワーク NOVA を提案する。
NOVAは、スケールエントロピー成長の屈折点をオンライン同定することにより、推論中のアクティベーションアクティベーションスケールを適応的に決定する。
実験と解析により、NOVAはシンプルで効果的なトレーニングフリー加速フレームワークとして評価される。
論文 参考訳（メタデータ） (2026-02-01T17:29:42Z) - The Curious Case of In-Training Compression of State Space Models [49.819321766705514]
ステートスペースモデル(SSM)は、並列化可能なトレーニングと高速推論の両方を提供する。
鍵となる設計上の課題は、表現力の最大化と計算負荷の制限の間の適切なバランスを打つことだ。
我々のアプローチである textscCompreSSM はリニアリカレントユニットのような線形時間不変SSMに適用されるが、選択モデルにも拡張可能である。
論文 参考訳（メタデータ） (2025-10-03T09:02:33Z) - Hierarchical Implicit Neural Emulators [20.09615751270837]
本稿では,長期予測精度を高めるマルチスケール暗黙的ニューラルエミュレータを提案する。
提案手法では, 圧縮速度の向上に先立って, 次の段階の圧縮速度の向上を推算する。
乱流流体力学の実験により,本手法は短期精度が高く,長期安定予測が得られた。
論文 参考訳（メタデータ） (2025-06-05T00:28:26Z) - Generative emulation of chaotic dynamics with coherent prior [0.129182926254119]
拡散モデルを用いて乱流の原理を統一した動的エミュレーションのための効率的な生成フレームワークを提案する。
具体的には,デノナイジング過程の指導として,基礎となる力学の大規模コヒーレント構造を推定する。
結合性に優れた長距離予測技術は、部分的に観察されたガイダンスが存在する場合でも、物理的に一貫性のあるシミュレーションを効率的に生成することができる。
論文 参考訳（メタデータ） (2025-04-19T11:14:40Z) - Time Marching Neural Operator FE Coupling: AI Accelerated Physics Modeling [3.0635300721402228]
本研究は、物理インフォームド・ディープ・オペレーター・ネットワークをドメイン分解によりFEMと統合する新しいハイブリッド・フレームワークを導入する。
動的システムの課題に対処するため、DeepONetに直接タイムステッピングスキームを組み込み、長期エラーの伝搬を大幅に低減する。
提案手法は, 従来手法に比べて収束率を最大20%向上させるとともに, 誤差マージンが3%未満の解の忠実度を保ちながら, 収束率の高速化を図っている。
論文 参考訳（メタデータ） (2025-04-15T16:54:04Z) - Implicit Neural Differential Model for Spatiotemporal Dynamics [5.1854032131971195]
In-PiNDiffは、安定時間力学のための新しい暗黙の物理積分型ニューラル微分可能解法である。
深い平衡モデルにインスパイアされたIm-PiNDiffは、暗黙の固定点層を用いて状態を前進させ、堅牢な長期シミュレーションを可能にする。
Im-PiNDiffは優れた予測性能、数値安定性の向上、メモリとコストの大幅な削減を実現している。
論文 参考訳（メタデータ） (2025-04-03T04:07:18Z) - Self-STORM: Deep Unrolled Self-Supervised Learning for Super-Resolution Microscopy [55.2480439325792]
我々は、シーケンス固有のモデルベースのオートエンコーダをトレーニングすることで、そのようなデータの必要性を軽減する、深層無学習の自己教師付き学習を導入する。
提案手法は, 監視対象の性能を超過する。
論文 参考訳（メタデータ） (2024-03-25T17:40:32Z) - Stabilizing Machine Learning Prediction of Dynamics: Noise and
Noise-inspired Regularization [58.720142291102135]
近年、機械学習(ML)モデルはカオス力学系の力学を正確に予測するために訓練可能であることが示されている。
緩和技術がなければ、この技術は人工的に迅速にエラーを発生させ、不正確な予測と/または気候不安定をもたらす可能性がある。
トレーニング中にモデル入力に付加される多数の独立雑音実効化の効果を決定論的に近似する正規化手法であるLinearized Multi-Noise Training (LMNT)を導入する。
論文 参考訳（メタデータ） (2022-11-09T23:40:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。