論文の概要: A Minimal Interpretable Architecture for Zero-Shot Reconstruction of Dynamical Systems
- arxiv url: http://arxiv.org/abs/2607.14937v1
- Date: Thu, 16 Jul 2026 12:49:06 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-17 17:01:33.09821
- Title: A Minimal Interpretable Architecture for Zero-Shot Reconstruction of Dynamical Systems
- Title(参考訳): 動的システムのゼロショット再構成のための最小解釈可能なアーキテクチャ
- Abstract要約: 我々はDS再構成のための強力なSOTAモデルであるDynaMixを最小の解釈可能な2-パラメータ形式に繰り返し還元し、DynaBaseと呼ぶ。
DynaBaseは、現在の潜伏状態と最も近いコンテキスト内での隣人とその時間的後継の線形ブレンドを通じて予測を生成する。
驚くべきことに、DynaBaseは極端な単純さにもかかわらず、カオスシステムとサイクリックシステムの間で非常に競争力のあるゼロショットDS再構成を生成する。
- 参考スコア(独自算出の注目度): 11.708575577032647
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Recent foundation models (FMs) for zero-shot reconstruction of dynamical systems (DS) achieve strong out-of-domain generalization but provide little insight into the mechanisms that underlie their forecasts. Such an understanding could help to strip down overladen FM architectures to their bare essence and expose the minimal requirements for in-context learning in the DS domain. Toward this goal, here we iteratively reduce a recent powerful SOTA model for DS reconstruction, DynaMix (Hemmer & Durstewitz, 2025), to a minimal interpretable two-parameter form, which we call DynaBase. DynaBase produces forecasts through a linear blend of the current latent state and the nearest in-context neighbor and its temporal successor. Surprisingly, despite its extreme simplicity, DynaBase produces highly competitive zero-shot DS reconstructions across chaotic and cyclic systems, with a negligible parameter load, many orders of magnitude below that of other FMs. Even more, this extreme simplicity permits direct model optimization on DS reconstruction measures, as well as closed-form one-step analytical solutions on prediction MSE. Theoretical and empirical analysis of DynaBase further leads to a 1-parameter family of maps, with the context-parroting algorithm of (Zhang & Gilpin, 2026) recovered at one end, and chaotic (divergent but bounded) behavior at the other. We further show how different training strategies lead to models either optimal for short-term prediction or for DS reconstruction. Thus, DynaBase not only exposes the minimal mechanisms required for producing zero-shot DS reconstruction, but also reconciles within an accessible mathematical frame divergent observations in the literature.
- Abstract(参考訳): 動的システム (DS) のゼロショット再構成のための最近の基礎モデル (FM) は、強い領域外一般化を実現するが、予測を下支えするメカニズムについてはほとんど洞察しない。
このような理解は、過剰なFMアーキテクチャを素質に切り離し、DSドメインにおけるコンテキスト内学習の最小限の要件を明らかにするのに役立つだろう。
この目標に向けて、DS再構成のための最近の強力なSOTAモデルであるDynaMix(Hemmer & Durstewitz, 2025)を最小の解釈可能な2パラメータ形式に反復的に削減し、DynaBaseと呼ぶ。
DynaBaseは、現在の潜伏状態と最も近いコンテキスト内での隣人とその時間的後継の線形ブレンドを通じて予測を生成する。
驚くべきことに、DynaBaseは極端な単純さにもかかわらず、カオス系と循環系をまたいだ高度に競争力のあるゼロショットDS再構成を生成し、パラメータの負荷は無視できる。
さらに、この極端な単純さは、DS再構成測度における直接モデル最適化と、予測MSEに関するクローズドフォームの一段階解析解を可能にする。
DynaBaseの理論的および実証的な分析は、一方の端で(Zhang & Gilpin, 2026)の文脈パラロイングアルゴリズムが回復し、もう一方の端でカオス的(発散するが有界な)振舞いを持つ1パラメータの写像の族にさらに導かれる。
さらに、異なるトレーニング戦略が短期予測やDS再構成に最適なモデルにどのように結びつくかを示す。
このように、DynaBaseはゼロショットDS再構成に必要な最小限のメカニズムを公開しているだけでなく、文献における数学的フレームのばらつきの観測内での調整も行っている。
関連論文リスト
- Learning Spatio-Temporal Foundation Models from Pure Synthetic Data [85.23980441738811]
NeoSTは、現実バイアスに対するスケーラブルな合成学習コーパスであり、複数の将来の軌跡を反復的に生成・洗練する潜在空間推論アーキテクチャであり、構造的ダイナミクスを強調し、分散シフトの下で推論時間補正を可能にする潜在空間目的である。
様々な実世界のベンチマークによる大規模な実験は、NeoSTが様々な実世界の時間系において既存のSTFMより一貫して優れていることを示している。
論文 参考訳(メタデータ) (2026-06-27T02:56:46Z) - Topological Out-of-Domain Generalization in Dynamical Systems Reconstruction [9.842968830321876]
力学系(DS)の挙動を予測することは、科学MLにおいて、トレーニングで観察される力学系とパラメータ系を超えた、重要かつ本質的に未解決な問題である。
近年のDS再構成(DSR)における階層的・ハイパーネットワーク的アプローチは,多くのDSのトレーニングを同時に行うことができる。
本稿では,これらの欠点,最も重要な特徴分割に対する対策の組み合わせを提案し,さらに信頼性のある外挿範囲に有界な閉形式を導出する。
論文 参考訳(メタデータ) (2026-06-22T07:51:48Z) - Next-Acceleration-Scale Prediction for Autoregressive MRI Reconstruction [52.32112533846212]
MRI再建は本質的に不完全な逆問題である。
この制限は、再構成を離散的なマルチスケールの潜在空間に移動させ、自己回帰的次加速スケールの予測として機能させることによって解決する。
提案手法は,過度のアンサンプ下での多種多様なサンプリングパターンの再構成性能の向上を図っている。
論文 参考訳(メタデータ) (2026-05-19T04:40:50Z) - FRACTAL: SSM with Fractional Recurrent Architecture for Computational Temporal Analysis of Long Sequences [13.320173396455226]
本稿では,長周期計算時間解析のためのフラクショナル・リカレント・アーキテクチャを提案する。
スペクトル特性とチューナブル指数を解析的に特徴づけた投影演算子を導出することにより,分数スケール不変メモリダイナミクスを符号化したスペクトル構造を保ちながら,近年の信号摂動に敏感な手法を提案する。
FRACTALはLong Range Arenaベンチマークで平均87.11%のスコアを獲得し、リストOpsタスクでは61.85%でS5モデルを上回った。
論文 参考訳(メタデータ) (2026-05-09T09:38:44Z) - Understanding Degradation with Vision Language Model [56.09241449206817]
視覚的劣化を理解することは、コンピュータビジョンにおいて重要な問題であるが、難しい問題である。
本稿では,教師付き微調整と強化学習を併用したマルチモーダル・チェーン・オブ・ソート・モデルであるDU-VLMを紹介する。
また,110,000個のクリーン劣化ペアと接地された物理アノテーションからなる大規模データセットである textbfDU-110k も導入した。
論文 参考訳(メタデータ) (2026-02-04T13:51:15Z) - SoliReward: Mitigating Susceptibility to Reward Hacking and Annotation Noise in Video Generation Reward Models [53.19726629537694]
ビデオ生成モデルと人間の好みのトレーニング後のアライメントは、重要な目標である。
現在のデータ収集パラダイムは、プロンプト内のペアワイズアノテーションに依存しており、ノイズのラベル付けに悩まされている。
ビデオRMトレーニングのための体系的フレームワークであるSoliRewardを提案する。
論文 参考訳(メタデータ) (2025-12-17T14:28:23Z) - Rethinking the Role of Dynamic Sparse Training for Scalable Deep Reinforcement Learning [58.533203990515034]
ニューラルネットワークのスケーリングは機械学習における画期的な進歩をもたらしたが、このパラダイムは深層強化学習(DRL)では失敗している。
我々は、動的スパーストレーニング戦略が、アーキテクチャの改善によって確立された主要なスケーラビリティ基盤を補完するモジュール固有の利点を提供することを示す。
アーキテクチャ改善の利点を生かした実践的なフレームワークであるModule-Specific Training (MST) にこれらの知見を精査し、アルゴリズムの修正なしに様々なRLアルゴリズムをまたいだ大幅なスケーラビリティ向上を示す。
論文 参考訳(メタデータ) (2025-10-14T03:03:08Z) - Towards Efficient General Feature Prediction in Masked Skeleton Modeling [59.46799426434277]
マスクスケルトンモデリングのための新しい汎用特徴予測フレームワーク(GFP)を提案する。
我々の重要な革新は、局所的な動きパターンからグローバルな意味表現にまたがる、従来の低レベルな再構築を高レベルな特徴予測に置き換えることです。
論文 参考訳(メタデータ) (2025-09-03T18:05:02Z) - Cycle-Consistent Helmholtz Machine: Goal-Seeded Simulation via Inverted Inference [5.234742752529437]
emphCycle-Consistent Helmholtz Machine (C$2$HM)を紹介する。
C$2$HM reframes inference as a emphgoal-seeded, emphasymmetric process grounded in structureed internal priors。
古典的償却推論に代わる生物学的にインスパイアされた代替手段を提供することにより、$C2$HMは生成モデリングを意図的シミュレーションとして再考する。
論文 参考訳(メタデータ) (2025-07-03T17:24:27Z) - How Far Are We from Generating Missing Modalities with Foundation Models? [49.425856207329524]
欠落したモダリティの再構築に適したエージェントフレームワークを提案する。
本手法は, 画像再構成に要するFIDを少なくとも14%, MERを少なくとも10%削減する。
論文 参考訳(メタデータ) (2025-06-04T03:22:44Z) - True Zero-Shot Inference of Dynamical Systems Preserving Long-Term Statistics [13.159265575200623]
我々はDynaMixを紹介した。DSR用に事前訓練された新しいALRNNベースのMix-of-expertsアーキテクチャである。
DynaMixは、Chronosのような既存の時系列(TS)基盤モデルが失敗する新しいDSの長期的な進化を忠実に予測している。
DSR問題に対するTSモデルの失敗モードをいくつか説明し、DS原理に基づいて構築されたモデルがTS予測分野の前進にも大きな可能性を秘めていると結論づける。
論文 参考訳(メタデータ) (2025-05-19T14:49:10Z) - State-space models can learn in-context by gradient descent [1.3087858009942543]
状態空間モデルは、勾配に基づく学習を実行し、変換器と全く同じ方法で、文脈内学習に使用することができることを示す。
具体的には、1つの構造化状態空間モデル層が乗算入力と出力ゲーティングで拡張され、暗黙線形モデルの出力を再現できることを証明した。
また、状態空間モデルと線形自己意識の関係と、文脈内で学習する能力に関する新たな知見を提供する。
論文 参考訳(メタデータ) (2024-10-15T15:22:38Z) - Probabilistic Traffic Forecasting with Dynamic Regression [15.31488551912888]
本稿では,交通予測における誤り過程の学習を取り入れた動的回帰(DR)フレームワークを提案する。
このフレームワークは、行列構造自己回帰(AR)モデルを用いてベースモデルのエラー系列をモデル化することにより、時間独立の仮定を緩和する。
新たに設計された損失関数は、非等方的誤差項の確率に基づいており、モデルがベースモデルの元の出力を保持しながら確率的予測を生成することができる。
論文 参考訳(メタデータ) (2023-01-17T01:12:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。