論文の概要: Bifurcations from Weight Space: JEPAWG on Parametric Dynamical Systems
- arxiv url: http://arxiv.org/abs/2610.30847v1
- Date: Thu, 22 Oct 2026 07:22:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.268795
- Title: Bifurcations from Weight Space: JEPAWG on Parametric Dynamical Systems
- Title（参考訳）: 軽量空間からの分岐:JEPAWG on Parametric Dynamical Systems
- Abstract要約: 4つの動的システムのためのモデル動物園を構築し,JEPAWGで解析する。
JEPAWGは、学習されたパラメータ-重み表現を中心に構築された、共同埋め込みハイパーネットワークである。
他のハイパーネットワークでは利用できないダイナミクスに関する解釈可能な洞察を提供する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Trained network weights are increasingly treated as data, but there is rarely ground truth about what a population of models should encode, which hampers systematic validation of weight-space methods. This makes parametric dynamical systems a natural test-bed: the dynamics change qualitatively at submanifolds of parameter space that are, in well-studied families, known analytically or numerically. Fine-tuning a forecasting network at each point of a parameter grid yields a model zoo indexed by a physical parameter, against which weight-space diagnostics can be checked. We build such model zoos for four dynamical systems and analyse them with JEPAWG, a recently proposed joint-embedding hypernetwork built around a learned parameter--weight representation. It was first introduced for neural samplers for lattice field theories, where its latent geometry located the phase transition and estimated the 2D Ising critical exponent. Applied to dynamical systems, JEPAWG is competitive on forecasting with a hypernetwork trained directly for that task, despite being supervised on the parameter--weight correspondence rather than on forecasts. Beyond forecasting, the norm of the parameter-derivative of the decoded weights locates Hopf points and curves, tracks a period-doubling cascade closely enough to give a qualitative estimate of the Feigenbaum constant, and detects a global bifurcation, which has no eigenvalue signature and is therefore invisible to linearisation. As such, JEPAWG provides interpretable insight into the dynamics that is not available from other hypernetworks. Together, these results indicate that JEPAWG is a workable instrument for reading physical structure off a population of trained networks.
- Abstract（参考訳）: トレーニングされたネットワークウェイトは、データとして扱われることが多いが、モデルの集団がエンコードすべきことに関する基礎的な真実はめったにない。
これはパラメトリック力学系を自然なテストベッドにする: 力学は、よく研究された族において、解析的または数値的に知られているパラメータ空間のサブ多様体で質的に変化する。
パラメータグリッドの各点で予測ネットワークを微調整すると、物理パラメータでインデックス付けされたモデル動物園が得られ、重み空間診断を検査できる。
我々は、4つの力学系のためのモデル動物園を構築し、最近提案されたパラメータ-重み付けハイパーネットワークであるJEPAWGを解析する。これは、格子場理論のためのニューラルネットワークサンプルとして最初に導入されたもので、その潜在幾何学は位相遷移を位置し、2D Isingクリティカル指数を推定する。力学系では、JEPAWGは、予測よりもパラメータ-重み付けを監督されているにもかかわらず、そのタスクのために直接訓練されたハイパーネットワークで予測することに競争力がある。
予測以外にも、デコードされた重みのパラメータ導関数のノルムはホップ点と曲線を定式化するのに十分な周期倍率カスケードを追跡し、固有値の符号を持たない大域的分岐を検知し、したがって線形化には見えない。
従ってJEPAWGは、他のハイパーネットワークから利用できないダイナミクスに関する解釈可能な洞察を提供する。
これらの結果から,JEPAWGはトレーニングネットワークの個体群から物理構造を読み取るための有用な手段であることが示された。
関連論文リスト
- Weight-Space Physics: Interpretable Hypernetworks for Lattice Quantum Field Theories [0.0]
本稿では,JEPAWG(JEP-Embedding Predictive Architecture-based Weight Generator)を紹介する。
結合を直接、学習された潜在空間を介してフローウェイトにマッピングする。
ジェネレータとしてJEPAWGは、見えない結合を効果的に補間し、外挿する。
論文 参考訳（メタデータ） (2026-07-08T08:14:21Z) - Graph Neural Networks in the Wilson Loop Representation of Abelian Lattice Gauge Theories [0.0]
局所ゲージ構造は、幅広い凝縮物質系や合成量子プラットフォームにおいて中心的な役割を果たす。
本稿では,アベリア格子ゲージモデルのためのゲージ不変グラフニューラルネットワークアーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-05-05T15:55:21Z) - Alternating Gradient Flow Utility: A Unified Metric for Structural Pruning and Dynamic Routing in Deep Networks [52.153950303594684]
交互勾配流(Alternating Gradient Flow, AGF)に着想を得た非結合型運動パラダイムを提案する。
AGFはネットワークの構造的「運動ユーティリティ」を正確にキャプチャする
我々は、AGFに誘導されるオフライン構造探索を、ゼロコストの物理プリミティブを介してオンライン実行から切り離すハイブリッドルーティングフレームワークを設計する。
論文 参考訳（メタデータ） (2026-03-12T18:19:21Z) - Latent Dynamics Graph Convolutional Networks for model order reduction of parameterized time-dependent PDEs [0.0]
本稿では,データ駆動型エンコーダフリーアーキテクチャであるLatent Dynamics Graph Conal Network (LD-GCN)を紹介する。
LD-GCNは外部入力とパラメータで条件付けられた動的システムのグローバルで低次元の表現を学習する。
本フレームワークは,削減されたダイナミクスの解析を可能にし,ゼロショット予測をサポートすることにより,解釈可能性を向上させる。
論文 参考訳（メタデータ） (2026-01-16T13:10:00Z) - Beyond Static Models: Hypernetworks for Adaptive and Generalizable Forecasting in Complex Parametric Dynamical Systems [0.0]
補間ネットワーク学習のためのパラメトリックハイパーネットワーク(PHLieNet)について紹介する。
PHLieNetはパラメータ空間から非線形埋め込みへのグローバルマッピングと、推論埋め込みから動的伝播ネットワークの重みへのマッピングを同時に学習する。
観測よりもモデルの空間を補間することにより、PHLieNetはパラメータ化されたシステム挙動間のスムーズな遷移を促進する。
論文 参考訳（メタデータ） (2025-06-24T13:22:49Z) - Weight-Space Linear Recurrent Neural Networks [2.77067514910801]
WARP (Weight-space Adaptive Recurrent Prediction) は、重み空間学習を線形反復で統一する強力なモデルである。
WARPは、様々な分類タスクにおいて最先端のベースラインと一致しているか、あるいは超越しているかを示す。
注目すべきは、我々のモデルの物理インフォームド変種は、次の最良のモデルよりも10倍以上優れています。
論文 参考訳（メタデータ） (2025-06-01T20:13:28Z) - Instruction-Guided Autoregressive Neural Network Parameter Generation [49.800239140036496]
本稿では,多種多様なタスクやアーキテクチャにまたがるパラメータ合成を統一する自動回帰フレームワークIGPGを提案する。
ニューラルネットワーク重みのトークンを自動回帰的に生成することにより、IGPGは層間コヒーレンスを確保し、モデルとデータセット間の効率的な適応を可能にする。
複数のデータセットの実験により、IGPGは様々な事前訓練されたモデルを単一の柔軟な生成フレームワークに統合することを示した。
論文 参考訳（メタデータ） (2025-04-02T05:50:19Z) - Kalman Filter for Online Classification of Non-Stationary Data [101.26838049872651]
オンライン連続学習(OCL)では、学習システムはデータのストリームを受け取り、予測とトレーニングの手順を順次実行する。
本稿では,線形予測量に対するニューラル表現と状態空間モデルを用いた確率ベイズオンライン学習モデルを提案する。
多クラス分類の実験では、モデルの予測能力と非定常性を捉える柔軟性を示す。
論文 参考訳（メタデータ） (2023-06-14T11:41:42Z) - Machine learning in and out of equilibrium [58.88325379746631]
我々の研究は、統計物理学から適応したフォッカー・プランク法を用いて、これらの平行線を探索する。
我々は特に、従来のSGDでは平衡が切れている長期的限界におけるシステムの定常状態に焦点を当てる。
本稿では,ミニバッチの置き換えを伴わない新しいランゲヴィンダイナミクス(SGLD)を提案する。
論文 参考訳（メタデータ） (2023-06-06T09:12:49Z) - Capturing dynamical correlations using implicit neural representations [85.66456606776552]
実験データから未知のパラメータを復元するために、モデルハミルトンのシミュレーションデータを模倣するために訓練されたニューラルネットワークと自動微分を組み合わせた人工知能フレームワークを開発する。
そこで本研究では, 実時間から多次元散乱データに適用可能な微分可能なモデルを1回だけ構築し, 訓練する能力について述べる。
論文 参考訳（メタデータ） (2023-04-08T07:55:36Z) - Post-mortem on a deep learning contest: a Simpson's paradox and the
complementary roles of scale metrics versus shape metrics [61.49826776409194]
我々は、ニューラルネットワーク(NN)モデルの一般化精度を予測するために、コンテストで公に利用可能にされたモデルのコーパスを分析する。
メトリクスが全体としてよく機能するが、データのサブパーティションではあまり機能しない。
本稿では,データに依存しない2つの新しい形状指標と,一連のNNのテスト精度の傾向を予測できるデータ依存指標を提案する。
論文 参考訳（メタデータ） (2021-06-01T19:19:49Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。