論文の概要: JointFM-0.1: A Foundation Model for Multi-Target Joint Distributional Prediction
- arxiv url: http://arxiv.org/abs/2603.20266v1
- Date: Sat, 14 Mar 2026 07:50:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-03-24 19:11:38.779394
- Title: JointFM-0.1: A Foundation Model for Multi-Target Joint Distributional Prediction
- Title(参考訳): JointFM-0.1:マルチターゲット共同分布予測の基礎モデル
- Authors: Stefan Hackmann,
- Abstract要約: 微分方程式(SDE)のパラダイムを逆転する基盤モデルであるJointFMを紹介する。
データにSDEを適合させる代わりに、合成SDEの無限ストリームをサンプリングし、将来の関節確率分布を直接予測するために、ジェネリックモデルを訓練する。
ジョイントFMは、目に見えない合成SDEによって生じるオラクルの関節分布を回復する際に、最強のベースラインに対してエネルギー損失を14.2%削減する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Despite the rapid advancements in Artificial Intelligence (AI), Stochastic Differential Equations (SDEs) remain the gold-standard formalism for modeling systems under uncertainty. However, applying SDEs in practice is fraught with challenges: modeling risk is high, calibration is often brittle, and high-fidelity simulations are computationally expensive. This technical report introduces JointFM, a foundation model that inverts this paradigm. Instead of fitting SDEs to data, we sample an infinite stream of synthetic SDEs to train a generic model to predict future joint probability distributions directly. This approach establishes JointFM as the first foundation model for distributional predictions of coupled time series - requiring no task-specific calibration or finetuning. Despite operating in a purely zero-shot setting, JointFM reduces the energy loss by 14.2% relative to the strongest baseline when recovering oracle joint distributions generated by unseen synthetic SDEs.
- Abstract(参考訳): 人工知能(AI)の急速な進歩にもかかわらず、確率微分方程式(SDE)は不確実性の下でのモデリングシステムの金本位制のままである。
モデリングリスクが高く、キャリブレーションが不安定で、高忠実度シミュレーションは計算コストがかかる。
この技術的レポートでは、このパラダイムを逆転する基盤モデルであるJointFMを紹介します。
データにSDEを適合させる代わりに、合成SDEの無限ストリームをサンプリングし、将来の関節確率分布を直接予測するために、ジェネリックモデルを訓練する。
このアプローチは、結合時系列の分布予測のための最初の基礎モデルとしてJointFMを確立し、タスク固有のキャリブレーションや微調整を必要としない。
純粋なゼロショット環境で運用されているにもかかわらず、JointFMは、目に見えない合成SDEによって生じるオラクルの関節分布を回復する際に、最強のベースラインに対してエネルギー損失を14.2%削減する。
関連論文リスト
- Hybrid Hidden Markov Model for Modeling Equity Excess Growth Rate Dynamics: A Discrete-State Approach with Jump-Diffusion [0.0]
パラメトリックモデルから深層生成ネットワークへの既存のアプローチは、重み付き分布、無視可能な線形自己相関、永続的なボラティリティクラスタリングを同時に再現するのに苦労している。
本稿では,連続的過剰成長率をLaplacequantile-defined market stateに離散化するハイブリッド隠れマルコフフレームワークを提案する。
パラメータは直接遷移カウントによって推定され、Baum-Welch EMアルゴリズムをバイパスする。
論文 参考訳(メタデータ) (2026-03-10T20:06:53Z) - M-Loss: Quantifying Model Merging Compatibility with Limited Unlabeled Data [9.502531621979694]
本稿では,新しい評価指標であるMerging-ensembling loss (M-Loss)を紹介する。
M-Lossは、非常に限られたラベルのないデータを用いて、マージソースモデルの互換性を定量化する。
理論解析と実験により,M-Lossをマージプロセスに組み込むことで,マージモデルとモデルアンサンブルのアライメントが大幅に向上することが示された。
論文 参考訳(メタデータ) (2026-02-09T12:03:36Z) - Model Merging via Multi-Teacher Knowledge Distillation [11.543771846135021]
モデルマージ設定に特化して、新しい平坦性を考慮したPAC-Bayes一般化を導入する。
我々は,少ないラベルのないデータに基づいて,マルチ教師の知識蒸留としてマージするモデルを構築した。
我々は,学生教師のKulback-Leibler分散の最小化が,合併モデルの過大なリスクの上限を直接締め付けることを正式に証明した。
論文 参考訳(メタデータ) (2025-12-24T17:10:44Z) - Elucidated Rolling Diffusion Models for Probabilistic Weather Forecasting [52.6508222408558]
Eucidated Rolling Diffusion Models (ERDM)を紹介する。
ERDMはEucidated Diffusion Models (EDM) の原理的, 性能的設計とローリング予測構造を統一する最初のフレームワークである
2D Navier-StokesシミュレーションとERA5グローバル気象予報の1.5円解像度では、ERDMはキー拡散ベースラインを一貫して上回っている。
論文 参考訳(メタデータ) (2025-06-24T21:44:31Z) - Flow Matching Meets PDEs: A Unified Framework for Physics-Constrained Generation [21.321570407292263]
本稿では,PDE残差と代数的関係の両方の物理制約をフローマッチングの対象に組み込む生成フレームワークである物理ベースフローマッチングを提案する。
提案手法では,FMよりも高精度な物理残差を最大8倍に抑えながら,分布精度では既存アルゴリズムよりも明らかに優れていることを示す。
論文 参考訳(メタデータ) (2025-06-10T09:13:37Z) - Generative Latent Neural PDE Solver using Flow Matching [8.397730500554047]
低次元の潜伏空間にPDE状態を埋め込んだPDEシミュレーションのための潜伏拡散モデルを提案する。
我々のフレームワークは、オートエンコーダを使用して、異なるタイプのメッシュを統一された構造化潜在グリッドにマッピングし、複雑なジオメトリをキャプチャします。
数値実験により,提案モデルは,精度と長期安定性の両方において,決定論的ベースラインよりも優れていた。
論文 参考訳(メタデータ) (2025-03-28T16:44:28Z) - Paving the way for scientific foundation models: enhancing generalization and robustness in PDEs with constraint-aware pre-training [49.8035317670223]
科学基盤モデル(SciFM)は、様々な領域にまたがる伝達可能な表現を学習するための有望なツールとして登場しつつある。
本稿では,PDE残差を単独の学習信号として,あるいはデータ損失と組み合わせて事前学習に組み込むことにより,限定的あるいは実用的でないトレーニングデータに補償することを提案する。
以上の結果から, PDE制約による事前学習は, 解データのみを訓練したモデルよりも, 一般化を著しく向上させることが示された。
論文 参考訳(メタデータ) (2025-03-24T19:12:39Z) - On conditional diffusion models for PDE simulations [53.01911265639582]
スパース観測の予測と同化のためのスコアベース拡散モデルについて検討した。
本稿では,予測性能を大幅に向上させる自動回帰サンプリング手法を提案する。
また,条件付きスコアベースモデルに対する新たなトレーニング戦略を提案する。
論文 参考訳(メタデータ) (2024-10-21T18:31:04Z) - One More Step: A Versatile Plug-and-Play Module for Rectifying Diffusion
Schedule Flaws and Enhancing Low-Frequency Controls [77.42510898755037]
One More Step (OMS) は、推論中に単純だが効果的なステップを付加したコンパクトネットワークである。
OMSは画像の忠実度を高め、トレーニングと推論の二分法を調和させ、元のモデルパラメータを保存する。
トレーニングが完了すると、同じ潜在ドメインを持つ様々な事前訓練された拡散モデルが同じOMSモジュールを共有することができる。
論文 参考訳(メタデータ) (2023-11-27T12:02:42Z) - Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution [67.9215891673174]
離散空間に対するスコアマッチングを自然に拡張する新たな損失として,スコアエントロピーを提案する。
標準言語モデリングタスク上で,Score Entropy Discrete Diffusionモデルをテストする。
論文 参考訳(メタデータ) (2023-10-25T17:59:12Z) - Autoregressive Score Matching [113.4502004812927]
自動回帰条件スコアモデル(AR-CSM)を提案する。
AR-CSMモデルでは、このデータ分布とモデル分布のばらつきを効率的に計算し、最適化することができ、高価なサンプリングや対向訓練を必要としない。
本研究では,合成データに対する密度推定,画像生成,画像復調,暗黙エンコーダを用いた潜在変数モデルの訓練に応用できることを示す。
論文 参考訳(メタデータ) (2020-10-24T07:01:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。