論文の概要: Cross-simulator transfer with foundation model summaries: Towards robust SKA-era reionization inference
- arxiv url: http://arxiv.org/abs/2608.26354v1
- Date: Wed, 26 Aug 2026 19:37:18 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-28 16:30:58.165674
- Title: Cross-simulator transfer with foundation model summaries: Towards robust SKA-era reionization inference
- Title(参考訳): 基礎モデル要約を用いたクロスシミュレータ転送:ロバストSKA時代の再電離推定に向けて
- Abstract要約: 高速な近似シミュレータ上でラベルのない自己教師型ビジョントランスフォーマー(ViT)が,シミュレータ間で一般化可能な転送可能なデータ要約を生成することを示す。
再訓練なしでは、完全に異なるシミュレータから天体物理パラメータを推測するために冷凍エンコーダとして再利用することができる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Simulation-based inference (SBI) for parameter estimation is vulnerable to model misspecification: neural summaries and density estimators trained on a specific forward model typically fail when applied to data drawn from another model, or from real observations, and no training simulator can capture the full observational pipeline of a real measurement exactly. We show that a self-supervised Vision Transformer (ViT), pretrained label-free on a fast approximate simulator, produces transferable data summaries that generalize across simulators. Without retraining, it can be reused as a frozen encoder to infer astrophysical parameters from a completely different simulator that resolves the radiative transfer explicitly, on which it has never seen either data or parameters. As a concrete use case in 21cm cosmology, SKATR, a ViT pretrained with a Joint Embedding Predictive Architecture (JEPA), serves as a foundation model for reionization inference from upcoming SKA measurements: SKATR is pretrained once on 67k low-cost, noiseless semi-numerical 21cmFAST lightcones, then frozen and applied to hydrodynamical Loreli II lightcones, where a lightweight conditional flow matching head infers five astrophysical parameters; the encoder is never shown Loreli data, its parameters, or any noise. In our comparison, SKATR yields the most precise and best-calibrated posteriors across all five parameters, matching the accuracy of the fully-supervised in-domain baseline while requiring 2.6x fewer radiative-transfer simulations. Under realistic SKA AA* noise, only SKATR remains simultaneously accurate, informative, and calibrated, outperforming even a supervised baseline retrained from scratch on noisy data. Self-supervised pretraining on computationally efficient semi-numerical simulations is therefore a viable route to calibrated, simulator- and noise-agnostic reionization inference for the SKA-era.
- Abstract(参考訳): パラメータ推定のためのシミュレーションベース推論(SBI)は、モデルの誤特定に対して脆弱である: 特定のフォワードモデルでトレーニングされたニューラルネットワークと密度推定器は、通常、他のモデルから引き出されたデータや実際の観測結果に適用した場合に失敗し、実際の測定の完全な観測パイプラインを正確にキャプチャする訓練シミュレータは存在しない。
高速な近似シミュレータ上でラベルのない自己教師型ビジョントランスフォーマー(ViT)が,シミュレータ間で一般化可能な転送可能なデータ要約を生成することを示す。
再訓練なしでは、完全に異なるシミュレーターから天体物理パラメータを推論するために凍結エンコーダとして再利用され、放射移動を明示的に解決する。
21cm宇宙論における具体的なユースケースとして、JEPA(Joint Embedding Predictive Architecture)で事前訓練されたVITであるSKATR(SKATR)は、次のSKA測定によるイオン化推論の基礎モデルとして機能する: SKATRは67kの低コストでノイズのない半数値21cmFAST光線上に1度事前訓練され、その後凍結され、流体力学的なロレリII光線に適用される。
比較では、SKATRは5つのパラメータすべてに対して最も正確で最良の校正後部を出力し、完全に監督されたドメイン内ベースラインの精度を2.6倍の放射移動シミュレーションで比較した。
現実的なSKA AA*ノイズの下では、SKATRのみが同時に正確、情報的、校正され、ノイズの多いデータでスクラッチから再訓練された教師付きベースラインよりも優れています。
したがって、計算効率のよい半数値シミュレーションにおける自己教師付き事前学習は、SKA-eraに対する校正、シミュレーターおよびノイズ非依存のイオン化推論への実行可能な経路である。
関連論文リスト
- Task-Relevant Feature-Dynamics Fidelity Enables Zero-Shot Sim-to-Real Transfer for Robotic Ultrasound Scanning [58.25007580703646]
我々は,共有構造中間領域,軌道レベルの固定雑音,数ステップの条件流生成を組み合わせたTR指向超音波シミュレータを開発した。
ファントム実験では、4つの標的機に400発のゼロショット配置のうち390発が成功した。
論文 参考訳(メタデータ) (2026-08-30T02:37:00Z) - mmSimPrior: Learning Simulation Priors for Data-Efficient and Generalizable Real-World Radar-based Human Motion Reconstruction [12.731621912265986]
我々は,信号,動き,レーダ間マッピングに伝達可能な知識を分解するシミュレーション事前学習フレームワークmmSimPriorを提案する。
mmSimPrior-RealとRT-Poseの実験は、一貫した利得を示した。
論文 参考訳(メタデータ) (2026-07-25T00:56:44Z) - Neural Posterior Estimation of Terrain Parameters from Radar Sounder Data [49.62628745057007]
レーダ音響データからの地形パラメータインバージョンに対するシミュレーションに基づく推論手法を提案する。
GPUベースのシミュレータからの合成観測は、神経後部推定のためのニューラルネットワークベースの密度推定器の訓練に使用される。
我々は、NPEモデルがシミュレーションデータに基づいて十分に校正され、実際の火星レーダープロファイルに転送可能であることを実証した。
論文 参考訳(メタデータ) (2026-05-05T08:41:02Z) - Multi-Fidelity Emulation of Atmospheric Correction Coefficients with Physics-Guided Kolmogorov-Arnold Networks [0.17188280334580194]
大気補正は光リモートセンシングにおける重要な前処理ステップである。
本研究では,大気補正係数をエミュレートする物理対応多面体サロゲートフレームワークを提案する。
論文 参考訳(メタデータ) (2026-05-04T22:43:25Z) - Echo State Networks for Time Series Forecasting: Hyperparameter Sweep and Benchmarking [51.56484100374058]
我々は、完全に自動で純粋にフィードバック駆動のESNが、広く使われている統計的予測手法の代替となるかどうかを評価する。
予測精度は、MASEとsMAPEを用いて測定され、ドリフトや季節予測、統計モデルといった単純なベンチマークと比較される。
論文 参考訳(メタデータ) (2026-02-03T16:01:22Z) - Flow Matching for Robust Simulation-Based Inference under Model Misspecification [11.172752919335394]
Flow Matching Corrected Posterior Estimation(フローマッチング補正後推定)は、シミュレーションによって訓練された後部推定を、少数の実校正サンプルを用いて洗練するフレームワークである。
提案手法は,従来のSBIベースラインと比較して,推論精度と不確実性を向上し,不特定性の影響を常に緩和することを示す。
論文 参考訳(メタデータ) (2025-09-27T16:10:53Z) - OmniTraj: Pre-Training on Heterogeneous Data for Adaptive and Zero-Shot Human Trajectory Prediction [62.385417528148224]
OmniTrajは、大規模な異種データセットで事前トレーニングされたトランスフォーマーベースのモデルである。
実験によると、フレームレートを明示的に条件付けすることで、OmniTrajは最先端のゼロショット転送性能を実現することができる。
論文 参考訳(メタデータ) (2025-07-31T15:37:09Z) - G-Sim: Generative Simulations with Large Language Models and Gradient-Free Calibration [48.948187359727996]
G-Simは、厳密な経験的校正によるシミュレータ構築を自動化するハイブリッドフレームワークである。
信頼性のある因果的インフォームドシミュレータを生成し、データ効率を軽減し、堅牢なシステムレベルの介入を可能にする。
論文 参考訳(メタデータ) (2025-06-10T22:14:34Z) - Diffusion posterior sampling for simulation-based inference in tall data settings [53.17563688225137]
シミュレーションベース推論(SBI)は、入力パラメータを所定の観測に関連付ける後部分布を近似することができる。
本研究では、モデルのパラメータをより正確に推測するために、複数の観測値が利用できる、背の高いデータ拡張について考察する。
提案手法を,最近提案した各種数値実験の競合手法と比較し,数値安定性と計算コストの観点から,その優位性を実証した。
論文 参考訳(メタデータ) (2024-04-11T09:23:36Z) - Sim2Real for Environmental Neural Processes [20.850715955359593]
我々は「Sim2Real」の分析を行い、再分析と観測データの微調整を事前学習する。
Sim2Realは、天気予報や気象モニタリングのためのより正確なモデルを可能にする。
論文 参考訳(メタデータ) (2023-10-30T18:49:06Z) - PCGen: Point Cloud Generator for LiDAR Simulation [10.692184635629792]
既存の方法は、実点雲よりもノイズが多く、完全なデータを生成する。
我々はFPAレイキャストと代理モデルレイドロップを提案する。
最小限のトレーニングデータによって、代理モデルは異なる地理やシーンに一般化することができる。
その結果、シミュレーションデータにより訓練されたオブジェクト検出モデルは、実際のデータトレーニングモデルと同じような結果が得られることがわかった。
論文 参考訳(メタデータ) (2022-10-17T04:13:21Z) - AutoSimulate: (Quickly) Learning Synthetic Data Generation [70.82315853981838]
目的の新たな微分可能近似に基づく最適な合成データ生成法を提案する。
提案手法は,学習データ生成の高速化(最大50Times$)と,実世界のテストデータセットの精度向上(+8.7%$)を実現している。
論文 参考訳(メタデータ) (2020-08-16T11:36:11Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。