論文の概要: Causal Foundation Models: Disentangling Physics from Instrument Properties

• arxiv url: http://arxiv.org/abs/2507.05333v1
• Date: Mon, 07 Jul 2025 18:00:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-07-09 16:34:37.276282
• Title: Causal Foundation Models: Disentangling Physics from Instrument Properties
• Title（参考訳）: Causal Foundation Models: 機器特性から物理を遠ざける
• Authors: Jeroen Audenaert, Daniel Muthukrishna, Paul F. Gregory, David W. Hogg, V. Ashley Villar,
• Abstract要約: コントラスト学習を訓練した二重エンコーダアーキテクチャを用いて,物理的要因と楽器的要因を分離する基礎モデルを提案する。 提案手法は,下流予測タスクにおいて,従来の単一遅延空間基盤モデルよりも大幅に優れる。
• 参考スコア（独自算出の注目度）: 1.3762533349477064
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Foundation models for structured time series data must contend with a fundamental challenge: observations often conflate the true underlying physical phenomena with systematic distortions introduced by measurement instruments. This entanglement limits model generalization, especially in heterogeneous or multi-instrument settings. We present a causally-motivated foundation model that explicitly disentangles physical and instrumental factors using a dual-encoder architecture trained with structured contrastive learning. Leveraging naturally occurring observational triplets (i.e., where the same target is measured under varying conditions, and distinct targets are measured under shared conditions) our model learns separate latent representations for the underlying physical signal and instrument effects. Evaluated on simulated astronomical time series designed to resemble the complexity of variable stars observed by missions like NASA's Transiting Exoplanet Survey Satellite (TESS), our method significantly outperforms traditional single-latent space foundation models on downstream prediction tasks, particularly in low-data regimes. These results demonstrate that our model supports key capabilities of foundation models, including few-shot generalization and efficient adaptation, and highlight the importance of encoding causal structure into representation learning for structured data.
• Abstract（参考訳）: 観測は、観測機器によって導入された体系的な歪みによって、真の基礎となる物理現象を分割する。 この絡み合いはモデル一般化を制限し、特に異種または多種構成の設定において。 本稿では、コントラスト学習を訓練した二重エンコーダアーキテクチャを用いて、物理的要因と楽器的要因を明確に分離する因果的動機付け基礎モデルを提案する。 自然発生三重項(例えば、異なる条件下で同じ目標が測定され、異なる目標が共有条件下で測定される場合)を利用して、我々のモデルは、基礎となる物理信号と機器効果の別の潜在表現を学習する。 NASAのトランジット・エクソプラネット・サーベイ・サテライト(TESS)のようなミッションで観測される変動星の複雑さに類似したシミュレーションされた天体時系列に基づいて評価した。 これらの結果から,本モデルは,数ショットの一般化と効率的な適応を含む基礎モデルの重要機能をサポートし,構造化データの表現学習に因果構造を符号化することの重要性を強調した。

関連論文リスト

• Dynamic Diffusion Schrödinger Bridge in Astrophysical Observational Inversions [28.93959635012836]
  動的天体物理系の文脈における拡散シュリンガーブリッジ(DSB)モデルについて検討した。 本稿では、天体物理の力学に最適化された対の領域仮定を持つDSBの変種であるAstro-DSBモデルを紹介する。
  論文  参考訳（メタデータ） (2025-06-09T12:35:36Z)
• Temporal-Spectral-Spatial Unified Remote Sensing Dense Prediction [62.376936772702905]
  リモートセンシングのための現在のディープラーニングアーキテクチャは、基本的に堅固である。 本稿では,統合モデリングのための空間時間スペクトル統一ネットワーク(STSUN)について紹介する。 STSUNは任意の空間サイズ、時間長、スペクトル帯域で入力および出力データに適応することができる。 トレーニング可能なタスクの埋め込みにモデルを条件付けすることで、単一のアーキテクチャ内で異なる密集した予測タスクを統一する。
  論文  参考訳（メタデータ） (2025-05-18T07:39:17Z)
• GenBench: A Benchmarking Suite for Systematic Evaluation of Genomic Foundation Models [56.63218531256961]
  我々はGenomic Foundation Modelsの有効性を評価するためのベンチマークスイートであるGenBenchを紹介する。 GenBenchはモジュラーで拡張可能なフレームワークを提供し、様々な最先端の方法論をカプセル化している。 本稿では,タスク固有性能におけるモデルアーキテクチャとデータセット特性の相互作用のニュアンス解析を行う。
  論文  参考訳（メタデータ） (2024-06-01T08:01:05Z)
• A machine learning and feature engineering approach for the prediction of the uncontrolled re-entry of space objects [1.0205541448656992]
  低地球軌道(LEO)における未制御物体の再突入予測のための深層学習モデルの開発について述べる。 このモデルはSequence-to-Sequenceアーキテクチャの修正版に基づいており、400体以上のTLE(Two-Line Element)データから得られた平均高度プロファイルに基づいて訓練されている。 この研究の斬新さは、平均高度とともに、ドラッグライクな係数(B*)、平均太陽指数、物体の面積と質量比の3つの新しい入力特徴を含むディープラーニングモデルの導入である。
  論文  参考訳（メタデータ） (2023-03-17T13:53:59Z)
• Amortized Inference for Causal Structure Learning [72.84105256353801]
  因果構造を学習することは、通常、スコアまたは独立テストを使用して構造を評価することを伴う探索問題を引き起こす。 本研究では,観測・干渉データから因果構造を予測するため,変分推論モデルを訓練する。 我々のモデルは、実質的な分布シフトの下で頑健な一般化能力を示す。
  論文  参考訳（メタデータ） (2022-05-25T17:37:08Z)
• Surrogate Modeling for Physical Systems with Preserved Properties and Adjustable Tradeoffs [0.0]
  代理モデルを生成するためのモデルベースおよびデータ駆動型戦略を提案する。 後者は、前提となる位相構造に人工的関係を組み込むことで解釈可能な代理モデルを生成する。 我々のフレームワークは、分散パラメータモデルのための様々な空間離散化スキームと互換性がある。
  論文  参考訳（メタデータ） (2022-02-02T17:07:02Z)
• Leveraging the structure of dynamical systems for data-driven modeling [111.45324708884813]
  トレーニングセットとその構造が長期予測の品質に与える影響を考察する。 トレーニングセットのインフォームドデザインは,システムの不変性と基盤となるアトラクションの構造に基づいて,結果のモデルを大幅に改善することを示す。
  論文  参考訳（メタデータ） (2021-12-15T20:09:20Z)
• Spatial machine-learning model diagnostics: a model-agnostic distance-based approach [91.62936410696409]
  本研究は,空間予測誤差プロファイル (SPEP) と空間変数重要度プロファイル (SVIP) を,新しいモデルに依存しない評価・解釈ツールとして提案する。 統計学的手法、線形モデル、ランダムフォレスト、ハイブリッドアルゴリズムのSPEPとSVIPは、顕著な差異と関連する類似性を示している。 この新しい診断ツールは空間データ科学のツールキットを充実させ、MLモデルの解釈、選択、設計を改善する可能性がある。
  論文  参考訳（メタデータ） (2021-11-13T01:50:36Z)
• A Survey on Principles, Models and Methods for Learning from Irregularly Sampled Time Series [18.224344440110862]
  不規則にサンプリングされた時系列データは、生物学、生態学、気候科学、天文学、健康など、多くの応用領域で自然に発生する。 まず、不規則なサンプル時系列から学習するアプローチが異なるいくつかの軸について述べる。 次に、モデリングプリミティブの軸に沿って整理された最近の文献を調査します。
  論文  参考訳（メタデータ） (2020-11-30T23:41:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。