Fugu-MT 論文翻訳(概要): Causal Foundation Models

論文の概要: Causal Foundation Models

arxiv url: http://arxiv.org/abs/2609.03003v1
Date: Wed, 02 Sep 2026 18:00:00 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-04 18:28:38.818351
Title: Causal Foundation Models
Title（参考訳）: 因果基礎モデル
Abstract要約: 因果基礎モデル(英: Causal foundation model、CFM)は、因果量の推定を行う事前訓練されたニューラルネットワークである。この研究は、この新興分野の実践的な紹介を提供する。
参考スコア（独自算出の注目度）: 18.93130517054884
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Causal inference is the practice of estimating the effect of a treatment or intervention from data. It traditionally requires a bespoke pipeline for every new problem: first proposing a causal mechanism, selecting a compatible estimator, and finally training it. Meanwhile, across diverse settings and modalities, much of machine learning has shifted to the paradigm of foundation models: networks pretrained once at scale and applied to new tasks without fine-tuning. Causal foundation models (CFMs) bring this paradigm to causal inference. CFMs are pretrained neural networks that estimate causal quantities, such as the average treatment effect, on entirely new datasets using in-context learning without requiring model updates. This work provides a practical introduction to this emerging area. We summarize the necessary background in causal inference and machine learning before discussing CFMs. Throughout, we include example code and Jupyter notebooks.
Abstract（参考訳）: 因果推論(英: Causal inference)とは、データから治療や介入の効果を推定する手法である。まずは因果メカニズムを提案し、互換性のある推定器を選択し、最後にそれをトレーニングする。一方、さまざまな設定やモダリティによって、機械学習の多くはファンデーションモデルのパラダイムに移行している。因果的基礎モデル(CFM)は、このパラダイムを因果的推論にもたらす。 CFMは、モデル更新を必要とせずに、コンテキスト内学習を使用した全く新しいデータセットに対して、平均的な治療効果などの因果量を推定する事前訓練されたニューラルネットワークである。この研究は、この新興分野の実践的な紹介を提供する。 CFMについて議論する前に、因果推論と機械学習における必要な背景を要約する。全体として、サンプルコードとJupyterノートブックを含んでいます。

関連論文リスト

PriorGuide: Test-Time Prior Adaptation for Simulation-Based Inference [35.357213292828426]
拡散型アモルト化推論法に特化して設計された手法である PreferGuide を紹介する。これにより、トレーニングされた拡散モデルをテスト時に、コストのかかる再トレーニングを伴わずに、フレキシブルな適用が可能になる。これにより、ユーザーは更新情報や専門知識のトレーニング後を簡単に組み込むことができ、事前訓練された推論モデルの汎用性を高めることができる。
論文参考訳（メタデータ） (2025-10-15T17:11:19Z)
Foundation Models for Causal Inference via Prior-Data Fitted Networks [44.88035820084948]
CausalFMは、様々な因果推論設定でPFNベースの基礎モデルをトレーニングするためのフレームワークである。 PFNは、予め指定された事前分布から生成された合成データに基づいて事前訓練された変換器である。 CausalFMは,手前のタスクに特化して訓練されたベースラインと比較して,コンテクスト内学習性能の競争力が高いことを示す。
論文参考訳（メタデータ） (2025-06-12T17:29:29Z)
Neural Network Reprogrammability: A Unified Theme on Model Reprogramming, Prompt Tuning, and Prompt Instruction [57.19302613163439]
モデル適応のための統一フレームワークとして,ニューラルネットワークの再プログラム可能性を導入する。本稿では,4つの重要な側面にまたがる情報操作アプローチを分類する分類法を提案する。残る技術的課題や倫理的考察も分析する。
論文参考訳（メタデータ） (2025-06-05T05:42:27Z)
Flow to Learn: Flow Matching on Neural Network Parameters [0.0]
我々は、異なるタスクに対してニューラルネットワークパラメータを生成することを学習するフローマッチングモデルであるFLoWNを紹介する。実験により、FLoWNはメタラーニングモデルのために様々なデシラタが得られることが確認された。
論文参考訳（メタデータ） (2025-03-25T05:57:50Z)
Transferable Post-training via Inverse Value Learning [83.75002867411263]
別個のニューラルネットワーク(すなわち値ネットワーク)を用いた後学習におけるロジットレベルのモデリング変更を提案する。このネットワークをデモを使って小さなベースモデルでトレーニングした後、推論中に他のトレーニング済みモデルとシームレスに統合することができる。得られた値ネットワークは、パラメータサイズの異なる事前学習されたモデル間で広い転送性を有することを示す。
論文参考訳（メタデータ） (2024-10-28T13:48:43Z)
Impact of Noisy Supervision in Foundation Model Learning [91.56591923244943]
本論文は、事前学習データセットにおけるノイズの性質を包括的に理解し分析する最初の研究である。雑音の悪影響を緩和し、一般化を改善するため、特徴空間に適応するチューニング法(NMTune)を提案する。
論文参考訳（メタデータ） (2024-03-11T16:22:41Z)
Tackling Computational Heterogeneity in FL: A Few Theoretical Insights [68.8204255655161]
我々は、計算異種データの形式化と処理を可能にする新しい集約フレームワークを導入し、分析する。提案するアグリゲーションアルゴリズムは理論的および実験的予測から広範囲に解析される。
論文参考訳（メタデータ） (2023-07-12T16:28:21Z)
Statistical Foundations of Prior-Data Fitted Networks [0.7614628596146599]
近年,機械学習の新しいパラダイムとしてPFNが提案されている。本稿では,PFNの理論的基盤を確立し,その挙動を制御している統計的メカニズムを照らす。
論文参考訳（メタデータ） (2023-05-18T16:34:21Z)
Learning Neural Models for Natural Language Processing in the Face of Distributional Shift [10.990447273771592]
特定のデータセットでひとつのタスクを実行するための強力な神経予測器をトレーニングするNLPのパラダイムが、さまざまなアプリケーションで最先端のパフォーマンスを実現している。データ分布が定常である、すなわち、トレーニングとテストの時間の両方で、データは固定された分布からサンプリングされる、という仮定に基づいて構築される。この方法でのトレーニングは、人間が絶えず変化する情報の流れの中で学習し、操作できる方法と矛盾する。データ分散がモデル寿命の経過とともにシフトすることが期待される実世界のユースケースに不適応である。
論文参考訳（メタデータ） (2021-09-03T14:29:20Z)
Decentralized Personalized Federated Learning for Min-Max Problems [79.61785798152529]
本稿では,より広い範囲の最適化問題を含むサドル点問題に対して,PFLを初めて検討した。この問題に対処するための新しいアルゴリズムを提案し、滑らかな(強く)凸-(強く)凹点問題を理論的に解析する。両線形問題に対する数値実験と, 対向雑音を有するニューラルネットワークは, 提案手法の有効性を実証する。
論文参考訳（メタデータ） (2021-06-14T10:36:25Z)
Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できるこのモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
論文参考訳（メタデータ） (2020-03-13T13:11:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。