論文の概要: Unit-level aggregation breaks coverage in causal foundation models
- arxiv url: http://arxiv.org/abs/2610.22770v1
- Date: Fri, 16 Oct 2026 00:20:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.720294
- Title: Unit-level aggregation breaks coverage in causal foundation models
- Title(参考訳): 単位レベルアグリゲーションは因果基盤モデルにおけるカバレッジを破る
- Abstract要約: 因果ファンデーションモデル(CFM)は、標準ベンチマークで競合する単位レベルの見積もりで、治療効果の推定に有望な結果を示す。
多くの因果解析は、完全なサンプル、治療された単位、またはサブグループなど、単位群の平均的な効果を通じて決定を通知する。
これらの間隔を調べたところ、単純な合成設定と標準ベンチマークの両方で、そのカバレッジが劣化することがわかった。
- 参考スコア(独自算出の注目度): 9.855521896064863
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Causal foundation models (CFMs) show promising results for treatment-effect estimation, with unit-level estimates that are competitive on standard benchmarks. Many causal analyses, however, inform decisions through effects averaged over groups of units, such as the full sample, the treated units, or a subgroup, and for such decisions a CFM is useful only if its credible intervals are calibrated. We examine these intervals and find that their coverage degrades, both in simple synthetic settings and on standard benchmarks. On ACIC 2016, for example, temperature-calibrated 95% intervals from CausalPFN fall below nominal coverage beyond groups of 30 out of 4802 units, and intervals for the full-sample average contain the true value in only 20% of datasets. We trace this problem to how these models are trained and how their intervals are formed. They output a predictive distribution for one unit at a time and, at inference time, combine the unit-level variances as if the errors on different units were independent. We show formally that posterior uncertainty over the data-generating process makes these errors correlated. As a result, the combined variance is too small by a factor that grows with the size of the group. Empirically, this factor predicts where coverage fails and by how much. We then show that two neural process models, which make joint predictions for a group of units, account for this correlation and substantially improve coverage on synthetic tasks and, as heads on a frozen CausalPFN, on all six benchmarks.
- Abstract(参考訳): 因果ファンデーションモデル(CFM)は、標準ベンチマークで競合する単位レベルの見積もりで、治療効果の推定に有望な結果を示す。
しかし、多くの因果解析は、全サンプル、治療単位、サブグループなど、単位群の平均的な効果によって決定を伝達し、その決定のためにCFMが有用となるのは、その信頼区間が校正された場合に限られる。
これらの間隔を調べたところ、単純な合成設定と標準ベンチマークの両方で、そのカバレッジが劣化することがわかった。
例えばACIC 2016では、CausalPFNから95%の温度校正間隔が、4802単位のうち30単位の基数を超えており、フルサンプル平均の間隔はデータセットの20%しか真の値を含んでいない。
この問題は、これらのモデルがどのようにトレーニングされ、どのように間隔が形成されるかに遡る。
彼らは1つの単位に対して1度に予測分布を出力し、推論時には、異なる単位の誤差が独立であるかのように単位レベルの分散を結合する。
データ生成プロセスに対する後続の不確実性がこれらの誤りを相関させることを示す。
その結果、群の大きさに応じて成長する因子によって、結合された分散は小さすぎる。
経験的に、この要因は、カバレッジがどこで失敗するか、そしてどれだけの量で予測する。
次に、一群のユニットを共同で予測する2つのニューラルプロセスモデルが、この相関関係を考慮し、合成タスクのカバレッジを大幅に改善し、凍結されたCausalPFNのヘッドとして、6つのベンチマークすべてに実装されていることを示す。
関連論文リスト
- Score Mismatch and Set-Constrained Sampling in Zero-Shot Conditional Discrete Diffusion [66.0716790920952]
スコアミスマッチした離散拡散モデルに対する最初の理論的解析を行う。
このようなミスマッチによる追加バイアスを明確に識別する一般KL発散上限を導出する。
代入確率は吸収率で無条件スコアで正確に表現できることを示す。
論文 参考訳(メタデータ) (2026-10-15T01:05:30Z) - Cluster-Robust Prediction-Powered Inference [0.0]
予測駆動推論(PPI)は、ラベル付きデータと機械学習予測を組み合わせることで、正確な推定に必要なデータ量を削減できる。
独立クラスタ内で任意の依存の下でクローズドフォームの標準エラーを提供するクラスタ・ロバストPPI++を紹介する。
精度の向上がラベル付け設計に依存することを示すとともに,分散を最小限に抑えるクラスタ対応パワーチューニングルールを導出する。
論文 参考訳(メタデータ) (2026-10-07T07:48:30Z) - Model selection with proper scoring rules on data sets of time series: prefer the mean scaled score [0.13599496385950985]
複数の時系列のデータセットから評価した確率的予測モデルにおけるモデル選択の問題について検討する。
このような相違はスコアの分布の歪みから生じることを示す。
テストセットのサイズが大きくなると、すべてのアグリゲーション基準は同じモデル選択決定に収束する。
論文 参考訳(メタデータ) (2026-06-23T15:36:28Z) - Uncertainty-based Debiasing and Unlearning for Decontamination [12.593872705071114]
不確実性に基づく除染(UBD)は、汚染されたモデルやサンプルが汚染された知識を必要とせず、サンプルごとの記憶を推定する。
UBDは、パラフレーズや選択置換ベースラインよりも、汚染されていないモデルの出力分布にかなり近いサンプル単位の出力分布を生成する。
論文 参考訳(メタデータ) (2026-06-22T13:26:29Z) - Calibrated Inference for the Conditional Average Treatment Effect in the Few-Placebo Regime via Gaussian Processes [0.0]
片方の治療用アームが他方よりもはるかに小さい,少数のプラセボ系について検討した。
それらは、その名目レベルよりも、真の効果をほとんど含まない。
本稿では,各アームの結果面をガウス過程でモデル化するGP-CATEを提案する。
論文 参考訳(メタデータ) (2026-05-26T11:18:42Z) - Sharp Convergence Rates for Masked Diffusion Models [53.117058231393834]
制約を克服するオイラー法に対する全変分に基づく解析法を開発した。
その結果、スコア推定の仮定を緩和し、パラメータ依存性を改善し、収束保証を確立する。
全体としては,CTMC軌道に沿った直接テレビによる誤り分解と,FHSのためのデカップリングに基づく経路解析を導入している。
論文 参考訳(メタデータ) (2026-02-26T00:47:51Z) - DistDF: Time-Series Forecasting Needs Joint-Distribution Wasserstein Alignment [92.70019102733453]
トレーニング時系列予測モデルは、モデル予測の条件分布とラベルシーケンスの条件分布の整合性を必要とする。
本研究では,条件予測とラベル分布との差を最小限に抑えてアライメントを実現するDistDFを提案する。
論文 参考訳(メタデータ) (2025-10-28T16:09:59Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - An analysis of the noise schedule for score-based generative models [7.180235086275926]
スコアベース生成モデル(SGM)は、目標からのノイズ摂動サンプルのみを用いてスコア関数を学習することにより、目標データ分布を推定することを目的としている。
近年の文献では、ターゲットと推定分布の誤差を評価し、KL(Kulback-Leibler)の発散とワッサーシュタイン距離を通じて生成品質を測ることに重点を置いている。
対象と推定分布のKL分散の上限を時間依存ノイズスケジュールによって明確に設定する。
論文 参考訳(メタデータ) (2024-02-07T08:24:35Z) - Examining and Combating Spurious Features under Distribution Shift [94.31956965507085]
我々は、最小限の統計量という情報理論の概念を用いて、ロバストで刺激的な表現を定義し、分析する。
入力分布のバイアスしか持たない場合でも、モデルはトレーニングデータから急激な特徴を拾い上げることができることを証明しています。
分析から着想を得た結果,グループDROは,グループ同士の相関関係を直接考慮しない場合に失敗する可能性が示唆された。
論文 参考訳(メタデータ) (2021-06-14T05:39:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。