論文の概要: A Generative Framework for Causal Estimation via Importance-Weighted Diffusion Distillation
- arxiv url: http://arxiv.org/abs/2505.11444v1
- Date: Fri, 16 May 2025 17:00:52 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-19 14:36:15.677051
- Title: A Generative Framework for Causal Estimation via Importance-Weighted Diffusion Distillation
- Title(参考訳): 重要度重み付き拡散蒸留による因果推定のための生成フレームワーク
- Authors: Xinran Song, Tianyu Chen, Mingyuan Zhou,
- Abstract要約: 観察データから個別化された治療効果を推定することは因果推論における中心的な課題である。
逆確率重み付け(IPW)は、この問題に対するよく確立された解決策であるが、現代のディープラーニングフレームワークへの統合は依然として限られている。
本稿では,拡散モデルの事前学習と重み付きスコア蒸留を組み合わせた新しい生成フレームワークであるIWDDを提案する。
- 参考スコア(独自算出の注目度): 55.53426007439564
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Estimating individualized treatment effects from observational data is a central challenge in causal inference, largely due to covariate imbalance and confounding bias from non-randomized treatment assignment. While inverse probability weighting (IPW) is a well-established solution to this problem, its integration into modern deep learning frameworks remains limited. In this work, we propose Importance-Weighted Diffusion Distillation (IWDD), a novel generative framework that combines the pretraining of diffusion models with importance-weighted score distillation to enable accurate and fast causal estimation-including potential outcome prediction and treatment effect estimation. We demonstrate how IPW can be naturally incorporated into the distillation of pretrained diffusion models, and further introduce a randomization-based adjustment that eliminates the need to compute IPW explicitly-thereby simplifying computation and, more importantly, provably reducing the variance of gradient estimates. Empirical results show that IWDD achieves state-of-the-art out-of-sample prediction performance, with the highest win rates compared to other baselines, significantly improving causal estimation and supporting the development of individualized treatment strategies. We will release our PyTorch code for reproducibility and future research.
- Abstract(参考訳): 観察データから個別化処理効果を推定することは因果推論における中心的な課題であり、主に共変量不均衡と非ランダム化処理の偏見によるものである。
逆確率重み付け(IPW)はこの問題に対するよく確立された解決策であるが、現代のディープラーニングフレームワークへの統合は依然として限られている。
本研究では,拡散モデルの事前学習と重み付けされたスコア蒸留を組み合わせた新しい生成フレームワークであるIWDDを提案する。
我々は,IPWを事前学習した拡散モデルの蒸留に自然に組み込む方法を示し,さらに,IPWを明示的に計算する必要性を排除し,より重要なこととして,勾配推定のばらつきを確実に低減するランダム化に基づく調整を導入する。
実験の結果、IWDDは、他のベースラインよりも高い勝利率で最先端のアウト・オブ・サンプル予測性能を達成し、因果推定を著しく改善し、個別化された治療戦略の開発を支援することが明らかとなった。
再現性と今後の研究のために、PyTorchのコードをリリースします。
関連論文リスト
- Towards Understanding the Robustness of Diffusion-Based Purification: A Stochastic Perspective [65.10019978876863]
拡散性浄化(DBP)は、敵の攻撃に対する効果的な防御機構として出現している。
本稿では,DBPプロセスの本質性がロバスト性を駆動する主要な要因であることを示す。
論文 参考訳(メタデータ) (2024-04-22T16:10:38Z) - High Precision Causal Model Evaluation with Conditional Randomization [10.23470075454725]
因果誤差を推定するための新しい低分散推定器(ペア推定器)を提案する。
モデルと真の実験効果の両方に同じIPW推定器を適用することにより、IPWによる分散を効果的にキャンセルし、より小さな分散を実現する。
提案手法は,IPW推定器自体の複雑な変更を伴わずに,条件付きランダム化設定における因果推論モデルを評価するための,単純かつ強力な解を提供する。
論文 参考訳(メタデータ) (2023-11-03T13:22:27Z) - Unmasking Bias in Diffusion Model Training [40.90066994983719]
拡散モデルが画像生成の主流のアプローチとして登場した。
トレーニングの収束が遅く、サンプリングのカラーシフトの問題に悩まされている。
本稿では,これらの障害は,既定のトレーニングパラダイムに固有のバイアスや準最適性に大きく起因していると考えられる。
論文 参考訳(メタデータ) (2023-10-12T16:04:41Z) - Reconstructing Graph Diffusion History from a Single Snapshot [87.20550495678907]
A single SnapsHot (DASH) から拡散履歴を再構築するための新しいバリセンターの定式化を提案する。
本研究では,拡散パラメータ推定のNP硬度により,拡散パラメータの推定誤差が避けられないことを証明する。
また、DITTO(Diffusion hitting Times with Optimal proposal)という効果的な解法も開発している。
論文 参考訳(メタデータ) (2023-06-01T09:39:32Z) - Covariate-Balancing-Aware Interpretable Deep Learning models for
Treatment Effect Estimation [15.465045049754336]
本稿では, 高い無知性仮定の下での平均処理推定値のバイアスの上限について提案する。
新たな付加型ニューラルネットワークアーキテクチャを活用することにより、目的関数としてこの上限を実装する。
提案手法は、因果推論のためのベンチマークデータセットを再検討し、最先端の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2022-03-07T07:42:40Z) - Estimating heterogeneous survival treatment effect in observational data
using machine learning [9.951103976634407]
観測データにおける不均一な処理効果を推定する方法は, 連続的あるいは二分的な結果に大きく焦点を絞っている。
対物的フレームワークで柔軟な機械学習手法を使用することは、複雑な個人特性による課題に対処するための有望なアプローチである。
論文 参考訳(メタデータ) (2020-08-17T01:02:14Z) - The Counterfactual $\chi$-GAN [20.42556178617068]
因果推論は、しばしば、治療の割り当てが結果から独立していることを要求する反ファクト的枠組みに依存する。
本研究は,CGAN(Counterfactual $chi$-GAN)と呼ばれるGAN(Generative Adversarial Network)に基づくモデルを提案する。
論文 参考訳(メタデータ) (2020-01-09T17:23:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。