論文の概要: CETransformer: Casual Effect Estimation via Transformer Based
Representation Learning
- arxiv url: http://arxiv.org/abs/2107.08714v1
- Date: Mon, 19 Jul 2021 09:39:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-20 22:59:51.191035
- Title: CETransformer: Casual Effect Estimation via Transformer Based
Representation Learning
- Title(参考訳): cetransformer: トランスフォーマティブに基づく表現学習によるカジュアル効果の推定
- Authors: Zhenyu Guo, Shuai Zheng, Zhizhe Liu, Kun Yan, Zhenfeng Zhu
- Abstract要約: データ駆動因果効果推定は、選択バイアスと反事実の欠如という2つの大きな課題に直面している。
これら2つの問題に対処するため、既存のアプローチのほとんどは、バランスの取れた表現を学ぶことで選択バイアスを減らす傾向にある。
本稿では,CETransformerモデルを用いて,変換器を用いた表現学習によるカジュアルエフェクト推定を提案する。
- 参考スコア(独自算出の注目度): 17.622007687796756
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Treatment effect estimation, which refers to the estimation of causal effects
and aims to measure the strength of the causal relationship, is of great
importance in many fields but is a challenging problem in practice. As present,
data-driven causal effect estimation faces two main challenges, i.e., selection
bias and the missing of counterfactual. To address these two issues, most of
the existing approaches tend to reduce the selection bias by learning a
balanced representation, and then to estimate the counterfactual through the
representation. However, they heavily rely on the finely hand-crafted metric
functions when learning balanced representations, which generally doesn't work
well for the situations where the original distribution is complicated. In this
paper, we propose a CETransformer model for casual effect estimation via
transformer based representation learning. To learn the representation of
covariates(features) robustly, a self-supervised transformer is proposed, by
which the correlation between covariates can be well exploited through
self-attention mechanism. In addition, an adversarial network is adopted to
balance the distribution of the treated and control groups in the
representation space. Experimental results on three real-world datasets
demonstrate the advantages of the proposed CETransformer, compared with the
state-of-the-art treatment effect estimation methods.
- Abstract(参考訳): 因果効果を推定し因果関係の強さを測定することを目的とした治療効果推定は、多くの分野において非常に重要であるが、実際には難しい問題である。
現在、データ駆動因果効果推定は、選択バイアスと反事実の欠如という2つの大きな課題に直面している。
これら2つの問題に対処するため、既存のアプローチのほとんどは、バランスの取れた表現を学習することで選択バイアスを減らし、その表現を通して反事実を推定する傾向にある。
しかし、バランスのとれた表現を学ぶとき、彼らは手作りのメートル関数に強く依存しており、これは一般に、元の分布が複雑である状況ではうまく機能しない。
本稿では,変換器を用いた表現学習によるカジュアルエフェクト推定のためのCETransformerモデルを提案する。
共変量(特徴)の表現を頑健に学習するために,自己接続機構により共変量間の相関をうまく活用できる自己教師付きトランスを提案する。
さらに、その表現空間における処理群と制御群の分布のバランスをとるために、対向ネットワークを採用する。
3つの実世界のデータセットに対する実験結果から,提案したCETransformerの利点を,最先端処理効果推定法と比較した。
関連論文リスト
- Moderately-Balanced Representation Learning for Treatment Effects with
Orthogonality Information [14.040918087553177]
平均治療効果(ATE)を観測データから推定することは選択バイアスにより困難である。
本稿では,中等度にバランスの取れた表現学習フレームワークを提案する。
このフレームワークは、マルチタスク学習によるオーバーバランスから表現を保護する。
論文 参考訳(メタデータ) (2022-09-05T13:20:12Z) - Exploring the Trade-off between Plausibility, Change Intensity and
Adversarial Power in Counterfactual Explanations using Multi-objective
Optimization [73.89239820192894]
自動対物生成は、生成した対物インスタンスのいくつかの側面を考慮すべきである。
本稿では, 対実例生成のための新しい枠組みを提案する。
論文 参考訳(メタデータ) (2022-05-20T15:02:53Z) - Generalizable Information Theoretic Causal Representation [37.54158138447033]
本稿では,観測データから因果表現を学習するために,仮説因果グラフに基づいて相互情報量で学習手順を規則化することを提案する。
この最適化は、因果性に着想を得た学習がサンプルの複雑さを減らし、一般化能力を向上させるという理論的保証を導出する反ファクト的損失を伴う。
論文 参考訳(メタデータ) (2022-02-17T00:38:35Z) - Can Transformers be Strong Treatment Effect Estimators? [86.32484218657166]
本研究では,様々な処理効果推定問題に対処するために,Transformerアーキテクチャに基づく汎用フレームワークを開発する。
本手法は, 離散的, 連続的, 構造的, あるいは服用関連治療に応用される。
Transformers as Treatment Effect Estimator (TransTEE) を用いて行った実験は、これらの誘導バイアスが因果効果を推定する研究で発生する推定問題やデータセットの種類にも有効であることを示した。
論文 参考訳(メタデータ) (2022-02-02T23:56:42Z) - Transformer Uncertainty Estimation with Hierarchical Stochastic
Attention [8.95459272947319]
本稿では,変圧器に不確実性推定機能を持たせるための新しい手法を提案する。
これは、価値と学習可能なセントロイドのセットに付随する階層的な自己注意を学ぶことで達成される。
我々は、ドメイン内(ID)とドメイン外(OOD)の両方のデータセットを用いて、2つのテキスト分類タスクでモデルを実証的に評価する。
論文 参考訳(メタデータ) (2021-12-27T16:43:31Z) - Towards Robust and Adaptive Motion Forecasting: A Causal Representation
Perspective [72.55093886515824]
本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。
我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。
合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
論文 参考訳(メタデータ) (2021-11-29T18:59:09Z) - Deconfounding Scores: Feature Representations for Causal Effect
Estimation with Weak Overlap [140.98628848491146]
推定対象の偏りを伴わずに高い重なりを生じさせる,デコンファウンディングスコアを導入する。
分離スコアは観測データで識別可能なゼロ共分散条件を満たすことを示す。
特に,この手法が標準正規化の魅力的な代替となることを示す。
論文 参考訳(メタデータ) (2021-04-12T18:50:11Z) - Matching in Selective and Balanced Representation Space for Treatment
Effects Estimation [10.913802831701082]
深層表現学習とマッチングに基づく特徴選択表現マッチング(FSRM)手法を提案する。
本研究では, FSRM法の性能を3つのデータセットで評価し, 現状の手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-09-15T02:07:34Z) - Learning Disentangled Representations with Latent Variation
Predictability [102.4163768995288]
本稿では,潜在不整合表現の変動予測可能性について述べる。
逆生成プロセス内では、潜時変動と対応する画像対の相互情報を最大化することにより、変動予測可能性を高める。
本研究では,潜在表現の絡み合いを測るために,基礎的構造的生成因子に依存しない評価指標を開発する。
論文 参考訳(メタデータ) (2020-07-25T08:54:26Z) - Understanding Adversarial Examples from the Mutual Influence of Images
and Perturbations [83.60161052867534]
クリーンな画像と敵の摂動を遠ざけることで敵の例を分析し,その相互への影響を分析した。
以上の結果から,画像と普遍摂動の関係に対する新たな視点が示唆された。
我々は、オリジナルトレーニングデータを活用することなく、目標とするユニバーサルアタックの挑戦的なタスクを最初に達成した人物です。
論文 参考訳(メタデータ) (2020-07-13T05:00:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。