論文の概要: Causally Invariant Predictor with Shift-Robustness
- arxiv url: http://arxiv.org/abs/2107.01876v1
- Date: Mon, 5 Jul 2021 09:07:29 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-06 15:14:27.891819
- Title: Causally Invariant Predictor with Shift-Robustness
- Title(参考訳): シフトロバスト性を有する因果不変予測器
- Authors: Xiangyu Zheng, Xinwei Sun, Wei Chen, Tie-Yan Liu
- Abstract要約: 本稿では,領域間の分散シフトに頑健な因果予測器を提案する。
経験的学習のために,データ再生に基づく直感的で柔軟な推定法を提案する。
合成データと実データの両方の実験結果から,予測器の有効性が示された。
- 参考スコア(独自算出の注目度): 72.1844679700197
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper proposes an invariant causal predictor that is robust to
distribution shift across domains and maximally reserves the transferable
invariant information. Based on a disentangled causal factorization, we
formulate the distribution shift as soft interventions in the system, which
covers a wide range of cases for distribution shift as we do not make prior
specifications on the causal structure or the intervened variables. Instead of
imposing regularizations to constrain the invariance of the predictor, we
propose to predict by the intervened conditional expectation based on the
do-operator and then prove that it is invariant across domains. More
importantly, we prove that the proposed predictor is the robust predictor that
minimizes the worst-case quadratic loss among the distributions of all domains.
For empirical learning, we propose an intuitive and flexible estimating method
based on data regeneration and present a local causal discovery procedure to
guide the regeneration step. The key idea is to regenerate data such that the
regenerated distribution is compatible with the intervened graph, which allows
us to incorporate standard supervised learning methods with the regenerated
data. Experimental results on both synthetic and real data demonstrate the
efficacy of our predictor in improving the predictive accuracy and robustness
across domains.
- Abstract(参考訳): 本稿では、領域間の分散シフトに頑健な不変因果予測器を提案し、転送可能な不変情報を最大に予約する。
我々は,因果構造や介入変数について事前の仕様を定めていないため,分散シフトの幅広いケースをカバーするソフト介入として,分散シフトを定式化する。
予測器の不変性を制約するために正規化を課す代わりに、do-operative に基づく条件付き予測により予測し、ドメイン間で不変であることを証明する。
より重要なことは、提案する予測器がすべての領域の分布の中で最悪の二次損失を最小限に抑える頑健な予測器であることを証明することである。
経験的学習のために,データ再生に基づく直感的かつ柔軟な推定法を提案し,再生手順を導くための局所因果発見手順を提案する。
鍵となる考え方は、再生された分布がインターベンショングラフと互換性があるようにデータを再生することであり、標準的な教師付き学習手法を再生されたデータに組み込むことができる。
合成データと実データの両方における実験結果は,予測精度と領域間のロバスト性を改善するための予測器の有効性を示す。
関連論文リスト
- Reliable amortized variational inference with physics-based latent
distribution correction [0.4588028371034407]
ニューラルネットワークは、既存のモデルとデータのペアの後方分布を近似するように訓練される。
このアプローチの精度は、高忠実度トレーニングデータの可用性に依存する。
補正ステップは, ソース実験数の変化, ノイズ分散, 先行分布の変化に対して, 償却された変分推論の頑健さを向上することを示す。
論文 参考訳(メタデータ) (2022-07-24T02:38:54Z) - Predicting with Confidence on Unseen Distributions [90.68414180153897]
ドメイン適応と予測不確実性文学を結びつけて、挑戦的な未知分布のモデル精度を予測する。
分類器の予測における信頼度(DoC)の差は,様々な変化に対して,分類器の性能変化を推定することに成功した。
具体的には, 合成分布と自然分布の区別について検討し, その単純さにもかかわらず, DoCは分布差の定量化に優れることを示した。
論文 参考訳(メタデータ) (2021-07-07T15:50:18Z) - Domain Conditional Predictors for Domain Adaptation [3.951376400628575]
本稿では,入力データに依存することに加えて,基礎となるデータ生成分布に対する情報を利用する条件付きモデリング手法を検討する。
このようなアプローチは、現在のドメイン適応手法よりも一般的に適用可能であると論じる。
論文 参考訳(メタデータ) (2021-06-25T22:15:54Z) - Robust Bayesian Inference for Discrete Outcomes with the Total Variation
Distance [5.139874302398955]
離散的に評価された結果のモデルは、データがゼロインフレーション、過分散または汚染を示す場合、容易に誤特定される。
ここでは、Ttal Variation Distance (TVD) を用いた頑健な相違に基づくベイズ的アプローチを提案する。
我々は、我々のアプローチが堅牢で、シミュレーションおよび実世界のデータの範囲で予測性能を著しく改善していることを実証的に実証した。
論文 参考訳(メタデータ) (2020-10-26T09:53:06Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Estimating Generalization under Distribution Shifts via Domain-Invariant
Representations [75.74928159249225]
未知の真のターゲットラベルのプロキシとして、ドメイン不変の予測器のセットを使用します。
結果として生じるリスク見積の誤差は、プロキシモデルのターゲットリスクに依存する。
論文 参考訳(メタデータ) (2020-07-06T17:21:24Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z) - Balance-Subsampled Stable Prediction [55.13512328954456]
本稿では, 分数分解設計理論に基づく新しいバランスサブサンプル安定予測法を提案する。
設計理論解析により,提案手法は分布シフトによって誘導される予測器間の共起効果を低減できることを示した。
合成および実世界の両方のデータセットに関する数値実験により、BSSPアルゴリズムは未知のテストデータ間で安定した予測を行うためのベースライン法を著しく上回っていることが示された。
論文 参考訳(メタデータ) (2020-06-08T07:01:38Z) - Calibrated Prediction with Covariate Shift via Unsupervised Domain
Adaptation [25.97333838935589]
不確実性推定は、自律的なエージェントや人間の意思決定者が予測モデルを理解し、活用するのを助ける重要なツールである。
既存のアルゴリズムは確実性を過大評価し、予測モデルに誤った自信を与える可能性がある。
論文 参考訳(メタデータ) (2020-02-29T20:31:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。