論文の概要: Causally Invariant Predictor with Shift-Robustness
- arxiv url: http://arxiv.org/abs/2107.01876v1
- Date: Mon, 5 Jul 2021 09:07:29 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-06 15:14:27.891819
- Title: Causally Invariant Predictor with Shift-Robustness
- Title(参考訳): シフトロバスト性を有する因果不変予測器
- Authors: Xiangyu Zheng, Xinwei Sun, Wei Chen, Tie-Yan Liu
- Abstract要約: 本稿では,領域間の分散シフトに頑健な因果予測器を提案する。
経験的学習のために,データ再生に基づく直感的で柔軟な推定法を提案する。
合成データと実データの両方の実験結果から,予測器の有効性が示された。
- 参考スコア(独自算出の注目度): 72.1844679700197
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper proposes an invariant causal predictor that is robust to
distribution shift across domains and maximally reserves the transferable
invariant information. Based on a disentangled causal factorization, we
formulate the distribution shift as soft interventions in the system, which
covers a wide range of cases for distribution shift as we do not make prior
specifications on the causal structure or the intervened variables. Instead of
imposing regularizations to constrain the invariance of the predictor, we
propose to predict by the intervened conditional expectation based on the
do-operator and then prove that it is invariant across domains. More
importantly, we prove that the proposed predictor is the robust predictor that
minimizes the worst-case quadratic loss among the distributions of all domains.
For empirical learning, we propose an intuitive and flexible estimating method
based on data regeneration and present a local causal discovery procedure to
guide the regeneration step. The key idea is to regenerate data such that the
regenerated distribution is compatible with the intervened graph, which allows
us to incorporate standard supervised learning methods with the regenerated
data. Experimental results on both synthetic and real data demonstrate the
efficacy of our predictor in improving the predictive accuracy and robustness
across domains.
- Abstract(参考訳): 本稿では、領域間の分散シフトに頑健な不変因果予測器を提案し、転送可能な不変情報を最大に予約する。
我々は,因果構造や介入変数について事前の仕様を定めていないため,分散シフトの幅広いケースをカバーするソフト介入として,分散シフトを定式化する。
予測器の不変性を制約するために正規化を課す代わりに、do-operative に基づく条件付き予測により予測し、ドメイン間で不変であることを証明する。
より重要なことは、提案する予測器がすべての領域の分布の中で最悪の二次損失を最小限に抑える頑健な予測器であることを証明することである。
経験的学習のために,データ再生に基づく直感的かつ柔軟な推定法を提案し,再生手順を導くための局所因果発見手順を提案する。
鍵となる考え方は、再生された分布がインターベンショングラフと互換性があるようにデータを再生することであり、標準的な教師付き学習手法を再生されたデータに組み込むことができる。
合成データと実データの両方における実験結果は,予測精度と領域間のロバスト性を改善するための予測器の有効性を示す。
関連論文リスト
- Forecasting Outside the Box: Application-Driven Optimal Pointwise Forecasts for Stochastic Optimization [0.0]
本稿では,未知の状況の最適近似を導出する統合学習と最適化手法を提案する。
文献の在庫問題と実データを用いた自転車共有問題から得られた数値結果から,提案手法が有効であることを示す。
論文 参考訳(メタデータ) (2024-11-05T21:54:50Z) - Rigorous Probabilistic Guarantees for Robust Counterfactual Explanations [80.86128012438834]
モデルシフトに対する反ファクトの堅牢性を計算することはNP完全であることを示す。
本稿では,頑健性の厳密な推定を高い保証で実現する新しい確率論的手法を提案する。
論文 参考訳(メタデータ) (2024-07-10T09:13:11Z) - Optimal Multi-Distribution Learning [88.3008613028333]
マルチディストリビューション学習は、$k$の異なるデータ分散における最悪のリスクを最小限に抑える共有モデルを学ぶことを目指している。
本稿では, (d+k)/varepsilon2の順に, サンプルの複雑さを伴って, ヴァレプシロン最適ランダム化仮説を導出するアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-12-08T16:06:29Z) - Maximum Likelihood Estimation is All You Need for Well-Specified
Covariate Shift [34.414261291690856]
現代の機械学習システムの鍵となる課題は、アウト・オブ・ディストリビューション(OOD)の一般化を達成することである。
音源データを用いた古典的最大等化推定(MLE)が極小最適化を実現することを示す。
3つの具体例にインスタンス化することで、フレームワークの幅広い適用性を説明します。
論文 参考訳(メタデータ) (2023-11-27T16:06:48Z) - Domain Adaptation under Missingness Shift [38.650099178537864]
欠損度シフト(DAMS)下におけるドメイン適応問題について紹介する。
欠落したデータのレートは、しばしば記録保持ポリシーに依存するため、時間や場所によって変化する可能性がある。
合成データおよび半合成データの実験において,仮定が成立する際の手法の可能性を実証した。
論文 参考訳(メタデータ) (2022-11-03T18:49:38Z) - Pessimistic Minimax Value Iteration: Provably Efficient Equilibrium
Learning from Offline Datasets [101.5329678997916]
両プレイヤーゼロサムマルコフゲーム(MG)をオフライン環境で研究する。
目標は、事前収集されたデータセットに基づいて、近似的なナッシュ均衡(NE)ポリシーペアを見つけることである。
論文 参考訳(メタデータ) (2022-02-15T15:39:30Z) - Complexity-Free Generalization via Distributionally Robust Optimization [4.313143197674466]
分散ロバスト最適化(DRO)から解の一般化境界を得るための代替経路を提案する。
我々の DRO 境界は、あいまいな集合の幾何と真の損失関数との整合性に依存する。
特に、DRO距離計量として最大平均誤差を用いる場合、我々の分析は、我々の知識の最も良いところは、真の損失関数にのみ依存する文献における第一の一般化であることを示している。
論文 参考訳(メタデータ) (2021-06-21T15:19:52Z) - Navigating to the Best Policy in Markov Decision Processes [68.8204255655161]
マルコフ決定過程における純粋探索問題について検討する。
エージェントはアクションを逐次選択し、結果のシステム軌道から可能な限り早くベストを目標とする。
論文 参考訳(メタデータ) (2021-06-05T09:16:28Z) - Evaluating Model Robustness and Stability to Dataset Shift [7.369475193451259]
機械学習モデルの安定性を解析するためのフレームワークを提案する。
本手法では,アルゴリズムが性能の悪い分布を決定するために,元の評価データを用いる。
我々は,アルゴリズムの性能を"Worst-case"分布で推定する。
論文 参考訳(メタデータ) (2020-10-28T17:35:39Z) - The Risks of Invariant Risk Minimization [52.7137956951533]
不変リスク最小化(Invariant Risk Minimization)は、データの深い不変性を学ぶという考え方に基づく目標である。
我々は、IRMの目的に基づく分類の最初の分析と、最近提案されたこれらの代替案について、かなり自然で一般的なモデルで分析する。
IRMは、テストデータがトレーニング分布と十分に類似していない限り、破滅的に失敗する可能性がある。
論文 参考訳(メタデータ) (2020-10-12T14:54:32Z) - Distributionally Robust Bayesian Optimization [121.71766171427433]
そこで本研究では,ゼロ次雑音最適化のための分散ロバストなベイズ最適化アルゴリズム(DRBO)を提案する。
提案アルゴリズムは, 種々の設定において, 線形に頑健な後悔を確実に得る。
提案手法は, 実世界のベンチマークと実世界のベンチマークの両方において, 頑健な性能を示す。
論文 参考訳(メタデータ) (2020-02-20T22:04:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。