論文の概要: Learning under random distributional shifts
- arxiv url: http://arxiv.org/abs/2306.02948v2
- Date: Mon, 30 Oct 2023 05:27:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-01 23:38:12.056063
- Title: Learning under random distributional shifts
- Title(参考訳): ランダム分布シフトによる学習
- Authors: Kirk Bansak, Elisabeth Paulson, Dominik Rothenh\"ausler
- Abstract要約: 基底共変量空間の任意の変化を捉えるランダム分布シフトモデルのクラスを考える。
ハイブリッドアプローチは分散シフトの強さとプロキシ関係の強さに頑健であることを示す。
2つの高インパクト領域において、提案手法は平均二乗誤差を著しく低くする。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Many existing approaches for generating predictions in settings with
distribution shift model distribution shifts as adversarial or low-rank in
suitable representations. In various real-world settings, however, we might
expect shifts to arise through the superposition of many small and random
changes in the population and environment. Thus, we consider a class of random
distribution shift models that capture arbitrary changes in the underlying
covariate space, and dense, random shocks to the relationship between the
covariates and the outcomes. In this setting, we characterize the benefits and
drawbacks of several alternative prediction strategies: the standard approach
that directly predicts the long-term outcome of interest, the proxy approach
that directly predicts a shorter-term proxy outcome, and a hybrid approach that
utilizes both the long-term policy outcome and (shorter-term) proxy outcome(s).
We show that the hybrid approach is robust to the strength of the distribution
shift and the proxy relationship. We apply this method to datasets in two
high-impact domains: asylum-seeker assignment and early childhood education. In
both settings, we find that the proposed approach results in substantially
lower mean-squared error than current approaches.
- Abstract(参考訳): 分布シフトモデル分布シフトを適切な表現において逆または低ランクにシフトする設定で予測を生成するための既存の多くのアプローチ。
しかし、様々な現実の環境では、人口と環境の多くの小さなランダムな変化の重ね合わせによって、変化が起こるかもしれない。
したがって,共変量空間の任意の変化を捉えたランダム分布シフトモデルと,共変量と結果の関係に対する密集したランダムショックモデルを考える。
この設定では、関心の長期的な結果を直接予測する標準的なアプローチ、短期的なプロキシ結果を直接予測するプロキシアプローチ、長期的なポリシー結果と(短期的な)プロキシ結果の両方を利用するハイブリッドアプローチなど、いくつかの代替予測戦略の利点と欠点を特徴づける。
ハイブリッドアプローチは分散シフトの強さとプロキシ関係の強さに頑健であることを示す。
本研究では,この手法を2つのハイインパクト領域のデータセットに適用する。
どちらの設定でも、提案手法は現在の手法よりも平均二乗誤差がかなり低いことが分かる。
関連論文リスト
- Probabilistic Conformal Prediction with Approximate Conditional Validity [81.30551968980143]
本研究では,共形手法の柔軟性と条件分布の推定を組み合わせ,予測セットを生成する手法を開発した。
我々の手法は、条件付きカバレッジの観点から既存の手法よりも一貫して優れています。
論文 参考訳(メタデータ) (2024-07-01T20:44:48Z) - Proxy Methods for Domain Adaptation [78.03254010884783]
プロキシ変数は、遅延変数を明示的にリカバリしたりモデル化したりすることなく、分散シフトへの適応を可能にする。
両設定の複雑な分散シフトに適応する2段階のカーネル推定手法を開発した。
論文 参考訳(メタデータ) (2024-03-12T09:32:41Z) - Uncertainty Quantification via Stable Distribution Propagation [60.065272548502]
本稿では,ニューラルネットワークによる安定確率分布の伝播手法を提案する。
提案手法は局所線形化に基づいており,ReLU非線型性に対する全変動距離の近似値として最適であることを示す。
論文 参考訳(メタデータ) (2024-02-13T09:40:19Z) - Causality-oriented robustness: exploiting general additive interventions [3.871660145364189]
本稿では因果性指向のロバスト性に着目し,不変勾配(DRIG)を用いた分布ロバスト性を提案する。
線形環境では、DRIGがデータ依存の分布シフトのクラスの中で頑健な予測を得られることを証明している。
我々は、予測性能をさらに向上させるために、半教師付きドメイン適応設定にアプローチを拡張した。
論文 参考訳(メタデータ) (2023-07-18T16:22:50Z) - Supervised Contrastive Learning with Heterogeneous Similarity for
Distribution Shifts [3.7819322027528113]
本稿では,教師付きコントラスト学習を用いた新たな正規化手法を提案する。
サブポピュレーションシフトや領域一般化などの分布シフトをエミュレートするベンチマークデータセットの実験は,提案手法の利点を実証している。
論文 参考訳(メタデータ) (2023-04-07T01:45:09Z) - Sinkhorn-Flow: Predicting Probability Mass Flow in Dynamical Systems
Using Optimal Transport [89.61692654941106]
そこで本稿では, 最適な輸送手段を用いて, 時間とともにそのような物質流を予測する新しい手法を提案する。
我々は、ソーシャルネットワークの設定において、コミュニティがどのように進化していくかを予測するタスクに、我々のアプローチを適用した。
論文 参考訳(メタデータ) (2023-03-14T07:25:44Z) - Variance-Reduced Heterogeneous Federated Learning via Stratified Client
Selection [31.401919362978017]
本稿では,収束性の向上と精度の向上を図るため,新たな階層化クライアント選択方式を提案する。
地層変動の多様性を考慮し,最適化されたサンプルサイズ割当方式を提案する。
実験結果から,本手法は最先端の手法と比較して性能が向上するだけでなく,一般的なFLアルゴリズムと互換性があることが確認された。
論文 参考訳(メタデータ) (2022-01-15T05:41:36Z) - CovarianceNet: Conditional Generative Model for Correct Covariance
Prediction in Human Motion Prediction [71.31516599226606]
本稿では,将来の軌道の予測分布に関連する不確かさを正確に予測する手法を提案する。
我々のアプローチであるCovariaceNetは、ガウス潜在変数を持つ条件付き生成モデルに基づいている。
論文 参考訳(メタデータ) (2021-09-07T09:38:24Z) - Robustness via Cross-Domain Ensembles [0.5801044612920816]
本稿では,ニューラルネットワークの予測をトレーニングデータ分布からのシフトに対して頑健にする手法を提案する。
提案手法は,多種多様なキューを用いて予測を行い,それらを1つの強い予測にまとめる手法である。
論文 参考訳(メタデータ) (2021-03-19T17:28:03Z) - A One-step Approach to Covariate Shift Adaptation [82.01909503235385]
多くの機械学習シナリオにおけるデフォルトの前提は、トレーニングとテストサンプルは同じ確率分布から引き出されることである。
予測モデルと関連する重みを1つの最適化で共同で学習する新しいワンステップアプローチを提案する。
論文 参考訳(メタデータ) (2020-07-08T11:35:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。