論文の概要: A One-step Approach to Covariate Shift Adaptation
- arxiv url: http://arxiv.org/abs/2007.04043v3
- Date: Mon, 3 May 2021 04:59:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-12 10:11:31.059175
- Title: A One-step Approach to Covariate Shift Adaptation
- Title(参考訳): 共変量シフト適応へのワンステップアプローチ
- Authors: Tianyi Zhang, Ikko Yamane, Nan Lu, Masashi Sugiyama
- Abstract要約: 多くの機械学習シナリオにおけるデフォルトの前提は、トレーニングとテストサンプルは同じ確率分布から引き出されることである。
予測モデルと関連する重みを1つの最適化で共同で学習する新しいワンステップアプローチを提案する。
- 参考スコア(独自算出の注目度): 82.01909503235385
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: A default assumption in many machine learning scenarios is that the training
and test samples are drawn from the same probability distribution. However,
such an assumption is often violated in the real world due to non-stationarity
of the environment or bias in sample selection. In this work, we consider a
prevalent setting called covariate shift, where the input distribution differs
between the training and test stages while the conditional distribution of the
output given the input remains unchanged. Most of the existing methods for
covariate shift adaptation are two-step approaches, which first calculate the
importance weights and then conduct importance-weighted empirical risk
minimization. In this paper, we propose a novel one-step approach that jointly
learns the predictive model and the associated weights in one optimization by
minimizing an upper bound of the test risk. We theoretically analyze the
proposed method and provide a generalization error bound. We also empirically
demonstrate the effectiveness of the proposed method.
- Abstract(参考訳): 多くの機械学習シナリオにおけるデフォルトの前提は、トレーニングとテストサンプルは同じ確率分布から引き出されることである。
しかし、そのような仮定は、環境の非定常性やサンプル選択のバイアスにより、実世界ではしばしば破られる。
本研究では,入力に与えられた出力の条件分布が変わらず,入力分布がトレーニングステージとテストステージで異なる共変量シフト(covariate shift)と呼ばれる一般的な設定を考える。
共変量シフト適応の既存の手法のほとんどは、2段階のアプローチであり、まず重みを計算し、次に重み付けされた経験的リスク最小化を行う。
本稿では,テストリスクの上限を最小化し,予測モデルと関連する重みを1つの最適化で共同学習する新しい一段階アプローチを提案する。
提案手法を理論的に解析し,一般化誤差境界を提供する。
また,提案手法の有効性を実証的に示す。
関連論文リスト
- Exogenous Matching: Learning Good Proposals for Tractable Counterfactual Estimation [1.9662978733004601]
本稿では, 抽出可能かつ効率的な対実表現推定のための重要サンプリング手法を提案する。
対物推定器の共通上限を最小化することにより、分散最小化問題を条件分布学習問題に変換する。
構造因果モデル (Structure Causal Models, SCM) の様々なタイプと設定による実験による理論的結果の検証と, 対実推定タスクにおける性能の実証を行った。
論文 参考訳(メタデータ) (2024-10-17T03:08:28Z) - TransFusion: Covariate-Shift Robust Transfer Learning for High-Dimensional Regression [11.040033344386366]
対象タスクの学習性能を限定的なサンプルで向上させるため, 新規な融合正規化器を用いた2段階の手法を提案する。
対象モデルの推定誤差に対して、漸近的境界が提供される。
提案手法を分散設定に拡張し,事前学習ファインタニング戦略を実現する。
論文 参考訳(メタデータ) (2024-04-01T14:58:16Z) - Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - Conformal Inference for Invariant Risk Minimization [12.049545417799125]
機械学習モデルの応用は、分布シフトの発生によって著しく阻害される可能性がある。
この問題を解決する一つの方法は、不変リスク最小化(IRM)のような不変学習を用いて不変表現を取得することである。
本稿では,不変表現に対する不確実性推定を記述するために,分布自由予測領域を得る手法を提案する。
論文 参考訳(メタデータ) (2023-05-22T03:48:38Z) - Learning from a Biased Sample [3.546358664345473]
本稿では,テスト分布のファミリーで発生する最悪のリスクを最小限に抑える決定ルールの学習方法を提案する。
本研究では,健康調査データからメンタルヘルススコアの予測を行うケーススタディにおいて,提案手法を実証的に検証した。
論文 参考訳(メタデータ) (2022-09-05T04:19:16Z) - Mitigating multiple descents: A model-agnostic framework for risk
monotonization [84.6382406922369]
クロスバリデーションに基づくリスクモノトナイズのための一般的なフレームワークを開発する。
本稿では,データ駆動方式であるゼロステップとワンステップの2つの手法を提案する。
論文 参考訳(メタデータ) (2022-05-25T17:41:40Z) - Risk Consistent Multi-Class Learning from Label Proportions [64.0125322353281]
本研究は,バッグにトレーニングインスタンスを提供するMCLLP設定によるマルチクラス学習に対処する。
既存のほとんどのMCLLPメソッドは、インスタンスの予測や擬似ラベルの割り当てにバッグワイズな制約を課している。
経験的リスク最小化フレームワークを用いたリスク一貫性手法を提案する。
論文 参考訳(メタデータ) (2022-03-24T03:49:04Z) - Comparing two samples through stochastic dominance: a graphical approach [2.867517731896504]
実世界のシナリオでは非決定論的測定が一般的である。
推定累積分布関数に従って2つのサンプルを視覚的に比較するフレームワークを提案する。
論文 参考訳(メタデータ) (2022-03-15T13:37:03Z) - Scalable Personalised Item Ranking through Parametric Density Estimation [53.44830012414444]
暗黙のフィードバックから学ぶことは、一流問題の難しい性質のために困難です。
ほとんどの従来の方法は、一級問題に対処するためにペアワイズランキングアプローチとネガティブサンプラーを使用します。
本論文では,ポイントワイズと同等の収束速度を実現する学習対ランクアプローチを提案する。
論文 参考訳(メタデータ) (2021-05-11T03:38:16Z) - Learning the Truth From Only One Side of the Story [58.65439277460011]
一般化線形モデルに焦点をあて、このサンプリングバイアスを調整しなければ、モデルは準最適に収束するか、あるいは最適解に収束しないかもしれないことを示す。
理論的保証を伴って適応的なアプローチを提案し、いくつかの既存手法を実証的に上回っていることを示す。
論文 参考訳(メタデータ) (2020-06-08T18:20:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。