論文の概要: A new similarity measure for covariate shift with applications to
nonparametric regression
- arxiv url: http://arxiv.org/abs/2202.02837v1
- Date: Sun, 6 Feb 2022 19:14:50 GMT
- ステータス: 処理完了
- システム内更新日: 2022-02-08 15:38:50.634182
- Title: A new similarity measure for covariate shift with applications to
nonparametric regression
- Title(参考訳): 共変量シフトの新しい類似度尺度と非パラメトリック回帰への応用
- Authors: Reese Pathak and Cong Ma and Martin J. Wainwright
- Abstract要約: 本研究では,ボールの半径における確率の積分比に基づいて,分布ミスマッチの新たな測定方法を提案する。
最近提案された移動指数の概念と比較すると、この尺度はより鋭い収束率をもたらす。
- 参考スコア(独自算出の注目度): 43.457497490211985
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We study covariate shift in the context of nonparametric regression. We
introduce a new measure of distribution mismatch between the source and target
distributions that is based on the integrated ratio of probabilities of balls
at a given radius. We use the scaling of this measure with respect to the
radius to characterize the minimax rate of estimation over a family of H\"older
continuous functions under covariate shift. In comparison to the recently
proposed notion of transfer exponent, this measure leads to a sharper rate of
convergence and is more fine-grained. We accompany our theory with concrete
instances of covariate shift that illustrate this sharp difference.
- Abstract(参考訳): 非パラメトリック回帰の文脈における共変量シフトについて検討する。
本研究では, 球の半径における確率の積分比に基づいて, 音源分布と対象分布との分布ミスマッチの新たな尺度を提案する。
我々は、半径に関するこの尺度のスケーリングを用いて、共変量シフトの下でのH\"古い連続函数の族に対する推定の最小値速度を特徴づける。
最近提案された転送指数の概念と比較して、この測度はより鋭い収束率をもたらし、より細粒度である。
我々は、この鋭い差を示す共変量シフトの具体的例で理論に付随する。
関連論文リスト
- Natural Bayesian Cram\'er-Rao Bound with an Application to Covariance
Estimation [53.28838377722963]
推定パラメータが多様体内にあり、先行分布に従う場合、新しいCram'er-Rao Bound (CRB) を開発する。
この導出は、幾何学的性質に基づく誤差基準とこの新しい境界との間の自然な不等式をもたらす。
論文 参考訳(メタデータ) (2023-11-08T15:17:13Z) - Robust Covariate Shift Adaptation for Density-Ratio Estimation [10.470114319701576]
重み付けによる共変量シフト適応のための二重頑健な推定器を提案する。
我々の推定器は密度比推定誤差から生じるバイアスを低減する。
特に、密度比推定器または回帰関数が整合である場合、我々の推定器は整合性を保つ。
論文 参考訳(メタデータ) (2023-10-25T13:38:29Z) - Function-space regularized R\'enyi divergences [6.221019624345409]
変分関数空間によってパラメトリズされた正則化 R'enyi divergences の新しい族を提案する。
これらの新しい発散のいくつかの性質を証明し、古典的な R'enyi 発散と IPM 間を補間していることを示す。
提案した正規化 R'enyi は、絶対連続でない分布を比較する能力など、IMM から特徴を継承することを示した。
論文 参考訳(メタデータ) (2022-10-10T19:18:04Z) - Optimally tackling covariate shift in RKHS-based nonparametric
regression [43.457497490211985]
我々は、慎重に選択された正規化パラメータを持つカーネルリッジ回帰推定器がミニマックスレート最適であることを示す。
また,関数クラスに対する経験的リスクを最小限に抑えるナイーブ推定器は,厳密に準最適であることを示す。
そこで本研究では, 再重み付きKRR推定器を提案する。
論文 参考訳(メタデータ) (2022-05-06T02:33:24Z) - A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。
ブレグマン最小化の発散の観点から一般的な枠組みを開発する。
我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
論文 参考訳(メタデータ) (2021-12-07T01:23:20Z) - Decorrelated Variable Importance [0.0]
LOCOの修正版を定義し,相関効果を緩和する手法を提案する。
このパラメータは非パラメトリック推定が難しいが,半パラメトリックモデルを用いて推定する方法を示す。
論文 参考訳(メタデータ) (2021-11-21T16:31:36Z) - Differentiable Annealed Importance Sampling and the Perils of Gradient
Noise [68.44523807580438]
Annealed importance sample (AIS) と関連するアルゴリズムは、限界推定のための非常に効果的なツールである。
差別性は、目的として限界確率を最適化する可能性を認めるため、望ましい性質である。
我々はメトロポリス・ハスティングスのステップを放棄して微分可能アルゴリズムを提案し、ミニバッチ計算をさらに解き放つ。
論文 参考訳(メタデータ) (2021-07-21T17:10:14Z) - Reducing the Variance of Variational Estimates of Mutual Information by
Limiting the Critic's Hypothesis Space to RKHS [0.0]
相互情報(英: Mutual Information、MI)は、2つの確率変数間の依存性に関する情報理論の尺度である。
近年の手法では、未知密度比を近似するニューラルネットワークとしてパラメトリック確率分布や批判が実現されている。
我々は、高分散特性は、批評家の仮説空間の制御不能な複雑さに起因すると論じる。
論文 参考訳(メタデータ) (2020-11-17T14:32:48Z) - Minimax Optimal Estimation of KL Divergence for Continuous Distributions [56.29748742084386]
Kullback-Leibler の同一および独立に分布するサンプルからの発散は、様々な領域において重要な問題である。
単純で効果的な推定器の1つは、これらのサンプル間の近辺 k に基づいている。
論文 参考訳(メタデータ) (2020-02-26T16:37:37Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。