論文の概要: Learning under Target Shift: Optimal Density Ratio Estimation and Importance-Weighted Regression
- arxiv url: http://arxiv.org/abs/2609.15785v1
- Date: Mon, 14 Sep 2026 16:05:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:06.482145
- Title: Learning under Target Shift: Optimal Density Ratio Estimation and Importance-Weighted Regression
- Title(参考訳): 目標シフトによる学習: 最適密度比推定と重要度重み付き回帰
- Abstract要約: 連続出力による目標シフト下での密度比推定と重要重み付き回帰について検討した。
連続密度比を推定するための再生カーネルヒルベルト空間(RKHS)におけるスペクトル正則化法を提案する。
次に、推定密度比を重み付け回帰に組み込み、最終予測器への密度比推定誤差の伝搬を特徴付ける。
- 参考スコア(独自算出の注目度): 0.2578242050187029
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study density ratio estimation and importance-weighted regression under target shift with continuous outputs. Under target shift, the conditional distribution of the inputs given the outputs remains invariant across the training and test distributions, while the output marginal distribution may change. Although this problem has been extensively studied for discrete outputs, the continuous setting is substantially less understood: the importance weights are determined by an unknown density ratio function, for which existing estimation methods lack explicit finite-sample convergence rates. We propose a spectral regularization method in a reproducing kernel Hilbert space (RKHS) for estimating the continuous density ratio from labeled training samples and unlabeled test inputs. Under a source condition with regularity parameter $ι>0$, we establish high-probability finite-sample guarantees and show that the estimator achieves the capacity-independent minimax-optimal RKHS-norm rate $O(n_η^{-ι/(2ι+2)})$. We then incorporate the estimated density ratio into importance-weighted regression and characterize the propagation of density-ratio estimation error to the final predictor. When sufficiently many samples are available for density ratio estimation, the resulting regression estimator attains the minimax-optimal rates of standard kernel regression. These results establish a finite-sample theory for continuous density ratio estimation and importance-weighted learning under target shift.
- Abstract(参考訳): 連続出力による目標シフト下での密度比推定と重要重み付き回帰について検討した。
目標シフトの下では、出力が与えられた入力の条件分布はトレーニングとテストの分布で不変であり、出力の限界分布は変化する可能性がある。
重要な重みは未知の密度比関数によって決定され、既存の推定法では明らかな有限サンプル収束率を欠いている。
ラベル付きトレーニングサンプルとラベル付きテスト入力から連続密度比を推定するための再生カーネルヒルベルト空間(RKHS)におけるスペクトル正則化法を提案する。
正規性パラメータ $ι>0$ のソース条件下では、高確率有限サンプル保証を確立し、推定器がキャパシティ非依存のミニマックス最適化 RKHS-ノルムレート $O(n_η^{-ι/(2ι+2)})$ を達成することを示す。
次に、推定密度比を重み付け回帰に組み込み、最終予測器への密度比推定誤差の伝搬を特徴付ける。
十分な数のサンプルが密度比推定に利用可能である場合、その結果の回帰推定器は標準のカーネル回帰の最小最適速度を達成する。
これらの結果は、目標シフトの下での連続密度比の推定と重要重み付き学習のための有限サンプル理論を確立する。
関連論文リスト
- Nonparametric Goodness-of-fit Testing under Covariate Shift [4.3686879183724665]
分布ミスマッチは、目標ソース密度比上の有界モーメント条件またはサブ指数テール条件によって定量化される。
本手法は,重み付けされたカーネルリッジ回帰と乗算ブートストラップを組み合わせることで,回帰関数に対する信頼セットを構築する。
適切な演算子互換条件下では、結果の信頼集合の漸近的妥当性と鋭さが証明される。
論文 参考訳(メタデータ) (2026-08-05T13:51:43Z) - Distributionally Faithful Imputation via Positive Semi-Definite Kernel Density Estimation [55.47411235954028]
マスク観測による密度推定では,不規則に不規則に不規則な計算を行う。
我々は,ニュートン内点法で解ける閉じた形状の辺縁を持つ凸型経験的リスク問題を得る。
結果のPSDインプットモデルでは、同一の入射密度から単一および多重インプットが得られる。
論文 参考訳(メタデータ) (2026-07-08T15:51:05Z) - Unbounded Density Ratio Estimation and Its Application to Covariate Shift Adaptation [6.455982311339433]
非有界密度比の推定は 統計的学習において 未調査だが重要な課題だ
既存の文献の多くは、密度比が一様有界か無有界かのどちらかであるが正確に知られていると仮定している。
ソースとターゲットの両方の分布からラベル付けされていないデータを活用する3段階推定法を提案する。
論文 参考訳(メタデータ) (2026-03-31T13:24:50Z) - Flow-Based Density Ratio Estimation for Intractable Distributions with Applications in Genomics [80.05951561886123]
我々は条件認識フローマッチングを利用して、生成軌道に沿った密度比を追跡するための1つの動的定式化を導出する。
クローズドフォーム比推定のためのシミュレーションベンチマーク上での競合性能を実証し,本手法が単一セルゲノミクスデータ解析における多目的タスクをサポートすることを示す。
論文 参考訳(メタデータ) (2026-02-27T17:27:55Z) - Estimating Unbounded Density Ratios: Applications in Error Control under Covariate Shift [17.924340241624204]
我々は,少なくとも2乗とロジスティック回帰に基づく損失関数を用いた密度比推定器について検討した。
我々は、対数係数まで、標準のミニマックス最適率で推定誤差の上限を確立する。
この結果は、非有界領域と範囲を持つ密度比関数に適合する。
論文 参考訳(メタデータ) (2025-03-29T11:35:39Z) - Double Debiased Covariate Shift Adaptation Robust to Density-Ratio Estimation [7.8856737627153874]
重み付けによる共変量シフト適応のための二重頑健な推定器を提案する。
我々の推定器は密度比推定誤差から生じるバイアスを低減する。
特に、密度比推定器または回帰関数が整合である場合、我々の推定器は整合性を保つ。
論文 参考訳(メタデータ) (2023-10-25T13:38:29Z) - Adaptive learning of density ratios in RKHS [3.047411947074805]
有限個の観測から2つの確率密度の比を推定することは、機械学習と統計学における中心的な問題である。
我々は、再生カーネルヒルベルト空間における真の密度比とモデルの間の正規化ブレグマン偏差を最小化する大規模な密度比推定法を分析する。
論文 参考訳(メタデータ) (2023-07-30T08:18:39Z) - Anomaly Detection with Variance Stabilized Density Estimation [49.46356430493534]
本稿では, 観測試料の確率を最大化するための分散安定化密度推定問題を提案する。
信頼性の高い異常検知器を得るために,分散安定化分布を学習するための自己回帰モデルのスペクトルアンサンブルを導入する。
我々は52のデータセットで広範なベンチマークを行い、我々の手法が最先端の結果につながることを示した。
論文 参考訳(メタデータ) (2023-06-01T11:52:58Z) - Adapting to Continuous Covariate Shift via Online Density Ratio Estimation [64.8027122329609]
分散シフトへの対処は、現代の機械学習における中心的な課題の1つだ。
歴史的情報を適切に再利用するオンライン手法を提案する。
我々の密度比推定法は, ダイナミックなリセットバウンドを楽しむことにより, 良好に動作できることが証明された。
論文 参考訳(メタデータ) (2023-02-06T04:03:33Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - TraDE: Transformers for Density Estimation [101.20137732920718]
TraDEは自己回帰密度推定のための自己アテンションに基づくアーキテクチャである。
本稿では, 生成したサンプルを用いた回帰, 分布外検出, トレーニングデータにおける雑音に対する頑健性などのタスクについて述べる。
論文 参考訳(メタデータ) (2020-04-06T07:32:51Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。