論文の概要: Unbounded Density Ratio Estimation and Its Application to Covariate Shift Adaptation
- arxiv url: http://arxiv.org/abs/2603.29725v1
- Date: Tue, 31 Mar 2026 13:24:50 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-01 15:25:03.678928
- Title: Unbounded Density Ratio Estimation and Its Application to Covariate Shift Adaptation
- Title(参考訳): 非有界密度比の推定と共変量シフト適応への応用
- Authors: Ren-Rui Liu, Jun Fan, Lei Shi, Zheng-Chu Guo,
- Abstract要約: 非有界密度比の推定は 統計的学習において 未調査だが重要な課題だ
既存の文献の多くは、密度比が一様有界か無有界かのどちらかであるが正確に知られていると仮定している。
ソースとターゲットの両方の分布からラベル付けされていないデータを活用する3段階推定法を提案する。
- 参考スコア(独自算出の注目度): 6.455982311339433
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper focuses on the problem of unbounded density ratio estimation -- an understudied yet critical challenge in statistical learning -- and its application to covariate shift adaptation. Much of the existing literature assumes that the density ratio is either uniformly bounded or unbounded but known exactly. These conditions are often violated in practice, creating a gap between theoretical guarantees and real-world applicability. In contrast, this work directly addresses unbounded density ratios and integrates them into importance weighting for effective covariate shift adaptation. We propose a three-step estimation method that leverages unlabeled data from both the source and target distributions: (1) estimating a relative density ratio; (2) applying a truncation operation to control its unboundedness; and (3) transforming the truncated estimate back into the standard density ratio. The estimated density ratio is then employed as importance weights for regression under covariate shift. We establish rigorous, non-asymptotic convergence guarantees for both the proposed density ratio estimator and the resulting regression function estimator, demonstrating optimal or near-optimal convergence rates. Our findings offer new theoretical insights into density ratio estimation and learning under covariate shift, extending classical learning theory to more practical and challenging scenarios.
- Abstract(参考訳): 本稿では,非有界密度比推定(統計的学習における未検討かつ重要な課題)の問題とその共変量シフト適応への応用に焦点を当てる。
既存の文献の多くは、密度比が一様有界か無有界かのどちらかであるが正確に知られていると仮定している。
これらの条件は、しばしば実際に違反され、理論上の保証と実世界の適用性の間にギャップを生じさせる。
これとは対照的に、この研究は非有界密度比を直接扱い、効果的な共変量シフト適応のための重み付けにそれらを統合する。
本研究では,(1)相対密度比を推定すること,(2)非有界性を制御するためにトランケーション演算を適用すること,(3) トランケート推定を標準密度比に戻すこと,の3つの手法を提案する。
推定密度比は、共変量シフトの下での回帰の重みとして用いられる。
提案した密度比推定器と結果の回帰関数推定器の両方に対して厳密な非漸近収束保証を確立し,最適あるいはほぼ最適収束率を示す。
本研究は,共変量シフト下での密度比推定と学習に関する新たな理論的知見を提供し,古典的学習理論をより実践的で困難なシナリオに拡張した。
関連論文リスト
- Flow-Based Density Ratio Estimation for Intractable Distributions with Applications in Genomics [80.05951561886123]
我々は条件認識フローマッチングを利用して、生成軌道に沿った密度比を追跡するための1つの動的定式化を導出する。
クローズドフォーム比推定のためのシミュレーションベンチマーク上での競合性能を実証し,本手法が単一セルゲノミクスデータ解析における多目的タスクをサポートすることを示す。
論文 参考訳(メタデータ) (2026-02-27T17:27:55Z) - Estimating Unbounded Density Ratios: Applications in Error Control under Covariate Shift [17.924340241624204]
我々は,少なくとも2乗とロジスティック回帰に基づく損失関数を用いた密度比推定器について検討した。
我々は、対数係数まで、標準のミニマックス最適率で推定誤差の上限を確立する。
この結果は、非有界領域と範囲を持つ密度比関数に適合する。
論文 参考訳(メタデータ) (2025-03-29T11:35:39Z) - Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。
異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
論文 参考訳(メタデータ) (2024-04-24T09:04:36Z) - Double Debiased Covariate Shift Adaptation Robust to Density-Ratio Estimation [7.8856737627153874]
重み付けによる共変量シフト適応のための二重頑健な推定器を提案する。
我々の推定器は密度比推定誤差から生じるバイアスを低減する。
特に、密度比推定器または回帰関数が整合である場合、我々の推定器は整合性を保つ。
論文 参考訳(メタデータ) (2023-10-25T13:38:29Z) - Adaptive learning of density ratios in RKHS [3.047411947074805]
有限個の観測から2つの確率密度の比を推定することは、機械学習と統計学における中心的な問題である。
我々は、再生カーネルヒルベルト空間における真の密度比とモデルの間の正規化ブレグマン偏差を最小化する大規模な密度比推定法を分析する。
論文 参考訳(メタデータ) (2023-07-30T08:18:39Z) - Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。
この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文 参考訳(メタデータ) (2023-07-25T18:47:53Z) - Anomaly Detection with Variance Stabilized Density Estimation [49.46356430493534]
本稿では, 観測試料の確率を最大化するための分散安定化密度推定問題を提案する。
信頼性の高い異常検知器を得るために,分散安定化分布を学習するための自己回帰モデルのスペクトルアンサンブルを導入する。
我々は52のデータセットで広範なベンチマークを行い、我々の手法が最先端の結果につながることを示した。
論文 参考訳(メタデータ) (2023-06-01T11:52:58Z) - Adapting to Continuous Covariate Shift via Online Density Ratio Estimation [64.8027122329609]
分散シフトへの対処は、現代の機械学習における中心的な課題の1つだ。
歴史的情報を適切に再利用するオンライン手法を提案する。
我々の密度比推定法は, ダイナミックなリセットバウンドを楽しむことにより, 良好に動作できることが証明された。
論文 参考訳(メタデータ) (2023-02-06T04:03:33Z) - Featurized Density Ratio Estimation [82.40706152910292]
本研究では,2つの分布を推定前の共通特徴空間にマッピングするために,可逆生成モデルを活用することを提案する。
この偉業化は、学習された入力空間の密度比が任意に不正確な場合、潜在空間において密度が密接な関係をもたらす。
同時に、特徴写像の可逆性は、特徴空間で計算された比が入力空間で計算された比と同値であることを保証する。
論文 参考訳(メタデータ) (2021-07-05T18:30:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。