論文の概要: Estimating Unbounded Density Ratios: Applications in Error Control under Covariate Shift

• arxiv url: http://arxiv.org/abs/2504.01031v1
• Date: Sat, 29 Mar 2025 11:35:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-03 13:24:49.311371
• Title: Estimating Unbounded Density Ratios: Applications in Error Control under Covariate Shift
• Title（参考訳）: 非有界密度比の推定:共変量シフトによる誤差制御への応用
• Authors: Shuntuo Xu, Zhou Yu, Jian Huang,
• Abstract要約: 我々は,少なくとも2乗とロジスティック回帰に基づく損失関数を用いた密度比推定器について検討した。 我々は、対数係数まで、標準のミニマックス最適率で推定誤差の上限を確立する。 この結果は、非有界領域と範囲を持つ密度比関数に適合する。
• 参考スコア（独自算出の注目度）: 17.924340241624204
• License:
• Abstract: The density ratio is an important metric for evaluating the relative likelihood of two probability distributions, with extensive applications in statistics and machine learning. However, existing estimation theories for density ratios often depend on stringent regularity conditions, mainly focusing on density ratio functions with bounded domains and ranges. In this paper, we study density ratio estimators using loss functions based on least squares and logistic regression. We establish upper bounds on estimation errors with standard minimax optimal rates, up to logarithmic factors. Our results accommodate density ratio functions with unbounded domains and ranges. We apply our results to nonparametric regression and conditional flow models under covariate shift and identify the tail properties of the density ratio as crucial for error control across domains affected by covariate shift. We provide sufficient conditions under which loss correction is unnecessary and demonstrate effective generalization capabilities of a source estimator to any suitable target domain. Our simulation experiments support these theoretical findings, indicating that the source estimator can outperform those derived from loss correction methods, even when the true density ratio is known.
• Abstract（参考訳）: 密度比は2つの確率分布の相対可能性を評価するための重要な指標であり、統計学と機械学習に広く応用されている。 しかし、既存の密度比の推定理論は、主に有界領域と範囲を持つ密度比関数に焦点をあてて、しばしば弦的正則性条件に依存する。 本稿では,最小二乗およびロジスティック回帰に基づく損失関数を用いた密度比推定器について検討する。 我々は、対数係数まで、標準のミニマックス最適率で推定誤差の上限を確立する。 この結果は、非有界領域と範囲を持つ密度比関数に適合する。 本研究では,共変量シフトによる非パラメトリック回帰モデルと条件流モデルに適用し,共変量シフトに影響を受ける領域間の誤差制御において,密度比のテール特性を重要視する。 我々は、損失補正が不要である十分な条件を提供し、任意の適切な対象領域に対するソース推定器の効果的な一般化能力を実証する。 シミュレーション実験により,真の密度比が知られている場合でも,ソース推定器は損失補正法より優れることが示された。

関連論文リスト

• Regulating Model Reliance on Non-Robust Features by Smoothing Input Marginal Density [93.32594873253534]
  信頼できる機械学習は、非ロバストな特徴に依存するモデルの厳密な規制を必要とする。 本稿では,モデル予測を入力に関連付けることによって,そのような特徴を記述・規制するフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-07-05T09:16:56Z)
• Binary Losses for Density Ratio Estimation [2.512309434783062]
  有限個の観測値から2つの確率密度の比を推定することは、中央の機械学習問題である。 本研究では, 誤差の小さい密度比推定器が生じる損失関数を特徴付ける。 本研究では,大きな密度比値の正確な推定を優先するような,特定の特性を持つ損失関数を構成するための簡単なレシピを得る。
  論文  参考訳（メタデータ） (2024-07-01T15:24:34Z)
• Overcoming Saturation in Density Ratio Estimation by Iterated Regularization [11.244546184962996]
  密度比推定のためのカーネル手法のクラスが誤差飽和に悩まされていることを示す。 高速な誤差率を達成するために, 密度比推定における繰り返し正規化を導入する。
  論文  参考訳（メタデータ） (2024-02-21T16:02:14Z)
• Double Debiased Covariate Shift Adaptation Robust to Density-Ratio Estimation [7.8856737627153874]
  重み付けによる共変量シフト適応のための二重頑健な推定器を提案する。 我々の推定器は密度比推定誤差から生じるバイアスを低減する。 特に、密度比推定器または回帰関数が整合である場合、我々の推定器は整合性を保つ。
  論文  参考訳（メタデータ） (2023-10-25T13:38:29Z)
• Adaptive learning of density ratios in RKHS [3.047411947074805]
  有限個の観測から2つの確率密度の比を推定することは、機械学習と統計学における中心的な問題である。 我々は、再生カーネルヒルベルト空間における真の密度比とモデルの間の正規化ブレグマン偏差を最小化する大規模な密度比推定法を分析する。
  論文  参考訳（メタデータ） (2023-07-30T08:18:39Z)
• Anomaly Detection with Variance Stabilized Density Estimation [49.46356430493534]
  本稿では, 観測試料の確率を最大化するための分散安定化密度推定問題を提案する。 信頼性の高い異常検知器を得るために,分散安定化分布を学習するための自己回帰モデルのスペクトルアンサンブルを導入する。 我々は52のデータセットで広範なベンチマークを行い、我々の手法が最先端の結果につながることを示した。
  論文  参考訳（メタデータ） (2023-06-01T11:52:58Z)
• Data-Driven Influence Functions for Optimization-Based Causal Inference [105.5385525290466]
  統計的汎関数に対するガトー微分を有限差分法で近似する構成的アルゴリズムについて検討する。 本研究では,確率分布を事前知識がないが,データから推定する必要がある場合について検討する。
  論文  参考訳（メタデータ） (2022-08-29T16:16:22Z)
• MCD: Marginal Contrastive Discrimination for conditional density estimation [0.0]
  Marginal Contrastive Discrimination (MCD) は条件密度関数を目的変数の限界密度関数と密度関数の比の2つの因子に再構成する。 提案手法は,ほとんどの密度モデルや回帰データセットにおいて,既存の手法よりも大幅に優れていた。
  論文  参考訳（メタデータ） (2022-06-03T14:22:29Z)
• Featurized Density Ratio Estimation [82.40706152910292]
  本研究では,2つの分布を推定前の共通特徴空間にマッピングするために,可逆生成モデルを活用することを提案する。 この偉業化は、学習された入力空間の密度比が任意に不正確な場合、潜在空間において密度が密接な関係をもたらす。 同時に、特徴写像の可逆性は、特徴空間で計算された比が入力空間で計算された比と同値であることを保証する。
  論文  参考訳（メタデータ） (2021-07-05T18:30:26Z)
• Learning Calibrated Uncertainties for Domain Shift: A Distributionally Robust Learning Approach [150.8920602230832]
  ドメインシフトの下で校正された不確実性を学習するためのフレームワークを提案する。 特に、密度比推定は、ターゲット(テスト)サンプルの近さをソース(トレーニング)分布に反映する。 提案手法は下流タスクに有利な校正不確実性を生成する。
  論文  参考訳（メタデータ） (2020-10-08T02:10:54Z)
• TraDE: Transformers for Density Estimation [101.20137732920718]
  TraDEは自己回帰密度推定のための自己アテンションに基づくアーキテクチャである。 本稿では, 生成したサンプルを用いた回帰, 分布外検出, トレーニングデータにおける雑音に対する頑健性などのタスクについて述べる。
  論文  参考訳（メタデータ） (2020-04-06T07:32:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。