論文の概要: Learning density ratios in causal inference using Bregman-Riesz regression
- arxiv url: http://arxiv.org/abs/2510.16127v1
- Date: Fri, 17 Oct 2025 18:10:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-25 00:56:38.858773
- Title: Learning density ratios in causal inference using Bregman-Riesz regression
- Title(参考訳): Bregman-Riesz回帰を用いた因果推論における学習密度比
- Authors: Oliver J. Hines, Caleb H. Miles,
- Abstract要約: 核密度推定器を用いて数値と分母密度を別々に推定することは不安定な性能をもたらす。
密度比を(a)ブレグマンの発散に基づいて直接推定する手法や、(b)密度比を確率として再キャストする手法が開発されている。
本稿では,これら3つの手法が共通フレームワークで統一可能であることを示し,ブレグマン・リース回帰(英語版)と呼ぶ。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The ratio of two probability density functions is a fundamental quantity that appears in many areas of statistics and machine learning, including causal inference, reinforcement learning, covariate shift, outlier detection, independence testing, importance sampling, and diffusion modeling. Naively estimating the numerator and denominator densities separately using, e.g., kernel density estimators, can lead to unstable performance and suffers from the curse of dimensionality as the number of covariates increases. For this reason, several methods have been developed for estimating the density ratio directly based on (a) Bregman divergences or (b) recasting the density ratio as the odds in a probabilistic classification model that predicts whether an observation is sampled from the numerator or denominator distribution. Additionally, the density ratio can be viewed as the Riesz representer of a continuous linear map, making it amenable to estimation via (c) minimization of the so-called Riesz loss, which was developed to learn the Riesz representer in the Riesz regression procedure in causal inference. In this paper we show that all three of these methods can be unified in a common framework, which we call Bregman-Riesz regression. We further show how data augmentation techniques can be used to apply density ratio learning methods to causal problems, where the numerator distribution typically represents an unobserved intervention. We show through simulations how the choice of Bregman divergence and data augmentation strategy can affect the performance of the resulting density ratio learner. A Python package is provided for researchers to apply Bregman-Riesz regression in practice using gradient boosting, neural networks, and kernel methods.
- Abstract(参考訳): 2つの確率密度関数の比率は、因果推論、強化学習、共変量シフト、外乱検出、独立性テスト、重要サンプリング、拡散モデリングなど、統計学と機械学習の多くの領域に現れる基本量である。
核密度推定器(例えばカーネル密度推定器)を別々に用いた数値と分母密度をネーティブに推定することは不安定な性能につながり、共変量の増加とともに次元の呪いに悩まされる。
このため, 直接密度比を推定する手法が開発されている。
(a)ブレグマンの相違
b) 密度比を確率的分類モデルにおいて確率的分類の確率として再キャストし, 数値化器から観測値がサンプリングされるか, あるいは分母分布から観測値がサンプリングされるかを予測する。
さらに、密度比は連続線型写像のリース代表者と見なすことができ、それを通じて推定できる。
(c) 因果推論においてリース回帰過程においてリース表現を学習するために開発されたいわゆるリース損失の最小化。
本稿では,これら3つの手法が共通フレームワークで統一可能であることを示し,ブレグマン・リース回帰(英語版)と呼ぶ。
さらに、数値分布が一般に観測不能な介入を表すような因果問題に対して密度比学習法を適用するために、データ拡張技術がどのように使われるかを示す。
本稿では,Bregman分散とデータ拡張戦略の選択が,結果の密度比学習者の性能に与える影響をシミュレーションで示す。
グラデーションブースティング、ニューラルネットワーク、カーネルメソッドを使用して、実際にBregman-Rieszレグレッションを適用するためにPythonパッケージが提供されている。
関連論文リスト
- Two-sample comparison through additive tree models for density ratios [3.0262553206264893]
本研究では, 分散損失と呼ばれる新たな損失関数を用いて, 密度比の加算木モデルを訓練するアルゴリズムを提案する。
損失関数が指数族核に類似していることから、新しい損失は共役前駆体が存在する擬似類似体として機能することを示す。
本稿では,二分分類における指数的損失とf-発散の変分形式との密接な関係を通してのバランス損失について考察する。
論文 参考訳(メタデータ) (2025-08-05T04:08:49Z) - Risk and cross validation in ridge regression with correlated samples [72.59731158970894]
我々は,データポイントが任意の相関関係を持つ場合,リッジ回帰のイン・オブ・サンプルリスクのトレーニング例を提供する。
この設定では、一般化されたクロスバリデーション推定器(GCV)がサンプル外リスクを正確に予測できないことを示す。
さらに、テストポイントがトレーニングセットと非自明な相関を持つ場合、時系列予測でしばしば発生する設定にまで分析を拡張します。
論文 参考訳(メタデータ) (2024-08-08T17:27:29Z) - Rejection via Learning Density Ratios [50.91522897152437]
拒絶による分類は、モデルを予測しないことを許容する学習パラダイムとして現れます。
そこで我々は,事前学習したモデルの性能を最大化する理想的なデータ分布を求める。
私たちのフレームワークは、クリーンでノイズの多いデータセットで実証的にテストされます。
論文 参考訳(メタデータ) (2024-05-29T01:32:17Z) - Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。
異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
論文 参考訳(メタデータ) (2024-04-24T09:04:36Z) - Adaptive learning of density ratios in RKHS [3.047411947074805]
有限個の観測から2つの確率密度の比を推定することは、機械学習と統計学における中心的な問題である。
我々は、再生カーネルヒルベルト空間における真の密度比とモデルの間の正規化ブレグマン偏差を最小化する大規模な密度比推定法を分析する。
論文 参考訳(メタデータ) (2023-07-30T08:18:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。