Fugu-MT 論文翻訳(概要): Adaptive learning of density ratios in RKHS

論文の概要: Adaptive learning of density ratios in RKHS

arxiv url: http://arxiv.org/abs/2307.16164v3
Date: Tue, 2 Jan 2024 09:32:23 GMT
ステータス: 処理完了
システム内更新日: 2024-01-03 20:04:45.911079
Title: Adaptive learning of density ratios in RKHS
Title（参考訳）: RKHSにおける密度比の適応学習
Authors: Werner Zellinger, Stefan Kindermann, Sergei V. Pereverzyev
Abstract要約: 有限個の観測から2つの確率密度の比を推定することは、機械学習と統計学における中心的な問題である。我々は、再生カーネルヒルベルト空間における真の密度比とモデルの間の正規化ブレグマン偏差を最小化する大規模な密度比推定法を分析する。
参考スコア（独自算出の注目度）: 3.047411947074805
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Estimating the ratio of two probability densities from finitely many observations of the densities is a central problem in machine learning and statistics with applications in two-sample testing, divergence estimation, generative modeling, covariate shift adaptation, conditional density estimation, and novelty detection. In this work, we analyze a large class of density ratio estimation methods that minimize a regularized Bregman divergence between the true density ratio and a model in a reproducing kernel Hilbert space (RKHS). We derive new finite-sample error bounds, and we propose a Lepskii type parameter choice principle that minimizes the bounds without knowledge of the regularity of the density ratio. In the special case of quadratic loss, our method adaptively achieves a minimax optimal error rate. A numerical illustration is provided.
Abstract（参考訳）: 有限個の密度の観測から2つの確率密度の比を推定することは、二サンプルテスト、分散推定、生成モデル、共変量シフト適応、条件密度推定、新規性検出における機械学習および統計学における中心的な問題である。本研究では,実密度比と再現カーネルヒルベルト空間(RKHS)のモデルとの正則化ブレグマン偏差を最小化する,大規模な密度比推定法を解析する。我々は,新しい有限サンプル誤差境界を導出し,密度比の正則性を知らずに境界を最小化するlepskii型パラメータ選択原理を提案する。二次損失の特別な場合、この手法は適応的にミニマックス最適誤差率を達成する。数値図面が提供される。

関連論文リスト

Overcoming Saturation in Density Ratio Estimation by Iterated Regularization [11.244546184962996]
密度比推定のためのカーネル手法のクラスが誤差飽和に悩まされていることを示す。高速な誤差率を達成するために, 密度比推定における繰り返し正規化を導入する。
論文参考訳（メタデータ） (2024-02-21T16:02:14Z)
Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文参考訳（メタデータ） (2023-07-25T18:47:53Z)
Anomaly Detection with Variance Stabilized Density Estimation [49.46356430493534]
本稿では, 観測試料の確率を最大化するための分散安定化密度推定問題を提案する。信頼性の高い異常検知器を得るために,分散安定化分布を学習するための自己回帰モデルのスペクトルアンサンブルを導入する。我々は52のデータセットで広範なベンチマークを行い、我々の手法が最先端の結果につながることを示した。
論文参考訳（メタデータ） (2023-06-01T11:52:58Z)
MCD: Marginal Contrastive Discrimination for conditional density estimation [0.0]
Marginal Contrastive Discrimination (MCD) は条件密度関数を目的変数の限界密度関数と密度関数の比の2つの因子に再構成する。提案手法は,ほとんどの密度モデルや回帰データセットにおいて,既存の手法よりも大幅に優れていた。
論文参考訳（メタデータ） (2022-06-03T14:22:29Z)
A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。ブレグマン最小化の発散の観点から一般的な枠組みを開発する。我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
論文参考訳（メタデータ） (2021-12-07T01:23:20Z)
Density Ratio Estimation via Infinitesimal Classification [85.08255198145304]
そこで我々は, DRE-inftyを提案する。 DRE-inftyは, 密度比推定(DRE)を, より簡単なサブプロブレムに還元する手法である。モンテカルロ法にインスパイアされ、中間ブリッジ分布の無限連続体を介して2つの分布の間を滑らかに補間する。提案手法は,複雑な高次元データセット上での相互情報推定やエネルギーベースモデリングなどの下流タスクにおいて良好に動作することを示す。
論文参考訳（メタデータ） (2021-11-22T06:26:29Z)
Information Theoretic Structured Generative Modeling [13.117829542251188]
構造生成モデル (Structured Generative Model, SGM) と呼ばれる新しい生成モデルフレームワークが提案され, 簡単な最適化が可能となった。この実装では、無限のガウス混合モデルを学習するために適合した単一白色ノイズ源への正則入力によって駆動される1つのニューラルネットワークを採用している。予備的な結果は、SGMがデータ効率と分散、従来のガウス混合モデルと変分混合モデル、および敵ネットワークのトレーニングにおいてMINE推定を著しく改善することを示している。
論文参考訳（メタデータ） (2021-10-12T07:44:18Z)
Meta-Learning for Relative Density-Ratio Estimation [59.75321498170363]
相対密度比推定(DRE)の既存の方法は、両方の密度から多くのインスタンスを必要とする。本稿では,関係データセットの知識を用いて,相対密度比を数例から推定する,相対DREのメタラーニング手法を提案する。提案手法の有効性を,相対的DRE,データセット比較,外乱検出の3つの問題を用いて実証的に実証した。
論文参考訳（メタデータ） (2021-07-02T02:13:45Z)
Continuous Wasserstein-2 Barycenter Estimation without Minimax Optimization [94.18714844247766]
ワッサーシュタイン・バリセンターは、最適輸送に基づく確率測度の重み付き平均の幾何学的概念を提供する。本稿では,Wasserstein-2 バリセンタのサンプルアクセスを演算するスケーラブルなアルゴリズムを提案する。
論文参考訳（メタデータ） (2021-02-02T21:01:13Z)
Reducing the Variance of Variational Estimates of Mutual Information by Limiting the Critic's Hypothesis Space to RKHS [0.0]
相互情報(英: Mutual Information、MI)は、2つの確率変数間の依存性に関する情報理論の尺度である。近年の手法では、未知密度比を近似するニューラルネットワークとしてパラメトリック確率分布や批判が実現されている。我々は、高分散特性は、批評家の仮説空間の制御不能な複雑さに起因すると論じる。
論文参考訳（メタデータ） (2020-11-17T14:32:48Z)
Telescoping Density-Ratio Estimation [21.514983459970903]
我々は、テレスコープ密度比推定(TRE)という新しいフレームワークを導入する。 TREは高次元空間における高相似密度の比を推定できる。実験により、TREは既存の単一比法よりも大幅に改善できることが示された。
論文参考訳（メタデータ） (2020-06-22T12:55:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。