論文の概要: Adaptive Kernel Density Estimation with Pre-training
- arxiv url: http://arxiv.org/abs/2605.13092v1
- Date: Wed, 13 May 2026 07:03:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:27.865592
- Title: Adaptive Kernel Density Estimation with Pre-training
- Title(参考訳): 事前学習による適応カーネル密度推定
- Authors: Ruitong Zhang, Ke Deng,
- Abstract要約: 我々は、非パラメトリック密度推定の文脈に、多くの最先端AI技術の背後にある重要なアイデアである事前学習を導入する。
幅広い数値実験により、この戦略は密度推定精度を向上させるのに非常に効果的であることが示されている。
- 参考スコア(独自算出の注目度): 4.232818654775309
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Density estimation in high-dimensional settings is an important and challenging statistical problem.Traditional methods based on kernel smoothing are inefficient in high dimensions due to the difficulties in specifying appropriate location-adaptive kernels. In this work, we introduce pre-training, a key idea behind many cutting-edge AI technologies, to the context of non-parametric density estimation. By establishing a pre-trained neural network that can recommend an appropriate location-adaptive kernel for each sample point, efficient density estimation with adaptive kernels is achieved in high dimensions. A wide range of numerical experiments show that this strategy is highly effective for improving density-estimation accuracy, when the target distribution is close to the distribution family for pre-training. When the target distribution is substantially different from the pre-training distribution family, the benefit from the proposed pre-training strategy may be diluted, but can be reactivated by an additional fine-tuning procedure.
- Abstract(参考訳): 高次元設定における密度推定は重要かつ困難な統計問題であり、適切な位置適応型カーネルを特定するのに困難があるため、カーネルの平滑化に基づく実験手法は高次元では非効率である。
本研究では、非パラメトリック密度推定の文脈において、最先端AI技術の背後にある重要なアイデアである事前学習を導入する。
各サンプルポイントに対して適切な位置適応型カーネルを推奨できる事前学習型ニューラルネットワークを確立することにより、適応型カーネルを用いた効率的な密度推定を高次元で実現する。
対象分布が事前学習のための分布系に近接している場合, この戦略は密度推定精度の向上に極めて有効であることを示す。
目標分布が事前学習分布系と大きく異なる場合、提案した事前学習戦略の利点を希釈することができるが、追加の微調整手順により再活性化することができる。
関連論文リスト
- Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。
この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文 参考訳(メタデータ) (2023-07-25T18:47:53Z) - Density Ratio Estimation-based Bayesian Optimization with Semi-Supervised Learning [5.346298077607419]
この課題を解決するために,半教師付き学習を用いた密度比推定に基づくベイズ最適化を提案する。
本手法の実証的な結果といくつかの基本手法を,未ラベルの点サンプリングと固定サイズのプールを持つ2つの異なるシナリオで示す。
論文 参考訳(メタデータ) (2023-05-24T23:01:56Z) - Quantum Adaptive Fourier Features for Neural Density Estimation [0.0]
本稿では,カーネル密度推定の一種とみなすニューラル密度推定法を提案する。
この方法は密度行列、量子力学で使われる形式主義、適応フーリエ特徴に基づいている。
本手法は, 異なる合成および実データを用いて評価し, その性能を最先端のニューラル密度推定法と比較した。
論文 参考訳(メタデータ) (2022-08-01T01:39:11Z) - Simple Calibration via Geodesic Kernels [9.999034479498889]
決定の森やディープニューラルネットワークのような深い差別的アプローチは、最近、多くの重要な現実世界のシナリオで応用を見出した。
しかし、これらの学習アルゴリズムを安全クリティカルなアプリケーションにデプロイすることは、特に分布内領域と分布外領域の両方のキャリブレーションを確保することに懸念を生じさせる。
論文 参考訳(メタデータ) (2022-01-31T05:07:16Z) - Density-Based Clustering with Kernel Diffusion [59.4179549482505]
単位$d$次元ユークリッド球のインジケータ関数に対応するナイーブ密度は、密度に基づくクラスタリングアルゴリズムで一般的に使用される。
局所分布特性と滑らかさの異なるデータに適応する新しいカーネル拡散密度関数を提案する。
論文 参考訳(メタデータ) (2021-10-11T09:00:33Z) - Featurized Density Ratio Estimation [82.40706152910292]
本研究では,2つの分布を推定前の共通特徴空間にマッピングするために,可逆生成モデルを活用することを提案する。
この偉業化は、学習された入力空間の密度比が任意に不正確な場合、潜在空間において密度が密接な関係をもたらす。
同時に、特徴写像の可逆性は、特徴空間で計算された比が入力空間で計算された比と同値であることを保証する。
論文 参考訳(メタデータ) (2021-07-05T18:30:26Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳(メタデータ) (2021-04-11T09:50:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。