論文の概要: Adaptive Kernel Density Estimation with Pre-training
- arxiv url: http://arxiv.org/abs/2605.13092v1
- Date: Wed, 13 May 2026 07:03:54 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:27.865592
- Title: Adaptive Kernel Density Estimation with Pre-training
- Title(参考訳): 事前学習による適応カーネル密度推定
- Abstract要約: 我々は、非パラメトリック密度推定の文脈に、多くの最先端AI技術の背後にある重要なアイデアである事前学習を導入する。
幅広い数値実験により、この戦略は密度推定精度を向上させるのに非常に効果的であることが示されている。
- 参考スコア(独自算出の注目度): 4.232818654775309
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Density estimation in high-dimensional settings is an important and challenging statistical problem.Traditional methods based on kernel smoothing are inefficient in high dimensions due to the difficulties in specifying appropriate location-adaptive kernels. In this work, we introduce pre-training, a key idea behind many cutting-edge AI technologies, to the context of non-parametric density estimation. By establishing a pre-trained neural network that can recommend an appropriate location-adaptive kernel for each sample point, efficient density estimation with adaptive kernels is achieved in high dimensions. A wide range of numerical experiments show that this strategy is highly effective for improving density-estimation accuracy, when the target distribution is close to the distribution family for pre-training. When the target distribution is substantially different from the pre-training distribution family, the benefit from the proposed pre-training strategy may be diluted, but can be reactivated by an additional fine-tuning procedure.
- Abstract(参考訳): 高次元設定における密度推定は重要かつ困難な統計問題であり、適切な位置適応型カーネルを特定するのに困難があるため、カーネルの平滑化に基づく実験手法は高次元では非効率である。
本研究では、非パラメトリック密度推定の文脈において、最先端AI技術の背後にある重要なアイデアである事前学習を導入する。
各サンプルポイントに対して適切な位置適応型カーネルを推奨できる事前学習型ニューラルネットワークを確立することにより、適応型カーネルを用いた効率的な密度推定を高次元で実現する。
対象分布が事前学習のための分布系に近接している場合, この戦略は密度推定精度の向上に極めて有効であることを示す。
目標分布が事前学習分布系と大きく異なる場合、提案した事前学習戦略の利点を希釈することができるが、追加の微調整手順により再活性化することができる。
関連論文リスト
- On the Role of Batch Size in Stochastic Conditional Gradient Methods [51.97510367368799]
条件勾配法におけるバッチサイズの役割を,$-KL条件下で検討した。
バッチサイズの増加は、当初は最適化の精度を向上するが、重要なしきい値を超えると、固定トークン予算の下でのメリットと飽和度は、パフォーマンスを劣化させる可能性がある。
論文 参考訳(メタデータ) (2026-03-22T12:23:41Z) - Volume-Sorted Prediction Set: Efficient Conformal Prediction for Multi-Target Regression [9.559062601251464]
マルチターゲット回帰における不確実性のための新しい手法であるVolume-Sorted Prediction Set (VSPS)を紹介する。
複雑な高次元設定における情報予測モデルを維持しながら,VSPSがより小さく,より多くの領域を生成することを示す。
論文 参考訳(メタデータ) (2025-03-04T02:34:59Z) - Towards the Uncharted: Density-Descending Feature Perturbation for Semi-supervised Semantic Segmentation [51.66997548477913]
本稿では,DDFP(Dedentity-Descending Feature Perturbation)という特徴レベルの一貫性学習フレームワークを提案する。
半教師付き学習における低密度分離仮定にインスパイアされた私たちの重要な洞察は、特徴密度はセグメンテーション分類器が探索する最も有望な方向の光を放つことができるということである。
提案したDFFPは、機能レベルの摂動に関する他の設計よりも優れており、Pascal VOCとCityscapesのデータセット上でのアートパフォーマンスの状態を示している。
論文 参考訳(メタデータ) (2024-03-11T06:59:05Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳(メタデータ) (2023-11-08T00:10:21Z) - Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。
この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文 参考訳(メタデータ) (2023-07-25T18:47:53Z) - Density Ratio Estimation-based Bayesian Optimization with Semi-Supervised Learning [5.346298077607419]
この課題を解決するために,半教師付き学習を用いた密度比推定に基づくベイズ最適化を提案する。
本手法の実証的な結果といくつかの基本手法を,未ラベルの点サンプリングと固定サイズのプールを持つ2つの異なるシナリオで示す。
論文 参考訳(メタデータ) (2023-05-24T23:01:56Z) - Quantization enabled Privacy Protection in Decentralized Stochastic
Optimization [34.24521534464185]
分散最適化は、機械学習、制御、センサーネットワークのように多様な領域で使用することができる。
プライバシー保護は、分散最適化の実装において重要な必要性として浮上している。
本稿では,アグレッシブ量子化誤差が存在する場合でも,証明可能な収束精度を保証できるアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-08-07T15:17:23Z) - Quantum Adaptive Fourier Features for Neural Density Estimation [0.0]
本稿では,カーネル密度推定の一種とみなすニューラル密度推定法を提案する。
この方法は密度行列、量子力学で使われる形式主義、適応フーリエ特徴に基づいている。
本手法は, 異なる合成および実データを用いて評価し, その性能を最先端のニューラル密度推定法と比較した。
論文 参考訳(メタデータ) (2022-08-01T01:39:11Z) - Simple Calibration via Geodesic Kernels [9.999034479498889]
決定の森やディープニューラルネットワークのような深い差別的アプローチは、最近、多くの重要な現実世界のシナリオで応用を見出した。
しかし、これらの学習アルゴリズムを安全クリティカルなアプリケーションにデプロイすることは、特に分布内領域と分布外領域の両方のキャリブレーションを確保することに懸念を生じさせる。
論文 参考訳(メタデータ) (2022-01-31T05:07:16Z) - Density-Based Clustering with Kernel Diffusion [59.4179549482505]
単位$d$次元ユークリッド球のインジケータ関数に対応するナイーブ密度は、密度に基づくクラスタリングアルゴリズムで一般的に使用される。
局所分布特性と滑らかさの異なるデータに適応する新しいカーネル拡散密度関数を提案する。
論文 参考訳(メタデータ) (2021-10-11T09:00:33Z) - Tensor-Train Density Estimation [16.414910030716555]
密度推定(TTDE)のための高効率テンソルトレインモデルを提案する。
このような密度パラメトリゼーションは、正確なサンプリング、累積および限界密度関数の計算、および分割関数を可能にする。
TTDEは,トレーニング速度において競技者よりも有意に優れていた。
論文 参考訳(メタデータ) (2021-07-30T21:51:12Z) - Featurized Density Ratio Estimation [82.40706152910292]
本研究では,2つの分布を推定前の共通特徴空間にマッピングするために,可逆生成モデルを活用することを提案する。
この偉業化は、学習された入力空間の密度比が任意に不正確な場合、潜在空間において密度が密接な関係をもたらす。
同時に、特徴写像の可逆性は、特徴空間で計算された比が入力空間で計算された比と同値であることを保証する。
論文 参考訳(メタデータ) (2021-07-05T18:30:26Z) - Scalable Marginal Likelihood Estimation for Model Selection in Deep
Learning [78.83598532168256]
階層型モデル選択は、推定困難のため、ディープラーニングではほとんど使われない。
本研究は,検証データが利用できない場合,限界的可能性によって一般化が向上し,有用であることを示す。
論文 参考訳(メタデータ) (2021-04-11T09:50:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。