論文の概要: Nonparametric Estimation of Joint Entropy through Partitioned Sample-Spacing Method

• arxiv url: http://arxiv.org/abs/2511.13602v1
• Date: Mon, 17 Nov 2025 17:05:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-18 18:52:09.626278
• Title: Nonparametric Estimation of Joint Entropy through Partitioned Sample-Spacing Method
• Title（参考訳）: 分割標本分割法による関節エントロピーの非パラメトリック推定
• Authors: Jungwoo Ho, Sangun Park, Soyeong Oh,
• Abstract要約: 分割標本間隔(PSS)に基づく多変量関節エントロピーの非パラメトリック推定器を提案する。 PSSは、k-アネレスト近傍推定器を一貫して上回り、最近の正規化フローベース手法と競合する精度を達成する。 これらの特性は、PSSをフローベースアプローチの正規化の実践的な代替品と位置づけ、情報理論機械学習応用に幅広い可能性を秘めている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We propose a nonparametric estimator of multivariate joint entropy based on partitioned sample spacings (PSS). The method extends univariate spacing ideas to multivariate settings by partitioning the sample space into localized cells and aggregating within-cell statistics, with strong consistency guarantees under mild conditions. In benchmarks across diverse distributions, PSS consistently outperforms k-nearest neighbor estimators and achieves accuracy competitive with recent normalizing flow-based methods, while requiring no training or auxiliary density modeling. The estimator scales favorably in moderately high dimensions (d = 10 to 40) and shows particular robustness to correlated or skewed distributions. These properties position PSS as a practical alternative to normalizing flow-based approaches, with broad potential in information-theoretic machine learning applications.
• Abstract（参考訳）: 分割標本間隔(PSS)に基づく多変量関節エントロピーの非パラメトリック推定器を提案する。 この方法は、サンプル空間を局所化されたセルに分割し、セル内統計を集約し、穏やかな条件下で強い整合性を保証することで、一変量間隔のアイデアを多変量設定に拡張する。 様々な分布のベンチマークにおいて、PSSはk-ネアレスト近傍推定器を一貫して上回り、トレーニングや補助密度モデリングを必要とせず、近年のフローベース手法の正規化と競合する精度を達成する。 推定器は適度に高次元(d = 10 から 40 )で好適にスケールし、相関分布や歪んだ分布に対して特に堅牢性を示す。 これらの特性は、PSSをフローベースアプローチの正規化の実践的な代替品と位置づけ、情報理論機械学習応用に幅広い可能性を秘めている。

関連論文リスト

• A Unified MDL-based Binning and Tensor Factorization Framework for PDF Estimation [19.747102062281545]
  多変量確率密度関数推定のための新しい非パラメトリックアプローチを提案する(PDF)。 提案手法は, 共役確率テンソルの正準多進分解(CPD)を利用するテンソル分解法に基づく。 我々は,本手法が合成データおよび実生豆分類データセットに与える影響を実証した。
  論文  参考訳（メタデータ） (2025-04-25T20:27:04Z)
• Stochastic Optimization with Optimal Importance Sampling [49.484190237840714]
  本稿では,両者の時間的分離を必要とせずに,意思決定とIS分布を共同で更新する反復型アルゴリズムを提案する。 本手法は,IS分布系に対する目的的,軽度な仮定の凸性の下で,最小の変数分散を達成し,大域収束を保証する。
  論文  参考訳（メタデータ） (2025-04-04T16:10:18Z)
• Bayesian Frequency Estimation Under Local Differential Privacy With an Adaptive Randomized Response Mechanism [0.4604003661048266]
  本稿では,局所的な差分プライバシーの下でのカテゴリー分布の適応的オンラインベイズ推定アルゴリズムAdOBEst-LDPを提案する。 ベイズ推定によって過去の民営化データにサブセット選択プロセスを適用することにより、アルゴリズムは将来の民営化データの有用性を向上させる。
  論文  参考訳（メタデータ） (2024-05-11T13:59:52Z)
• Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
  異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。 異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
  論文  参考訳（メタデータ） (2024-04-24T09:04:36Z)
• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Ensemble Kalman Filtering Meets Gaussian Process SSM for Non-Mean-Field and Online Inference [47.460898983429374]
  我々は,非平均場(NMF)変動推定フレームワークにアンサンブルカルマンフィルタ(EnKF)を導入し,潜在状態の後方分布を近似する。 EnKFとGPSSMのこの新しい結婚は、変分分布の学習における広範なパラメータ化の必要性をなくすだけでなく、エビデンスの下限(ELBO)の解釈可能でクローズドな近似を可能にする。 得られたEnKF支援オンラインアルゴリズムは、データ適合精度を確保しつつ、モデル正規化を組み込んで過度適合を緩和し、目的関数を具現化する。
  論文  参考訳（メタデータ） (2023-12-10T15:22:30Z)
• Multi-Fidelity Covariance Estimation in the Log-Euclidean Geometry [0.0]
  対称正定値多様体の対数ユークリッド幾何学を利用する共分散行列の多値推定器を導入する。 固定予算が与えられた推定器の平均二乗誤差を最小化する最適サンプル割り当て方式を開発した。 物理アプリケーションからのデータによるアプローチの評価は、ベンチマークと比較すると、より正確なメトリック学習と1桁以上のスピードアップを示している。
  論文  参考訳（メタデータ） (2023-01-31T16:33:46Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• A similarity-based Bayesian mixture-of-experts model [0.5156484100374058]
  多変量回帰問題に対する新しい非パラメトリック混合実験モデルを提案する。 条件付きモデルを用いて、サンプル外入力の予測は、観測された各データポイントと類似性に基づいて行われる。 混合物のパラメータと距離測定値に基づいて後部推論を行う。
  論文  参考訳（メタデータ） (2020-12-03T18:08:30Z)
• Batch Stationary Distribution Estimation [98.18201132095066]
  サンプル遷移の組を与えられたエルゴードマルコフ鎖の定常分布を近似する問題を考える。 与えられたデータに対する補正比関数の復元に基づく一貫した推定器を提案する。
  論文  参考訳（メタデータ） (2020-03-02T09:10:01Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。