論文の概要: Distributed Nonparametric Estimation: from Sparse to Dense Samples per Terminal

• arxiv url: http://arxiv.org/abs/2501.07879v1
• Date: Tue, 14 Jan 2025 06:41:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-01-15 13:28:05.181269
• Title: Distributed Nonparametric Estimation: from Sparse to Dense Samples per Terminal
• Title（参考訳）: 分散非パラメトリック推定:端末毎のスパースからディエンスサンプルへ
• Authors: Deheng Yuan, Tao Guo, Zhongyi Huang,
• Abstract要約: 我々は,すべてのレシエーションに対して最小値の最適レートを特徴付けるとともに,各端末毎のサンプルがスパースから密度に変化するため,最適レートの位相遷移を同定する。 これにより、以前の研究で残された問題が完全に解決され、その範囲は密度の高いサンプルを持つレギュレーションまたは終端あたりの1つのサンプルに限られる。 最適率は、密度推定、ガウス、二分法、ポアソン、ヘテロスケダスティック回帰モデルなど、様々な特殊ケースに即時に適用される。
• 参考スコア（独自算出の注目度）: 9.766173684831324
• License:
• Abstract: Consider the communication-constrained problem of nonparametric function estimation, in which each distributed terminal holds multiple i.i.d. samples. Under certain regularity assumptions, we characterize the minimax optimal rates for all regimes, and identify phase transitions of the optimal rates as the samples per terminal vary from sparse to dense. This fully solves the problem left open by previous works, whose scopes are limited to regimes with either dense samples or a single sample per terminal. To achieve the optimal rates, we design a layered estimation protocol by exploiting protocols for the parametric density estimation problem. We show the optimality of the protocol using information-theoretic methods and strong data processing inequalities, and incorporating the classic balls and bins model. The optimal rates are immediate for various special cases such as density estimation, Gaussian, binary, Poisson and heteroskedastic regression models.
• Abstract（参考訳）: 分散端末が複数のi.d.サンプルを保持する非パラメトリック関数推定の通信制約問題を考える。 一定の規則性仮定の下では、全てのレシエーションに対して最小の最適速度を特徴付け、端末毎のサンプルがスパースから密度に異なるため、最適速度の位相遷移を識別する。 これにより、以前の研究で残された問題が完全に解決され、その範囲は密度の高いサンプルを持つレギュレーションまたは終端あたりの1つのサンプルに限られる。 そこで我々は,パラメトリック密度推定問題に対するプロトコルを利用して,最適レートを実現するための層状推定プロトコルを設計する。 本稿では,情報理論手法と強力なデータ処理の不等式を用いたプロトコルの最適性を示し,古典的な球とビンモデルを取り入れた。 最適率は、密度推定、ガウス、二分法、ポアソン、ヘテロスケダスティック回帰モデルなど、様々な特殊ケースに即時に適用される。

関連論文リスト

• Conditional simulation via entropic optimal transport: Toward non-parametric estimation of conditional Brenier maps [13.355769319031184]
  条件付きシミュレーションは統計モデリングの基本的な課題である。 1つの有望なアプローチは条件付きブレニエ写像を構築することである。 等方的最適輸送の計算スケーラビリティに基づく条件付きブレニエ写像の非パラメトリック推定器を提案する。
  論文  参考訳（メタデータ） (2024-11-11T17:32:47Z)
• Adaptive Refinement Protocols for Distributed Distribution Estimation under $\ell^p$-Losses [9.766173684831324]
  通信制約のある$ellp$損失の離散分布の推定を考える。 我々は、ほとんどのパラメーター系における問題の最小値の最適値を得る。
  論文  参考訳（メタデータ） (2024-10-09T13:46:08Z)
• Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
  我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。 我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
  論文  参考訳（メタデータ） (2024-07-11T13:28:34Z)
• Collaborative Heterogeneous Causal Inference Beyond Meta-analysis [68.4474531911361]
  異種データを用いた因果推論のための協調的逆確率スコア推定器を提案する。 異質性の増加に伴うメタアナリシスに基づく手法に対して,本手法は有意な改善を示した。
  論文  参考訳（メタデータ） (2024-04-24T09:04:36Z)
• Nearest Neighbor Sampling for Covariate Shift Adaptation [7.940293148084844]
  重みを推定しない新しい共変量シフト適応法を提案する。 基本的な考え方は、ソースデータセットの$k$-nearestの隣人によってラベル付けされたラベル付けされていないターゲットデータを直接扱うことだ。 実験の結果, 走行時間を大幅に短縮できることがわかった。
  論文  参考訳（メタデータ） (2023-12-15T17:28:09Z)
• On diffusion-based generative models and their error bounds: The log-concave case with full convergence estimates [5.13323375365494]
  我々は,強い対数対数データの下での拡散に基づく生成モデルの収束挙動を理論的に保証する。 スコア推定に使用される関数のクラスは、スコア関数上のリプシッツネスの仮定を避けるために、リプシッツ連続関数からなる。 この手法はサンプリングアルゴリズムにおいて最もよく知られた収束率をもたらす。
  論文  参考訳（メタデータ） (2023-11-22T18:40:45Z)
• Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
  Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。 本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。 我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
  論文  参考訳（メタデータ） (2022-09-27T07:58:25Z)
• Distributed Sketching for Randomized Optimization: Exact Characterization, Concentration and Lower Bounds [54.51566432934556]
  我々はヘシアンの形成が困難である問題に対する分散最適化法を検討する。 ランダム化されたスケッチを利用して、問題の次元を減らし、プライバシを保ち、非同期分散システムにおけるストラグラーレジリエンスを改善します。
  論文  参考訳（メタデータ） (2022-03-18T05:49:13Z)
• A Non-Classical Parameterization for Density Estimation Using Sample Moments [0.0]
  サンプルモーメントを用いた密度推定のための非古典的パラメトリゼーションを提案する。 提案した推定器は、任意の偶数列までのパワーモーメントがサンプルモーメントと正確に一致する文献で最初のものである。
  論文  参考訳（メタデータ） (2022-01-13T04:28:52Z)
• A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
  バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。 ブレグマン最小化の発散の観点から一般的な枠組みを開発する。 我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
  論文  参考訳（メタデータ） (2021-12-07T01:23:20Z)
• Variational Refinement for Importance Sampling Using the Forward Kullback-Leibler Divergence [77.06203118175335]
  変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。 重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。 近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
  論文  参考訳（メタデータ） (2021-06-30T11:00:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。