論文の概要: Adaptive Refinement Protocols for Distributed Distribution Estimation under $\ell^p$-Losses
- arxiv url: http://arxiv.org/abs/2410.06884v2
- Date: Fri, 08 Nov 2024 16:02:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-11 14:51:52.176167
- Title: Adaptive Refinement Protocols for Distributed Distribution Estimation under $\ell^p$-Losses
- Title(参考訳): $\ell^p$-Lossesに基づく分散分布推定のための適応的再分級プロトコル
- Authors: Deheng Yuan, Tao Guo, Zhongyi Huang,
- Abstract要約: 通信制約のある$ellp$損失の離散分布の推定を考える。
我々は、ほとんどのパラメーター系における問題の最小値の最適値を得る。
- 参考スコア(独自算出の注目度): 9.766173684831324
- License:
- Abstract: Consider the communication-constrained estimation of discrete distributions under $\ell^p$ losses, where each distributed terminal holds multiple independent samples and uses limited number of bits to describe the samples. We obtain the minimax optimal rates of the problem in most parameter regimes. An elbow effect of the optimal rates at $p=2$ is clearly identified. To show the optimal rates, we first design estimation protocols to achieve them. The key ingredient of these protocols is to introduce adaptive refinement mechanisms, which first generate rough estimate by partial information and then establish refined estimate in subsequent steps guided by the rough estimate. The protocols leverage successive refinement, sample compression, thresholding and random hashing methods to achieve the optimal rates in different parameter regimes. The optimality of the protocols is shown by deriving compatible minimax lower bounds.
- Abstract(参考訳): 分散端末が複数の独立したサンプルを持ち、サンプルを記述するために限られたビット数を使用する場合、$\ell^p$損失の下での離散分布の通信制約付き推定を考える。
我々は、ほとんどのパラメーター系における問題の最小値の最適値を得る。
最適値が$p=2$の肘効果が明らかである。
最適率を示すために,まず評価プロトコルを設計し,そを実現する。
これらのプロトコルの鍵となる要素は適応的な改善機構の導入であり、これはまず部分的な情報によって粗い見積もりを生成し、その後、粗い見積もりによって導かれるステップで洗練された見積もりを確立する。
このプロトコルは、連続的な精細化、サンプル圧縮、しきい値設定、ランダムハッシュ法を利用して、パラメータの異なる状態における最適なレートを達成する。
プロトコルの最適性は、互換性の低いミニマックス境界を導出することによって示される。
関連論文リスト
- Statistical evaluation and optimization of entanglement purification protocols [0.0]
提案手法は, ほぼ均一にサンプリングされた密度行列から推定される初期平均コンカレンスを改善できないことを示す。
また、より効率的なプロトコルを開発し、より効率的な2ドルプロジェクタに基づく最近の提案とともに数値的に検討する。
論文 参考訳(メタデータ) (2024-02-19T16:58:03Z) - Nearest Neighbor Sampling for Covariate Shift Adaptation [7.940293148084844]
重みを推定しない新しい共変量シフト適応法を提案する。
基本的な考え方は、ソースデータセットの$k$-nearestの隣人によってラベル付けされたラベル付けされていないターゲットデータを直接扱うことだ。
実験の結果, 走行時間を大幅に短縮できることがわかった。
論文 参考訳(メタデータ) (2023-12-15T17:28:09Z) - Optimal Budgeted Rejection Sampling for Generative Models [54.050498411883495]
判別器を用いた生成モデルの性能向上のために, 還元サンプリング法が提案されている。
提案手法は,まず,最適に最適である最適予算削減サンプリング方式を提案する。
第2に,モデル全体の性能を高めるために,サンプリング方式をトレーニング手順に組み込んだエンドツーエンド手法を提案する。
論文 参考訳(メタデータ) (2023-11-01T11:52:41Z) - Optimization of Annealed Importance Sampling Hyperparameters [77.34726150561087]
Annealed Importance Smpling (AIS) は、深層生成モデルの難易度を推定するために使われる一般的なアルゴリズムである。
本稿では、フレキシブルな中間分布を持つパラメータAISプロセスを提案し、サンプリングに少ないステップを使用するようにブリッジング分布を最適化する。
我々は, 最適化AISの性能評価を行い, 深部生成モデルの限界推定を行い, 他の推定値と比較した。
論文 参考訳(メタデータ) (2022-09-27T07:58:25Z) - Quantization for decentralized learning under subspace constraints [61.59416703323886]
エージェントがサブスペース制約を最小化するために個々のコスト関数を持つ分散最適化問題を考察する。
本稿では,エージェントが確率化量子化器を用いて推定値を圧縮する適応分散型戦略を提案し,検討する。
この分析は、量子化ノイズのいくつかの一般的な条件下では、平均二乗誤差と平均ビットレートの両方で戦略が安定であることを示している。
論文 参考訳(メタデータ) (2022-09-16T09:38:38Z) - Minimization of the estimation error for entanglement distribution
networks with arbitrary noise [1.3198689566654105]
ノードが絡み合った量子ビット対のサブセットをランダムにサンプリングして測定し、その結果に照らされたアンサンプペアの平均忠実度を推定する構成を考察する。
提案した推定プロトコルは、任意のノイズと事前情報のない難易度シナリオにおいて、最小平均2乗推定誤差を達成する。
論文 参考訳(メタデータ) (2022-03-18T13:05:36Z) - Correlated quantization for distributed mean estimation and optimization [21.17434087570296]
本稿では,誤差保証が絶対範囲ではなくデータ点のずれに依存する相関量子化プロトコルを提案する。
分散最適化アルゴリズムにおいて,提案プロトコルをサブルーチンとして適用することにより,コンバージェンス率が向上することを示す。
論文 参考訳(メタデータ) (2022-03-09T18:14:55Z) - A Unified Framework for Multi-distribution Density Ratio Estimation [101.67420298343512]
バイナリ密度比推定(DRE)は多くの最先端の機械学習アルゴリズムの基礎を提供する。
ブレグマン最小化の発散の観点から一般的な枠組みを開発する。
我々のフレームワークはバイナリDREでそれらのフレームワークを厳格に一般化する手法に導かれることを示す。
論文 参考訳(メタデータ) (2021-12-07T01:23:20Z) - Distributed Nonparametric Function Estimation: Optimal Rate of
Convergence and Cost of Adaptation [1.332560004325655]
通信制約下での分散ミニマックス推定と分散適応推定について検討した。
適応のための正確な通信コストを定量化し、分散推定のための最適な適応手順を構築する。
論文 参考訳(メタデータ) (2021-07-01T02:16:16Z) - Variational Refinement for Importance Sampling Using the Forward
Kullback-Leibler Divergence [77.06203118175335]
変分推論(VI)はベイズ推論における正確なサンプリングの代替として人気がある。
重要度サンプリング(IS)は、ベイズ近似推論手順の推定を微調整し、偏りを逸脱するためにしばしば用いられる。
近似ベイズ推論のための最適化手法とサンプリング手法の新たな組み合わせを提案する。
論文 参考訳(メタデータ) (2021-06-30T11:00:24Z) - Optimal Off-Policy Evaluation from Multiple Logging Policies [77.62012545592233]
我々は,複数のロギングポリシからオフ政治評価を行い,それぞれが一定のサイズ,すなわち階層化サンプリングのデータセットを生成する。
複数ロガーのOPE推定器は,任意のインスタンス,すなわち効率のよいインスタンスに対して最小分散である。
論文 参考訳(メタデータ) (2020-10-21T13:43:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。