論文の概要: High Dimensional Statistical Estimation under One-bit Quantization

• arxiv url: http://arxiv.org/abs/2202.13157v1
• Date: Sat, 26 Feb 2022 15:13:04 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-01 15:48:09.904516
• Title: High Dimensional Statistical Estimation under One-bit Quantization
• Title（参考訳）: 1ビット量子化による高次元統計量推定
• Authors: Junren Chen, Cheng-Long Wang, Michael K. Ng, Di Wang
• Abstract要約: 1ビット(バイナリ)データは、信号ストレージ、処理、送信、プライバシーの強化といった効率性のために、多くのアプリケーションで好まれる。 本稿では,3つの基本的な統計的推定問題について検討する。 ガウス系と重尾系の両方で、高次元スケーリングを扱う新しい推定器が提案されている。
• 参考スコア（独自算出の注目度）: 27.718986773043643
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Compared with data with high precision, one-bit (binary) data are preferable in many applications because of the efficiency in signal storage, processing, transmission, and enhancement of privacy. In this paper, we study three fundamental statistical estimation problems, i.e., sparse covariance matrix estimation, sparse linear regression, and low-rank matrix completion via binary data arising from an easy-to-implement one-bit quantization process that contains truncation, dithering and quantization as typical steps. Under both sub-Gaussian and heavy-tailed regimes, new estimators that handle high-dimensional scaling are proposed. In sub-Gaussian case, we show that our estimators achieve minimax rates up to logarithmic factors, hence the quantization nearly costs nothing from the perspective of statistical learning rate. In heavy-tailed case, we truncate the data before dithering to achieve a bias-variance trade-off, which results in estimators embracing convergence rates that are the square root of the corresponding minimax rates. Experimental results on synthetic data are reported to support and demonstrate the statistical properties of our estimators under one-bit quantization.
• Abstract（参考訳）: 高精度のデータと比較すると、信号記憶、処理、送信、プライバシーの強化といった効率性のため、多くのアプリケーションでは1ビット(バイナリ)データが好ましい。 本稿では,3つの基本的統計的推定問題,すなわちスパース共分散行列推定,スパース線形回帰,およびタンニン化,ディザリング,量子化を含む実装が容易な1ビット量子化プロセスから生じるバイナリデータによる低ランク行列補完について検討する。 ガウス系と重尾系の両方で、高次元スケーリングを扱う新しい推定器が提案されている。 サブガウシアンの場合、我々の推定者は対数因子の最小値を達成するので、量子化は統計的学習率の観点ではほとんど費用がかからない。 重み付きの場合、ディザリングの前にデータを切り離してバイアス分散トレードオフを達成し、その結果、対応するミニマックスレートの平方根である収束率を推定する。 合成データの実験的結果は, 1ビット量子化による推定値の統計的特性を裏付け, 実証するものである。

関連論文リスト

• Minimally Supervised Learning using Topological Projections in Self-Organizing Maps [55.31182147885694]
  自己組織化マップ(SOM)におけるトポロジカルプロジェクションに基づく半教師付き学習手法を提案する。 提案手法は,まずラベル付きデータ上でSOMを訓練し,最小限のラベル付きデータポイントをキーベストマッチングユニット(BMU)に割り当てる。 提案した最小教師付きモデルが従来の回帰手法を大幅に上回ることを示す。
  論文  参考訳（メタデータ） (2024-01-12T22:51:48Z)
• Multi-Fidelity Covariance Estimation in the Log-Euclidean Geometry [0.0]
  対称正定値多様体の対数ユークリッド幾何学を利用する共分散行列の多値推定器を導入する。 固定予算が与えられた推定器の平均二乗誤差を最小化する最適サンプル割り当て方式を開発した。 物理アプリケーションからのデータによるアプローチの評価は、ベンチマークと比較すると、より正確なメトリック学習と1桁以上のスピードアップを示している。
  論文  参考訳（メタデータ） (2023-01-31T16:33:46Z)
• Quantizing Heavy-tailed Data in Statistical Estimation: (Near) Minimax Rates, Covariate Quantization, and Uniform Recovery [22.267482745621997]
  本稿では,いくつかの統計的推定問題における重み付きデータの定量化について検討する。 我々は、均一な量子化の前にデータを切断し、適切に拡張することを提案する。
  論文  参考訳（メタデータ） (2022-12-30T06:28:30Z)
• Optimized numerical gradient and Hessian estimation for variational quantum algorithms [0.0]
  チューナブルな数値推定器は回路量子ビット数に比例して指数関数的に減少する推定誤差を提供する。 パラメータシフト推定器は,任意の状況下での推定精度で標準の非スケール推定値を上回った。
  論文  参考訳（メタデータ） (2022-06-25T12:58:44Z)
• Semi-Supervised Quantile Estimation: Robust and Efficient Inference in High Dimensional Settings [0.5735035463793009]
  2つの利用可能なデータセットを特徴とする半教師付き環境での量子推定を考察する。 本稿では,2つのデータセットに基づいて,応答量子化(s)に対する半教師付き推定器群を提案する。
  論文  参考訳（メタデータ） (2022-01-25T10:02:23Z)
• Bias-Variance Tradeoffs in Single-Sample Binary Gradient Estimators [100.58924375509659]
  ストレートスルー (ST) 推定器はその単純さと効率性から人気を得た。 計算の複雑さを低く保ちながら、STよりも改善するいくつかの手法が提案された。 我々は、トレードオフを理解し、元来主張された特性を検証するために、これらの手法のバイアスとばらつきの理論解析を行う。
  論文  参考訳（メタデータ） (2021-10-07T15:16:07Z)
• Diverse Sample Generation: Pushing the Limit of Data-free Quantization [85.95032037447454]
  本稿では,データ不要なポストトレーニング量子化と量子化学習のための汎用的な2次サンプル生成手法を提案する。 大規模な画像分類タスクでは、DSGは既存のデータ自由量子化手法より一貫して優れている。
  論文  参考訳（メタデータ） (2021-09-01T07:06:44Z)
• Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
  ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。 そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
  論文  参考訳（メタデータ） (2021-08-25T21:30:27Z)
• CoinPress: Practical Private Mean and Covariance Estimation [18.6419638570742]
  多変量準ガウスデータの平均と共分散に対する単純な微分プライベート推定器を提案する。 これらの誤差率は最先端の理論的境界値と一致し, 従来手法よりも顕著に優れていたことを示す。
  論文  参考訳（メタデータ） (2020-06-11T17:17:28Z)
• Instability, Computational Efficiency and Statistical Accuracy [101.32305022521024]
  我々は,人口レベルでのアルゴリズムの決定論的収束率と,$n$サンプルに基づく経験的対象に適用した場合の(不安定性)の間の相互作用に基づいて,統計的精度を得るフレームワークを開発する。 本稿では,ガウス混合推定,非線形回帰モデル,情報的非応答モデルなど,いくつかの具体的なモデルに対する一般結果の応用について述べる。
  論文  参考訳（メタデータ） (2020-05-22T22:30:52Z)
• Compressing Large Sample Data for Discriminant Analysis [78.12073412066698]
  判別分析フレームワーク内での大きなサンプルサイズに起因する計算問題を考察する。 線形および二次判別分析のためのトレーニングサンプル数を削減するための新しい圧縮手法を提案する。
  論文  参考訳（メタデータ） (2020-05-08T05:09:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。