論文の概要: Ternary and Binary Quantization for Improved Classification
- arxiv url: http://arxiv.org/abs/2203.16798v1
- Date: Thu, 31 Mar 2022 05:04:52 GMT
- ステータス: 処理完了
- システム内更新日: 2022-04-01 14:14:44.237262
- Title: Ternary and Binary Quantization for Improved Classification
- Title(参考訳): 改良された分類のための3次および2次量子化
- Authors: Weizhi Lu, Mingrui Chen, Kai Guo and Weiyu Li
- Abstract要約: ランダムプロジェクションによりまずデータ次元を減らし、3次符号や2次符号への投影を定量化する手法について検討する。
量子化すべきデータは、共通のフィルタで生成されるスパースな特徴であるので、量子化が同等で、しばしばより優れた精度を提供できることを観察する。
- 参考スコア(独自算出の注目度): 11.510216175832568
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Dimension reduction and data quantization are two important methods for
reducing data complexity. In the paper, we study the methodology of first
reducing data dimension by random projection and then quantizing the
projections to ternary or binary codes, which has been widely applied in
classification. Usually, the quantization will seriously degrade the accuracy
of classification due to high quantization errors. Interestingly, however, we
observe that the quantization could provide comparable and often superior
accuracy, as the data to be quantized are sparse features generated with common
filters. Furthermore, this quantization property could be maintained in the
random projections of sparse features, if both the features and random
projection matrices are sufficiently sparse. By conducting extensive
experiments, we validate and analyze this intriguing property.
- Abstract(参考訳): 次元の減少とデータの量子化は、データの複雑さを減らす2つの重要な方法である。
本稿では,まずランダムな投影によってデータ次元を減少させ,それから三進法や二進法への投影を定量化する手法について検討する。
通常、量子化は高い量子化誤差のため分類の精度を著しく低下させる。
興味深いことに、量子化されるデータは共通のフィルタで生成される特徴が乏しいため、量子化は同等でしばしば優れた精度を提供する可能性がある。
さらに、この量子化特性は、特徴量と乱射影行列が十分にスパースである場合、スパース特徴のランダム射影において維持することができる。
広範な実験を行うことで,この興味深い性質を検証し,分析する。
関連論文リスト
- Conformalized High-Density Quantile Regression via Dynamic Prototypes-based Probability Density Estimation [2.526146573337397]
動的適応型プロトタイプを用いた共形化高密度量子化回帰手法を提案する。
本手法は, 量子化ビンを適応的に追加, 削除, 移動させることにより, プロトタイプの集合を最適化する。
多様なデータセットと次元にわたる実験により,提案手法が常に高品質な予測領域を達成できることが確認された。
論文 参考訳(メタデータ) (2024-11-02T14:36:12Z) - Quantization of Large Language Models with an Overdetermined Basis [73.79368761182998]
本稿では,嘉心表現の原理に基づくデータ量子化アルゴリズムを提案する。
以上の結果から, カシ量子化はモデル性能の競争力や優れた品質を達成できることが示唆された。
論文 参考訳(メタデータ) (2024-04-15T12:38:46Z) - Implicit Manifold Gaussian Process Regression [49.0787777751317]
ガウス過程の回帰は、よく校正された不確実性推定を提供するために広く用いられている。
これは、データが実際に存在する暗黙の低次元多様体のため、高次元データに苦しむ。
本稿では,データ(ラベル付きおよびラベルなし)から直接暗黙構造を完全に微分可能な方法で推定できる手法を提案する。
論文 参考訳(メタデータ) (2023-10-30T09:52:48Z) - Regularized Vector Quantization for Tokenized Image Synthesis [126.96880843754066]
画像の離散表現への量子化は、統合生成モデリングにおける根本的な問題である。
決定論的量子化は、厳しいコードブックの崩壊と推論段階の誤調整に悩まされ、一方、量子化は、コードブックの利用率の低下と再構築の目的に悩まされる。
本稿では、2つの視点から正規化を適用することにより、上記の問題を効果的に緩和できる正規化ベクトル量子化フレームワークを提案する。
論文 参考訳(メタデータ) (2023-03-11T15:20:54Z) - Quantum Sparse Coding [5.130440339897477]
我々はスパース符号化のための量子インスピレーション付きアルゴリズムを開発した。
量子コンピュータとイジングマシンの出現は、より正確な推定につながる可能性がある。
我々はLightrの量子インスパイアされたデジタルプラットフォーム上でシミュレーションデータを用いて数値実験を行う。
論文 参考訳(メタデータ) (2022-09-08T13:00:30Z) - Improved Quantum Algorithms for Fidelity Estimation [77.34726150561087]
証明可能な性能保証を伴う忠実度推定のための新しい,効率的な量子アルゴリズムを開発した。
我々のアルゴリズムは量子特異値変換のような高度な量子線型代数技術を用いる。
任意の非自明な定数加算精度に対する忠実度推定は一般に困難であることを示す。
論文 参考訳(メタデータ) (2022-03-30T02:02:16Z) - High Dimensional Statistical Estimation under One-bit Quantization [27.718986773043643]
1ビット(バイナリ)データは、信号ストレージ、処理、送信、プライバシーの強化といった効率性のために、多くのアプリケーションで好まれる。
本稿では,3つの基本的な統計的推定問題について検討する。
ガウス系と重尾系の両方で、高次元スケーリングを扱う新しい推定器が提案されている。
論文 参考訳(メタデータ) (2022-02-26T15:13:04Z) - Dual-Frequency Quantum Phase Estimation Mitigates the Spectral Leakage
of Quantum Algorithms [76.15799379604898]
量子位相推定は、レコード長の逆数が未知の位相の整数倍でない場合にスペクトルリークに悩まされる。
複数のサンプルが利用できるとき,クレーマー・ラオ境界に近づいた二重周波数推定器を提案する。
論文 参考訳(メタデータ) (2022-01-23T17:20:34Z) - Cluster-Promoting Quantization with Bit-Drop for Minimizing Network
Quantization Loss [61.26793005355441]
クラスタ・プロモーティング・量子化(CPQ)は、ニューラルネットワークに最適な量子化グリッドを見つける。
DropBitsは、ニューロンの代わりにランダムにビットをドロップする標準のドロップアウト正規化を改訂する新しいビットドロップ技術である。
本手法を様々なベンチマークデータセットとネットワークアーキテクチャ上で実験的に検証する。
論文 参考訳(メタデータ) (2021-09-05T15:15:07Z) - Regularized Classification-Aware Quantization [39.04839665081476]
本稿では,バイナリ分類タスクの分散量子化スキームを学習するアルゴリズムのクラスを提案する。
本手法は正規化分類認識量子化と呼ばれる。
論文 参考訳(メタデータ) (2021-07-12T21:27:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。