論文の概要: Homology-constrained vector quantization entropy regularizer
- arxiv url: http://arxiv.org/abs/2211.14363v1
- Date: Fri, 25 Nov 2022 20:09:22 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-29 19:16:12.969760
- Title: Homology-constrained vector quantization entropy regularizer
- Title(参考訳): ホモロジー制約ベクトル量子化エントロピー正規化器
- Authors: Ivan Volkov
- Abstract要約: 本稿では,ベクトル量子化(VQ)のエントロピー正規化項について,VQ埋め込みの永続的ホモロジーの解析に基づいて述べる。
ホモロジー制約された正規化は、VQ過程のエントロピーを高める効果的な方法であることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper describes an entropy regularization term for vector quantization
(VQ) based on the analysis of persistent homology of the VQ embeddings. Higher
embedding entropy positively correlates with higher codebook utilization,
mitigating overfit towards the identity and codebook collapse in VQ-based
autoencoders [1]. We show that homology-constrained regularization is an
effective way to increase entropy of the VQ process (approximated to input
entropy) while preserving the approximated topology in the quantized latent
space, averaged over mini batches. This work further explores some patterns of
persistent homology diagrams of latents formed by vector quantization. We
implement and test the proposed algorithm as a module integrated into a sample
VQ-VAE. Linked code repository provides a functioning implementation of the
proposed architecture, referred to as homology-constrained vector quantization
(HC-VQ) further in this work.
- Abstract(参考訳): 本稿では, vq埋め込みの持続的ホモロジー解析に基づくベクトル量子化(vq)のためのエントロピー正規化項について述べる。
高次埋め込みエントロピーは、VQベースのオートエンコーダ[1]におけるアイデンティティとコードブック崩壊に対する過度な適合を緩和し、より高いコードブック利用と正に相関する。
ホモロジー制約付き正規化は、量子化された潜在空間における近似位相をミニバッチで平均的に保ちながら、VQ過程のエントロピー(入力エントロピーに近似)を高める効果的な方法であることを示す。
この研究は、ベクトル量子化によって形成された潜在体の永続ホモロジー図形のパターンをさらに探求する。
提案アルゴリズムをサンプルvq-vaeに統合したモジュールとして実装・テストする。
linked code repositoryは、ホモロジー制約ベクトル量子化(hc-vq)と呼ばれる提案されたアーキテクチャの機能実装を提供する。
関連論文リスト
- Vector Quantization for Deep-Learning-Based CSI Feedback in Massive MIMO
Systems [7.934232975873179]
本稿では,大規模マルチインプットマルチアウトプット(MIMO)システムのための,有限レート深層学習(DL)に基づくチャネル状態情報(CSI)フィードバック手法を提案する。
提案手法は,ベクトル量子化変分オートエンコーダ(VQ-VAE)フレームワークに基づく潜在ベクトルの有限ビット表現を提供する。
論文 参考訳(メタデータ) (2024-03-12T06:28:41Z) - Distribution-Flexible Subset Quantization for Post-Quantizing
Super-Resolution Networks [68.83451203841624]
本稿では,超高分解能ネットワークのためのポストトレーニング量子化手法であるDFSQを提案する。
DFSQは活性化のチャネルワイド正規化を行い、分布フレキシブルなサブセット量子化(SQ)を適用する
6ビットの量子化と8ビットの量子化では完全精度に匹敵する性能を達成し、4ビットの量子化では0.1dBのPSNR低下しか生じない。
論文 参考訳(メタデータ) (2023-05-10T04:19:11Z) - Variational Gibbs State Preparation on NISQ devices [3.3221598787223128]
本稿では,量子多体系のギブス状態を作成するための変分量子アルゴリズム(VQA)を提案する。
我々のVQAの新規性は、2つの異なる接続された量子レジスタに作用するパラメータ化量子回路を実装することである。
逆場イジングモデルのギブズ状態を作成してVQAをベンチマークし、幅広い温度で極めて高い忠実度を達成する。
論文 参考訳(メタデータ) (2023-03-20T17:09:34Z) - Quantum Gate Generation in Two-Level Open Quantum Systems by Coherent
and Incoherent Photons Found with Gradient Search [77.34726150561087]
我々は、非コヒーレント光子によって形成される環境を、非コヒーレント制御によるオープン量子系制御の資源とみなす。
我々は、ハミルトニアンにおけるコヒーレント制御と、時間依存デコヒーレンス率を誘導する散逸器における非コヒーレント制御を利用する。
論文 参考訳(メタデータ) (2023-02-28T07:36:02Z) - A kernel-based quantum random forest for improved classification [0.0]
従来の古典的学習手法を強化する量子機械学習(QML)は、その実現に様々な制限がある。
量子カーネル推定(QKE)によって計算されるカーネル関数で線形量子支援ベクトルマシン(QSVM)を拡張する。
オーバーフィッティングを制限するため、カーネル行列に低ランクNystr"om近似を適用するようモデルをさらに拡張する。
論文 参考訳(メタデータ) (2022-10-05T15:57:31Z) - Theoretical Error Performance Analysis for Variational Quantum Circuit
Based Functional Regression [83.79664725059877]
本研究では,次元減少と機能回帰のためのエンドツーエンドの量子ニューラルネットワークであるTTN-VQCを提案する。
また,polyak-Lojasiewicz (PL) 条件を利用してTTN-VQCの最適化特性を特徴付ける。
論文 参考訳(メタデータ) (2022-06-08T06:54:07Z) - A Convergence Theory for Over-parameterized Variational Quantum
Eigensolvers [21.72347971869391]
変分量子固有解法(VQE)は、近未来のノイズ中間規模量子(NISQ)コンピュータにおける量子応用の有望な候補である。
オーバーパラメータ化系におけるVQEの収束の厳密な分析を行った。
論文 参考訳(メタデータ) (2022-05-25T04:06:50Z) - A Variational Quantum Attack for AES-like Symmetric Cryptography [69.80357450216633]
古典的AES様対称暗号のための変分量子攻撃アルゴリズム(VQAA)を提案する。
VQAAでは、既知の暗号文は、正規グラフを通して構築されるハミルトンの基底状態として符号化される。
論文 参考訳(メタデータ) (2022-05-07T03:15:15Z) - Q-Match: Iterative Shape Matching via Quantum Annealing [64.74942589569596]
形状対応を見つけることは、NP-hard quadratic assignment problem (QAP)として定式化できる。
本稿では,アルファ拡大アルゴリズムに触発されたQAPの反復量子法Q-Matchを提案する。
Q-Match は、実世界の問題にスケールできるような長文対応のサブセットにおいて、反復的に形状マッチング問題に適用できる。
論文 参考訳(メタデータ) (2021-05-06T17:59:38Z) - Efficient measure for the expressivity of variational quantum algorithms [72.59790225766777]
我々は、変分量子アルゴリズムの表現率を研究するために、統計学習理論、すなわち被覆数に関する高度なツールを利用する。
まず、任意のアンサーゼを持つVQAの表現性は、量子ゲートの数と観測可能な測定値によって上限づけられていることを示す。
次に,システムノイズを考慮した量子チップ上でのVQAの表現性について検討する。
論文 参考訳(メタデータ) (2021-04-20T13:51:08Z) - Real time evolution for ultracompact Hamiltonian eigenstates on quantum
hardware [0.1301555359494566]
本稿では,短期ハードウェア上での変分量子位相推定(VQPE)の詳細な解析を行う。
我々は、アプローチが立つ理論的根拠を導き、強い相関を持つハミルトン多様体を解くために、これまでで最もコンパクトな変分展開の1つを提供することを示した。
論文 参考訳(メタデータ) (2021-03-15T17:27:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。