論文の概要: Homology-constrained vector quantization entropy regularizer

• arxiv url: http://arxiv.org/abs/2211.14363v1
• Date: Fri, 25 Nov 2022 20:09:22 GMT
• ステータス: 処理完了
• システム内更新日: 2022-11-29 19:16:12.969760
• Title: Homology-constrained vector quantization entropy regularizer
• Title（参考訳）: ホモロジー制約ベクトル量子化エントロピー正規化器
• Authors: Ivan Volkov
• Abstract要約: 本稿では,ベクトル量子化(VQ)のエントロピー正規化項について,VQ埋め込みの永続的ホモロジーの解析に基づいて述べる。 ホモロジー制約された正規化は、VQ過程のエントロピーを高める効果的な方法であることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: This paper describes an entropy regularization term for vector quantization (VQ) based on the analysis of persistent homology of the VQ embeddings. Higher embedding entropy positively correlates with higher codebook utilization, mitigating overfit towards the identity and codebook collapse in VQ-based autoencoders [1]. We show that homology-constrained regularization is an effective way to increase entropy of the VQ process (approximated to input entropy) while preserving the approximated topology in the quantized latent space, averaged over mini batches. This work further explores some patterns of persistent homology diagrams of latents formed by vector quantization. We implement and test the proposed algorithm as a module integrated into a sample VQ-VAE. Linked code repository provides a functioning implementation of the proposed architecture, referred to as homology-constrained vector quantization (HC-VQ) further in this work.
• Abstract（参考訳）: 本稿では, vq埋め込みの持続的ホモロジー解析に基づくベクトル量子化(vq)のためのエントロピー正規化項について述べる。 高次埋め込みエントロピーは、VQベースのオートエンコーダ[1]におけるアイデンティティとコードブック崩壊に対する過度な適合を緩和し、より高いコードブック利用と正に相関する。 ホモロジー制約付き正規化は、量子化された潜在空間における近似位相をミニバッチで平均的に保ちながら、VQ過程のエントロピー(入力エントロピーに近似)を高める効果的な方法であることを示す。 この研究は、ベクトル量子化によって形成された潜在体の永続ホモロジー図形のパターンをさらに探求する。 提案アルゴリズムをサンプルvq-vaeに統合したモジュールとして実装・テストする。 linked code repositoryは、ホモロジー制約ベクトル量子化(hc-vq)と呼ばれる提案されたアーキテクチャの機能実装を提供する。

関連論文リスト

• Learning Optimal Lattice Vector Quantizers for End-to-end Neural Image Compression [16.892815659154053]
  格子ベクトル量子化(LVQ)は、機能間の依存関係をより効果的に活用できる魅力的な代替手段である。 従来のLVQ構造は、均一なソース分布のために設計・最適化されている。 本稿では,この弱点を克服するための新しい学習手法を提案する。
  論文  参考訳（メタデータ） (2024-11-25T06:05:08Z)
• VQ-Flow: Taming Normalizing Flows for Multi-Class Anomaly Detection via Hierarchical Vector Quantization [101.41553763861381]
  本稿では,マルチクラス異常検出における流れの正規化の可能性について検討する。 我々はフローモデルに、教師なしの方法で複数のクラス正規データの異なる概念を区別する権限を与え、結果としてVQ-Flowという新しいフローベース統一手法が生み出された。 提案されたVQ-Flowは、統合トレーニングスキーム内でのマルチクラスの異常検出の最先端を推し進め、MVTec ADで99.5%/98.3%のAUROCが得られる。
  論文  参考訳（メタデータ） (2024-09-02T05:01:41Z)
• HyperVQ: MLR-based Vector Quantization in Hyperbolic Space [56.4245885674567]
  ベクトル量子化(HyperVQ)における双曲空間の利用について検討する。 本稿では,高VQが識別タスクにおいてVQを上回り,高度に絡み合った潜在空間を学習しながら,再建作業や生成作業において相容れない性能を発揮することを示す。
  論文  参考訳（メタデータ） (2024-03-18T03:17:08Z)
• Vector Quantization for Deep-Learning-Based CSI Feedback in Massive MIMO Systems [7.934232975873179]
  本稿では,大規模マルチインプットマルチアウトプット(MIMO)システムのための,有限レート深層学習(DL)に基づくチャネル状態情報(CSI)フィードバック手法を提案する。 提案手法は,ベクトル量子化変分オートエンコーダ(VQ-VAE)フレームワークに基づく潜在ベクトルの有限ビット表現を提供する。
  論文  参考訳（メタデータ） (2024-03-12T06:28:41Z)
• Distribution-Flexible Subset Quantization for Post-Quantizing Super-Resolution Networks [68.83451203841624]
  本稿では,超高分解能ネットワークのためのポストトレーニング量子化手法であるDFSQを提案する。 DFSQは活性化のチャネルワイド正規化を行い、分布フレキシブルなサブセット量子化(SQ)を適用する 6ビットの量子化と8ビットの量子化では完全精度に匹敵する性能を達成し、4ビットの量子化では0.1dBのPSNR低下しか生じない。
  論文  参考訳（メタデータ） (2023-05-10T04:19:11Z)
• Variational Gibbs State Preparation on NISQ devices [1.6600832946471173]
  本稿では,量子多体系のギブス状態を作成するための変分量子アルゴリズム(VQA)を提案する。 我々のVQAの新規性は、2つの異なる接続された量子レジスタに作用するパラメータ化量子回路を実装することである。 逆場 Ising と Heisenberg XXZ モデルの Gibbs 状態を作成して VQA をベンチマークし,高い忠実度を実現する。
  論文  参考訳（メタデータ） (2023-03-20T17:09:34Z)
• A kernel-based quantum random forest for improved classification [0.0]
  従来の古典的学習手法を強化する量子機械学習(QML)は、その実現に様々な制限がある。 量子カーネル推定(QKE)によって計算されるカーネル関数で線形量子支援ベクトルマシン(QSVM)を拡張する。 オーバーフィッティングを制限するため、カーネル行列に低ランクNystr"om近似を適用するようモデルをさらに拡張する。
  論文  参考訳（メタデータ） (2022-10-05T15:57:31Z)
• A Convergence Theory for Over-parameterized Variational Quantum Eigensolvers [21.72347971869391]
  変分量子固有解法(VQE)は、近未来のノイズ中間規模量子(NISQ)コンピュータにおける量子応用の有望な候補である。 オーバーパラメータ化系におけるVQEの収束の厳密な分析を行った。
  論文  参考訳（メタデータ） (2022-05-25T04:06:50Z)
• A Variational Quantum Attack for AES-like Symmetric Cryptography [69.80357450216633]
  古典的AES様対称暗号のための変分量子攻撃アルゴリズム(VQAA)を提案する。 VQAAでは、既知の暗号文は、正規グラフを通して構築されるハミルトンの基底状態として符号化される。
  論文  参考訳（メタデータ） (2022-05-07T03:15:15Z)
• Q-Match: Iterative Shape Matching via Quantum Annealing [64.74942589569596]
  形状対応を見つけることは、NP-hard quadratic assignment problem (QAP)として定式化できる。 本稿では,アルファ拡大アルゴリズムに触発されたQAPの反復量子法Q-Matchを提案する。 Q-Match は、実世界の問題にスケールできるような長文対応のサブセットにおいて、反復的に形状マッチング問題に適用できる。
  論文  参考訳（メタデータ） (2021-05-06T17:59:38Z)
• Efficient measure for the expressivity of variational quantum algorithms [72.59790225766777]
  我々は、変分量子アルゴリズムの表現率を研究するために、統計学習理論、すなわち被覆数に関する高度なツールを利用する。 まず、任意のアンサーゼを持つVQAの表現性は、量子ゲートの数と観測可能な測定値によって上限づけられていることを示す。 次に,システムノイズを考慮した量子チップ上でのVQAの表現性について検討する。
  論文  参考訳（メタデータ） (2021-04-20T13:51:08Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。