論文の概要: Hybrid Quantum-Classical NLP Classification with Compact Semantic Representations: An Experimental Analysis of Representation Compression

• arxiv url: http://arxiv.org/abs/2609.10089v1
• Date: Wed, 09 Sep 2026 12:09:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-10 19:44:09.024441
• Title: Hybrid Quantum-Classical NLP Classification with Compact Semantic Representations: An Experimental Analysis of Representation Compression
• Title（参考訳）: コンパクトセマンティック表現を用いたハイブリッド量子古典的NLP分類:表現圧縮の実験的検討
• Abstract要約: 大規模言語と文埋め込みモデルは、リッチな意味表現を提供するが、その高次元性は機械学習に挑戦する。 本研究では,高次元文埋め込みを変分量子分類のためのコンパクトな表現に変換するハイブリッド量子古典パイプラインについて検討する。 教師付き次元減少は、分散に基づく圧縮よりも、タスク関連情報をはるかに効果的に保存できることを示す。
• 参考スコア（独自算出の注目度）: 4.18874340076966
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language and sentence-embedding models provide rich semantic representations, but their high dimensionality poses a challenge for near-term quantum machine learning (QML), where quantum circuits can process only a limited number of input features. We investigate a hybrid quantum-classical pipeline that transforms high-dimensional sentence embeddings into compact representations for variational quantum classification. The workflow combines a pretrained sentence-embedding model, dimensionality reduction, angle encoding, a variational quantum circuit (VQC), and a classical decision layer. We systematically compare principal component analysis (PCA), neighborhood components analysis (NCA), and linear discriminant analysis (LDA), covering both unsupervised and supervised dimensionality reduction. Using the TREC question-classification dataset, we study the relationship between representation dimensionality, information retention, qubit count, and classification performance. Preliminary PCA experiments reveal a strong information bottleneck: reducing 768-dimensional embeddings to 3, 4, 5, and 8 dimensions retains about 8.2%, 10.2%, 11.9%, and 16.4% of the variance, with corresponding classification accuracies of 50.3%, 51.2%, 57.9%, and 63.4%. In contrast, supervised reduction is substantially more efficient. LDA reaches 85.3% accuracy and NCA reaches 83.1% using only 5 dimensions, under a leakage-free cross-validation protocol, compared with 85.1% for a full 384-dimensional classical baseline. These results indicate that supervised dimensionality reduction can preserve task-relevant information far more effectively than variance-based compression, making compact representations a promising route toward practical hybrid quantum-classical NLP models.
• Abstract（参考訳）: 大規模言語と文埋め込みモデルは、リッチな意味表現を提供するが、その高次元性は、量子回路が限られた数の入力特徴しか処理できない、短期量子機械学習(QML)の課題となる。 本研究では,高次元文埋め込みを変分量子分類のためのコンパクトな表現に変換するハイブリッド量子古典パイプラインについて検討する。 このワークフローは、事前訓練された文埋め込みモデル、次元減少、角度符号化、変分量子回路(VQC)と古典的な決定層を組み合わせる。 主成分分析 (PCA) , 近傍成分分析 (NCA) および線形判別分析 (LDA) を系統的に比較した。 TREC質問分類データセットを用いて,表現次元,情報保持,キュービット数,分類性能の関係について検討した。 768次元の埋め込みを3, 4, 5, 8次元に減らし、約8.2%, 10.2%, 11.9%, 16.4%の分散を保ち、対応する分類精度は50.3%, 51.2%, 57.9%, 63.4%である。 対照的に、教師付き還元はより効率的である。 LDAは85.3%の精度に達し、NAAは5次元のみを使用して83.1%に達する。 これらの結果から,教師付き次元減少は分散に基づく圧縮よりもタスク関連情報をはるかに効果的に保存し,コンパクトな表現を実用的なハイブリッド量子古典的NLPモデルへの有望な経路とすることができることが示唆された。

関連論文リスト

• QTrans: A Quantum Transformer for Sentiment Classification [30.090297417712502]
  本稿では、パラメータ化量子回路を用いてクエリ、キー、値の特徴を構成するQTransモデルを提案する。 MR、CR、MPQAデータセットの実験結果は、QTransがそれぞれ72.13%、69.51%、63.45%のテスト精度を達成したことを示している。
  論文  参考訳（メタデータ） (2026-09-10T06:04:31Z)
• Quantum-Inspired Hybrid Neural Networks for Neural Decoding: A Controlled Ablation Study of Learnable Quantum Sidecar Integration [5.2726003549534655]
  本稿では,ResNet-50バックボーン内に残余のサイドカーモジュールとして集積されたパラメータ化量子回路(PQCs)について検討した。 ベースライン, 量子サイドカーとフリーズインプットプロジェクション, バックボーン・グラディエント・トレーニングプロジェクションの量子サイドカー, アングルエンコーディングを回路計測結果と整合させる測定誘導変種を比較検討した。
  論文  参考訳（メタデータ） (2026-08-23T15:55:43Z)
• Evaluation of Variational Quantum Classifiers (VQC) for Cyberattack Detection in the NISQ Era [0.0]
  変分量子(VQC)は、ノイズ中間スケール量子(NISQ)時代のネットワーク異常を検出することができる。 モデルは22種類のNSL-KDD攻撃カテゴリにまたがるクラスバランスセットで訓練され、表現能力の調査として評価された。 我々はこの挙動を過度な圧縮によって引き起こされる線形分離性の喪失と一致すると解釈する。
  論文  参考訳（メタデータ） (2026-06-19T20:00:48Z)
• BPDQ: Bit-Plane Decomposition Quantization on a Variable Grid for Large Language Models [56.504879072674015]
  本稿では,ビットプレーンとスカラー係数による可変量子化グリッドを構成するビットプレーン分解量子化(BPDQ)を提案する。 BPDQは、1つのGTX 3090上でQwen2.5-72Bを83.85%のGSM8Kの精度で提供できる(ただし16ビットでは90.83%)。
  論文  参考訳（メタデータ） (2026-02-04T02:54:37Z)
• JTok: On Token Embedding as another Axis of Scaling Law via Joint Token Self-modulation [46.64215658042213]
  補助埋め込みテーブルから得られる変調ベクトルを用いてトランスフォーマー層を拡大するジョイント・トケン(JTok)とジョイント・トケン(JTok-M)の混合を導入する。 これらのベクトルは、軽量な要素演算によってバックボーンを変調し、無視可能なFLOPのオーバーヘッドを発生させる。 我々のアプローチは、検証損失を継続的に減らし、ダウンストリームタスクのパフォーマンスを大幅に改善します。
  論文  参考訳（メタデータ） (2026-01-31T16:15:18Z)
• Exploring Layer-wise Information Effectiveness for Post-Training Quantization in Small Language Models [4.238165821317982]
  LieQは、極端に低ビット圧縮下でのサブ7Bモデルの精度を維持するという課題に対処するメトリック駆動フレームワークである。 提案手法では,3つの相補的レイヤワイド診断手法(パープレキシティ・ドロップ,表現コンパクト性,トップkエネルギーゲイン)を導入している。 Qwen3-4Bでは、2.05ビット量子化でFP16ベースライン性能の95.9%を回復し、GPTQを19.7%、AWQを18.1%上回った。
  論文  参考訳（メタデータ） (2025-08-05T11:17:04Z)
• Optimization of embeddings storage for RAG systems using quantization and dimensionality reduction techniques [0.0]
  本研究では,float8量子化により,性能劣化を最小限に抑えつつ,ストレージの4倍の低減を実現することを示す。 PCAは最も効果的な次元削減技術として出現する。 本稿では,最適構成を特定するために,性能記憶トレードオフ空間を可視化する手法を提案する。
  論文  参考訳（メタデータ） (2025-04-30T18:20:16Z)
• Quantum Transfer Learning for MNIST Classification Using a Hybrid Quantum-Classical Approach [0.0]
  我々は、MNIST桁の画像を低次元の特徴空間に圧縮する画像分類のためのハイブリッド量子古典モデルを実装した。 オートエンコーダは、各28タイムs28$イメージ(784ピクセル)を64次元潜在ベクトルに圧縮する。 これらの特徴を5量子ビット量子状態にマッピングする。
  論文  参考訳（メタデータ） (2024-08-05T22:16:27Z)
• Data-free Weight Compress and Denoise for Large Language Models [96.68582094536032]
  パラメータ行列を圧縮する手法として,データフリーなジョイントランクk近似を提案する。 キャリブレーションデータなしで、元の性能の93.43%を維持しながら80%のパラメータのモデルプルーニングを実現する。
  論文  参考訳（メタデータ） (2024-02-26T05:51:47Z)
• KVQuant: Towards 10 Million Context Length LLM Inference with KV Cache Quantization [67.74400574357472]
  LLMは、大きなコンテキストウィンドウを必要とするアプリケーションでの利用が増えており、この大きなコンテキストウィンドウでは、KVキャッシュのアクティベーションが推論時のメモリ消費の主要な要因として表面化している。 量子化はKVキャッシュのアクティベーションを圧縮する上で有望な手法であるが、既存のソリューションは4ビット以下の精度でアクティベーションを正確に表現できない。 我々の研究であるKVQuantは、いくつかの新しい手法を取り入れることで、低精度のKVキャッシュ量子化を容易にする。
  論文  参考訳（メタデータ） (2024-01-31T18:58:14Z)
• Quantum machine learning for image classification [39.58317527488534]
  本研究では、量子力学の原理を有効計算に活用する2つの量子機械学習モデルを紹介する。 我々の最初のモデルは、並列量子回路を持つハイブリッド量子ニューラルネットワークであり、ノイズの多い中間スケール量子時代においても計算の実行を可能にする。 第2のモデルは、クオン進化層を持つハイブリッド量子ニューラルネットワークを導入し、畳み込みプロセスによる画像の解像度を低下させる。
  論文  参考訳（メタデータ） (2023-04-18T18:23:20Z)
• Quantized Neural Networks for Low-Precision Accumulation with Guaranteed Overflow Avoidance [68.8204255655161]
  本稿では,推定時のアキュムレータの精度を下げる際に,数値オーバーフローを回避する量子化学習アルゴリズムを提案する。 本手法は,浮動小数点点ベースラインに対するモデル精度を維持しつつ,アキュムレータの精度を低減できることを示す。
  論文  参考訳（メタデータ） (2023-01-31T02:46:57Z)
• Compact representations of convolutional neural networks via weight pruning and quantization [63.417651529192014]
  本稿では、音源符号化に基づく畳み込みニューラルネットワーク(CNN)の新しいストレージフォーマットを提案し、重み付けと量子化の両方を活用する。 我々は、全接続層で0.6%、ネットワーク全体で5.44%のスペース占有率を削減し、最低でもベースラインと同じくらいの競争力を発揮する。
  論文  参考訳（メタデータ） (2021-08-28T20:39:54Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。