論文の概要: QLAM: A Quantum Long-Attention Memory Approach to Long-Sequence Token Modeling
- arxiv url: http://arxiv.org/abs/2605.13833v1
- Date: Wed, 13 May 2026 17:56:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-14 23:30:28.221751
- Title: QLAM: A Quantum Long-Attention Memory Approach to Long-Sequence Token Modeling
- Title(参考訳): QLAM: 時系列トークンモデリングのための量子長時間メモリアプローチ
- Authors: Hoang-Quan Nguyen, Sankalp Pandey, Khoa Luu,
- Abstract要約: 量子系の重ね合わせ特性を利用して状態ベースシーケンスモデリングを強化する最初の研究の1つを紹介する。
QLAMは、歴史的情報の重ね合わせをエンコードする量子状態として隠された状態を表す。
QLAMは、sMNIST、sFashion-MNIST、sCIFAR-10など、標準画像分類ベンチマークの逐次変種に対して評価する。
- 参考スコア(独自算出の注目度): 14.229084182282607
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modeling long-range dependencies in sequential data remains a central challenge in machine learning. Transformers address this challenge through attention mechanisms, but their quadratic complexity with respect to sequence length limits scalability to long contexts. State-space models (SSMs) provide an efficient alternative with linear-time computation by evolving a latent state through recurrent updates, but their memory is typically formed via additive or linear transitions, which can limit their ability to capture complex global interactions across tokens. In this work, we introduce one of the first studies to leverage the superposition property of quantum systems to enhance state-based sequence modeling. In particular, we propose Quantum Long-Attention Memory (QLAM), a hybrid quantum-classical memory mechanism that can be viewed as a quantum extension of state-space models. Instead of maintaining a classical latent state updated through additive dynamics, QLAM represents the hidden state as a quantum state whose amplitudes encode a superposition of historical information. The state evolves through parameterized quantum circuits conditioned on the input, enabling a non-classical, globally update mechanism. In this way, QLAM preserves the recurrent and linear-time structure of SSMs while fundamentally enriching the memory representation through quantum superposition. Unlike attention mechanisms that explicitly compute pairwise interactions, QLAM implicitly captures global dependencies through the evolution of the quantum state, and retrieves task-relevant information via query-dependent measurements. We evaluate QLAM on sequential variants of standard image classification benchmarks, including sMNIST, sFashion-MNIST, and sCIFAR-10, where images are flattened into token sequences. Across all tasks, QLAM consistently improves over recurrent baselines and transformer-based models.
- Abstract(参考訳): シーケンシャルデータにおける長距離依存関係のモデリングは、マシンラーニングにおいて依然として中心的な課題である。
トランスフォーマーは注意機構を通じてこの問題に対処するが、シーケンス長に関する2次複雑さは、長いコンテキストに対するスケーラビリティを制限している。
状態空間モデル(SSM)は、リカレント更新を通じて潜時状態を進化させることにより、線形時間計算の効率的な代替手段を提供するが、そのメモリは通常、加算あるいは線形遷移によって形成され、トークン間の複雑なグローバルな相互作用をキャプチャする能力を制限することができる。
本研究では、量子系の重ね合わせ特性を利用して状態ベースシーケンスモデリングを強化する最初の研究の1つを紹介する。
特に、状態空間モデルの量子拡張と見なせるハイブリッド量子古典記憶機構である、量子長距離記憶(QLAM)を提案する。
古典的な潜伏状態は加法力学によって更新されるが、QLAMは隠れた状態を歴史的情報の重ね合わせをエンコードする量子状態として表現する。
状態は入力に条件付けされたパラメータ化量子回路を通して進化し、古典的でないグローバルな更新機構を可能にする。
このように、QLAMはSSMのリカレントおよびリニア時間構造を保ちながら、量子重ね合わせによるメモリ表現を根本的に強化する。
ペアのインタラクションを明示的に計算するアテンションメカニズムとは異なり、QLAMは量子状態の進化を通じて暗黙的にグローバルな依存関係をキャプチャし、クエリ依存の測定を通じてタスク関連情報を検索する。
我々は、sMNIST、sFashion-MNIST、sCIFAR-10などの標準画像分類ベンチマークの逐次変種についてQLAMを評価する。
すべてのタスクにおいて、QLAMはリカレントベースラインとトランスフォーマーベースのモデルよりも一貫して改善されている。
関連論文リスト
- Hybrid Quantum-Classical Recurrent Neural Networks [0.10152838128195468]
本稿では,ハイブリッド型量子古典的リカレントニューラルネットワークアーキテクチャを提案する。
隠れ状態は、古典的なフィードフォワードネットワークによって制御される$n$-qubit量子回路(PQC)の量子状態である。
我々は、感情分析、MNIST、置換されたMNIST、メモリのコピー、言語モデリングを最大14キュービットでシミュレーションで評価する。
論文 参考訳(メタデータ) (2025-10-29T14:21:49Z) - Towards Quantum Enhanced Adversarial Robustness with Rydberg Reservoir Learning [45.92935470813908]
量子コンピューティング貯水池(QRC)は、量子多体系に固有の高次元非線形力学を利用する。
近年の研究では、変動回路に基づく摂動量子は逆数の影響を受けやすいことが示されている。
QR学習モデルにおける対向的堅牢性の最初の体系的評価について検討する。
論文 参考訳(メタデータ) (2025-10-15T12:17:23Z) - Quantum-Optimized Selective State Space Model for Efficient Time Series Prediction [39.146761527401424]
本稿では、状態空間のダイナミクスと変分量子ゲートを統合するハイブリッド量子最適化手法を提案する。
我々は、広く使われている3つのベンチマーク(ETT、トラフィック、為替レート)で、Q-SSMを実証的に検証する。
その結果,Q-SSMは強いベースラインよりも一貫して改善されていることがわかった。
論文 参考訳(メタデータ) (2025-08-29T22:00:48Z) - On the emergence of quantum memory in non-Markovian dynamics [41.94295877935867]
非マルコフ力学(メモリを含む)は、実際は典型的であり、メモリ効果は量子エラー補正や情報処理といった多くのタスクのリソースとして利用される。
しかし、多くの衝突モデルの力学を実現するために必要なメモリの種類、古典的または量子的タイプは分かっていない。
本研究では、フレドキンゲートを介するアンシラ内相互作用を導入し、量子ホモジェナイザーを非マルコフ系に拡張し、そのメモリの性質を研究する。
論文 参考訳(メタデータ) (2025-07-29T15:19:26Z) - QAMA: Scalable Quantum Annealing Multi-Head Attention Operator for Deep Learning [48.12231190677108]
QAMA(Quantum Annealing Multi-Head Attention)は、エネルギーベースのハミルトン最適化問題として注目を集める新しいドロップイン演算子である。
この枠組みでは、トークン相互作用を二項二項項に符号化し、低エネルギー構成の探索に量子アニールを用いる。
経験的に、自然言語と視覚のベンチマークによる評価は、タスク全体にわたって、標準的なマルチヘッドの注意から少なくとも2.7ポイントの精度が低下していることを示している。
論文 参考訳(メタデータ) (2025-04-15T11:29:09Z) - Quantum Adaptive Self-Attention for Quantum Transformer Models [0.0]
本稿では,量子アテンション機構を備えた古典的トランスフォーマーモデルを強化するハイブリッドアーキテクチャであるQuantum Adaptive Self-Attention (QASA)を提案する。
QASAはドット積の注意をパラメータ化量子回路(PQC)に置き換え、量子ヒルベルト空間におけるトークン間の関係を適応的に捉える。
合成時系列タスクの実験により、QASAは標準変圧器と古典的変圧器の双方と比較して、より高速な収束と優れた一般化を実現することが示された。
論文 参考訳(メタデータ) (2025-04-05T02:52:37Z) - Ab-initio variational wave functions for the time-dependent many-electron Schrödinger equation [41.94295877935867]
平均場近似を超越したフェルミオン時間依存波動関数に対する変動的アプローチを提案する。
ニューラルネットワークのパラメータ化によって拡張された時間依存のJastrow因子とバックフロー変換を使用します。
この結果は、時間進化を正確に捉え、相互作用する電子系の量子力学に関する洞察を与える、我々の変分的アプローチの能力を示している。
論文 参考訳(メタデータ) (2024-03-12T09:37:22Z) - Quantum associative memory with a single driven-dissipative nonlinear
oscillator [0.0]
本稿では,単一駆動型量子発振器を用いた連想メモリの実現を提案する。
このモデルは、大局的に離散ニューロンベースのシステムの記憶能力を向上させることができる。
結合記憶容量は、リウヴィリア超作用素におけるスペクトルギャップの存在と本質的に関連していることを示す。
論文 参考訳(メタデータ) (2022-05-19T12:00:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。