論文の概要: Learning with SASQuaTCh: a Novel Variational Quantum Transformer Architecture with Kernel-Based Self-Attention
- arxiv url: http://arxiv.org/abs/2403.14753v1
- Date: Thu, 21 Mar 2024 18:00:04 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-25 19:26:17.417616
- Title: Learning with SASQuaTCh: a Novel Variational Quantum Transformer Architecture with Kernel-Based Self-Attention
- Title(参考訳): SASQuaTChによる学習:カーネルに基づく自己注意型変分量子トランスアーキテクチャ
- Authors: Ethan N. Evans, Matthew Cook, Zachary P. Bradshaw, Margarite L. LaBorde,
- Abstract要約: 量子回路は、カーネルベースの演算子学習の観点から、自己認識機構を効率的に表現できることを示す。
本研究では、単純なゲート演算と多次元量子フーリエ変換を用いて、視覚トランスネットワークの深い層を表現することができる。
我々は,SASTQuaCh(Self-Attention Sequential Quantum Transformer Channel)と呼ばれる新しい変分量子回路を解析し,単純化された分類問題に対するその有用性を実証する。
- 参考スコア(独自算出の注目度): 0.464982780843177
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The widely popular transformer network popularized by the generative pre-trained transformer (GPT) has a large field of applicability, including predicting text and images, classification, and even predicting solutions to the dynamics of physical systems. In the latter context, the continuous analog of the self-attention mechanism at the heart of transformer networks has been applied to learning the solutions of partial differential equations and reveals a convolution kernel nature that can be exploited by the Fourier transform. It is well known that many quantum algorithms that have provably demonstrated a speedup over classical algorithms utilize the quantum Fourier transform. In this work, we explore quantum circuits that can efficiently express a self-attention mechanism through the perspective of kernel-based operator learning. In this perspective, we are able to represent deep layers of a vision transformer network using simple gate operations and a set of multi-dimensional quantum Fourier transforms. We analyze the computational and parameter complexity of our novel variational quantum circuit, which we call Self-Attention Sequential Quantum Transformer Channel (SASQuaTCh), and demonstrate its utility on simplified classification problems.
- Abstract(参考訳): GPT(Generative Pre-trained Transformer)によって普及した広く普及しているトランスフォーマーネットワークは、テキストや画像の予測、分類、物理システムのダイナミクスに対するソリューションの予測など、適用範囲が広い。
後者の文脈では、変圧器ネットワークの中心における自己注意機構の連続的なアナログが偏微分方程式の解の学習に応用され、フーリエ変換によって活用できる畳み込み核の性質が明らかにされている。
古典的アルゴリズムの高速化を実証した多くの量子アルゴリズムが量子フーリエ変換を利用していることはよく知られている。
本研究では,カーネルベースの演算子学習の観点から,自己認識機構を効率的に表現できる量子回路について検討する。
この観点から、単純なゲート演算と多次元量子フーリエ変換を用いて、視覚トランスネットワークの深い層を表現することができる。
本稿では,SASQuaTCh(Self-Attention Sequential Quantum Transformer Channel)と呼ばれる新しい変分量子回路の計算とパラメータの複雑さを解析し,単純化された分類問題に対するその有用性を実証する。
関連論文リスト
- Towards Quantum Computational Mechanics [1.7201069233638664]
本稿では、量子コンピューティングを用いて、計算ホモジェナイゼーションにおける代表体積要素(RVE)問題を解く方法について述べる。
我々の量子RVE解法は古典解法に対して指数加速度を得る。
論文 参考訳(メタデータ) (2023-12-06T12:53:02Z) - Efficient Quantum Algorithm for All Quantum Wavelet Transforms [0.08968838300743379]
我々は,量子コンピュータ上で任意のウェーブレット変換を実行するための,単純かつ効率的な量子アルゴリズムを開発した。
提案した量子ウェーブレット変換は、確立された量子フーリエ変換と同様の方法で量子計算アルゴリズムで利用することができる。
論文 参考訳(メタデータ) (2023-09-17T19:02:08Z) - TeD-Q: a tensor network enhanced distributed hybrid quantum machine
learning framework [59.07246314484875]
TeD-Qは、量子機械学習のためのオープンソースのソフトウェアフレームワークである。
古典的な機械学習ライブラリと量子シミュレータをシームレスに統合する。
量子回路とトレーニングの進捗をリアルタイムで視覚化できるグラフィカルモードを提供する。
論文 参考訳(メタデータ) (2023-01-13T09:35:05Z) - The Quantum Path Kernel: a Generalized Quantum Neural Tangent Kernel for
Deep Quantum Machine Learning [52.77024349608834]
古典的なディープニューラルネットワークの量子アナログを構築することは、量子コンピューティングにおける根本的な課題である。
鍵となる問題は、古典的なディープラーニングの本質的な非線形性にどのように対処するかである。
我々は、深層機械学習のこれらの側面を複製できる量子機械学習の定式化であるQuantum Path Kernelを紹介する。
論文 参考訳(メタデータ) (2022-12-22T16:06:24Z) - Fock-space Schrieffer--Wolff transformation: classically-assisted
rank-reduced quantum phase estimation algorithm [0.0]
本稿では,分子系における電子ハミルトニアンのシュリーファー-ヴォルフ変換に着目した。
我々は、SW変換のフォック空間不変量を利用することで、量子ビットマップされた類似性の変換ハミルトン多様体の局所性を大幅に増大させることができることを示した。
RRST形式主義は、量子回路の複雑さを減少させる近似スキームの新しいクラスを開発するための設計原理として機能する。
論文 参考訳(メタデータ) (2022-11-18T23:06:57Z) - Quantum Phase Processing and its Applications in Estimating Phase and
Entropies [10.8525801756287]
量子位相処理」は、任意の三角変換をユニタリ作用素の固有位相に直接適用することができる。
量子位相処理は、単にアンシラ量子ビットを測定することで、量子システムの固有情報を取り出すことができる。
本稿では,量子フーリエ変換を必要としない量子位相推定アルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-09-28T17:41:19Z) - Low-rank tensor decompositions of quantum circuits [14.531461873576449]
我々はMPOを用いて量子状態、量子ゲート、量子回路全体を低ランクテンソルとして表現する方法を示す。
これにより、古典コンピュータ上の複雑な量子回路の解析とシミュレーションが可能になる。
論文 参考訳(メタデータ) (2022-05-19T22:09:15Z) - Quantum algorithms for quantum dynamics: A performance study on the
spin-boson model [68.8204255655161]
量子力学シミュレーションのための量子アルゴリズムは、伝統的に時間進化作用素のトロッター近似の実装に基づいている。
変分量子アルゴリズムは欠かせない代替手段となり、現在のハードウェア上での小規模なシミュレーションを可能にしている。
量子ゲートコストが明らかに削減されているにもかかわらず、現在の実装における変分法は量子的優位性をもたらすことはありそうにない。
論文 参考訳(メタデータ) (2021-08-09T18:00:05Z) - The Hintons in your Neural Network: a Quantum Field Theory View of Deep
Learning [84.33745072274942]
線形および非線形の層をユニタリ量子ゲートとして表現する方法を示し、量子モデルの基本的な励起を粒子として解釈する。
ニューラルネットワークの研究のための新しい視点と技術を開くことに加えて、量子定式化は光量子コンピューティングに適している。
論文 参考訳(メタデータ) (2021-03-08T17:24:29Z) - Information Scrambling in Computationally Complex Quantum Circuits [56.22772134614514]
53量子ビット量子プロセッサにおける量子スクランブルのダイナミクスを実験的に検討する。
演算子の拡散は効率的な古典的モデルによって捉えられるが、演算子の絡み合いは指数関数的にスケールされた計算資源を必要とする。
論文 参考訳(メタデータ) (2021-01-21T22:18:49Z) - Experimental Quantum Generative Adversarial Networks for Image
Generation [93.06926114985761]
超伝導量子プロセッサを用いた実世界の手書き桁画像の学習と生成を実験的に行う。
我々の研究は、短期量子デバイス上での高度な量子生成モデル開発のためのガイダンスを提供する。
論文 参考訳(メタデータ) (2020-10-13T06:57:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。