論文の概要: Quantum Generative Modeling of Sequential Data with Trainable Token
Embedding
- arxiv url: http://arxiv.org/abs/2311.05050v1
- Date: Wed, 8 Nov 2023 22:56:37 GMT
- ステータス: 処理完了
- システム内更新日: 2023-11-10 16:30:03.252845
- Title: Quantum Generative Modeling of Sequential Data with Trainable Token
Embedding
- Title(参考訳): トレーサブルトークン埋め込みを用いた逐次データの量子生成モデリング
- Authors: Wanda Hou, Li Miao, Yi-Zhuang You
- Abstract要約: ボルンマシンとして知られる量子インスパイアされた生成モデルは、古典的および量子的データの学習において大きな進歩を見せている。
本稿では,MPSを同時に使用可能なトレーニング可能な量子計測演算子への埋め込み法を一般化する。
私たちの研究は、トレーニング可能な埋め込みと組み合わせることで、Bornマシンはより良いパフォーマンスを示し、データセットからより深い相関関係を学習できることを示した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative models are a class of machine learning models that aim to learn
the underlying probability distribution of data. Unlike discriminative models,
generative models focus on capturing the data's inherent structure, allowing
them to generate new samples that resemble the original data. To fully exploit
the potential of modeling probability distributions using quantum physics, a
quantum-inspired generative model known as the Born machines have shown great
advancements in learning classical and quantum data over matrix product
state(MPS) framework. The Born machines support tractable log-likelihood,
autoregressive and mask sampling, and have shown outstanding performance in
various unsupervised learning tasks. However, much of the current research has
been centered on improving the expressive power of MPS, predominantly embedding
each token directly by a corresponding tensor index. In this study, we
generalize the embedding method into trainable quantum measurement operators
that can be simultaneously honed with MPS. Our study indicated that combined
with trainable embedding, Born machines can exhibit better performance and
learn deeper correlations from the dataset.
- Abstract(参考訳): 生成モデルは、データの基礎となる確率分布を学習することを目的とした機械学習モデルのクラスである。
識別モデルとは異なり、生成モデルはデータ固有の構造をキャプチャーすることに集中し、元のデータに似た新しいサンプルを生成する。
量子物理学を用いて確率分布をモデル化する可能性を完全に活用するために、ボルンマシンとして知られる量子インスパイアされた生成モデルは、古典的および量子的データを行列積状態(MPS)フレームワーク上で学習する大きな進歩を示した。
抽出可能なログライク性,自己回帰性,マスクサンプリングをサポートし,教師なし学習タスクにおいて優れた性能を示す。
しかし、現在の研究の多くはMPSの表現力の向上に重点を置いており、それぞれのトークンを直接対応するテンソルインデックスで埋め込んでいる。
本研究では,MPSを同時に使用可能なトレーニング可能な量子計測演算子への埋め込み法を一般化する。
学習可能な組込みと組み合わせることで、生まれた機械はより良いパフォーマンスを示し、データセットからより深い相関関係を学べることを示しました。
関連論文リスト
- Heat Death of Generative Models in Closed-Loop Learning [63.83608300361159]
本研究では、独自の学習データセットに加えて、生成したコンテンツをフィードバックする生成モデルの学習ダイナミクスについて検討する。
各イテレーションで十分な量の外部データが導入されない限り、非自明な温度がモデルを退化させることを示す。
論文 参考訳(メタデータ) (2024-04-02T21:51:39Z) - Diffusion-Based Neural Network Weights Generation [80.89706112736353]
D2NWGは拡散に基づくニューラルネットワーク重み生成技術であり、転送学習のために高性能な重みを効率よく生成する。
本稿では,ニューラルネットワーク重み生成のための遅延拡散パラダイムを再放送するために,生成的ハイパー表現学習を拡張した。
我々のアプローチは大規模言語モデル(LLM)のような大規模アーキテクチャにスケーラブルであり、現在のパラメータ生成技術の限界を克服しています。
論文 参考訳(メタデータ) (2024-02-28T08:34:23Z) - Masked Particle Modeling on Sets: Towards Self-Supervised High Energy Physics Foundation Models [4.299997052226609]
Masked Particle Modeling (MPM) は、無秩序な入力集合上の汎用的、転送可能、再利用可能な表現を学習するための自己教師付き手法である。
本研究では,コライダー物理実験における高エネルギージェットの試料中の方法の有効性について検討した。
論文 参考訳(メタデータ) (2024-01-24T15:46:32Z) - Generative Learning of Continuous Data by Tensor Networks [45.49160369119449]
本稿では,連続データのためのテンソルネットワーク生成モデルについて紹介する。
我々は、このモデルの性能を、いくつかの合成および実世界のデータセットでベンチマークする。
本手法は, 急速に成長する生成学習分野において, 量子インスピレーション法の有効性を示す重要な理論的, 実証的な証拠を与える。
論文 参考訳(メタデータ) (2023-10-31T14:37:37Z) - Investigating the generative dynamics of energy-based neural networks [0.35911228556176483]
制限ボルツマンマシン(RBM)の生成ダイナミクスについて検討する。
キメラ状態からトップダウンサンプリングを開始することにより,多種多様なデータプロトタイプを作成する能力を向上させることができることを示す。
また,本モデルでは,一世代軌道内で可能な全ての桁状態間の遷移が可能であることも確認した。
論文 参考訳(メタデータ) (2023-05-11T12:05:40Z) - A didactic approach to quantum machine learning with a single qubit [68.8204255655161]
我々は、データ再ロード技術を用いて、単一のキュービットで学習するケースに焦点を当てる。
我々は、Qiskit量子コンピューティングSDKを用いて、おもちゃと現実世界のデータセットに異なる定式化を実装した。
論文 参考訳(メタデータ) (2022-11-23T18:25:32Z) - Do Quantum Circuit Born Machines Generalize? [58.720142291102135]
本稿では,量子生成モデルの積分評価指標としてQCBMの一般化性能を示す文献で最初に紹介する。
そこで本研究では,QCBMがデータセットの再重み付けを効果的に学習し,未確認のサンプルをトレーニングセットよりも高い品質で生成可能であることを示す。
論文 参考訳(メタデータ) (2022-07-27T17:06:34Z) - Generative Quantum Machine Learning [0.0]
この論文の目的は、新しい生成量子機械学習アルゴリズムを開発することである。
本稿では,パラメータ化量子回路で実現可能な量子生成逆数ネットワークと量子ボルツマンマシンの実装を紹介する。
論文 参考訳(メタデータ) (2021-11-24T19:00:21Z) - Tensor networks for unsupervised machine learning [9.897828174118974]
本稿では,量子多体物理学の行列状態と機械学習の自己回帰モデルを組み合わせたテンソルネットワークモデルであるAutoregressive Matrix Product States(AMPS)を提案する。
提案手法は,既存のテンソルネットワークモデルや制限されたボルツマンマシンよりも優れていることを示す。
論文 参考訳(メタデータ) (2021-06-24T12:51:00Z) - Continual Learning with Fully Probabilistic Models [70.3497683558609]
機械学習の完全確率的(または生成的)モデルに基づく継続的学習のアプローチを提案する。
生成器と分類器の両方に対してガウス混合モデル(GMM)インスタンスを用いた擬似リハーサル手法を提案する。
我々は,GMRが,クラス増分学習問題に対して,非常に競合的な時間とメモリの複雑さで,最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2021-04-19T12:26:26Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。