論文の概要: Tensor networks for unsupervised machine learning

• arxiv url: http://arxiv.org/abs/2106.12974v1
• Date: Thu, 24 Jun 2021 12:51:00 GMT
• ステータス: 処理完了
• システム内更新日: 2021-06-25 15:12:54.486502
• Title: Tensor networks for unsupervised machine learning
• Title（参考訳）: 教師なし機械学習のためのテンソルネットワーク
• Authors: Jing Liu, Sujie Li, Jiang Zhang, Pan Zhang
• Abstract要約: 本稿では,量子多体物理学の行列状態と機械学習の自己回帰モデルを組み合わせたテンソルネットワークモデルであるAutoregressive Matrix Product States(AMPS)を提案する。 提案手法は,既存のテンソルネットワークモデルや制限されたボルツマンマシンよりも優れていることを示す。
• 参考スコア（独自算出の注目度）: 9.897828174118974
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Modeling the joint distribution of high-dimensional data is a central task in unsupervised machine learning. In recent years, many interests have been attracted to developing learning models based on tensor networks, which have advantages of theoretical understandings of the expressive power using entanglement properties, and as a bridge connecting the classical computation and the quantum computation. Despite the great potential, however, existing tensor-network-based unsupervised models only work as a proof of principle, as their performances are much worse than the standard models such as the restricted Boltzmann machines and neural networks. In this work, we present the Autoregressive Matrix Product States (AMPS), a tensor-network-based model combining the matrix product states from quantum many-body physics and the autoregressive models from machine learning. The model enjoys exact calculation of normalized probability and unbiased sampling, as well as a clear theoretical understanding of expressive power. We demonstrate the performance of our model using two applications, the generative modeling on synthetic and real-world data, and the reinforcement learning in statistical physics. Using extensive numerical experiments, we show that the proposed model significantly outperforms the existing tensor-network-based models and the restricted Boltzmann machines, and is competitive with the state-of-the-art neural network models.
• Abstract（参考訳）: 高次元データの合同分布のモデル化は教師なし機械学習の中心的な課題である。 近年, テンソルネットワークに基づく学習モデル開発への関心が高まっており, エンタングルメント特性を用いた表現力の理論的理解の利点や, 古典計算と量子計算を接続するブリッジとして注目されている。 しかし、既存のテンソルネットワークに基づく教師なしモデルは、その性能は制限されたボルツマンマシンやニューラルネットワークのような標準モデルよりもはるかに悪いため、原理の証明としてのみ機能する。 本稿では,量子多体物理学の行列状態と機械学習の自己回帰モデルを組み合わせたテンソルネットワークモデルであるAutoregressive Matrix Product States(AMPS)を提案する。 このモデルは正規化確率とアンバイアスサンプリングの正確な計算と表現力の明確な理論的理解を楽しむ。 本稿では,合成および実世界のデータ生成モデルと統計物理学における強化学習の2つの応用を用いて,モデルの性能を実証する。 大規模数値実験により,提案モデルが既存のテンソルネットワークモデルや制限ボルツマンマシンを大きく上回り,最先端のニューラルネットワークモデルと競合することを示した。

関連論文リスト

• Generative Learning of Continuous Data by Tensor Networks [45.49160369119449]
  本稿では,連続データのためのテンソルネットワーク生成モデルについて紹介する。 我々は、このモデルの性能を、いくつかの合成および実世界のデータセットでベンチマークする。 本手法は, 急速に成長する生成学習分野において, 量子インスピレーション法の有効性を示す重要な理論的, 実証的な証拠を与える。
  論文  参考訳（メタデータ） (2023-10-31T14:37:37Z)
• The cross-sectional stock return predictions via quantum neural network and tensor network [0.0]
  本稿では,量子および量子に着想を得た機械学習アルゴリズムのストックリターン予測への応用について検討する。 本研究では、雑音の多い中間規模量子コンピュータに適したアルゴリズムである量子ニューラルネットワークと、量子に着想を得た機械学習アルゴリズムであるテンソルネットワークの性能を評価する。
  論文  参考訳（メタデータ） (2023-04-25T00:05:13Z)
• Vertical Layering of Quantized Neural Networks for Heterogeneous Inference [57.42762335081385]
  量子化モデル全体を1つのモデルにカプセル化するための,ニューラルネットワーク重みの新しい垂直層表現について検討する。 理論的には、1つのモデルのトレーニングとメンテナンスのみを必要としながら、オンデマンドサービスの正確なネットワークを達成できます。
  論文  参考訳（メタデータ） (2022-12-10T15:57:38Z)
• Real-time Neural-MPC: Deep Learning Model Predictive Control for Quadrotors and Agile Robotic Platforms [59.03426963238452]
  モデル予測制御パイプライン内の動的モデルとして,大規模で複雑なニューラルネットワークアーキテクチャを効率的に統合するフレームワークであるReal-time Neural MPCを提案する。 ニューラルネットワークを使わずに、最先端のMPCアプローチと比較して、位置追跡誤差を最大82%削減することで、実世界の問題に対する我々のフレームワークの実現可能性を示す。
  論文  参考訳（メタデータ） (2022-03-15T09:38:15Z)
• EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
  本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。 メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
  論文  参考訳（メタデータ） (2022-02-21T18:59:03Z)
• Closed-form Continuous-Depth Models [99.40335716948101]
  連続深度ニューラルモデルは高度な数値微分方程式解法に依存している。 我々は,CfCネットワークと呼ばれる,記述が簡単で,少なくとも1桁高速な新しいモデル群を提示する。
  論文  参考訳（メタデータ） (2021-06-25T22:08:51Z)
• On Energy-Based Models with Overparametrized Shallow Neural Networks [44.74000986284978]
  エネルギーベースモデル(EBM)は、ジェネレーションモデリングの強力なフレームワークです。 この研究では、浅いニューラルネットワークに焦点を当てます。 我々は、いわゆる「アクティブ」体制で訓練されたモデルが、関連する「怠慢」またはカーネル体制に対して統計的に有利であることを示す。
  論文  参考訳（メタデータ） (2021-04-15T15:34:58Z)
• From Boltzmann Machines to Neural Networks and Back Again [31.613544605376624]
  制限ボルツマンマシン(Restricted Boltzmann Machines)は、おそらく最もよく研究されている潜在変数モデルのクラスである。 我々の結果は、$ell_infty$bounded inputの下で二層ニューラルネットワークを学習するための新しい接続に基づいている。 次に,分散仮定を使わずに,関連するネットワークのクラスに対して可能なものよりも,より優れたランタイムで教師付きRAMの自然なクラスを学習するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2020-07-25T00:42:50Z)
• Learning Queuing Networks by Recurrent Neural Networks [0.0]
  データから性能モデルを導出する機械学習手法を提案する。 我々は、通常の微分方程式のコンパクトな系の観点から、それらの平均力学の決定論的近似を利用する。 これにより、ニューラルネットワークの解釈可能な構造が可能になり、システム測定からトレーニングしてホワイトボックスパラメータ化モデルを生成することができる。
  論文  参考訳（メタデータ） (2020-02-25T10:56:47Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。