論文の概要: Boltzmann machines as two-dimensional tensor networks
- arxiv url: http://arxiv.org/abs/2105.04130v1
- Date: Mon, 10 May 2021 06:14:49 GMT
- ステータス: 処理完了
- システム内更新日: 2021-05-11 15:05:55.750254
- Title: Boltzmann machines as two-dimensional tensor networks
- Title(参考訳): 二次元テンソルネットワークとしてのボルツマンマシン
- Authors: Sujie Li, Feng Pan, Pengfei Zhou, Pan Zhang
- Abstract要約: RBMとDBMは正確に2次元テンソルネットワークとして表現できることを示す。
この表現は、RBMとDBMの表現力の理解を与える。
また、RBMとDBMの計算分割関数に対する効率的なテンソルネットワーク収縮アルゴリズムも提供する。
- 参考スコア(独自算出の注目度): 7.041258064903578
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Restricted Boltzmann machines (RBM) and deep Boltzmann machines (DBM) are
important models in machine learning, and recently found numerous applications
in quantum many-body physics. We show that there are fundamental connections
between them and tensor networks. In particular, we demonstrate that any RBM
and DBM can be exactly represented as a two-dimensional tensor network. This
representation gives an understanding of the expressive power of RBM and DBM
using entanglement structures of the tensor networks, also provides an
efficient tensor network contraction algorithm for the computing partition
function of RBM and DBM. Using numerical experiments, we demonstrate that the
proposed algorithm is much more accurate than the state-of-the-art machine
learning methods in estimating the partition function of restricted Boltzmann
machines and deep Boltzmann machines, and have potential applications in
training deep Boltzmann machines for general machine learning tasks.
- Abstract(参考訳): 制限ボルツマンマシン(rbm)とディープボルツマンマシン(dbm)は機械学習の重要なモデルであり、最近量子多体物理学において多くの応用が発見された。
これらとテンソルネットワークの間には基本的な接続があることを示す。
特に、任意の RBM と DBM が2次元テンソルネットワークとして正確に表現可能であることを示す。
この表現は、テンソルネットワークの絡み合い構造を用いて、RBMとDBMの表現力を理解し、RBMとDBMの計算分割関数に対する効率的なテンソルネットワーク収縮アルゴリズムを提供する。
数値実験により,提案アルゴリズムは制限されたボルツマンマシンとディープボルツマンマシンの分割関数を推定する最先端の機械学習手法よりもはるかに正確であり,一般的な機械学習タスクにおけるディープボルツマンマシンのトレーニングに潜在的に応用できることを示した。
関連論文リスト
- DimOL: Dimensional Awareness as A New 'Dimension' in Operator Learning [63.5925701087252]
本稿では,DimOL(Dimension-aware Operator Learning)を紹介し,次元解析から洞察を得る。
DimOLを実装するために,FNOおよびTransformerベースのPDEソルバにシームレスに統合可能なProdLayerを提案する。
経験的に、DimOLモデルはPDEデータセット内で最大48%のパフォーマンス向上を達成する。
論文 参考訳(メタデータ) (2024-10-08T10:48:50Z) - A Matrix Product State Model for Simultaneous Classification and Generation [0.8192907805418583]
量子機械学習(Quantum Machine Learning, QML)は、量子コンピューティングの原理と機械学習の技法を融合させる、急速に拡大する分野である。
本稿では,MPSが分類器と生成器の両方として機能する新しい行列積状態(MPS)モデルを提案する。
我々のコントリビューションは、生成タスクのためのテンソルネットワークメソッドのメカニズムに関する洞察を提供する。
論文 参考訳(メタデータ) (2024-06-25T10:23:36Z) - Enhancing lattice kinetic schemes for fluid dynamics with Lattice-Equivariant Neural Networks [79.16635054977068]
我々はLattice-Equivariant Neural Networks (LENNs)と呼ばれる新しい同変ニューラルネットワークのクラスを提案する。
我々の手法は、ニューラルネットワークに基づく代理モデルLattice Boltzmann衝突作用素の学習を目的とした、最近導入されたフレームワーク内で開発されている。
本研究は,実世界のシミュレーションにおける機械学習強化Lattice Boltzmann CFDの実用化に向けて展開する。
論文 参考訳(メタデータ) (2024-05-22T17:23:15Z) - Mechanistic Neural Networks for Scientific Machine Learning [58.99592521721158]
我々は、科学における機械学習応用のためのニューラルネットワーク設計であるメカニスティックニューラルネットワークを提案する。
新しいメカニスティックブロックを標準アーキテクチャに組み込んで、微分方程式を表現として明示的に学習する。
我々のアプローチの中心は、線形プログラムを解くために線形ODEを解く技術に着想を得た、新しい線形計画解法(NeuRLP)である。
論文 参考訳(メタデータ) (2024-02-20T15:23:24Z) - Learning Restricted Boltzmann Machines with greedy quantum search [2.98017021422101]
我々は、量子コンピューティング領域の範囲を拡大し、この問題に対する対応する量子アルゴリズムを提案する。
本研究は,提案した量子アルゴリズムが,これらの2種類のRBMの構造を学習するための古典的アルゴリズムと比較して高速化されることを示す。
論文 参考訳(メタデータ) (2023-09-25T14:56:30Z) - Monotone deep Boltzmann machines [86.50247625239406]
ディープボルツマンマシン(Deep Boltzmann Machine、DBM)は、双対エネルギー関数によって制御される多層確率モデルである。
我々は,各層で任意の自己接続が可能な新しい制限モデルであるモノトンDBMを開発した。
アクティベーションの特定の選択が、変動平均場解を与える固定点反復をもたらすことを示す。
論文 参考訳(メタデータ) (2023-07-11T03:02:44Z) - Quasi-orthogonality and intrinsic dimensions as measures of learning and
generalisation [55.80128181112308]
ニューラルネットワークの特徴空間の次元性と準直交性は、ネットワークの性能差別と共同して機能する可能性があることを示す。
本研究は, ネットワークの最終的な性能と, ランダムに初期化された特徴空間の特性との関係を示唆する。
論文 参考訳(メタデータ) (2022-03-30T21:47:32Z) - Tensor networks for unsupervised machine learning [9.897828174118974]
本稿では,量子多体物理学の行列状態と機械学習の自己回帰モデルを組み合わせたテンソルネットワークモデルであるAutoregressive Matrix Product States(AMPS)を提案する。
提案手法は,既存のテンソルネットワークモデルや制限されたボルツマンマシンよりも優れていることを示す。
論文 参考訳(メタデータ) (2021-06-24T12:51:00Z) - Mode-Assisted Joint Training of Deep Boltzmann Machines [10.292439652458157]
モード支援トレーニングのパフォーマンス向上は,DBMにとってさらに劇的であることを示す。
モードアシストアルゴリズムと共同で訓練されたDBMは、パラメータの桁数が桁違い低い同じデータセットを表現できる。
論文 参考訳(メタデータ) (2021-02-17T04:03:30Z) - Exact representations of many body interactions with RBM neural networks [77.34726150561087]
我々は、RBMの表現力を利用して、多体接触相互作用を1体演算子に正確に分解する。
この構成は、ハバードモデルでよく知られたヒルシュの変換を、核物理学におけるピオンレスFTのようなより複雑な理論に一般化する。
論文 参考訳(メタデータ) (2020-05-07T15:59:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。