論文の概要: Probabilistic Graphical Models and Tensor Networks: A Hybrid Framework
- arxiv url: http://arxiv.org/abs/2106.15666v1
- Date: Tue, 29 Jun 2021 18:20:44 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-01 12:33:00.748430
- Title: Probabilistic Graphical Models and Tensor Networks: A Hybrid Framework
- Title(参考訳): 確率的グラフィカルモデルとテンソルネットワーク:ハイブリッドフレームワーク
- Authors: Jacob Miller and Geoffrey Roeder and Tai-Danae Bradley
- Abstract要約: 量子的相関を原理的にPGMモデルに統合するハイブリッドなPGM-TN形式を導入する。
逐次モデリングタスクにおいて,このようなハイブリッドモデルの性能を実験的に検証する。
- 参考スコア(独自算出の注目度): 3.9533044769534444
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We investigate a correspondence between two formalisms for discrete
probabilistic modeling: probabilistic graphical models (PGMs) and tensor
networks (TNs), a powerful modeling framework for simulating complex quantum
systems. The graphical calculus of PGMs and TNs exhibits many similarities,
with discrete undirected graphical models (UGMs) being a special case of TNs.
However, more general probabilistic TN models such as Born machines (BMs)
employ complex-valued hidden states to produce novel forms of correlation among
the probabilities. While representing a new modeling resource for capturing
structure in discrete probability distributions, this behavior also renders the
direct application of standard PGM tools impossible. We aim to bridge this gap
by introducing a hybrid PGM-TN formalism that integrates quantum-like
correlations into PGM models in a principled manner, using the
physically-motivated concept of decoherence. We first prove that applying
decoherence to the entirety of a BM model converts it into a discrete UGM, and
conversely, that any subgraph of a discrete UGM can be represented as a
decohered BM. This method allows a broad family of probabilistic TN models to
be encoded as partially decohered BMs, a fact we leverage to combine the
representational strengths of both model families. We experimentally verify the
performance of such hybrid models in a sequential modeling task, and identify
promising uses of our method within the context of existing applications of
graphical models.
- Abstract(参考訳): 本稿では,確率的グラフィカルモデル (PGM) とテンソルネットワーク (TN) という,複雑な量子系をシミュレーションする強力なモデリングフレームワークの2つの形式間の対応について検討する。
PGMとTNのグラフィカル計算には多くの類似点があり、離散的無方向性グラフィカルモデル(UGM)はTNの特殊な場合である。
しかし、ボルン機械(BM)のようなより一般的な確率的TNモデルでは、確率間の新しい相関形式を生成するために複素数値隠れ状態を用いる。
離散確率分布の構造を捉えるための新しいモデリングリソースを表す一方で、この振る舞いは標準 pgm ツールの直接適用を不可能にする。
このギャップを、物理的に動機づけられたデコヒーレンスの概念を用いて、量子的な相関関係を原理的にPGMモデルに統合するハイブリッドPGM-TN形式を導入することで埋めることを目指している。
まず、BMモデルの全体に対してデコヒーレンスを適用すると、それを離散的 UGM に変換し、逆に離散的 UGM の任意の部分グラフをデコヒーレンスBM として表現できることを示す。
この方法では、確率的tnモデルの幅広いファミリーを部分的に分離されたbmsとして符号化することができる。
我々は,これらのハイブリッドモデルの性能を逐次モデリングタスクで実験的に検証し,既存のグラフィカルモデルのアプリケーションにおける有望な利用法を明らかにする。
関連論文リスト
- Likelihood Based Inference in Fully and Partially Observed Exponential Family Graphical Models with Intractable Normalizing Constants [4.532043501030714]
マルコフ確率場を符号化する確率的グラフィカルモデルは、生成的モデリングの基本的な構成要素である。
本稿では,これらのモデルの全確率に基づく解析が,計算効率のよい方法で実現可能であることを示す。
論文 参考訳(メタデータ) (2024-04-27T02:58:22Z) - Wasserstein proximal operators describe score-based generative models
and resolve memorization [12.321631823103894]
We first formulate SGMs with terms of Wasserstein proximal operator (WPO)
We show that WPO describe the inductive bias of diffusion and score-based model。
本稿では,SGMの性能を劇的に向上させる,スコア関数の解釈可能なカーネルベースモデルを提案する。
論文 参考訳(メタデータ) (2024-02-09T03:33:13Z) - Low-Rank Constraints for Fast Inference in Structured Models [110.38427965904266]
この研究は、大規模構造化モデルの計算とメモリの複雑さを低減するための単純なアプローチを示す。
言語モデリング,ポリフォニック・ミュージック・モデリング,教師なし文法帰納法,ビデオ・モデリングのためのニューラルパラメータ構造モデルを用いた実験により,我々の手法は大規模状態空間における標準モデルの精度と一致することを示した。
論文 参考訳(メタデータ) (2022-01-08T00:47:50Z) - PSD Representations for Effective Probability Models [117.35298398434628]
最近提案された非負関数に対する正半定値(PSD)モデルがこの目的に特に適していることを示す。
我々はPSDモデルの近似と一般化能力の両方を特徴付け、それらが強い理論的保証を享受していることを示す。
本研究では,PSDモデルの密度推定,決定理論,推論への応用への道を開く。
論文 参考訳(メタデータ) (2021-06-30T15:13:39Z) - Relational VAE: A Continuous Latent Variable Model for Graph Structured
Data [0.0]
シミュレーションおよび実風力発電モニタリングデータに対する構造的確率密度モデルの適用例を示す。
ソースコードとシミュレートされたデータセットを合わせてリリースします。
論文 参考訳(メタデータ) (2021-06-30T13:24:27Z) - Continual Learning with Fully Probabilistic Models [70.3497683558609]
機械学習の完全確率的(または生成的)モデルに基づく継続的学習のアプローチを提案する。
生成器と分類器の両方に対してガウス混合モデル(GMM)インスタンスを用いた擬似リハーサル手法を提案する。
我々は,GMRが,クラス増分学習問題に対して,非常に競合的な時間とメモリの複雑さで,最先端のパフォーマンスを達成することを示す。
論文 参考訳(メタデータ) (2021-04-19T12:26:26Z) - Probabilistic Generating Circuits [50.98473654244851]
効率的な表現のための確率的生成回路(PGC)を提案する。
PGCは、非常に異なる既存モデルを統一する理論的なフレームワークであるだけでなく、現実的なデータをモデル化する大きな可能性も示している。
我々はPCとDPPの単純な組み合わせによって簡単に仮定されない単純なPGCのクラスを示し、一連の密度推定ベンチマークで競合性能を得る。
論文 参考訳(メタデータ) (2021-02-19T07:06:53Z) - Improving the Reconstruction of Disentangled Representation Learners via Multi-Stage Modeling [54.94763543386523]
現在の自己エンコーダに基づく非絡み合い表現学習法は、(集合体)後部をペナルティ化し、潜伏因子の統計的独立を促進することで、非絡み合いを実現する。
本稿では,不整合因子をペナルティに基づく不整合表現学習法を用いて学習する,新しい多段階モデリング手法を提案する。
次に、低品質な再構成を、欠落した関連潜伏変数をモデル化するために訓練された別の深層生成モデルで改善する。
論文 参考訳(メタデータ) (2020-10-25T18:51:15Z) - Probabilistic Circuits for Variational Inference in Discrete Graphical
Models [101.28528515775842]
変分法による離散的グラフィカルモデルの推論は困難である。
エビデンス・ロウアーバウンド(ELBO)を推定するためのサンプリングに基づく多くの手法が提案されている。
Sum Product Networks (SPN) のような確率的回路モデルのトラクタビリティを活用する新しい手法を提案する。
選択的SPNが表現的変動分布として適していることを示し、対象モデルの対数密度が重み付けされた場合、対応するELBOを解析的に計算可能であることを示す。
論文 参考訳(メタデータ) (2020-10-22T05:04:38Z) - Quantum Tensor Networks, Stochastic Processes, and Weighted Automata [31.641069053835192]
同様のモデルは、プロセスと重み付きオートマトン文学で研究されている。
一般的な量子テンソルネットワークモデルの定常的あるいは均一なバージョンは、プロセスと重み付きオートマトン文学において同等の表現を持つことを示す。
論文 参考訳(メタデータ) (2020-10-20T22:28:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。