論文の概要: Tensor Networks contraction and the Belief Propagation algorithm
- arxiv url: http://arxiv.org/abs/2008.04433v2
- Date: Mon, 24 Aug 2020 13:15:20 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-06 15:50:56.727438
- Title: Tensor Networks contraction and the Belief Propagation algorithm
- Title(参考訳): テンソルネットワークの収縮とBreief Propagationアルゴリズム
- Authors: Roy Alkabetz, Itai Arad
- Abstract要約: 信念の伝播は、グラフィカルモデル上で動作するよく研究されたメッセージパッシングアルゴリズムである。
PEPSテンソルネットワークの世界にどのように適応できるかを示し、近似収縮スキームとして利用する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Belief Propagation is a well-studied message-passing algorithm that runs over
graphical models and can be used for approximate inference and approximation of
local marginals. The resulting approximations are equivalent to the
Bethe-Peierls approximation of statistical mechanics. Here we show how this
algorithm can be adapted to the world of PEPS tensor networks and used as an
approximate contraction scheme. We further show that the resultant
approximation is equivalent to the ``mean field'' approximation that is used in
the Simple-Update algorithm, thereby showing that the latter is a essentially
the Bethe-Peierls approximation. This shows that one of the simplest
approximate contraction algorithms for tensor networks is equivalent to one of
the simplest schemes for approximating marginals in graphical models in
general, and paves the way for using improvements of BP as tensor networks
algorithms.
- Abstract(参考訳): Belief Propagation(英語版)は、グラフィカルモデル上で実行されるよく研究されたメッセージパッシングアルゴリズムであり、局所限界の近似と近似に使用できる。
結果として得られる近似は、統計力学のベーテ・ピエルス近似と等価である。
本稿では,このアルゴリズムをPEPSテンソルネットワークの世界に適用し,近似収縮スキームとして用いる方法を示す。
さらに、結果の近似は、Simple-Updateアルゴリズムで使用される `mean field'' 近似と等価であることを示し、後者が本質的にBethe-Peierls近似であることを示す。
これは、テンソルネットワークに対する最も単純な近似縮小アルゴリズムの1つが、一般にグラフィカルモデルにおける限界を近似するための最も単純なスキームの1つと等価であることを示し、bpの改良をテンソルネットワークのアルゴリズムとして使用する方法を示している。
関連論文リスト
- Approximate Contraction of Arbitrary Tensor Networks with a Flexible and Efficient Density Matrix Algorithm [8.329034093208826]
低ランク近似を用いてテンソルネットワークの収縮を効率的に近似する手法を提案する。
提案アルゴリズムは,低ランク近似を行う場合,環境の大部分を組み込む柔軟性を有する。
論文 参考訳(メタデータ) (2024-06-14T07:13:52Z) - Generalizing Backpropagation for Gradient-Based Interpretability [103.2998254573497]
モデルの勾配は、半環を用いたより一般的な定式化の特別な場合であることを示す。
この観測により、バックプロパゲーションアルゴリズムを一般化し、他の解釈可能な統計を効率的に計算することができる。
論文 参考訳(メタデータ) (2023-07-06T15:19:53Z) - Fast Computation of Optimal Transport via Entropy-Regularized Extragradient Methods [75.34939761152587]
2つの分布間の最適な輸送距離の効率的な計算は、様々な応用を促進するアルゴリズムとして機能する。
本稿では,$varepsilon$加法精度で最適な輸送を計算できるスケーラブルな一階最適化法を提案する。
論文 参考訳(メタデータ) (2023-01-30T15:46:39Z) - Scalable computation of prediction intervals for neural networks via
matrix sketching [79.44177623781043]
既存の不確実性推定アルゴリズムでは、モデルアーキテクチャとトレーニング手順を変更する必要がある。
本研究では、与えられたトレーニングされたニューラルネットワークに適用し、近似予測間隔を生成できる新しいアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-05-06T13:18:31Z) - A Bayesian Approach To Graph Partitioning [0.0]
ガウス過程(GP)に基づく局所グラフコンダクタンス学習のためのベイズ推論
新しいアルゴリズムは、高度なMCMC収束アイデアを使用して、定常分布への収束のスケーラブルで高速なアルゴリズムを作成する。
論文 参考訳(メタデータ) (2022-04-24T05:20:19Z) - Deep learning via message passing algorithms based on belief propagation [2.931240348160871]
本稿では,局所的なエントロピー分布に偏りを持つ強化場を有するBPベースのメッセージパッシングアルゴリズムのファミリについて述べる。
これらのアルゴリズムは、SGDにインスパイアされたソリューションに匹敵するパフォーマンスで、離散重みとアクティベーションを持つ多層ニューラルネットワークをトレーニングすることができる。
論文 参考訳(メタデータ) (2021-10-27T16:52:26Z) - Effective Streaming Low-tubal-rank Tensor Approximation via Frequent
Directions [9.43704219585568]
本稿では,高速かつ高精度な低ツバルランクテンソル近似を構築するために,行列スケッチ技術である周波数方向( Frequent Directions)を拡張した。
具体的には、新しいアルゴリズムではテンソルデータをスライスごとにスライスすることができるが、より小さなスケッチをメンテナンスし、漸進的に更新するだけでよい。
厳密な理論解析により,スケッチサイズが線形に大きくなると,新しいアルゴリズムの近似誤差が任意に小さくなることを示した。
論文 参考訳(メタデータ) (2021-08-23T12:53:44Z) - AIN: Fast and Accurate Sequence Labeling with Approximate Inference
Network [75.44925576268052]
線形鎖条件ランダム場(CRF)モデルは最も広く使われているニューラルネットワークラベリング手法の1つである。
厳密な確率的推論アルゴリズムは典型的にはCRFモデルの訓練と予測段階に適用される。
CRFモデルに対して並列化可能な近似変分推論アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-09-17T12:18:43Z) - Approximation Algorithms for Sparse Principal Component Analysis [57.5357874512594]
主成分分析(PCA)は、機械学習と統計学において広く使われている次元削減手法である。
スパース主成分分析(Sparse principal Component Analysis)と呼ばれる,スパース主成分負荷を求める様々な手法が提案されている。
本研究では,SPCA問題に対するしきい値の精度,時間,近似アルゴリズムを提案する。
論文 参考訳(メタデータ) (2020-06-23T04:25:36Z) - Mean-Field Approximation to Gaussian-Softmax Integral with Application
to Uncertainty Estimation [23.38076756988258]
ディープニューラルネットワークにおける不確実性を定量化するための,新しい単一モデルに基づくアプローチを提案する。
平均場近似式を用いて解析的に難解な積分を計算する。
実験的に,提案手法は最先端の手法と比較して競合的に機能する。
論文 参考訳(メタデータ) (2020-06-13T07:32:38Z) - A Distributional Analysis of Sampling-Based Reinforcement Learning
Algorithms [67.67377846416106]
定常ステップサイズに対する強化学習アルゴリズムの理論解析に対する分布的アプローチを提案する。
本稿では,TD($lambda$)や$Q$-Learningのような値ベースの手法が,関数の分布空間で制約のある更新ルールを持つことを示す。
論文 参考訳(メタデータ) (2020-03-27T05:13:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。