論文の概要: Region-based Energy Neural Network for Approximate Inference
- arxiv url: http://arxiv.org/abs/2006.09927v1
- Date: Wed, 17 Jun 2020 15:14:08 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-19 19:42:39.748029
- Title: Region-based Energy Neural Network for Approximate Inference
- Title(参考訳): 近似推論のための領域ベースエネルギーニューラルネットワーク
- Authors: Dong Liu, Ragnar Thobaben, Lars K. Rasmussen
- Abstract要約: 一般マルコフ確率場(MRF)における推論のためのニューラルネットワークに基づくエネルギーモデルを提案する。
メッセージパッシングアルゴリズムとは異なり、我々のモデルであるRerea-based Energy Neural Network (RENN)は反復的なメッセージ伝搬を回避し、より高速である。
MRFの限界分布推定,分割関数推定,学習に関する実験により,RENNは平均場法,ループBP,GBP,最先端ニューラルネットワークモデルよりも優れていた。
- 参考スコア(独自算出の注目度): 11.732727829723876
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Region-based free energy was originally proposed for generalized belief
propagation (GBP) to improve loopy belief propagation (loopy BP). In this
paper, we propose a neural network based energy model for inference in general
Markov random fields (MRFs), which directly minimizes the region-based free
energy defined on region graphs. We term our model Region-based Energy Neural
Network (RENN). Unlike message-passing algorithms, RENN avoids iterative
message propagation and is faster. Also different from recent deep neural
network based models, inference by RENN does not require sampling, and RENN
works on general MRFs. RENN can also be employed for MRF learning. Our
experiments on marginal distribution estimation, partition function estimation,
and learning of MRFs show that RENN outperforms the mean field method, loopy
BP, GBP, and the state-of-the-art neural network based model.
- Abstract(参考訳): 地域ベースの自由エネルギーは、ループ型信念伝播(ループ型BP)を改善するための一般化信念伝播(GBP)のために提案された。
本稿では,領域グラフ上で定義される領域ベースの自由エネルギーを直接最小化する一般マルコフ確率場(mrfs)における推論のためのニューラルネットワークに基づくエネルギーモデルを提案する。
モデル領域に基づくエネルギーニューラルネットワーク(renn)と呼ぶ。
メッセージパッシングアルゴリズムとは異なり、RENNは反復的なメッセージ伝搬を避け、より高速である。
また、最近のディープニューラルネットワークベースモデルとは異なり、RENNによる推論ではサンプリングは不要で、RENNは一般的なMRFで動作する。
RENNはMDF学習にも利用できる。
MRFの限界分布推定,分割関数推定,学習に関する実験により,RENNは平均場法,ループBP,GBP,最先端ニューラルネットワークモデルよりも優れていた。
関連論文リスト
- Novel Kernel Models and Exact Representor Theory for Neural Networks Beyond the Over-Parameterized Regime [52.00917519626559]
本稿では、ニューラルネットワークの2つのモデルと、任意の幅、深さ、トポロジーのニューラルネットワークに適用可能なトレーニングについて述べる。
また、局所外在性神経核(LeNK)の観点から、非正規化勾配降下を伴う階層型ニューラルネットワークトレーニングのための正確な表現子理論を提示する。
この表現論は、ニューラルネットワークトレーニングにおける高次統計学の役割と、ニューラルネットワークのカーネルモデルにおけるカーネル進化の影響について洞察を与える。
論文 参考訳(メタデータ) (2024-05-24T06:30:36Z) - Use of Parallel Explanatory Models to Enhance Transparency of Neural Network Configurations for Cell Degradation Detection [18.214293024118145]
我々は,ニューラルネットワークの内部動作を照らし,理解するための並列モデルを構築している。
RNNの各層が入力分布を変換して検出精度を高める方法を示す。
同時に、精度の向上を制限するために作用する副作用も発見する。
論文 参考訳(メタデータ) (2024-04-17T12:22:54Z) - Masked Bayesian Neural Networks : Theoretical Guarantee and its
Posterior Inference [1.2722697496405464]
本稿では,理論特性が良好で,計算可能な新しいノードスパースBNNモデルを提案する。
我々は、真のモデルに対する後部濃度速度が、真のモデルの滑らかさに適応する最小限の最適値に近いことを証明した。
さらに,ノードスパースBNNモデルのベイズ推定を現実的に実現可能な新しいMCMCアルゴリズムを開発した。
論文 参考訳(メタデータ) (2023-05-24T06:16:11Z) - Properties and Potential Applications of Random Functional-Linked Types
of Neural Networks [81.56822938033119]
ランダム関数リンクニューラルネットワーク(RFLNN)は、深い構造を学習する別の方法を提供する。
本稿では周波数領域の観点からRFLNNの特性について考察する。
本稿では,より優れた性能でBLSネットワークを生成する手法を提案し,ポゾン方程式を解くための効率的なアルゴリズムを設計する。
論文 参考訳(メタデータ) (2023-04-03T13:25:22Z) - Gradient Descent in Neural Networks as Sequential Learning in RKBS [63.011641517977644]
初期重みの有限近傍にニューラルネットワークの正確な電力系列表現を構築する。
幅にかかわらず、勾配降下によって生成されたトレーニングシーケンスは、正規化された逐次学習によって正確に複製可能であることを証明した。
論文 参考訳(メタデータ) (2023-02-01T03:18:07Z) - Comparative Analysis of Interval Reachability for Robust Implicit and
Feedforward Neural Networks [64.23331120621118]
我々は、暗黙的ニューラルネットワーク(INN)の堅牢性を保証するために、区間到達可能性分析を用いる。
INNは暗黙の方程式をレイヤとして使用する暗黙の学習モデルのクラスである。
提案手法は, INNに最先端の区間境界伝搬法を適用するよりも, 少なくとも, 一般的には, 有効であることを示す。
論文 参考訳(メタデータ) (2022-04-01T03:31:27Z) - Approximation bounds for norm constrained neural networks with
applications to regression and GANs [9.645327615996914]
本稿では,ReLUニューラルネットワークの近似誤差の上限値と下限値について,重みの基準値で検証する。
我々はこれらの近似境界を適用し、ノルム制約付きニューラルネットワークを用いて回帰の収束を分析し、GANによる分布推定を行う。
論文 参考訳(メタデータ) (2022-01-24T02:19:05Z) - Spiking Generative Adversarial Networks With a Neural Network
Discriminator: Local Training, Bayesian Models, and Continual Meta-Learning [31.78005607111787]
スパイキングパターンを再現するためにニューラルネットワークを訓練することは、ニューロモルフィックコンピューティングにおける中心的な問題である。
この研究は、個々のスパイキング信号ではなく、スパイキング信号にマッチするようにSNNを訓練することを提案する。
論文 参考訳(メタデータ) (2021-11-02T17:20:54Z) - Semi-Supervised Node Classification on Graphs: Markov Random Fields vs.
Graph Neural Networks [38.760186021633146]
グラフ構造データの半監視ノード分類には、不正検出、偽アカウントおよびレビュー検出、ソーシャルネットワークにおけるユーザーのプライベート属性推論、コミュニティ検出などの多くのアプリケーションがあります。
半監視ノード分類のためにペアワイズマルコフランダムフィールド(pMRF)やグラフニューラルネットワークなどの様々な手法が開発された。
pMRFはグラフニューラルネットワークよりも効率的です。
既存のpMRFベースの手法は、すべてのエッジに対して一定のエッジ電位を仮定するキー制限のため、グラフニューラルネットワークよりも正確ではない。
論文 参考訳(メタデータ) (2020-12-24T03:46:08Z) - Modeling from Features: a Mean-field Framework for Over-parameterized
Deep Neural Networks [54.27962244835622]
本稿では、オーバーパラメータ化ディープニューラルネットワーク(DNN)のための新しい平均場フレームワークを提案する。
このフレームワークでは、DNNは連続的な極限におけるその特徴に対する確率測度と関数によって表現される。
本稿では、標準DNNとResidual Network(Res-Net)アーキテクチャを通してフレームワークを説明する。
論文 参考訳(メタデータ) (2020-07-03T01:37:16Z) - Resource Allocation via Graph Neural Networks in Free Space Optical
Fronthaul Networks [119.81868223344173]
本稿では,自由空間光(FSO)フロントホールネットワークにおける最適資源割り当てについて検討する。
我々は、FSOネットワーク構造を利用するために、ポリシーパラメータ化のためのグラフニューラルネットワーク(GNN)を検討する。
本アルゴリズムは,システムモデルに関する知識が不要なモデルフリーでGNNを訓練するために開発された。
論文 参考訳(メタデータ) (2020-06-26T14:20:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。