論文の概要: Variational Flow Graphical Model
- arxiv url: http://arxiv.org/abs/2207.02722v1
- Date: Wed, 6 Jul 2022 14:51:03 GMT
- ステータス: 処理完了
- システム内更新日: 2022-07-07 12:42:35.070172
- Title: Variational Flow Graphical Model
- Title(参考訳): 変分流図形モデル
- Authors: Shaogang Ren, Belhal Karimi, Dingcheng Li, Ping Li
- Abstract要約: 変分グラフフロー(VFG)モデルは,メッセージパッシング方式を用いて高次元データの表現を学習する。
VFGは低次元を用いてデータの表現を生成し、多くのフローベースモデルの欠点を克服する。
実験では、VFGは改良されたエビデンスローバウンド(ELBO)と複数のデータセットの確率値を達成する。
- 参考スコア(独自算出の注目度): 22.610974083362606
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: This paper introduces a novel approach to embed flow-based models with
hierarchical structures. The proposed framework is named Variational Flow
Graphical (VFG) Model. VFGs learn the representation of high dimensional data
via a message-passing scheme by integrating flow-based functions through
variational inference. By leveraging the expressive power of neural networks,
VFGs produce a representation of the data using a lower dimension, thus
overcoming the drawbacks of many flow-based models, usually requiring a high
dimensional latent space involving many trivial variables. Aggregation nodes
are introduced in the VFG models to integrate forward-backward hierarchical
information via a message passing scheme. Maximizing the evidence lower bound
(ELBO) of data likelihood aligns the forward and backward messages in each
aggregation node achieving a consistency node state. Algorithms have been
developed to learn model parameters through gradient updating regarding the
ELBO objective.
The consistency of aggregation nodes enable VFGs to be applicable in
tractable inference on graphical structures. Besides representation learning
and numerical inference, VFGs provide a new approach for distribution modeling
on datasets with graphical latent structures. Additionally, theoretical study
shows that VFGs are universal approximators by leveraging the implicitly
invertible flow-based structures. With flexible graphical structures and
superior excessive power, VFGs could potentially be used to improve
probabilistic inference. In the experiments, VFGs achieves improved evidence
lower bound (ELBO) and likelihood values on multiple datasets.
- Abstract(参考訳): 本稿では,フローベースモデルに階層構造を組み込む新しい手法を提案する。
提案手法は変分フローグラフ(VFG)モデルと呼ばれる。
VFGは、変動推論を通じてフローベース関数を統合することにより、メッセージパス方式により高次元データの表現を学習する。
ニューラルネットワークの表現力を活用することで、vfgは低次元のデータ表現を生成し、多くのフローベースのモデルの欠点を克服し、通常は多くの自明な変数を含む高次元の潜在空間を必要とする。
集約ノードはVFGモデルで導入され、メッセージパッシングスキームを介して前方後方階層情報を統合する。
データ可能性のエビデンスローバウンド(ELBO)を最大化すると、各アグリゲーションノードの前方および後方メッセージを整合ノード状態に整合させる。
ELBOの目的に関する勾配更新によってモデルパラメータを学習するアルゴリズムが開発された。
集約ノードの整合性により、VFGはグラフィカル構造上の抽出可能な推論に適用できる。
表現学習と数値推論に加えて、VFGはグラフィカル潜在構造を持つデータセット上での分布モデリングの新しいアプローチを提供する。
さらに理論的な研究により、VFGは暗黙的に可逆なフローベース構造を活用することで普遍近似であることが示された。
柔軟なグラフィカル構造と優れた過大なパワーにより、VFGは確率的推論を改善するために使われる可能性がある。
実験では、VFGは複数のデータセット上でELBO(Low bound)と可能性値を改善する。
関連論文リスト
- Scalable Weibull Graph Attention Autoencoder for Modeling Document Networks [50.42343781348247]
解析条件後部を解析し,推論精度を向上させるグラフポアソン因子分析法(GPFA)を開発した。
また,GPFAを多層構造に拡張したグラフPoisson gamma belief Network (GPGBN) を用いて,階層的な文書関係を複数の意味レベルで捉える。
本モデルでは,高品質な階層型文書表現を抽出し,様々なグラフ解析タスクにおいて有望な性能を実現する。
論文 参考訳(メタデータ) (2024-10-13T02:22:14Z) - GRVFL-MV: Graph Random Vector Functional Link Based on Multi-View Learning [0.2999888908665658]
マルチビュー学習(GRVFL-MV)モデルに基づく新しいグラフランダムベクトル関数リンクを提案する。
提案モデルは,マルチビュー学習(MVL)の概念を取り入れて,複数の視点で学習する。
また、グラフ埋め込み(GE)フレームワークを使用して、すべてのビューの幾何学的性質も取り入れている。
論文 参考訳(メタデータ) (2024-09-07T07:18:08Z) - A Pure Transformer Pretraining Framework on Text-attributed Graphs [50.833130854272774]
グラフ構造を先行として扱うことで,特徴中心の事前学習の視点を導入する。
我々のフレームワークであるGraph Sequence Pretraining with Transformer (GSPT)はランダムウォークを通してノードコンテキストをサンプリングする。
GSPTはノード分類とリンク予測の両方に容易に適応でき、様々なデータセットで有望な経験的成功を示す。
論文 参考訳(メタデータ) (2024-06-19T22:30:08Z) - T1: Scaling Diffusion Probabilistic Fields to High-Resolution on Unified
Visual Modalities [69.16656086708291]
拡散確率場(DPF)は、距離空間上で定義された連続関数の分布をモデル化する。
本稿では,局所構造学習に着目したビューワイズサンプリングアルゴリズムによる新しいモデルを提案する。
モデルは、複数のモダリティを統一しながら、高解像度のデータを生成するためにスケールすることができる。
論文 参考訳(メタデータ) (2023-05-24T03:32:03Z) - Graph Federated Learning for CIoT Devices in Smart Home Applications [23.216140264163535]
G-Fedfilt'と呼ばれるグラフフィルタリングに基づく新しいグラフ信号処理(GSP)に基づく集約ルールを提案する。
提案するアグリゲータは,グラフのトポロジに基づく情報の流れを構造化することができる。
モデルの一般化をテストする場合、FedAvgよりも2.41%$高い精度が得られる。
論文 参考訳(メタデータ) (2022-12-29T17:57:19Z) - Bayesian Structure Learning with Generative Flow Networks [85.84396514570373]
ベイズ構造学習では、データから有向非巡回グラフ(DAG)上の分布を推定することに興味がある。
近年,ジェネレーティブ・フロー・ネットワーク(GFlowNets)と呼ばれる確率モデルのクラスが,ジェネレーティブ・モデリングの一般的なフレームワークとして紹介されている。
DAG-GFlowNetと呼ばれる本手法は,DAGよりも後方の正確な近似を提供する。
論文 参考訳(メタデータ) (2022-02-28T15:53:10Z) - Relational VAE: A Continuous Latent Variable Model for Graph Structured
Data [0.0]
シミュレーションおよび実風力発電モニタリングデータに対する構造的確率密度モデルの適用例を示す。
ソースコードとシミュレートされたデータセットを合わせてリリースします。
論文 参考訳(メタデータ) (2021-06-30T13:24:27Z) - Robust Optimization as Data Augmentation for Large-scale Graphs [117.2376815614148]
学習中に勾配に基づく逆方向摂動を伴うノード特徴を反復的に拡張するFLAG(Free Large-scale Adversarial Augmentation on Graphs)を提案する。
FLAGはグラフデータに対する汎用的なアプローチであり、ノード分類、リンク予測、グラフ分類タスクで普遍的に機能する。
論文 参考訳(メタデータ) (2020-10-19T21:51:47Z) - Block-Approximated Exponential Random Graphs [77.4792558024487]
指数乱グラフ(ERG)の分野における重要な課題は、大きなグラフ上の非自明なERGの適合である。
本稿では,非自明なERGに対する近似フレームワークを提案する。
我々の手法は、数百万のノードからなるスパースグラフにスケーラブルである。
論文 参考訳(メタデータ) (2020-02-14T11:42:16Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。