論文の概要: Bayesian graph convolutional neural networks via tempered MCMC

• arxiv url: http://arxiv.org/abs/2104.08438v1
• Date: Sat, 17 Apr 2021 04:03:25 GMT
• ステータス: 処理完了
• システム内更新日: 2021-04-24 06:39:03.310284
• Title: Bayesian graph convolutional neural networks via tempered MCMC
• Title（参考訳）: tempered mcmcによるベイズグラフ畳み込みニューラルネットワーク
• Authors: Rohitash Chandra, Ayush Bhagat, Manavendra Maharana and Pavel N. Krivitsky
• Abstract要約: 畳み込みニューラルネットワークのようなディープラーニングモデルは、画像やマルチメディアタスクに長い間適用されてきた。 最近では、グラフで表現できる非構造化データにもっと注意が払われている。 これらのタイプのデータは、健康と医学、ソーシャルネットワーク、および研究データリポジトリでよく見られます。
• 参考スコア（独自算出の注目度）: 0.41998444721319217
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Deep learning models, such as convolutional neural networks, have long been applied to image and multi-media tasks, particularly those with structured data. More recently, there has been more attention to unstructured data that can be represented via graphs. These types of data are often found in health and medicine, social networks, and research data repositories. Graph convolutional neural networks have recently gained attention in the field of deep learning that takes advantage of graph-based data representation with automatic feature extraction via convolutions. Given the popularity of these methods in a wide range of applications, robust uncertainty quantification is vital. This remains a challenge for large models and unstructured datasets. Bayesian inference provides a principled and robust approach to uncertainty quantification of model parameters for deep learning models. Although Bayesian inference has been used extensively elsewhere, its application to deep learning remains limited due to the computational requirements of the Markov Chain Monte Carlo (MCMC) methods. Recent advances in parallel computing and advanced proposal schemes in sampling, such as incorporating gradients has allowed Bayesian deep learning methods to be implemented. In this paper, we present Bayesian graph deep learning techniques that employ state-of-art methods such as tempered MCMC sampling and advanced proposal schemes. Our results show that Bayesian graph convolutional methods can provide accuracy similar to advanced learning methods while providing a better alternative for robust uncertainty quantification for key benchmark problems.
• Abstract（参考訳）: 畳み込みニューラルネットワークのようなディープラーニングモデルは、画像やマルチメディアタスク、特に構造化データに長い間適用されてきた。 最近では、グラフで表現できる非構造化データにもっと注意が払われている。 この種のデータは、医療や医療、ソーシャルネットワーク、研究データリポジトリなどでよく見られる。 グラフ畳み込みニューラルネットワークは、畳み込みによる自動特徴抽出によるグラフベースのデータ表現を活用するディープラーニングの分野で最近注目を集めている。 これらの手法が幅広い用途で普及していることを考えると、堅牢な不確実性定量化が不可欠である。 大規模なモデルと非構造化データセットにとって、これは依然として課題である。 ベイズ推論は、ディープラーニングモデルのモデルパラメータの不確実性定量化に対する原理的かつ堅牢なアプローチを提供する。 ベイズ推論は他でも広く使われているが、マルコフ連鎖モンテカルロ法(mcmc)の計算要件のため、ディープラーニングへの応用は限られている。 並列計算の最近の進歩と、グラデーションを組み込んだサンプリングにおける高度な提案手法により、ベイズ深層学習手法の実装が可能となった。 本稿では,MCMCサンプリングや高度な提案手法などの最先端手法を用いたベイズグラフ深層学習手法を提案する。 この結果から,ベイジアングラフ畳み込み法は,先進的な学習法と類似した精度を提供しつつ,重要なベンチマーク問題に対する堅牢な不確実性定量化のためのより良い代替手段を提供することができた。

関連論文リスト

• A Rate-Distortion View of Uncertainty Quantification [36.85921945174863]
  教師付き学習では、入力がトレーニングデータに近接していることを理解することは、モデルが信頼できる予測に達する十分な証拠を持っているかどうかを判断するのに役立つ。 本稿では,この特性でディープニューラルネットワークを強化するための新しい手法であるDistance Aware Bottleneck (DAB)を紹介する。
  論文  参考訳（メタデータ） (2024-06-16T01:33:22Z)
• Large-scale Bayesian Structure Learning for Gaussian Graphical Models using Marginal Pseudo-likelihood [0.26249027950824516]
  我々は2つの新しいマルコフ連鎖モンテカルロ探索アルゴリズムを導入する。 これらのアルゴリズムは、1000変数の大規模問題であっても、標準コンピュータ上でわずか数分で信頼性の高い結果を提供できる。 また,ヒトおよびマウスの遺伝子発現研究における中・大規模応用における本手法の有用性について述べる。
  論文  参考訳（メタデータ） (2023-06-30T20:37:40Z)
• Bayesian neural networks via MCMC: a Python-based tutorial [0.196629787330046]
  変分推論とマルコフ連鎖モンテカルロサンプリング法を用いてベイズ推定を行う。 このチュートリアルはPythonのコードに、その使用と拡張を可能にするデータとインストラクションを提供する。
  論文  参考訳（メタデータ） (2023-04-02T02:19:15Z)
• Deep networks for system identification: a Survey [56.34005280792013]
  システム識別は、入力出力データから動的システムの数学的記述を学習する。 同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。 我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
  論文  参考訳（メタデータ） (2023-01-30T12:38:31Z)
• Inducing Gaussian Process Networks [80.40892394020797]
  本稿では,特徴空間と誘導点を同時に学習するシンプルなフレームワークであるGaussian Process Network (IGN)を提案する。 特に誘導点は特徴空間で直接学習され、複雑な構造化領域のシームレスな表現を可能にする。 実世界のデータセットに対する実験結果から,IGNは最先端の手法よりも大幅に進歩していることを示す。
  論文  参考訳（メタデータ） (2022-04-21T05:27:09Z)
• Bayesian Deep Learning for Graphs [6.497816402045099]
  論文は、この分野のほとんどのメソッドが構築される原則のレビューから始まり、続いてグラフ分類問題の研究が続く。 そこから、ディープアーキテクチャを漸進的に構築することで、グラフのディープラーニングに関する基本的なアイデアをベイジアンの世界に橋渡しします。 このフレームワークにより、離散的かつ連続的なエッジ特徴を持つグラフを考慮し、いくつかの分類タスクで最先端に達するのに十分な教師なしの埋め込みを生成することができる。
  論文  参考訳（メタデータ） (2022-02-24T20:18:41Z)
• Bayesian Graph Contrastive Learning [55.36652660268726]
  本稿では,ランダムな拡張がエンコーダにつながることを示すグラフコントラスト学習手法の新たな視点を提案する。 提案手法は,各ノードを決定論的ベクトルに埋め込む既存の手法とは対照的に,各ノードを潜在空間の分布で表現する。 いくつかのベンチマークデータセットにおける既存の最先端手法と比較して,性能が大幅に向上したことを示す。
  論文  参考訳（メタデータ） (2021-12-15T01:45:32Z)
• Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
  ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。 本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
  論文  参考訳（メタデータ） (2021-06-17T17:26:31Z)
• Bayesian deep learning for mapping via auxiliary information: a new era for geostatistics? [3.5450828190071655]
  深層ニューラルネットワークが、ポイントサンプリング対象変数とグリッド化された補助変数の間の複雑な関係をいかに学習できるかを示す。 モンテカルロ・ドロップアウト (Monte Carlo dropout) として知られるベイズ近似を用いて不確実性の推定値を得る。
  論文  参考訳（メタデータ） (2020-08-17T13:56:43Z)
• Belief Propagation Reloaded: Learning BP-Layers for Labeling Problems [83.98774574197613]
  最も単純な推論手法の1つとして、切り詰められた最大積のBelief伝播を取り上げ、それをディープラーニングモデルの適切なコンポーネントにするために必要となるものを加えます。 このBP-Layerは畳み込みニューラルネットワーク(CNN)の最終ブロックまたは中間ブロックとして使用できる このモデルは様々な密集予測問題に適用可能であり、パラメータ効率が高く、ステレオ、光フロー、セマンティックセグメンテーションにおける堅牢な解を提供する。
  論文  参考訳（メタデータ） (2020-03-13T13:11:35Z)
• Diversity inducing Information Bottleneck in Model Ensembles [73.80615604822435]
  本稿では,予測の多様性を奨励することで,ニューラルネットワークの効果的なアンサンブルを生成する問題をターゲットにする。 そこで本研究では,潜伏変数の学習における逆損失の多様性を明示的に最適化し,マルチモーダルデータのモデリングに必要な出力予測の多様性を得る。 最も競争力のあるベースラインと比較して、データ分布の変化の下で、分類精度が大幅に向上した。
  論文  参考訳（メタデータ） (2020-03-10T03:10:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。