Fugu-MT 論文翻訳(概要): Priors in Bayesian Deep Learning: A Review

論文の概要: Priors in Bayesian Deep Learning: A Review

arxiv url: http://arxiv.org/abs/2105.06868v1
Date: Fri, 14 May 2021 14:53:30 GMT
ステータス: 処理完了
システム内更新日: 2021-05-17 12:51:50.597278
Title: Priors in Bayesian Deep Learning: A Review
Title（参考訳）: ベイズ深層学習の優先順位:レビュー
Authors: Vincent Fortuin
Abstract要約: ベイズ深層学習における事前選択の重要性を強調する。本稿では, (深い) ガウス過程, 変分オートエンコーダ, ベイズニューラルネットワークに対して提案されている, 様々な前処理について概説する。
参考スコア（独自算出の注目度）: 4.020523898765405
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: While the choice of prior is one of the most critical parts of the Bayesian inference workflow, recent Bayesian deep learning models have often fallen back on uninformative priors, such as standard Gaussians. In this review, we highlight the importance of prior choices for Bayesian deep learning and present an overview of different priors that have been proposed for (deep) Gaussian processes, variational autoencoders, and Bayesian neural networks. We also outline different methods of learning priors for these models from data. We hope to motivate practitioners in Bayesian deep learning to think more carefully about the prior specification for their models and to provide them with some inspiration in this regard.
Abstract（参考訳）: 前者の選択はベイズ推論ワークフローにおいて最も重要な部分の1つであるが、最近のベイズ深層学習モデルは標準ガウスのような非形式的な先行にしばしば逆戻りしている。本稿では,ベイズ深層学習における事前選択の重要性を強調するとともに,(深い)ガウス過程,変分オートエンコーダ,ベイズニューラルネットワークに対して提案されている異なる事前選択について概説する。データからこれらのモデルの事前学習方法についても概説する。ベイズ深層学習の実践者に、モデルの事前仕様についてより慎重に考える動機を与え、その点についてインスピレーションを与えたいと思っています。

関連論文リスト

Unrolled denoising networks provably learn optimal Bayesian inference [54.79172096306631]
我々は、近似メッセージパッシング(AMP)のアンロールに基づくニューラルネットワークの最初の厳密な学習保証を証明した。圧縮センシングでは、製品から引き出されたデータに基づいてトレーニングを行うと、ネットワークの層がベイズAMPで使用されるのと同じデノイザーに収束することを示す。
論文参考訳（メタデータ） (2024-09-19T17:56:16Z)
Towards Bayesian Data Selection [0.0]
例えば、セミ教師付き学習、アクティブラーニング、マルチアームのバンディット、ベイズ最適化などがある。意思決定問題としてデータ選択をフレーミングすることで、このようなデータ追加を意思決定理論に組み込む。半教師付き学習における自己学習の具体例について,各ベイズ基準を導出する。
論文参考訳（メタデータ） (2024-06-18T12:40:15Z)
Bayesian Neural Networks with Domain Knowledge Priors [52.80929437592308]
ドメイン知識の一般的な形式をBNNに組み込むためのフレームワークを提案する。提案したドメイン知識を用いたBNNは,標準知識のBNNよりも優れていることを示す。
論文参考訳（メタデータ） (2024-02-20T22:34:53Z)
Towards Improved Variational Inference for Deep Bayesian Models [7.841254447222393]
本論では,変分推論(VI)を近似として用いることを検討する。 VI は後部を同時に近似し、限界度に低い境界を与えるという点で特異である。本稿ではベイズニューラルネットワークと深いガウス過程における推論の統一的なビューを提供する変分後部を提案する。
論文参考訳（メタデータ） (2024-01-23T00:40:20Z)
Deep networks for system identification: a Survey [56.34005280792013]
システム識別は、入力出力データから動的システムの数学的記述を学習する。同定されたモデルの主な目的は、以前の観測から新しいデータを予測することである。我々は、フィードフォワード、畳み込み、リカレントネットワークなどの文献で一般的に採用されているアーキテクチャについて論じる。
論文参考訳（メタデータ） (2023-01-30T12:38:31Z)
Bayesian Learning for Neural Networks: an algorithmic survey [95.42181254494287]
この自己完結型調査は、ベイズ学習ニューラルネットワークの原理とアルゴリズムを読者に紹介する。アクセシブルで実践的な視点からこのトピックを紹介します。
論文参考訳（メタデータ） (2022-11-21T21:36:58Z)
Rethinking Bayesian Learning for Data Analysis: The Art of Prior and Inference in Sparsity-Aware Modeling [20.296566563098057]
信号処理と機械学習のためのスパースモデリングは、20年以上にわたって科学研究の焦点となっている。本稿では,3つの一般的なデータモデリングツールにスパーシティ・プロモーティング・プリエントを組み込むことの最近の進歩を概観する。
論文参考訳（メタデータ） (2022-05-28T00:43:52Z)
Pre-Train Your Loss: Easy Bayesian Transfer Learning with Informative Priors [59.93972277761501]
我々は,教師付きあるいは自己指導型アプローチにより,ソースタスクから高い情報的後部を学習できることを実証した。このシンプルなモジュラーアプローチは、様々な下流の分類とセグメンテーションタスクにおいて、大幅なパフォーマンス向上と、よりデータ効率のよい学習を可能にする。
論文参考訳（メタデータ） (2022-05-20T16:19:30Z)
BNNpriors: A library for Bayesian neural network inference with different prior distributions [32.944046414823916]
bnnpriorsはベイズニューラルネットワーク上で最先端のマルコフ連鎖モンテカルロ推論を可能にする。これは、新しいカスタムプリエントの設計と実装を容易にするモジュラーアプローチに従っている。ベイズ系ニューラルネットワークにおける冷後効果の性質に関する基礎的発見を容易にした。
論文参考訳（メタデータ） (2021-05-14T17:11:04Z)
Exploring Bayesian Deep Learning for Urgent Instructor Intervention Need in MOOC Forums [58.221459787471254]
大規模なオープンオンラインコース(MOOC)は、その柔軟性のおかげで、eラーニングの一般的な選択肢となっている。多くの学習者とその多様な背景から、リアルタイムサポートの提供は課税されている。 MOOCインストラクターの大量の投稿と高い作業負荷により、インストラクターが介入を必要とするすべての学習者を識別できる可能性は低いです。本稿では,モンテカルロドロップアウトと変分推論という2つの手法を用いて,学習者によるテキスト投稿のベイジアン深層学習を初めて検討する。
論文参考訳（メタデータ） (2021-04-26T15:12:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。