論文の概要: A Primer on Bayesian Neural Networks: Review and Debates

• arxiv url: http://arxiv.org/abs/2309.16314v1
• Date: Thu, 28 Sep 2023 10:09:15 GMT
• ステータス: 処理完了
• システム内更新日: 2023-09-29 15:10:06.061248
• Title: A Primer on Bayesian Neural Networks: Review and Debates
• Title（参考訳）: ベイズ型ニューラルネットワークのプライマー:レビューと討論
• Authors: Julyan Arbel, Konstantinos Pitas, Mariia Vladimirova, Vincent Fortuin
• Abstract要約: ベイズニューラルネットワーク(BNN)は、従来のニューラルネットワークの魅力的な拡張として登場した。 このプライマーは、ニューラルネットワークとベイズ推論の基本概念を体系的に紹介する。 対象者はベイズ的手法の潜在的な背景を持つ統計学者であるが、ディープラーニングの専門知識は欠如している。
• 参考スコア（独自算出の注目度）: 10.074350562162921
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neural networks have achieved remarkable performance across various problem domains, but their widespread applicability is hindered by inherent limitations such as overconfidence in predictions, lack of interpretability, and vulnerability to adversarial attacks. To address these challenges, Bayesian neural networks (BNNs) have emerged as a compelling extension of conventional neural networks, integrating uncertainty estimation into their predictive capabilities. This comprehensive primer presents a systematic introduction to the fundamental concepts of neural networks and Bayesian inference, elucidating their synergistic integration for the development of BNNs. The target audience comprises statisticians with a potential background in Bayesian methods but lacking deep learning expertise, as well as machine learners proficient in deep neural networks but with limited exposure to Bayesian statistics. We provide an overview of commonly employed priors, examining their impact on model behavior and performance. Additionally, we delve into the practical considerations associated with training and inference in BNNs. Furthermore, we explore advanced topics within the realm of BNN research, acknowledging the existence of ongoing debates and controversies. By offering insights into cutting-edge developments, this primer not only equips researchers and practitioners with a solid foundation in BNNs, but also illuminates the potential applications of this dynamic field. As a valuable resource, it fosters an understanding of BNNs and their promising prospects, facilitating further advancements in the pursuit of knowledge and innovation.
• Abstract（参考訳）: ニューラルネットワークは様々な問題領域で顕著な性能を達成したが、その適用性は予測の過信、解釈可能性の欠如、敵攻撃に対する脆弱性など固有の制限によって妨げられている。 これらの課題に対処するため、ベイズニューラルネットワーク(BNN)は従来のニューラルネットワークの魅力的な拡張として現れ、不確実性推定を予測能力に統合している。 この包括的プライマーは、ニューラルネットワークとベイズ推論の基本概念を体系的に紹介し、BNNの開発のための相乗的統合を解明する。 対象者は、ベイズ的な手法の潜在的な背景を持つ統計学者と、深層ニューラルネットワークに精通するがベイズ的な統計に限定した機械学習の専門知識を欠いた統計学者である。 私たちは、一般的に採用されている優先順位の概要を提供し、モデルの振る舞いとパフォーマンスへの影響を調べます。 さらに,BNNにおけるトレーニングや推論に関する実践的考察についても検討する。 さらに,現在進行中の議論や論争の存在を認め,BNN研究の領域における先進的な話題を探求する。 最先端の開発に関する洞察を提供することで、このプライマーは研究者や実践者がBNNにしっかりとした基盤を持つだけでなく、この動的分野の潜在的な応用を照らす。 貴重なリソースとして、BNNとその将来性についての理解を深め、知識とイノベーションの追求におけるさらなる進歩を促進する。

関連論文リスト

• Attacking Bayes: On the Adversarial Robustness of Bayesian Neural Networks [10.317475068017961]
  我々は,最先端のBNN推論手法と予測パイプラインを破ることが可能であるか検討する。 我々は、最先端の近似推論手法で訓練されたBNNや、ハミルトン・モンテカルロで訓練されたBNNでさえ、敵の攻撃に非常に敏感であることがわかった。
  論文  参考訳（メタデータ） (2024-04-27T01:34:46Z)
• Uncertainty in Graph Neural Networks: A Survey [50.63474656037679]
  グラフニューラルネットワーク(GNN)は、様々な現実世界のアプリケーションで広く使われている。 しかし、多様な情報源から生じるGNNの予測的不確実性は、不安定で誤った予測につながる可能性がある。 本調査は,不確実性の観点からGNNの概要を概観することを目的としている。
  論文  参考訳（メタデータ） (2024-03-11T21:54:52Z)
• Bayesian Neural Networks with Domain Knowledge Priors [52.80929437592308]
  ドメイン知識の一般的な形式をBNNに組み込むためのフレームワークを提案する。 提案したドメイン知識を用いたBNNは,標準知識のBNNよりも優れていることを示す。
  論文  参考訳（メタデータ） (2024-02-20T22:34:53Z)
• Posterior Regularized Bayesian Neural Network Incorporating Soft and Hard Knowledge Constraints [12.050265348673078]
  本稿では,異なる種類の知識制約を組み込んだ後正規化ベイズニューラルネットワーク(PR-BNN)モデルを提案する。 航空機着陸予測と太陽エネルギー出力予測のシミュレーション実験と2つのケーススタディにより,提案モデルの知識制約と性能改善が示された。
  論文  参考訳（メタデータ） (2022-10-16T18:58:50Z)
• Trustworthy Graph Neural Networks: Aspects, Methods and Trends [115.84291569988748]
  グラフニューラルネットワーク(GNN)は,さまざまな実世界のシナリオに対して,有能なグラフ学習手法として登場した。 パフォーマンス指向のGNNは、敵の攻撃に対する脆弱性のような潜在的な副作用を示す。 こうした意図しない害を避けるためには、信頼度に特徴付けられる有能なGNNを構築する必要がある。
  論文  参考訳（メタデータ） (2022-05-16T02:21:09Z)
• A Comprehensive Survey on Trustworthy Graph Neural Networks: Privacy, Robustness, Fairness, and Explainability [59.80140875337769]
  グラフニューラルネットワーク(GNN)は近年,急速な発展を遂げている。 GNNは個人情報をリークしたり、敵対的攻撃に弱いり、トレーニングデータから社会的バイアスを継承したり、拡大したりすることができる。 本稿では、プライバシー、堅牢性、公正性、説明可能性の計算面におけるGNNの包括的調査を行う。
  論文  参考訳（メタデータ） (2022-04-18T21:41:07Z)
• Robustness of Bayesian Neural Networks to White-Box Adversarial Attacks [55.531896312724555]
  ベイジアンネットワーク(BNN)は、ランダム性を組み込むことで、敵の攻撃を扱うのに頑丈で適している。 我々はベイズ的推論(つまり変分ベイズ)をDenseNetアーキテクチャに融合させることで、BNN-DenseNetと呼ばれるBNNモデルを作成する。 逆向きに訓練されたBNNは、ほとんどの実験で非ベイズ的で逆向きに訓練されたBNNよりも優れています。
  論文  参考訳（メタデータ） (2021-11-16T16:14:44Z)
• A Survey of Uncertainty in Deep Neural Networks [39.68313590688467]
  これは、ニューラルネットワークにおける不確実性推定に関心のある人に、幅広い概要と導入を提供することを目的としている。 最も重要な不確実性源を包括的に紹介し、再現可能なモデル不確実性への分離と、再現可能なデータ不確実性について述べる。 本稿では,ニューラルネットワークのキャリブレーションに対する様々な不確実性,アプローチ,既存のベースラインと実装の概要について論じる。
  論文  参考訳（メタデータ） (2021-07-07T16:39:28Z)
• S2-BNN: Bridging the Gap Between Self-Supervised Real and 1-bit Neural Networks via Guided Distribution Calibration [74.5509794733707]
  本研究では, 実数値から, 最終予測分布上のバイナリネットワークへの誘導型学習パラダイムを提案する。 提案手法は,bnn上で5.515%の絶対利得で,単純なコントラスト学習ベースラインを向上できる。 提案手法は、単純なコントラスト学習ベースラインよりも大幅に改善され、多くの主流教師付きBNN手法に匹敵する。
  論文  参考訳（メタデータ） (2021-02-17T18:59:28Z)
• Recent Advances in Understanding Adversarial Robustness of Deep Neural Networks [15.217367754000913]
  敵の例に抵抗する高い堅牢性を持つモデルを得ることがますます重要である。 我々は、敵の攻撃と堅牢性について、予備的な定義を与える。 我々は、頻繁に使用されるベンチマークについて研究し、理論的に証明された敵の堅牢性の境界について言及する。
  論文  参考訳（メタデータ） (2020-11-03T07:42:53Z)
• Incorporating Interpretable Output Constraints in Bayesian Neural Networks [34.103445420814644]
  出力制約付きBNN(OC-BNN)は不確実性定量化のためのベイズフレームワークと完全に一致している。 我々は、医療、刑事司法、信用スコアなどの複数の領域にまたがる実世界のデータセットに対するOC-BNNの有効性を実証する。
  論文  参考訳（メタデータ） (2020-10-21T13:00:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。