論文の概要: A Jensen-Shannon Divergence Based Loss Function for Bayesian Neural Networks

• arxiv url: http://arxiv.org/abs/2209.11366v1
• Date: Fri, 23 Sep 2022 01:47:09 GMT
• ステータス: 処理完了
• システム内更新日: 2022-09-26 16:58:35.212256
• Title: A Jensen-Shannon Divergence Based Loss Function for Bayesian Neural Networks
• Title（参考訳）: ベイズニューラルネットワークのためのjensen-shannon divergenceに基づく損失関数
• Authors: Ponkrshnan Thiagarajan and Susanta Ghosh
• Abstract要約: 幾何JSの発散に基づくBNNの新たな損失関数を定式化し、従来のKL発散に基づく損失関数が特別な場合であることを示す。 我々は、雑音の多いCIFARデータセットの分類において、最先端KL発散に基づくBNNの性能改善を示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Kullback-Leibler (KL) divergence is widely used for variational inference of Bayesian Neural Networks (BNNs). However, the KL divergence has limitations such as unboundedness and asymmetry. We examine the Jensen-Shannon (JS) divergence that is more general, bounded, and symmetric. We formulate a novel loss function for BNNs based on the geometric JS divergence and show that the conventional KL divergence-based loss function is its special case. We evaluate the divergence part of the proposed loss function in a closed form for a Gaussian prior. For any other general prior, Monte Carlo approximations can be used. We provide algorithms for implementing both of these cases. We demonstrate that the proposed loss function offers an additional parameter that can be tuned to control the degree of regularisation. We derive the conditions under which the proposed loss function regularises better than the KL divergence-based loss function for Gaussian priors and posteriors. We demonstrate performance improvements over the state-of-the-art KL divergence-based BNN on the classification of a noisy CIFAR data set and a biased histopathology data set.
• Abstract（参考訳）: Kullback-Leibler (KL) はベイズニューラルネットワーク(BNN)の変分推論に広く用いられている。 しかしながら、KL の発散は非有界性や非対称性のような制限を持つ。 より一般的で有界で対称なJensen-Shannon(JS)発散について検討する。 幾何JSの発散に基づくBNNの新しい損失関数を定式化し、従来のKL発散に基づく損失関数が特別な場合であることを示す。 ガウス前駆体に対して,提案する損失関数の発散部を閉じた形で評価する。 他のどんな一般に対しても、モンテカルロ近似が用いられる。 これら2つのケースを実装するアルゴリズムを提供する。 提案した損失関数は正規化の度合いを制御するために調整可能な追加パラメータを提供することを示した。 提案した損失関数がガウス前および後におけるKL分散に基づく損失関数よりも規則性が高い条件を導出する。 我々は、ノイズの多いCIFARデータセットとバイアスドヒストロジーデータセットの分類において、最先端のKL発散に基づくBNNの性能改善を示す。

関連論文リスト

• A Robust Quantile Huber Loss With Interpretable Parameter Adjustment In Distributional Reinforcement Learning [19.89141873890568]
  本稿では、ワッサーシュタイン距離(WD)計算から導かれる一般化量子ハマー損失関数を提案する。 古典的な量子ハマー損失と比較して、この革新的な損失関数は外れ値に対する堅牢性を高める。 分散RLの一般的な応用であるアタリゲームに対する実証実験と、分布RLを用いた最近のヘッジ戦略により、提案した損失関数を検証した。
  論文  参考訳（メタデータ） (2024-01-04T15:51:49Z)
• Benign Overfitting in Deep Neural Networks under Lazy Training [72.28294823115502]
  データ分布が適切に分離された場合、DNNは分類のためのベイズ最適テスト誤差を達成できることを示す。 よりスムーズな関数との補間により、より一般化できることを示す。
  論文  参考訳（メタデータ） (2023-05-30T19:37:44Z)
• Robust Estimation for Nonparametric Families via Generative Adversarial Networks [92.64483100338724]
  我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。 我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。 技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
  論文  参考訳（メタデータ） (2022-02-02T20:11:33Z)
• On the Double Descent of Random Features Models Trained with SGD [78.0918823643911]
  勾配降下(SGD)により最適化された高次元におけるランダム特徴(RF)回帰特性について検討する。 本研究では, RF回帰の高精度な非漸近誤差境界を, 定常および適応的なステップサイズSGD設定の下で導出する。 理論的にも経験的にも二重降下現象を観察する。
  論文  参考訳（メタデータ） (2021-10-13T17:47:39Z)
• Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
  カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。 我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。 MRP のサブクラスに対する minimax の下位境界を証明する。
  論文  参考訳（メタデータ） (2021-09-24T14:48:20Z)
• Understanding Variational Inference in Function-Space [20.940162027560408]
  この設定で、Kullback-Leiblerの発散を利用する際の利点と制限を強調します。 近似品質を直接測定する関数空間推論手法のベンチマークとしてベイズ線形回帰法を提案する。
  論文  参考訳（メタデータ） (2020-11-18T17:42:01Z)
• An Infinite-Feature Extension for Bayesian ReLU Nets That Fixes Their Asymptotic Overconfidence [65.24701908364383]
  ベイズ処理は、トレーニングデータを取り巻くReLUネットの過信を軽減することができる。 しかし、彼らから遠く離れたところでは、ReLUニューラルネットワーク(BNN)はいまだに不確実性を過小評価し過ぎている可能性がある。 事前学習した任意のReLU BNNに対して,低コストでemphpost-hocを適用可能であることを示す。
  論文  参考訳（メタデータ） (2020-10-06T13:32:18Z)
• Empirical Strategy for Stretching Probability Distribution in Neural-network-based Regression [5.35308390309106]
  ニューラルネットワーク下での回帰解析では、予測性能は層間の適切な重み決定に依存する。 両分布の重み付け面積を増大させる新しい損失関数として重み付き経験的ストレッチ(WES)を提案する。 極端な領域に対するRMSEの改良結果は、非線形複雑系における異常事象の予測に利用されることが期待されている。
  論文  参考訳（メタデータ） (2020-09-08T06:08:14Z)
• Cumulant GAN [17.4556035872983]
  GAN(Generative Adversarial Networks)を学習するための新しい損失関数を提案する。 対応する最適化問題は R'enyi divergence minimization と同値であることを示す。 我々は,画像生成がWasserstein GANに対してより堅牢であることを実験的に実証した。
  論文  参考訳（メタデータ） (2020-06-11T17:23:02Z)
• Bayesian Neural Network via Stochastic Gradient Descent [0.0]
  本稿では,勾配推定手法を用いてベイズニューラルネットワークに勾配推定を適用する方法を示す。 我々の研究はベイジアンニューラルネットワークを用いた回帰手法のこれまでの状況を大きく上回っている。
  論文  参考訳（メタデータ） (2020-06-04T18:33:59Z)
• Approximation Schemes for ReLU Regression [80.33702497406632]
  我々はReLU回帰の根本的な問題を考察する。 目的は、未知の分布から引き出された2乗損失に対して、最も適したReLUを出力することである。
  論文  参考訳（メタデータ） (2020-05-26T16:26:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。