Fugu-MT 論文翻訳(概要): Restricted Bayesian Neural Network

論文の概要: Restricted Bayesian Neural Network

arxiv url: http://arxiv.org/abs/2403.04810v1
Date: Wed, 6 Mar 2024 19:09:11 GMT
ステータス: 処理完了
システム内更新日: 2024-03-11 22:06:00.895446
Title: Restricted Bayesian Neural Network
Title（参考訳）: 制限されたベイズニューラルネットワーク
Authors: Sourav Ganguly
Abstract要約: 本研究では,ベイズニューラルネットワークの概念を探求し,ネットワークの記憶空間の複雑さを大幅に軽減する新しいアーキテクチャを提案する。本研究では,不確実性を効率的に扱えるアルゴリズムを導入し,局所最適に閉じ込められることなく,堅牢な収束値を確保する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Modern deep learning tools are remarkably effective in addressing intricate problems. However, their operation as black-box models introduces increased uncertainty in predictions. Additionally, they contend with various challenges, including the need for substantial storage space in large networks, issues of overfitting, underfitting, vanishing gradients, and more. This study explores the concept of Bayesian Neural Networks, presenting a novel architecture designed to significantly alleviate the storage space complexity of a network. Furthermore, we introduce an algorithm adept at efficiently handling uncertainties, ensuring robust convergence values without becoming trapped in local optima, particularly when the objective function lacks perfect convexity.
Abstract（参考訳）: 現代のディープラーニングツールは複雑な問題に対処するのに非常に効果的です。しかし、ブラックボックスモデルとしての動作は予測の不確実性の増加をもたらす。さらに、大規模なネットワークにおける大規模なストレージスペースの必要性、過度に適合する問題、不適合、勾配の消滅など、さまざまな課題も抱えている。本研究では,ベイズニューラルネットワークの概念を探求し,ネットワークの記憶空間の複雑さを大幅に軽減する新しいアーキテクチャを提案する。さらに,不確実性を効率的に扱えるアルゴリズムを導入し,特に目的関数が完全凸性に欠ける場合には,局所最適に閉じ込められることなく,堅牢な収束値を確保する。

関連論文リスト

Pursing the Sparse Limitation of Spiking Deep Learning Structures [42.334835610250714]
スパイキングニューラルネットワーク(SNN)はその優れた計算とエネルギー効率のために注目を集めている。重量とパッチレベルの当選チケットを同時に識別できる革新的なアルゴリズムを提案する。我々は, モデル構造が極めて疎い場合でも, スパイキング抽選券が同等あるいは優れた性能を達成できることを実証した。
論文参考訳（メタデータ） (2023-11-18T17:00:40Z)
The Boundaries of Verifiable Accuracy, Robustness, and Generalisation in Deep Learning [71.14237199051276]
経験的リスクを最小限に抑えるため,古典的な分布に依存しないフレームワークとアルゴリズムを検討する。理想的な安定かつ正確なニューラルネットワークの計算と検証が極めて難しいタスク群が存在することを示す。
論文参考訳（メタデータ） (2023-09-13T16:33:27Z)
Learning Active Subspaces for Effective and Scalable Uncertainty Quantification in Deep Neural Networks [13.388835540131508]
本稿では,ニューラルネットワークパラメータの低次元部分空間を構築するための新しい手法を提案する。その結果, 有効かつスケーラブルなベイズ推定が可能であることを実証した。提案手法は, 各種回帰タスクに対して, 頑健な不確実性推定を伴う信頼性予測を提供する。
論文参考訳（メタデータ） (2023-09-06T15:00:36Z)
Neural Fields with Hard Constraints of Arbitrary Differential Order [61.49418682745144]
我々は、ニューラルネットワークに厳しい制約を課すための一連のアプローチを開発する。制約は、ニューラルネットワークとそのデリバティブに適用される線形作用素として指定することができる。私たちのアプローチは、広範囲の現実世界のアプリケーションで実証されています。
論文参考訳（メタデータ） (2023-06-15T08:33:52Z)
Building Compact and Robust Deep Neural Networks with Toeplitz Matrices [93.05076144491146]
この論文は、コンパクトで、訓練が容易で、信頼性があり、敵の例に対して堅牢なニューラルネットワークを訓練する問題に焦点を当てている。 Toeplitzファミリーの構造化行列の特性を利用して、コンパクトでセキュアなニューラルネットワークを構築する。
論文参考訳（メタデータ） (2021-09-02T13:58:12Z)
DDCNet: Deep Dilated Convolutional Neural Network for Dense Prediction [0.0]
受容場(ERF)とネットワーク内の空間的特徴の高分解能は、高分解能密度推定を提供することに不可欠である。空間的特徴の解像度を高く保ちながら、より大きな受容場を提供できるネットワークアーキテクチャを設計するための体系的なアプローチを提案する。
論文参考訳（メタデータ） (2021-07-09T23:15:34Z)
Optimization Landscapes of Wide Deep Neural Networks Are Benign [1.52292571922932]
このようなネットワーク上での経験的リスク最小化には制限点がなく、すなわち、逃れ難い最適パラメータが存在しないことを示す。我々の理論は、広義のニューラルネットワークは表現力が高いだけでなく、最適化し易いという共通の信念を裏付けている。
論文参考訳（メタデータ） (2020-10-02T09:34:32Z)
Learning Connectivity of Neural Networks from a Topological Perspective [80.35103711638548]
本稿では,ネットワークを解析のための完全なグラフに表現するためのトポロジ的視点を提案する。接続の規模を反映したエッジに学習可能なパラメータを割り当てることにより、学習プロセスを異なる方法で行うことができる。この学習プロセスは既存のネットワークと互換性があり、より大きな検索空間と異なるタスクへの適応性を持っている。
論文参考訳（メタデータ） (2020-08-19T04:53:31Z)
Binary Neural Networks: A Survey [126.67799882857656]
バイナリニューラルネットワークは、リソース制限されたデバイスにディープモデルをデプロイするための有望なテクニックとして機能する。バイナライゼーションは必然的に深刻な情報損失を引き起こし、さらに悪いことに、その不連続性はディープネットワークの最適化に困難をもたらす。本稿では,2項化を直接実施するネイティブソリューションと,量子化誤差の最小化,ネットワーク損失関数の改善,勾配誤差の低減といった手法を用いて,これらのアルゴリズムを探索する。
論文参考訳（メタデータ） (2020-03-31T16:47:20Z)
Widening and Squeezing: Towards Accurate and Efficient QNNs [125.172220129257]
量子化ニューラルネットワーク(QNN)は、非常に安価な計算とストレージオーバーヘッドのため、業界にとって非常に魅力的なものだが、その性能は、完全な精度パラメータを持つネットワークよりも悪い。既存の手法の多くは、より効果的なトレーニング技術を利用して、特にバイナリニューラルネットワークの性能を高めることを目的としている。本稿では,従来の完全精度ネットワークで高次元量子化機能に特徴を投影することで,この問題に対処する。
論文参考訳（メタデータ） (2020-02-03T04:11:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。