論文の概要: Gaussian Neural Networks

• arxiv url: http://arxiv.org/abs/2609.34825v1
• Date: Mon, 28 Sep 2026 10:22:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 02:30:20.311429
• Title: Gaussian Neural Networks
• Title（参考訳）: ガウスニューラルネットワーク
• Abstract要約: ニューラルネットワークの新しい正規化機構としてガウスニューラルネットワーク(GaNN)が提案されている。 本稿では,様々な分類タスクと回帰タスクにおいて,標準ニューラルネットワークよりもGaNNの方が優れていることを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Gaussian neural networks (GaNNs) are proposed as a novel regularization mechanism for neural networks. From a Bayesian perspective standard regularization techniques can be viewed as imposing priors over weight-space. Assuming priors over activation-space remains a largely unexplored possibility. GaNNs assume such priors. They do this by treating activities from earlier layers like signals with Gaussian noise and predicting the properties of the noise distribution using an additional unsupervised loss. While training, the unsupervised loss acts as a penalty on unexpected activities, allowing greater weight updates in less surprising directions. The paper demonstrates the superiority of Gaussian neural networks over standard neural networks on a variety of classification and regression tasks. We also investigate the ability of GaNNs to quantify uncertainty.
• Abstract（参考訳）: ニューラルネットワークの新しい正規化機構としてガウスニューラルネットワーク(GaNN)が提案されている。 ベイズ的観点からは、標準正規化技法は重み空間よりも先行を示唆するものと見なすことができる。 アクティベーション空間の先行を仮定することは、まだほとんど探索されていない可能性である。 GaNNはそのような先入観を前提としている。 彼らは、ガウスノイズによる信号のような以前の層からのアクティビティを処理し、追加の教師なし損失を用いてノイズ分布の特性を予測する。 トレーニング中は、教師なしの損失は予期せぬ活動に対するペナルティとして機能し、予期せぬ方向のより重い更新を可能にする。 本稿では,様々な分類タスクと回帰タスクにおいて,標準ニューラルネットワークよりもガウスニューラルネットワークの方が優れていることを示す。 また、不確実性を定量化するためのGaNNの能力についても検討する。

関連論文リスト

• Dirichlet Scale Mixture Priors for Bayesian Neural Networks [0.0]
  本稿では,BNNの先行分布の新たなクラスであるディリクレスケール混合(DSM)を提案する。 シミュレーションおよび実世界のデータに関する実験では、DSMプリエントが暗黙的な特徴選択を通じてスパースネットワークを奨励していることが判明した。 それらの利点は、相関性があり、適度に小さなデータレギュレーションで最も顕著に見え、重み付けに適している。
  論文  参考訳（メタデータ） (2026-02-23T13:58:16Z)
• Verified Neural Compressed Sensing [58.98637799432153]
  精度の高い計算タスクのために、初めて(私たちの知識を最大限に活用するために)証明可能なニューラルネットワークを開発します。 極小問題次元(最大50)では、線形および双項線形測定からスパースベクトルを確実に回復するニューラルネットワークを訓練できることを示す。 ネットワークの複雑さは問題の難易度に適応できることを示し、従来の圧縮センシング手法が証明不可能な問題を解く。
  論文  参考訳（メタデータ） (2024-05-07T12:20:12Z)
• Benign Overfitting for Two-layer ReLU Convolutional Neural Networks [60.19739010031304]
  ラベルフリップ雑音を持つ2層ReLU畳み込みニューラルネットワークを学習するためのアルゴリズム依存型リスクバウンダリを確立する。 緩やかな条件下では、勾配降下によってトレーニングされたニューラルネットワークは、ほぼゼロに近いトレーニング損失とベイズ最適試験リスクを達成できることを示す。
  論文  参考訳（メタデータ） (2023-03-07T18:59:38Z)
• Consistency of Neural Networks with Regularization [0.0]
  本稿では,ニューラルネットワークの規則化による一般的な枠組みを提案し,その一貫性を実証する。 双曲関数(Tanh)と整形線形単位(ReLU)の2種類の活性化関数が検討されている。
  論文  参考訳（メタデータ） (2022-06-22T23:33:39Z)
• Gaussian Pre-Activations in Neural Networks: Myth or Reality? [1.049712834719005]
  我々は、ネットワークの深さを通して事前活性化がガウス的であることを保証するために、アクティベーション関数と分布のファミリーを構築する。 また、Edge of Chaosの行の主張を批判的にレビューし、正確なEdge of Chaos分析を構築します。 我々の研究は、議論の多かった疑問に答えるための、原則化されたフレームワークを提供する: プレアクティベーションがガウスであることが保証されるニューラルネットワークのトレーニングを初期化することが望ましいか?
  論文  参考訳（メタデータ） (2022-05-24T21:52:23Z)
• On the Neural Tangent Kernel Analysis of Randomly Pruned Neural Networks [91.3755431537592]
  ニューラルネットワークのニューラルカーネル(NTK)に重みのランダムプルーニングが及ぼす影響について検討する。 特に、この研究は、完全に接続されたニューラルネットワークとそのランダムに切断されたバージョン間のNTKの等価性を確立する。
  論文  参考訳（メタデータ） (2022-03-27T15:22:19Z)
• Bayesian Neural Network Priors Revisited [29.949163519715952]
  SGDを用いて訓練された異なるネットワークにおけるニューラルネットワーク重みの要約統計について検討する。 我々は、フルコネクテッドネットワーク(FCNN)は重尾重み分布を示し、畳み込みニューラルネットワーク(CNN)重みは強い空間相関を示すことを発見した。
  論文  参考訳（メタデータ） (2021-02-12T15:18:06Z)
• Characteristics of Monte Carlo Dropout in Wide Neural Networks [16.639005039546745]
  モンテカルロ(MC)ドロップアウトはニューラルネットワーク(NN)における不確実性推定のための最先端のアプローチの1つである 本研究では, 降雨時の広帯域NNの制限分布についてより厳密に検討し, 一定の重みと偏りの集合に対してガウス過程に収束することが証明された。 本研究では,(強く)相関したプレアクティベーションが,強相関重みを持つNNにおいて非ガウス的行動を引き起こすかを検討する。
  論文  参考訳（メタデータ） (2020-07-10T15:14:43Z)
• Revisiting Initialization of Neural Networks [72.24615341588846]
  ヘッセン行列のノルムを近似し, 制御することにより, 層間における重みのグローバルな曲率を厳密に推定する。 Word2Vec と MNIST/CIFAR 画像分類タスクの実験により,Hessian ノルムの追跡が診断ツールとして有用であることが確認された。
  論文  参考訳（メタデータ） (2020-04-20T18:12:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。