論文の概要: On the Epistemic Uncertainty of Overparametrized Neural Networks

• arxiv url: http://arxiv.org/abs/2605.25234v1
• Date: Sun, 24 May 2026 19:39:29 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-26 19:50:19.037029
• Title: On the Epistemic Uncertainty of Overparametrized Neural Networks
• Title（参考訳）: 過度にパラメータ化されたニューラルネットワークの疫学的不確かさについて
• Authors: David Rügamer,
• Abstract要約: てんかんの不確実性はしばしば、データの増加とともに消滅する再現可能な不確実性と見なされる。 過度にパラメータ化されたニューラルネットワークでは、モデルパラメータは一般的に対称性と冗長表現のために識別できない。
• 参考スコア（独自算出の注目度）: 16.62208593810495
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Epistemic uncertainty is often viewed as a reducible uncertainty that vanishes with increasing data. This perspective implicitly assumes parameter identifiability and equates epistemic uncertainty with predictive variability. In overparametrized neural networks, however, model parameters are typically non-identifiable due to symmetries and redundant representations. As a consequence, substantial parameter uncertainty can persist even when the underlying function is fully identified. In this work, we analyze epistemic uncertainty through the lens of non-identifiability and characterize both discrete and continuous sources of residual uncertainty. Focusing on one-hidden-layer ReLU networks, we thoroughly analyze the resulting posterior structure and validate our theoretical insights through empirical studies.
• Abstract（参考訳）: てんかんの不確実性はしばしば、データの増加とともに消滅する再現可能な不確実性と見なされる。 この観点は、パラメータの識別可能性を暗黙的に仮定し、認識的不確実性と予測的変動性とを同一視する。 しかし、過度にパラメータ化されたニューラルネットワークでは、モデルパラメータは一般的に対称性と冗長表現のために識別できない。 結果として、基礎となる関数が完全に特定された場合でも、かなりのパラメータの不確実性が持続する。 本研究では,非識別性レンズを用いてててんかんの不確実性を分析し,不確実性の離散的および連続的源を特徴付ける。 一層ReLUネットワークに着目し,得られた後部構造を網羅的に解析し,実証研究を通じて理論的知見を検証した。

関連論文リスト

• Information-theoretic Analysis of Test Data Sensitivity in Uncertainty [32.27260899727789]
  Xu と Raginsky 2022 による最近の分析は、ベイズ予想の不確実性を2つの不確実性に厳密に分解した。 彼らはこれらの不確実性を情報理論的に分析し、モデルが適切に特定され、モデルのパラメータを潜伏変数として扱うと仮定した。 本研究では, 予測不確実性に対する新しい分解法を用いて, このような不確実性について検討する。
  論文  参考訳（メタデータ） (2023-07-23T23:42:06Z)
• Posterior Collapse and Latent Variable Non-identifiability [54.842098835445]
  柔軟性を犠牲にすることなく識別性を強制する深層生成モデルである,潜時同定可能な変分オートエンコーダのクラスを提案する。 合成および実データ全体にわたって、潜在識別可能な変分オートエンコーダは、後方崩壊を緩和し、データの有意義な表現を提供する既存の方法より優れている。
  論文  参考訳（メタデータ） (2023-01-02T06:16:56Z)
• Looking at the posterior: accuracy and uncertainty of neural-network predictions [0.0]
  予測精度はてんかんとアレタリック不確実性の両方に依存している。 本稿では,共通不確実性に基づく手法よりも優れた新たな獲得関数を提案する。
  論文  参考訳（メタデータ） (2022-11-26T16:13:32Z)
• The Unreasonable Effectiveness of Deep Evidential Regression [72.30888739450343]
  不確実性を考慮した回帰ベースニューラルネットワーク(NN)による新しいアプローチは、従来の決定論的手法や典型的なベイズ的NNよりも有望であることを示している。 我々は、理論的欠点を詳述し、合成および実世界のデータセットのパフォーマンスを分析し、Deep Evidential Regressionが正確な不確実性ではなく定量化であることを示す。
  論文  参考訳（メタデータ） (2022-05-20T10:10:32Z)
• Dense Uncertainty Estimation via an Ensemble-based Conditional Latent Variable Model [68.34559610536614]
  我々は、アレータリック不確実性はデータの固有の特性であり、偏見のないオラクルモデルでのみ正確に推定できると論じる。 そこで本研究では,軌道不確実性推定のためのオラクルモデルを近似するために,列車時の新しいサンプリングと選択戦略を提案する。 以上の結果から,提案手法は精度の高い決定論的結果と確実な不確実性推定の両方を達成できることが示唆された。
  論文  参考訳（メタデータ） (2021-11-22T08:54:10Z)
• Joint Dermatological Lesion Classification and Confidence Modeling with Uncertainty Estimation [23.817227116949958]
  本稿では,皮膚学的な分類と不確実性評価を共同で検討する枠組みを提案する。 信頼ネットワークから不確実な特徴や望ましくない変化を避けるために,各特徴の信頼度を推定する。 提案手法の可能性を2つの最先端の皮膚内視鏡的データセットに示す。
  論文  参考訳（メタデータ） (2021-07-19T11:54:37Z)
• Bayesian Uncertainty Estimation of Learned Variational MRI Reconstruction [63.202627467245584]
  我々は,モデル不連続な不確かさを定量化するベイズ変分フレームワークを提案する。 提案手法はMRIのアンダーサンプを用いた再建術の術後成績を示す。
  論文  参考訳（メタデータ） (2021-02-12T18:08:14Z)
• The Hidden Uncertainty in a Neural Networks Activations [105.4223982696279]
  ニューラルネットワークの潜在表現の分布は、アウト・オブ・ディストリビューション(OOD)データの検出に成功している。 本研究は、この分布が、モデルの不確実性と相関しているかどうかを考察し、新しい入力に一般化する能力を示す。
  論文  参考訳（メタデータ） (2020-12-05T17:30:35Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。