論文の概要: Neural Feature Governance: Extending Atom Prevalence
- arxiv url: http://arxiv.org/abs/2607.21671v1
- Date: Thu, 23 Jul 2026 08:50:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-27 20:58:56.951711
- Title: Neural Feature Governance: Extending Atom Prevalence
- Title(参考訳): ニューラル・フィーチャー・ガバナンス:Atomの普及
- Abstract要約: 本稿では,フィードフォワードニューラルネットワークにおけるノードレベルモデル選択のための原理的ベイズ的フレームワークであるNeural Atom Prevalence (NAP)を紹介する。
Napは最先端の構造的疎結合を実現し、MNIST上の元の高密度アーキテクチャの8%まで活性ノードを減少させる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-sa/4.0/
- Abstract: Neural network compression and interpretability remain open challenges in modern deep learn- ing, where billion-parameter architectures deliver impressive accuracy at the cost of trans- parency, computational efficiency, and reliable uncertainty quantification. This paper introduces Neural Atom Prevalence (NAP), a principled Bayesian framework for structured node-level model selection in feedforward neural networks. NAP introduces the neural atom (activation unit) and functions as a hybrid method operating through a four-phase pipeline: Bayesian Lottery Ticket (BLT) identification via Iterative Magnitude Pruning (IMP), soft variational training of the Spike and Slab Independent Gaussian (SS-IG) model, Poisson-Binomial (PB) optimal layer-size selection, and Bayesian fine-tuning to produce a sparse, stable, interpretable, and accurate model. Extensive empirical validation across simulated nonlinear regression, two UCI benchmark datasets (Concrete, YearPredictionMSD), and the MNIST image classification task demonstrates that NAP achieves state-of-the-art structural sparsity, reducing active nodes to as few as 8% of the original dense architecture on MNIST, while well-calibrated probabilisti- cally: the aleatoric-epistemic uncertainty decomposition reveals that model ignorance accounts for only 3 to 4% of total predictive variance across all experiments, and regression reliability diagrams confirm a near-nominal predictive interval coverage (93.4% observed against a 95% target). These results establish NAP as a reliable, theoretically grounded, and computation- ally tractable solution to the simultaneous pursuit of sparsity, accuracy, interpretability, and uncertainty quantification in Bayesian neural networks.
- Abstract(参考訳): ニューラルネットワークの圧縮と解釈性は、数十億パラメータのアーキテクチャが、トランスパリシー、計算効率、信頼性のある不確実性定量化のコストを犠牲にして、驚くほどの精度を提供する、現代のディープラーニングにおけるオープンな課題のままである。
本稿では,フィードフォワードニューラルネットワークにおけるノードレベルモデル選択のための原理的ベイズ的フレームワークであるNeural Atom Prevalence (NAP)を紹介する。
NAPは、ニューラル原子(アクティベーションユニット)を導入し、4相パイプラインを介して動作するハイブリッド手法として機能する: ベイジアン・ロッテ・ティケット(BLT)識別(Iterative Magnitude Pruning (IMP))、スパイクとスラブ独立ガウシアン(SS-IG)モデルのソフト変動訓練(英語版)、ポアソン・ビノミアル(PB)最適層サイズ選択(英語版)、ベイジアン微調整(英語版)によりスパースで安定し、解釈可能で正確なモデルを生成する。
2つのUCIベンチマークデータセット(Concrete, YearPredictionMSD)とMNIST画像分類タスクは、NAPが最先端の構造的疎結合を達成し、MNIST上の元の高密度アーキテクチャの8%まで活性ノードを減らし、よく校正された確率論的不確実性分解は、全ての実験におけるモデル無知が3~4%しか予測できないことを示し、回帰信頼性図は、95%の目標に対して、ほぼ最小の予測的間隔のカバレッジ(93.4%)を確認している。
これらの結果は、ベイズニューラルネットワークにおけるスパーシリティ、正確性、解釈可能性、不確実性定量化を同時に追求する上で、NAPを信頼性、理論的に基礎付け、計算集約可能なソリューションとして確立する。
関連論文リスト
- Bayesian Interpolating Neural Network (B-INN): a scalable and reliable Bayesian model for large-scale physical systems [0.8593015118377854]
本稿ではベイズ補間ニューラルネットワーク(B-INN)と呼ばれるスケーラブルで信頼性の高いベイズ代理モデルを提案する。
B-INNは、高次理論とテンソル分解と交互方向アルゴリズムを組み合わせることで、予測精度を損なうことなく、効果的な次元削減を実現する。
数値実験により、B-INNは20倍から1万倍の速度で安定な不確実性推定を行うことができることが示された。
論文 参考訳(メタデータ) (2026-01-30T11:38:42Z) - Uncertainty-Aware Graph Neural Networks: A Multi-Hop Evidence Fusion Approach [55.43914153271912]
グラフニューラルネットワーク(GNN)は、グラフ構造とノード機能を統合することにより、グラフ表現学習に優れる。
既存のGNNでは、モデルの深さによって異なるクラス確率の不確実性を考慮することができず、現実のシナリオでは信頼できない、リスクの高い予測が生じる。
本稿では,信頼に値する予測を達成し,ノード分類精度を高め,誤予測のリスクを明らかにするために,新しいEvidence Fusing Graph Neural Network (EFGNN)を提案する。
論文 参考訳(メタデータ) (2025-06-16T03:59:38Z) - Enhancing Uncertainty Estimation and Interpretability via Bayesian Non-negative Decision Layer [55.66973223528494]
本研究では, ディープニューラルネットワークを条件付きベイズ非負因子分析として再構成したベイズ非負決定層(BNDL)を開発した。
BNDLは複雑な依存関係をモデル化し、堅牢な不確実性推定を提供する。
また,BNDLが効果的に不整合学習を達成できるという理論的保証も提供する。
論文 参考訳(メタデータ) (2025-05-28T10:23:34Z) - Explainable Bayesian deep learning through input-skip Latent Binary Bayesian Neural Networks [11.815986153374967]
この記事では、後続のレイヤにスキップしたり、除外したりすることで、LCBNNを前進させる。
入力スキップの LBBNN アプローチは、標準の LBBNN と比較してネットワーク密度を著しく減らし、小型ネットワークでは 99% 以上、大型ネットワークでは 99.9% 以上を減らした。
例えば、MNISTでは、97%の精度と935重量のキャリブレーションに達し、ニューラルネットワークの圧縮の最先端に達しました。
論文 参考訳(メタデータ) (2025-03-13T15:59:03Z) - Uncertainty Quantification for Multi-fidelity Simulations [0.0]
この研究は,Nektar++とXFOILを用いて,高忠実度および低忠実度数値シミュレーションデータを収集することに焦点を当てている。
リフトとドラッグの係数の計算における高い分布の利用は、精度と精度に優れていた。
不確かさ定量化における高忠実度数値シミュレーションの信頼性を最小化するために,多忠実度戦略が採用されている。
論文 参考訳(メタデータ) (2025-03-11T13:11:18Z) - Neural Conditional Probability for Uncertainty Quantification [22.951644463554352]
条件分布の学習に対する演算子理論的アプローチであるニューラル条件確率(NCP)を導入する。
ニューラルネットワークの近似能力を活用することで、NCPは様々な複合プレックス確率分布を効率的に扱うことができる。
実験では,2層ネットワークを持つNCPが先行手法に適合するか,あるいは性能が優れていることを示す。
論文 参考訳(メタデータ) (2024-07-01T10:44:29Z) - Can pruning improve certified robustness of neural networks? [106.03070538582222]
ニューラルネット・プルーニングはディープ・ニューラル・ネットワーク(NN)の実証的ロバスト性を向上させることができることを示す。
実験の結果,NNを適切に刈り取ることで,その精度を8.2%まで向上させることができることがわかった。
さらに,認証された宝くじの存在が,従来の密集モデルの標準および認証された堅牢な精度に一致することを観察する。
論文 参考訳(メタデータ) (2022-06-15T05:48:51Z) - Density Regression and Uncertainty Quantification with Bayesian Deep
Noise Neural Networks [4.376565880192482]
ディープニューラルネットワーク(DNN)モデルは、幅広い教師付き学習アプリケーションにおいて最先端の予測精度を達成した。
DNN予測の不確実性を正確に定量化することは、依然として難しい課題である。
本稿では,ベイジアンディープノイズニューラルネットワーク (B-DeepNoise) を提案する。ベイジアンDNNは,ランダムノイズ変数をすべての隠蔽層に拡張することにより,標準ベイジアンDNNを一般化する。
予測精度,不確実性定量化精度,不確実性定量化効率の点で優れた性能を示した。
論文 参考訳(メタデータ) (2022-06-12T02:47:29Z) - NUQ: Nonparametric Uncertainty Quantification for Deterministic Neural
Networks [151.03112356092575]
本研究では,Nadaraya-Watson の条件付きラベル分布の非パラメトリック推定に基づく分類器の予測の不確かさの測定方法を示す。
種々の実世界の画像データセットにおける不確実性推定タスクにおいて,本手法の強い性能を示す。
論文 参考訳(メタデータ) (2022-02-07T12:30:45Z) - Improving Uncertainty Calibration via Prior Augmented Data [56.88185136509654]
ニューラルネットワークは、普遍関数近似器として機能することで、複雑なデータ分布から学習することに成功した。
彼らはしばしば予測に自信過剰であり、不正確で誤った確率的予測に繋がる。
本稿では,モデルが不当に過信である特徴空間の領域を探索し,それらの予測のエントロピーをラベルの以前の分布に対して条件的に高める手法を提案する。
論文 参考訳(メタデータ) (2021-02-22T07:02:37Z) - Unlabelled Data Improves Bayesian Uncertainty Calibration under
Covariate Shift [100.52588638477862]
後続正則化に基づく近似ベイズ推定法を開発した。
前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
論文 参考訳(メタデータ) (2020-06-26T13:50:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。