論文の概要: Stochastic Nonlinearities Improve Uncertainty Estimation

• arxiv url: http://arxiv.org/abs/2610.29875v1
• Date: Wed, 21 Oct 2026 15:26:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 09:50:43.258941
• Title: Stochastic Nonlinearities Improve Uncertainty Estimation
• Title（参考訳）: 確率的非線形性は不確実性推定を改善する
• Abstract要約: 多くの不確実性推定手法は、中間的な特徴を抑え、入力を摂動させ、あるいはかなりの計算を必要とするメカニズムを通じて予測多様性を得る。 本研究では,不確実性推定のための軽量な機構として,スイッチングを再構成する。 これにより、アンサンブル、タスク固有の不確実性ヘッド、アーキテクチャの再設計のトレーニングコストなしで、単一のトレーニングモデルから不確実性の推定が可能になる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Reliable uncertainty estimation is important across visual recognition tasks, providing information about the confidence and reliability of model predictions. Many uncertainty estimation methods obtain predictive diversity through mechanisms that can suppress intermediate features, perturb the input, or require substantial additional computation. Stochastic activation functions, where network units randomly select between multiple nonlinearities during a forward pass, have previously been used to improve optimization behavior, mitigate limitations of fixed ReLU activations, and increase output diversity. In this work, we reframe stochastic activation switching as a lightweight mechanism for uncertainty estimation. The proposed method samples between nonlinear activation functions, inducing predictive diversity while keeping intermediate feature pathways active. This enables uncertainty estimation from a single trained model without the training cost of ensembles, task-specific uncertainty heads, or architectural redesign. We evaluate the proposed approach across classification, semantic segmentation, and out-of-distribution detection using convolutional and transformer-based architectures on diverse datasets. Across these settings, stochastic activation switching improves uncertainty quality while preserving competitive primary-task performance, showing that stochastic nonlinearities provide an effective and information-preserving source of predictive variation for visual recognition.
• Abstract（参考訳）: 信頼性の高い不確実性推定は、視覚認識タスクにおいて重要であり、モデル予測の信頼性と信頼性に関する情報を提供する。 多くの不確実性推定手法は、中間的な特徴を抑えるか、入力を摂動させるか、あるいはかなりの計算を必要とするメカニズムを通じて予測多様性を得る。 ネットワークユニットがフォワードパス中に複数の非線形性をランダムに選択する確率的アクティベーション関数は、これまで最適化挙動の改善、固定されたReLUアクティベーションの制限緩和、出力多様性の向上に用いられてきた。 本研究では,不確実性推定のための軽量なメカニズムとして,確率的アクティベーションスイッチングを再構成する。 提案手法は, 非線形活性化関数間をサンプリングし, 中間的特徴経路をアクティブに保ちながら, 予測的多様性を誘導する。 これにより、アンサンブル、タスク固有の不確実性ヘッド、アーキテクチャの再設計のトレーニングコストなしで、単一のトレーニングモデルから不確実性の推定が可能になる。 多様なデータセット上での畳み込みおよびトランスフォーマーに基づくアーキテクチャを用いて,分類,セマンティックセグメンテーション,アウト・オブ・ディストリビューション検出のアプローチを評価する。 これらの設定全体で、確率的アクティベーションスイッチングは、競合する一次タスク性能を維持しながら不確実性を向上し、確率的非線形性は視覚認識の予測変動の有効かつ情報保存の源となることを示す。

関連論文リスト

• Ensemble-Based Dirichlet Modeling for Predictive Uncertainty and Selective Classification [1.77898701462905]
  Evidential Deep Learningは、1回のパスで不確実性推定を発生させることで、制限に対処することを目指している。 本研究では、モーメント推定器の手法をソフトマックス出力のアンサンブルに適用することにより、代替のディリクレパラメータ推定戦略を導入する。 これらのアンサンブルから導かれるディリクレ推定の安定性と予測的不確実性は、下流の不確実性誘導アプリケーションにおいてより強い性能に変換されることを示す。
  論文  参考訳（メタデータ） (2026-04-07T16:28:20Z)
• Uncertainty Awareness on Unsupervised Domain Adaptation for Time Series Data [49.36938105983916]
  教師なし領域適応法は、ラベルのないテストデータに効果的に一般化しようとする。 本稿では,ドメイン間の一般化とロバスト性を改善するために,マルチスケールの特徴抽出と不確実性推定を導入することを提案する。
  論文  参考訳（メタデータ） (2025-08-26T03:13:08Z)
• Tractable Function-Space Variational Inference in Bayesian Neural Networks [72.97620734290139]
  ニューラルネットワークの予測不確かさを推定するための一般的なアプローチは、ネットワークパラメータに対する事前分布を定義することである。 本稿では,事前情報を組み込むスケーラブルな関数空間変動推論手法を提案する。 提案手法は,様々な予測タスクにおいて,最先端の不確実性評価と予測性能をもたらすことを示す。
  論文  参考訳（メタデータ） (2023-12-28T18:33:26Z)
• Quantification of Predictive Uncertainty via Inference-Time Sampling [57.749601811982096]
  本稿では,データあいまいさの予測不確実性を推定するためのポストホックサンプリング手法を提案する。 この方法は与えられた入力に対して異なる可算出力を生成することができ、予測分布のパラメトリック形式を仮定しない。
  論文  参考訳（メタデータ） (2023-08-03T12:43:21Z)
• Integrating Uncertainty into Neural Network-based Speech Enhancement [27.868722093985006]
  時間周波数領域における監視されたマスキングアプローチは、ディープニューラルネットワークを使用して乗法マスクを推定し、クリーンな音声を抽出することを目的としている。 これにより、信頼性の保証や尺度を使わずに、各入力に対する単一の見積もりが導かれる。 クリーン音声推定における不確実性モデリングの利点について検討する。
  論文  参考訳（メタデータ） (2023-05-15T15:55:12Z)
• Toward Robust Uncertainty Estimation with Random Activation Functions [3.0586855806896045]
  本稿では,ランダムアクティベーション関数(RAF)アンサンブルを用いた不確実性定量化手法を提案する。 RAF アンサンブルは、合成データセットと実世界のデータセットの両方において、最先端のアンサンブル不確実性定量化手法より優れている。
  論文  参考訳（メタデータ） (2023-02-28T13:17:56Z)
• Variational Voxel Pseudo Image Tracking [127.46919555100543]
  不確実性推定は、ロボット工学や自律運転といった重要な問題にとって重要なタスクである。 本稿では,3次元物体追跡のためのVoxel Pseudo Image Tracking (VPIT) の変分ニューラルネットワークによるバージョンを提案する。
  論文  参考訳（メタデータ） (2023-02-12T13:34:50Z)
• Uncertainty Modeling for Out-of-Distribution Generalization [56.957731893992495]
  特徴統計を適切に操作することで、ディープラーニングモデルの一般化能力を向上させることができると論じる。 一般的な手法では、特徴統計を学習した特徴から測定された決定論的値とみなすことが多い。 我々は、学習中に合成された特徴統計を用いて、領域シフトの不確かさをモデル化することにより、ネットワークの一般化能力を向上させる。
  論文  参考訳（メタデータ） (2022-02-08T16:09:12Z)
• Unlabelled Data Improves Bayesian Uncertainty Calibration under Covariate Shift [100.52588638477862]
  後続正則化に基づく近似ベイズ推定法を開発した。 前立腺癌の予後モデルを世界規模で導入する上で,本手法の有用性を実証する。
  論文  参考訳（メタデータ） (2020-06-26T13:50:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。