論文の概要: Extracting Uncertainty Estimates from Mixtures of Experts for Semantic Segmentation

• arxiv url: http://arxiv.org/abs/2509.04816v1
• Date: Fri, 05 Sep 2025 05:30:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-09-08 14:27:25.486004
• Title: Extracting Uncertainty Estimates from Mixtures of Experts for Semantic Segmentation
• Title（参考訳）: セマンティックセグメンテーションの専門家の混合からの不確かさ推定を抽出する
• Authors: Svetlana Pavlitska, Beyza Keskin, Alwin Faßbender, Christian Hubschneider, J. Marius Zöllner,
• Abstract要約: アーキテクチャ変更を伴わない専門家(MoE)の混合から、よく校正された予測不確実性推定が抽出可能であることを示す。 以上の結果から,MoEsは条件付き正当性測定値において,アンサンブルよりも信頼性の高い不確実性推定値が得られることがわかった。 Cityscapesデータセットの実験では、専門家の数が増加することで不確実性の校正がさらに高められることが示唆された。
• 参考スコア（独自算出の注目度）: 9.817102014355617
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Estimating accurate and well-calibrated predictive uncertainty is important for enhancing the reliability of computer vision models, especially in safety-critical applications like traffic scene perception. While ensemble methods are commonly used to quantify uncertainty by combining multiple models, a mixture of experts (MoE) offers an efficient alternative by leveraging a gating network to dynamically weight expert predictions based on the input. Building on the promising use of MoEs for semantic segmentation in our previous works, we show that well-calibrated predictive uncertainty estimates can be extracted from MoEs without architectural modifications. We investigate three methods to extract predictive uncertainty estimates: predictive entropy, mutual information, and expert variance. We evaluate these methods for an MoE with two experts trained on a semantical split of the A2D2 dataset. Our results show that MoEs yield more reliable uncertainty estimates than ensembles in terms of conditional correctness metrics under out-of-distribution (OOD) data. Additionally, we evaluate routing uncertainty computed via gate entropy and find that simple gating mechanisms lead to better calibration of routing uncertainty estimates than more complex classwise gates. Finally, our experiments on the Cityscapes dataset suggest that increasing the number of experts can further enhance uncertainty calibration. Our code is available at https://github.com/KASTEL-MobilityLab/mixtures-of-experts/.
• Abstract（参考訳）: コンピュータビジョンモデルの信頼性を高めるためには、特に交通シーンの認識のような安全クリティカルなアプリケーションにおいて、正確でよく校正された予測の不確実性を推定することが重要である。 アンサンブル法は複数のモデルを組み合わせることで不確実性を定量化するのが一般的であるが、専門家の混合(MoE)は、ゲーティングネットワークを利用して入力に基づいて専門家の予測を動的に重み付けすることで効率的な代替手段を提供する。 本研究は, セマンティックセグメンテーションにおけるMoEsの有望な利用を基盤として, アーキテクチャ変更なしにMoEsから予測不確実性推定を抽出できることを実証する。 本研究では,予測エントロピー,相互情報,専門家分散の3つの予測不確実性推定手法について検討する。 A2D2データセットのセマンティックスプリットを訓練した2人の専門家を対象に,これらの手法の評価を行った。 この結果から, オフ・オブ・ディストリビューション(OOD)データに基づく条件正当性指標では, アンサンブルよりも信頼性の高い不確実性推定値が得られた。 さらに,ゲートエントロピーを用いて計算したルーティング不確実性を評価し,単純なゲーティング機構により,より複雑なゲートよりもルーティング不確実性推定のキャリブレーションが向上することを確認した。 最後に、Cityscapesデータセットに関する実験から、専門家の数を増やすことで不確実性の校正がさらに高められることが示唆された。 私たちのコードはhttps://github.com/KASTEL-MobilityLab/mixtures-of-experts/で利用可能です。

関連論文リスト

• FIVA: Federated Inverse Variance Averaging for Universal CT Segmentation with Uncertainty Estimation [4.544160712377809]
  本研究は,多様な腹部CTデータセットにまたがる普遍的なセグメンテーションを実現するための,新しいフェデレーション学習手法を提案する。 提案手法はモデル重みから不確かさを伝搬することにより予測の不確かさを定量化する。 実験により, フェデレーションアグリゲーションと不確実性重み付け推論の品質向上に本手法の有効性が示された。
  論文  参考訳（メタデータ） (2025-08-08T11:34:01Z)
• SConU: Selective Conformal Uncertainty in Large Language Models [59.25881667640868]
  SconU(Selective Conformal Uncertainity)と呼ばれる新しいアプローチを提案する。 我々は,特定の管理可能なリスクレベルで設定されたキャリブレーションの不確実性分布から,与えられたサンプルが逸脱するかどうかを決定するのに役立つ2つの共形p値を開発する。 我々のアプローチは、単一ドメインと学際的コンテキストの両方にわたる誤発見率の厳密な管理を促進するだけでなく、予測の効率を高める。
  論文  参考訳（メタデータ） (2025-04-19T03:01:45Z)
• Training of Neural Networks with Uncertain Data: A Mixture of Experts Approach [0.0]
  ニューラルネットワーク(NN)をベースとした予測モデルにおいて,アレータティックな不確実性に対処することを目的とした新しいソリューションとして,「エキスパートの不確実性認識混合(uMoE)」がある。 本研究は,データ不確実性を効果的に管理するために,ベースライン法よりもuMoEの方が優れていることを示す。 この革新的なアプローチは、バイオメディカル信号処理、自律運転、生産品質管理など、様々なda-ta-drivenドメインに適用可能である。
  論文  参考訳（メタデータ） (2023-12-13T11:57:15Z)
• Quantification of Predictive Uncertainty via Inference-Time Sampling [57.749601811982096]
  本稿では,データあいまいさの予測不確実性を推定するためのポストホックサンプリング手法を提案する。 この方法は与えられた入力に対して異なる可算出力を生成することができ、予測分布のパラメトリック形式を仮定しない。
  論文  参考訳（メタデータ） (2023-08-03T12:43:21Z)
• Uncertainty Quantification for Traffic Forecasting: A Unified Approach [21.556559649467328]
  不確実性は時系列予測タスクに不可欠な考慮事項である。 本研究では,交通予測の不確かさの定量化に焦点をあてる。 STUQ(Deep S-Temporal Uncertainity Quantification)を開発した。
  論文  参考訳（メタデータ） (2022-08-11T15:21:53Z)
• Collaborative Uncertainty Benefits Multi-Agent Multi-Modal Trajectory Forecasting [61.02295959343446]
  この研究はまず、相互作用モジュールから生じる不確実性をモデル化する新しい概念であるコラボレーティブ不確実性(CU)を提案する。 我々は、回帰と不確実性推定の両方を行うために、元の置換同変不確かさ推定器を備えた一般的なCU対応回帰フレームワークを構築した。 提案するフレームワークを,プラグインモジュールとして現在のSOTAマルチエージェント軌道予測システムに適用する。
  論文  参考訳（メタデータ） (2022-07-11T21:17:41Z)
• Uncertainty Estimation for Heatmap-based Landmark Localization [4.673063715963989]
  推定誤差境界を持つ不確実性によって予測を分類するデータ駆動手法であるQuantile Binningを提案する。 この枠組みは,3つの不確実性対策を比較し,対比することによって実証する。 我々は、Quantile Binsで捕捉された大まかな誤予測をフィルタリングすることで、許容可能なエラー閾値下での予測の割合を大幅に改善する、という結論を導いた。
  論文  参考訳（メタデータ） (2022-03-04T14:40:44Z)
• Gradient-Based Quantification of Epistemic Uncertainty for Deep Object Detectors [8.029049649310213]
  本稿では,新しい勾配に基づく不確実性指標を導入し,異なる物体検出アーキテクチャについて検討する。 実験では、真の肯定的/偽の正の判別と、結合上の交叉の予測において顕著な改善が示された。 また,モンテカルロのドロップアウト不確実性指標に対する改善や,さまざまな不確実性指標のソースを集約することで,さらなる大幅な向上が期待できる。
  論文  参考訳（メタデータ） (2021-07-09T16:04:11Z)
• Efficient Ensemble Model Generation for Uncertainty Estimation with Bayesian Approximation in Segmentation [74.06904875527556]
  アンサンブルセグメンテーションモデルを構築するための汎用的で効率的なセグメンテーションフレームワークを提案する。 提案手法では,層選択法を用いて効率よくアンサンブルモデルを生成することができる。 また,新たな画素単位の不確実性損失を考案し,予測性能を向上する。
  論文  参考訳（メタデータ） (2020-05-21T16:08:38Z)
• Uncertainty Estimation Using a Single Deep Deterministic Neural Network [66.26231423824089]
  本稿では,1回のフォワードパスで,テスト時に分布データポイントの発見と拒否が可能な決定論的ディープモデルを訓練する手法を提案する。 我々は,新しい損失関数とセントロイド更新方式を用いて,これらをスケールトレーニングし,ソフトマックスモデルの精度に適合させる。
  論文  参考訳（メタデータ） (2020-03-04T12:27:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。