論文の概要: Efficient Multi-task Uncertainties for Joint Semantic Segmentation and
Monocular Depth Estimation
- arxiv url: http://arxiv.org/abs/2402.10580v1
- Date: Fri, 16 Feb 2024 11:09:16 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-19 16:53:16.227598
- Title: Efficient Multi-task Uncertainties for Joint Semantic Segmentation and
Monocular Depth Estimation
- Title(参考訳): 関節セマンティックセグメンテーションと単眼深度推定のための効率的なマルチタスク不確かさ
- Authors: Steven Landgraf, Markus Hillemann, Theodor Kapler, Markus Ulrich
- Abstract要約: 多くの実世界のアプリケーションは本質的にマルチモーダルであり、そのためマルチタスク学習の恩恵を受ける。
例えば、自律運転では、セマンティックセグメンテーションと単分子深度推定のジョイントソリューションが有用であることが証明されている。
共同セマンティックセグメンテーションと単眼深度推定のための新しい学生-教師蒸留手法であるEMUFormerを紹介する。
- 参考スコア(独自算出の注目度): 10.220692937750295
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Quantifying the predictive uncertainty emerged as a possible solution to
common challenges like overconfidence or lack of explainability and robustness
of deep neural networks, albeit one that is often computationally expensive.
Many real-world applications are multi-modal in nature and hence benefit from
multi-task learning. In autonomous driving, for example, the joint solution of
semantic segmentation and monocular depth estimation has proven to be valuable.
In this work, we first combine different uncertainty quantification methods
with joint semantic segmentation and monocular depth estimation and evaluate
how they perform in comparison to each other. Additionally, we reveal the
benefits of multi-task learning with regard to the uncertainty quality compared
to solving both tasks separately. Based on these insights, we introduce
EMUFormer, a novel student-teacher distillation approach for joint semantic
segmentation and monocular depth estimation as well as efficient multi-task
uncertainty quantification. By implicitly leveraging the predictive
uncertainties of the teacher, EMUFormer achieves new state-of-the-art results
on Cityscapes and NYUv2 and additionally estimates high-quality predictive
uncertainties for both tasks that are comparable or superior to a Deep Ensemble
despite being an order of magnitude more efficient.
- Abstract(参考訳): 予測の不確実性の定量化は、深層ニューラルネットワークの過信や説明可能性の欠如、堅牢性の欠如といった一般的な課題に対する解決策として浮上した。
多くの実世界のアプリケーションは本質的にマルチモーダルであるため、マルチタスク学習の恩恵を受ける。
例えば、自動運転では、セマンティックセグメンテーションと単眼深度推定のジョイントソリューションが有用であることが証明されている。
本研究では,まず,異なる不確実性定量化手法と結合セマンティックセグメンテーションと単分子深度推定を組み合わせ,それらの性能を比較検討する。
さらに,両タスクを別々に解くことに比べ,不確実性品質に関してマルチタスク学習の利点を明らかにする。
これらの知見に基づいて,共同セマンティックセグメンテーションと単眼深度推定のための新しい学生-教師蒸留手法であるEMUFormerと,マルチタスクの不確実性定量化の効率性を紹介する。
emuformerは教師の予測の不確実性を暗黙的に活用することで、cityscapesとnyuv2で新たな最先端の成果を達成し、さらに桁違いに効率が良いにもかかわらず、深層アンサンブルに匹敵する、あるいは優れているタスクの質の高い予測不確実性を見積もる。
関連論文リスト
- Evaluation of Multi-task Uncertainties in Joint Semantic Segmentation and Monocular Depth Estimation [9.52671061354338]
マルチタスク学習が不確実性推定の質にどのように影響するかを,両タスクを別々に解くのと比較して検討した。
マルチタスク学習は,両タスクを別々に解くことに比べ,不確実性推定の品質に影響を及ぼすことがわかった。
論文 参考訳(メタデータ) (2024-05-27T12:12:26Z) - Uncertainty quantification for deeponets with ensemble kalman inversion [0.8158530638728501]
本研究では,Ensemble Kalman Inversion (EKI) 手法を用いて,演算子学習のための効率的な不確実性定量化(UQ)のための新しい推論手法を提案する。
EKIはデリバティブフリーでノイズロバストで高度に並列化可能な特徴で知られており、物理インフォームドニューラルネットワークのUQに対するアドバンテージを実証している。
我々は、より大きなデータセットに対応するために、EKIのミニバッチ版をデプロイし、トレーニング段階での大きなデータセットによる計算需要を軽減します。
論文 参考訳(メタデータ) (2024-03-06T04:02:30Z) - Sharing Knowledge in Multi-Task Deep Reinforcement Learning [57.38874587065694]
マルチタスク強化学習において、ディープニューラルネットワークを効果的に活用するためのタスク間の表現の共有の利点について検討する。
我々は,タスク間で表現を共有するのに便利な条件を強調する理論的保証を提供することで,これを証明している。
論文 参考訳(メタデータ) (2024-01-17T19:31:21Z) - Diversified Ensemble of Independent Sub-Networks for Robust
Self-Supervised Representation Learning [10.784911682565879]
ニューラルネットワークの組み立ては、モデルの性能を高め、不確実性を推定し、深い教師付き学習における堅牢性を改善するために広く認識されているアプローチである。
独立サブネットワークのアンサンブルを活用した,新たな自己指導型トレーニングシステムを提案する。
提案手法は,高多様性のサブモデルアンサンブルを効率的に構築し,モデル不確実性の評価を行う。
論文 参考訳(メタデータ) (2023-08-28T16:58:44Z) - Contrastive Multi-Task Dense Prediction [11.227696986100447]
設計における中核的な目的は、異なるタスクに対する包括的な改善を達成するために、クロスタスクインタラクションを効果的にモデル化する方法である。
マルチタスク密接な予測のためのクロスタスク相互作用のモデル化に特徴的コントラスト整合を導入する。
本稿では,各サブタスクの表現学習を効果的に促進するために,一貫性に基づく新しいマルチタスクコントラスト正規化手法を提案する。
論文 参考訳(メタデータ) (2023-07-16T03:54:01Z) - Uncertainty Estimation by Fisher Information-based Evidential Deep
Learning [61.94125052118442]
不確実性推定は、ディープラーニングを実用アプリケーションで信頼できるものにする鍵となる要素である。
漁業情報に基づくエビデンシャルディープラーニング(mathcalI$-EDL)を提案する。
特に,各サンプルが有する証拠の情報量を測定するためにFisher Information Matrix (FIM)を導入し,目的的損失項を動的に重み付けし,不確実なクラスの表現学習に集中させる。
論文 参考訳(メタデータ) (2023-03-03T16:12:59Z) - Semantics-Depth-Symbiosis: Deeply Coupled Semi-Supervised Learning of
Semantics and Depth [83.94528876742096]
我々は,意味的セグメンテーションと深さ推定という2つの密なタスクのMTL問題に取り組み,クロスチャネル注意モジュール(CCAM)と呼ばれる新しいアテンションモジュールを提案する。
次に,AffineMixと呼ばれる予測深度を用いた意味分節タスクのための新しいデータ拡張と,ColorAugと呼ばれる予測セマンティクスを用いた単純な深度増分を定式化する。
最後に,提案手法の性能向上をCityscapesデータセットで検証し,深度と意味に基づく半教師付きジョイントモデルにおける最先端結果の実現を支援する。
論文 参考訳(メタデータ) (2022-06-21T17:40:55Z) - Adversarial Robustness with Semi-Infinite Constrained Learning [177.42714838799924]
入力に対する深い学習は、安全クリティカルなドメインでの使用に関して深刻な疑問を提起している。
本稿では,この問題を緩和するために,Langevin Monte Carlo のハイブリッドトレーニング手法を提案する。
当社のアプローチは、最先端のパフォーマンスと堅牢性の間のトレードオフを軽減することができることを示す。
論文 参考訳(メタデータ) (2021-10-29T13:30:42Z) - Multi-Loss Sub-Ensembles for Accurate Classification with Uncertainty
Estimation [1.2891210250935146]
本稿では,ディープニューラルネットワーク(DNN)の高精度な不確実性推定手法を提案する。
我々は,Deep-Sub-Ensembles法によって提案される利点を利用して,推定時間を比較的低く保つ。
その結果,いくつかの不確実性対策における分類課題と競争結果の精度が向上した。
論文 参考訳(メタデータ) (2020-10-05T10:59:11Z) - On the uncertainty of self-supervised monocular depth estimation [52.13311094743952]
単眼深度推定のための自己監督的パラダイムは、基礎的な真理アノテーションを全く必要としないため、非常に魅力的である。
我々は,このタスクの不確かさを推定する方法と,これが深さ精度にどのように影響するかを初めて検討する。
自己教師型アプローチに特化して設計された,斬新な手法を提案する。
論文 参考訳(メタデータ) (2020-05-13T09:00:55Z) - Pitfalls of In-Domain Uncertainty Estimation and Ensembling in Deep
Learning [70.72363097550483]
本研究では,画像分類における領域内不確実性に着目した。
そこで本研究では,ディープアンサンブル等価スコア(DEE)を導入する。
論文 参考訳(メタデータ) (2020-02-15T23:28:19Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。