論文の概要: Sequential Ensembling for Semantic Segmentation
- arxiv url: http://arxiv.org/abs/2210.05387v1
- Date: Sat, 8 Oct 2022 22:13:59 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-12 14:45:41.478460
- Title: Sequential Ensembling for Semantic Segmentation
- Title(参考訳): セマンティクスセグメンテーションのためのシーケンシャルセンシング
- Authors: Rawal Khirodkar, Brandon Smith, Siddhartha Chandra, Amit Agrawal,
Antonio Criminisi
- Abstract要約: 我々は、複数の独立に訓練された最先端モデルの予測を組み合わせる一般的なアンサンブルアプローチをベンチマークする。
そこで本研究では,素なアンサンブルベースラインを大幅に上回る,逐次アンサンブルネットワークの強化にインスパイアされた新しい手法を提案する。
- 参考スコア(独自算出の注目度): 4.030520171276982
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Ensemble approaches for deep-learning-based semantic segmentation remain
insufficiently explored despite the proliferation of competitive benchmarks and
downstream applications. In this work, we explore and benchmark the popular
ensembling approach of combining predictions of multiple,
independently-trained, state-of-the-art models at test time on popular
datasets. Furthermore, we propose a novel method inspired by boosting to
sequentially ensemble networks that significantly outperforms the naive
ensemble baseline. Our approach trains a cascade of models conditioned on class
probabilities predicted by the previous model as an additional input. A key
benefit of this approach is that it allows for dynamic computation offloading,
which helps deploy models on mobile devices. Our proposed novel ADaptive
modulatiON (ADON) block allows spatial feature modulation at various layers
using previous-stage probabilities. Our approach does not require sophisticated
sample selection strategies during training and works with multiple neural
architectures. We significantly improve over the naive ensemble baseline on
challenging datasets such as Cityscapes, ADE-20K, COCO-Stuff, and
PASCAL-Context and set a new state-of-the-art.
- Abstract(参考訳): ディープラーニングに基づくセマンティクスセグメンテーションに対するアンサンブルアプローチは、競合ベンチマークや下流アプリケーションの増加にもかかわらず、十分に検討されていない。
本研究では,複数のデータ集合に対して,独立に学習された最先端のモデルの予測をテスト時に組み合わせる手法について検討し,その評価を行った。
さらに, 逐次アンサンブルネットワークの強化にインスパイアされた新しい手法を提案し, ナイーブアンサンブルベースラインを著しく上回っている。
提案手法は,前モデルが予測したクラス確率を付加入力として予測したモデル列を学習する。
このアプローチの大きな利点は、動的計算のオフロードを可能にすることで、モバイルデバイスにモデルをデプロイするのに役立つことだ。
提案するAdaptive modulation(ADON)ブロックは,前段確率を用いた様々な層における空間的特徴変調を可能にする。
私たちのアプローチでは、トレーニング中に高度なサンプル選択戦略を必要とせず、複数のニューラルアーキテクチャで動作する。
私たちは、Cityscapes、ADE-20K、COCO-Stuff、PASCAL-Contextといった挑戦的なデータセットに基づいて、単純なアンサンブルベースラインを大幅に改善し、新しい最先端技術を設定しました。
関連論文リスト
- Dynamic Post-Hoc Neural Ensemblers [55.15643209328513]
本研究では,ニューラルネットワークをアンサンブル手法として活用することを検討する。
低多様性のアンサンブルを学習するリスクを動機として,ベースモデル予測をランダムにドロップすることでモデルの正規化を提案する。
このアプローチはアンサンブル内の多様性を低くし、オーバーフィッティングを減らし、一般化能力を向上させる。
論文 参考訳(メタデータ) (2024-10-06T15:25:39Z) - High-Performance Few-Shot Segmentation with Foundation Models: An Empirical Study [64.06777376676513]
基礎モデルに基づく数ショットセグメンテーション(FSS)フレームワークを開発した。
具体的には、基礎モデルから暗黙的な知識を抽出し、粗い対応を構築するための簡単なアプローチを提案する。
2つの広く使われているデータセットの実験は、我々のアプローチの有効性を実証している。
論文 参考訳(メタデータ) (2024-09-10T08:04:11Z) - Mamba-FSCIL: Dynamic Adaptation with Selective State Space Model for Few-Shot Class-Incremental Learning [113.89327264634984]
FSCIL(Few-shot class-incremental Learning)は、最小限のトレーニングサンプルを持つモデルに新しいクラスを統合するという課題に直面している。
従来の手法では、固定パラメータ空間に依存する静的適応を広く採用し、逐次到着するデータから学習する。
本稿では、動的適応のための中間特徴に基づいてプロジェクションパラメータを動的に調整する2つの選択型SSMプロジェクタを提案する。
論文 参考訳(メタデータ) (2024-07-08T17:09:39Z) - A Two-Phase Recall-and-Select Framework for Fast Model Selection [13.385915962994806]
本稿では,2相モデル選択フレームワークを提案する。
これは、ベンチマークデータセット上でモデルのトレーニングパフォーマンスを活用することにより、堅牢なモデルを選択する効率を高めることを目的としている。
提案手法は,従来のベースライン法に比べて約3倍の速度でハイパフォーマンスモデルの選択を容易にすることが実証された。
論文 参考訳(メタデータ) (2024-03-28T14:44:44Z) - TACTiS-2: Better, Faster, Simpler Attentional Copulas for Multivariate Time Series [57.4208255711412]
パウラ理論に基づいて,最近導入されたトランスフォーマーに基づく注目パウラ(TACTiS)の簡易な目的を提案する。
結果から,実世界の予測タスクにまたがって,このモデルのトレーニング性能が大幅に向上し,最先端のパフォーマンスが達成できることが示唆された。
論文 参考訳(メタデータ) (2023-10-02T16:45:19Z) - Dynamic Mixed Membership Stochastic Block Model for Weighted Labeled
Networks [3.5450828190071655]
混合メンバシップブロックモデル(MMSBM)の新たなファミリーは、混合メンバシップクラスタリングを前提として静的ラベル付きネットワークをモデル化することができる。
提案手法は既存手法とは大きく異なり,より複雑なシステム - 動的ラベル付きネットワークをモデル化できることを示す。
論文 参考訳(メタデータ) (2023-04-12T15:01:03Z) - Making Look-Ahead Active Learning Strategies Feasible with Neural
Tangent Kernels [6.372625755672473]
本稿では,仮説的ラベル付き候補データを用いた再学習に基づく,能動的学習獲得戦略の近似手法を提案する。
通常、これはディープ・ネットワークでは実現できないが、我々はニューラル・タンジェント・カーネルを用いて再トレーニングの結果を近似する。
論文 参考訳(メタデータ) (2022-06-25T06:13:27Z) - Sequential Bayesian Neural Subnetwork Ensembles [4.6354120722975125]
本稿では、トレーニング過程を通じてモデルの複雑さを一貫して維持する動的ベイズニューラルワークのシーケンシャルアンサンブルに対するアプローチを提案する。
提案手法は,予測精度,不確実性推定,アウト・オブ・ディストリビューション検出,および対向ロバスト性の観点から,従来の密度決定モデルとスパース決定モデル,ベイズアンサンブルモデルより優れる。
論文 参考訳(メタデータ) (2022-06-01T22:57:52Z) - An EM Framework for Online Incremental Learning of Semantic Segmentation [37.94734474090863]
本稿では,新しいクラスのみに画素アノテーションを付加したストリーミング入力データを用いて,大惨な忘れをせずに深いセグメンテーションモデルを適応できる漸進的な学習戦略を提案する。
PASCAL VOC 2012とADE20Kデータセットに対するアプローチを検証するとともに,既存のインクリメンタルメソッドよりも優れた性能を示す。
論文 参考訳(メタデータ) (2021-08-08T11:30:09Z) - Learning to Continuously Optimize Wireless Resource in a Dynamic
Environment: A Bilevel Optimization Perspective [52.497514255040514]
この研究は、データ駆動メソッドが動的環境でリソース割り当て戦略を継続的に学び、最適化することを可能にする新しいアプローチを開発しています。
学習モデルが新たなエピソードに段階的に適応できるように、連続学習の概念を無線システム設計に組み込むことを提案する。
我々の設計は、異なるデータサンプルにまたがる公平性を保証する、新しい二段階最適化定式化に基づいている。
論文 参考訳(メタデータ) (2021-05-03T07:23:39Z) - Document Ranking with a Pretrained Sequence-to-Sequence Model [56.44269917346376]
関連ラベルを「ターゲット語」として生成するためにシーケンス・ツー・シーケンス・モデルをどのように訓練するかを示す。
提案手法は,データポーラ方式におけるエンコーダのみのモデルよりも大幅に優れている。
論文 参考訳(メタデータ) (2020-03-14T22:29:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。