論文の概要: Towards Bi-directional Skip Connections in Encoder-Decoder Architectures and Beyond

• arxiv url: http://arxiv.org/abs/2203.05709v1
• Date: Fri, 11 Mar 2022 01:38:52 GMT
• ステータス: 処理完了
• システム内更新日: 2022-03-14 13:08:18.137198
• Title: Towards Bi-directional Skip Connections in Encoder-Decoder Architectures and Beyond
• Title（参考訳）: エンコーダ・デコーダアーキテクチャの双方向スキップ接続に向けて
• Authors: Tiange Xiang, Chaoyi Zhang, Xinyi Wang, Yang Song, Dongnan Liu, Heng Huang, Weidong Cai
• Abstract要約: 本稿では,デコードされた機能をエンコーダに戻すための後方スキップ接続を提案する。 我々の設計は、任意のエンコーダ・デコーダアーキテクチャにおいて前方スキップ接続と共同で適用することができる。 本稿では,2相ニューラルネットワーク探索(NAS)アルゴリズム,すなわちBiX-NASを提案する。
• 参考スコア（独自算出の注目度）: 95.46272735589648
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: U-Net, as an encoder-decoder architecture with forward skip connections, has achieved promising results in various medical image analysis tasks. Many recent approaches have also extended U-Net with more complex building blocks, which typically increase the number of network parameters considerably. Such complexity makes the inference stage highly inefficient for clinical applications. Towards an effective yet economic segmentation network design, in this work, we propose backward skip connections that bring decoded features back to the encoder. Our design can be jointly adopted with forward skip connections in any encoder-decoder architecture forming a recurrence structure without introducing extra parameters. With the backward skip connections, we propose a U-Net based network family, namely Bi-directional O-shape networks, which set new benchmarks on multiple public medical imaging segmentation datasets. On the other hand, with the most plain architecture (BiO-Net), network computations inevitably increase along with the pre-set recurrence time. We have thus studied the deficiency bottleneck of such recurrent design and propose a novel two-phase Neural Architecture Search (NAS) algorithm, namely BiX-NAS, to search for the best multi-scale bi-directional skip connections. The ineffective skip connections are then discarded to reduce computational costs and speed up network inference. The finally searched BiX-Net yields the least network complexity and outperforms other state-of-the-art counterparts by large margins. We evaluate our methods on both 2D and 3D segmentation tasks in a total of six datasets. Extensive ablation studies have also been conducted to provide a comprehensive analysis for our proposed methods.
• Abstract（参考訳）: 前方スキップ接続を持つエンコーダ/デコーダアーキテクチャとしてu-netは、様々な医用画像解析タスクで有望な結果を得た。 最近の多くのアプローチでは、より複雑なビルディングブロックでU-Netを拡張しており、通常はネットワークパラメータの数をかなり増やしている。 このような複雑さにより、推論段階は臨床応用に非常に非効率になる。 本研究では,効率的なセグメンテーションネットワークの設計に向けて,デコードされた機能をエンコーダに戻すための後方スキップ接続を提案する。 我々の設計は、余分なパラメータを導入することなく、再帰構造を形成するエンコーダ・デコーダアーキテクチャにおいて前方スキップ接続を併用することができる。 後方スキップ接続により、U-Netベースのネットワークファミリー、すなわち双方向O-シェープネットワークを提案し、複数の公開医用画像セグメンテーションデータセットに新しいベンチマークを設定した。 一方、最も平易なアーキテクチャ(BiO-Net)では、ネットワーク計算は事前に設定された繰り返し時間とともに必然的に増加する。 そこで我々は,このような繰り返し設計のボトルネックについて検討し,マルチスケールの双方向スキップ接続を探索する2相ニューラルアーキテクチャ探索(NAS)アルゴリズム(BiX-NAS)を提案する。 無効なスキップ接続は、計算コストを削減し、ネットワーク推論を高速化するために破棄される。 最終的に検索されたBiX-Netはネットワークの複雑さを最小化し、最先端のネットワークよりも大きなマージンで優れている。 2次元と3次元のセグメンテーションタスクを合計6つのデータセットで評価した。 提案手法の包括的解析を行うため,広範囲なアブレーション研究も行われている。

関連論文リスト

• RC-Net: A Convolutional Neural Network for Retinal Vessel Segmentation [3.0846824529023387]
  本稿では,機能重複と複雑性を低減するために,層ごとのフィルタ数を最適化した完全畳み込みネットワークRC-Netを提案する。 我々の実験では、RC-Netは非常に競争力があり、訓練可能なパラメータが2、3桁も少ない代替船のセグメンテーション手法よりも優れています。
  論文  参考訳（メタデータ） (2021-12-21T10:24:01Z)
• PDFNet: Pointwise Dense Flow Network for Urban-Scene Segmentation [0.0]
  我々はポイントワイド高密度フローネットワーク(PDFNet)という新しい軽量アーキテクチャを提案する。 PDFNetでは、ネットワークのすべての部分へのスムーズな勾配流を可能にするために、密集、残留、複数ショートカット接続を使用します。 提案手法は,小規模なクラスや少数のデータレギュレーションにおいて,ベースラインを著しく上回る。
  論文  参考訳（メタデータ） (2021-09-21T10:39:46Z)
• BiX-NAS: Searching Efficient Bi-directional Architecture for Medical Image Segmentation [85.0444711725392]
  本稿では,双方向スキップ接続ネットワークのマルチスケールアップグレードについて検討し,新しい2相ニューラルアーキテクチャ探索 (NAS) アルゴリズム,すなわちBiX-NASを用いて,効率的なアーキテクチャを自動検出する。 提案手法は、異なるレベルとイテレーションで非効率なマルチスケール特徴を排除し、ネットワーク計算コストを削減する。 3つの異なる医用画像データセットを用いて2つのセグメンテーションタスクにおけるBiX-NASの評価を行い、実験結果から、Bix-NAS探索アーキテクチャが計算コストを大幅に削減して最先端の性能を達成することを示す。
  論文  参考訳（メタデータ） (2021-06-26T14:33:04Z)
• Hierarchical Neural Architecture Search for Deep Stereo Matching [131.94481111956853]
  本稿では, ディープステレオマッチングのための最初のエンドツーエンド階層型NASフレームワークを提案する。 我々のフレームワークは、タスク固有の人間の知識をニューラルアーキテクチャ検索フレームワークに組み込んでいる。 KITTI stereo 2012、2015、Middleburyベンチマークで1位、SceneFlowデータセットで1位にランクインしている。
  論文  参考訳（メタデータ） (2020-10-26T11:57:37Z)
• Suppress and Balance: A Simple Gated Network for Salient Object Detection [89.88222217065858]
  両問題を同時に解くための単純なゲートネットワーク(GateNet)を提案する。 多レベルゲートユニットの助けを借りて、エンコーダからの貴重なコンテキスト情報をデコーダに最適に送信することができる。 さらに,提案したFold-ASPP操作(Fold-ASPP)に基づくアトラス空間ピラミッドプーリングを用いて,様々なスケールのサリアンオブジェクトを正確に位置決めする。
  論文  参考訳（メタデータ） (2020-07-16T02:00:53Z)
• Neural Architecture Optimization with Graph VAE [21.126140965779534]
  連続空間におけるネットワークアーキテクチャを最適化するための効率的なNAS手法を提案する。 フレームワークは、エンコーダ、パフォーマンス予測器、複雑性予測器、デコーダの4つのコンポーネントを共同で学習する。
  論文  参考訳（メタデータ） (2020-06-18T07:05:48Z)
• Fitting the Search Space of Weight-sharing NAS with Graph Convolutional Networks [100.14670789581811]
  サンプルサブネットワークの性能に適合するグラフ畳み込みネットワークを訓練する。 この戦略により、選択された候補集合において、より高いランク相関係数が得られる。
  論文  参考訳（メタデータ） (2020-04-17T19:12:39Z)
• Toward fast and accurate human pose estimation via soft-gated skip connections [97.06882200076096]
  本稿では,高精度かつ高効率な人間のポーズ推定について述べる。 我々は、最先端技術よりも精度と効率を両立させる文脈において、この設計選択を再分析する。 本モデルでは,MPII と LSP のデータセットから最先端の結果が得られる。
  論文  参考訳（メタデータ） (2020-02-25T18:51:51Z)
• Exploring the Connection Between Binary and Spiking Neural Networks [1.329054857829016]
  両立ニューラルネットワークとスパイクニューラルネットワークの訓練における最近のアルゴリズムの進歩を橋渡しする。 極端量子化システムにおけるスパイキングニューラルネットワークのトレーニングは,大規模データセット上でのほぼ完全な精度向上をもたらすことを示す。
  論文  参考訳（メタデータ） (2020-02-24T03:46:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。