論文の概要: Selecting the Best Optimizers for Deep Learning based Medical Image Segmentation

• arxiv url: http://arxiv.org/abs/2302.02289v1
• Date: Sun, 5 Feb 2023 03:49:27 GMT
• ステータス: 処理完了
• システム内更新日: 2023-02-07 19:01:03.682547
• Title: Selecting the Best Optimizers for Deep Learning based Medical Image Segmentation
• Title（参考訳）: 深層学習に基づく医用画像セグメンテーションのための最適最適化器の選択
• Authors: Aliasghar Mortazi, Vedat Cicek, Elif Keles, Ulas Bagci
• Abstract要約: 本研究の目的は, 心像分割の文脈において, 深層学習の最良の方法を特定することである。 モーメントは、加速スキームカテゴリ内のニューラルネットワークを迅速に最適化するのに特に効果的である。
• 参考スコア（独自算出の注目度）: 1.837793355722137
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The goal of this work is to identify the best optimizers for deep learning in the context of cardiac image segmentation and to provide guidance on how to design segmentation networks with effective optimization strategies. Adaptive learning helps with fast convergence by starting with a larger learning rate (LR) and gradually decreasing it. Momentum optimizers are particularly effective at quickly optimizing neural networks within the accelerated schemes category. By revealing the potential interplay between these two types of algorithms (LR and momentum optimizers or momentum rate (MR) in short), in this article, we explore the two variants of SGD algorithms in a single setting. We suggest using cyclic learning as the base optimizer and integrating optimal values of learning rate and momentum rate. We investigated the relationship of LR and MR under an important problem of medical image segmentation of cardiac structures from MRI and CT scans. We conducted experiments using the cardiac imaging dataset from the ACDC challenge of MICCAI 2017, and four different architectures shown to be successful for cardiac image segmentation problems. Our comprehensive evaluations demonstrated that the proposed optimizer achieved better results (over a 2\% improvement in the dice metric) than other optimizers in deep learning literature with similar or lower computational cost in both single and multi-object segmentation settings. We hypothesized that combination of accelerated and adaptive optimization methods can have a drastic effect in medical image segmentation performances. To this end, we proposed a new cyclic optimization method (\textit{CLMR}) to address the efficiency and accuracy problems in deep learning based medical image segmentation. The proposed strategy yielded better generalization in comparison to adaptive optimizers.
• Abstract（参考訳）: この研究の目的は、心臓画像分割の文脈でディープラーニングの最適な最適化器を特定し、効果的な最適化戦略でセグメンテーションネットワークを設計する方法についてのガイダンスを提供することである。 適応学習は、より大きな学習率(LR)から始めて徐々に減少させることで、急速に収束するのに役立つ。 モーメントムオプティマイザは、加速スキームカテゴリ内のニューラルネットワークを迅速に最適化するのに特に効果的である。 本稿では、これらの2種類のアルゴリズム(LRと運動量最適化器、または運動量率(MR))の潜在的な相互作用を明らかにすることにより、SGDアルゴリズムの2つの変種を単一の設定で検討する。 学習速度と運動量率の最適値を統合するために,循環学習をベースオプティマイザとして用いることを提案する。 MRI と CT による心組織像の分画の重要な問題における LR と MR の関係について検討した。 miccai 2017 の acdc 課題から心画像データセットを用いて実験を行い,心画像分割問題に対して4つの異なるアーキテクチャを用いた。 総合的な評価により,提案手法は,単目的および多目的セグメンテーション設定において計算コストが同じか低い深層学習文献における他のオプティマイザよりも優れた結果(diceメトリックの2-%改善)を得られた。 加速度的および適応的最適化手法の組み合わせは医用画像のセグメンテーション性能に劇的な影響を与えると仮定した。 そこで我々は,深層学習に基づく医用画像分割における効率と精度の問題に対処するために,新しい循環最適化手法 (\textit{CLMR}) を提案する。 提案手法は適応最適化器と比較してより一般化された。

関連論文リスト

• Two Optimizers Are Better Than One: LLM Catalyst Empowers Gradient-Based Optimization for Prompt Tuning [69.95292905263393]
  我々は,勾配に基づく最適化と大規模言語モデル(MsLL)が相互補完的であることを示し,協調的な最適化手法を提案する。 私たちのコードはhttps://www.guozix.com/guozix/LLM-catalystでリリースされています。
  論文  参考訳（メタデータ） (2024-05-30T06:24:14Z)
• Learning to sample in Cartesian MRI [1.2432046687586285]
  患者の快適さを高め、検査コストを減らし、スループットを向上させるため、臨床環境ではスキャン時間を短縮することが重要である。 圧縮センシング(CS)とディープラーニングの最近の進歩は、アンダーサンプルデータから高品質な画像を再構成することで、MRIの高速化を可能にする。 この論文は、カルテシアンMRIの文脈におけるこのギャップに対処する2つのアプローチを探求する。
  論文  参考訳（メタデータ） (2023-12-07T14:38:07Z)
• Adaptive Image Registration: A Hybrid Approach Integrating Deep Learning and Optimization Functions for Enhanced Precision [13.242184146186974]
  本稿では,ディープニューラルネットワークと最適化に基づく画像登録のための単一のフレームワークを提案する。 また, 実験データの最大1.6%の改善と, 同じ推定時間を維持しつつ, 変形場平滑化における1.0%の性能向上を示す。
  論文  参考訳（メタデータ） (2023-11-27T02:48:06Z)
• ARHNet: Adaptive Region Harmonization for Lesion-aware Augmentation to Improve Segmentation Performance [61.04246102067351]
  本研究では,合成画像をよりリアルに見せるために,前景調和フレームワーク(ARHNet)を提案する。 実画像と合成画像を用いたセグメンテーション性能の向上に本手法の有効性を実証する。
  論文  参考訳（メタデータ） (2023-07-02T10:39:29Z)
• Improved Algorithms for Neural Active Learning [74.89097665112621]
  非パラメトリックストリーミング設定のためのニューラルネットワーク(NN)ベースの能動学習アルゴリズムの理論的および経験的性能を改善する。 本研究では,SOTA(State-of-the-art (State-the-art)) 関連研究で使用されるものよりも,アクティブラーニングに適する人口減少を最小化することにより,2つの後悔の指標を導入する。
  論文  参考訳（メタデータ） (2022-10-02T05:03:38Z)
• An Improved Deep Convolutional Neural Network by Using Hybrid Optimization Algorithms to Detect and Classify Brain Tumor Using Augmented MRI Images [0.9990687944474739]
  本稿では,最適化アルゴリズムを改良することにより,深層畳み込み学習の改善を実現する。 提案手法の性能を2073個のMRI画像で検証する実験を行った。 性能比較では、DCNN-G-HHOは既存の手法よりもはるかに成功しており、特にスコアの精度は97%である。
  論文  参考訳（メタデータ） (2022-06-08T14:29:06Z)
• Optimizer Amalgamation [124.33523126363728]
  私たちは、Amalgamationという新しい問題の研究を動機付けています。"Teacher"アマルガメーションのプールを、より強力な問題固有のパフォーマンスを持つ単一の"学生"にどのように組み合わせるべきなのでしょうか? まず、勾配降下による解析のプールをアマルガメートする3つの異なるメカニズムを定義する。 また, プロセスの分散を低減するため, 目標を摂動させることでプロセスの安定化を図る。
  論文  参考訳（メタデータ） (2022-03-12T16:07:57Z)
• Meta-Learning with Neural Tangent Kernels [58.06951624702086]
  メタモデルのニューラルタンジェントカーネル(NTK)によって誘導される再生カーネルヒルベルト空間(RKHS)における最初のメタラーニングパラダイムを提案する。 このパラダイムでは,MAMLフレームワークのように,最適な反復内ループ適応を必要としない2つのメタ学習アルゴリズムを導入する。 本研究の目的は,1) 適応をRKHSの高速適応正則化器に置き換えること,2) NTK理論に基づいて解析的に適応を解くことである。
  論文  参考訳（メタデータ） (2021-02-07T20:53:23Z)
• Automatic Liver Segmentation from CT Images Using Deep Learning Algorithms: A Comparative Study [0.0]
  本稿では,Liverセグメンテーションのための最も効率的なDLアーキテクチャを提案する。 完全自動肝セグメンテーションのための最も効率的かつ正確なDLアーキテクチャを明らかにすることを目的としている。 その結果,DLアルゴリズムはDICOM画像からの臓器分割を高精度に自動化できることが判明した。
  論文  参考訳（メタデータ） (2021-01-25T10:05:46Z)
• Bilevel Optimization: Convergence Analysis and Enhanced Design [63.64636047748605]
  バイレベル最適化は多くの機械学習問題に対するツールである。 Stoc-BiO という新しい確率効率勾配推定器を提案する。
  論文  参考訳（メタデータ） (2020-10-15T18:09:48Z)
• Distributionally Robust Deep Learning using Hardness Weighted Sampling [5.277562268045534]
  本稿では、ディープラーニングの文脈に特に適した機械学習におけるDROの原理的かつ効率的なアルゴリズムを提案する。 MRIにおける胎児脳の3次元MRIセグメント化と脳腫瘍セグメント化に関する実験は、我々のアプローチの有効性と有用性を示している。
  論文  参考訳（メタデータ） (2020-01-08T18:02:56Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。