論文の概要: DLTTA: Dynamic Learning Rate for Test-time Adaptation on Cross-domain Medical Images

• arxiv url: http://arxiv.org/abs/2205.13723v1
• Date: Fri, 27 May 2022 02:34:32 GMT
• ステータス: 処理完了
• システム内更新日: 2022-05-31 07:10:23.574423
• Title: DLTTA: Dynamic Learning Rate for Test-time Adaptation on Cross-domain Medical Images
• Title（参考訳）: DLTTA:クロスドメイン医療画像におけるテスト時間適応のための動的学習率
• Authors: Hongzheng Yang, Cheng Chen, Meirui Jiang, Quande Liu, Jianfeng Cao, Pheng Ann Heng, Qi Dou
• Abstract要約: DLTTAと呼ばれるテスト時間適応のための新しい動的学習率調整法を提案する。 本手法は,現在最先端のテスト時間適応法よりも一貫した性能向上を図り,有効かつ高速なテスト時間適応を実現する。
• 参考スコア（独自算出の注目度）: 56.72015587067494
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Test-time adaptation (TTA) has increasingly been an important topic to efficiently tackle the cross-domain distribution shift at test time for medical images from different institutions. Previous TTA methods have a common limitation of using a fixed learning rate for all the test samples. Such a practice would be sub-optimal for TTA, because test data may arrive sequentially therefore the scale of distribution shift would change frequently. To address this problem, we propose a novel dynamic learning rate adjustment method for test-time adaptation, called DLTTA, which dynamically modulates the amount of weights update for each test image to account for the differences in their distribution shift. Specifically, our DLTTA is equipped with a memory bank based estimation scheme to effectively measure the discrepancy of a given test sample. Based on this estimated discrepancy, a dynamic learning rate adjustment strategy is then developed to achieve a suitable degree of adaptation for each test sample. The effectiveness and general applicability of our DLTTA is extensively demonstrated on three tasks including retinal optical coherence tomography (OCT) segmentation, histopathological image classification, and prostate 3D MRI segmentation. Our method achieves effective and fast test-time adaptation with consistent performance improvement over current state-of-the-art test-time adaptation methods. Code is available at: https://github.com/med-air/DLTTA.
• Abstract（参考訳）: テストタイム適応(TTA)は、異なる機関の医療画像の試験時間におけるクロスドメイン分布シフトに効果的に取り組む上で、ますます重要なトピックとなっている。 従来のTTA手法では、すべてのテストサンプルに対して一定の学習率を使用するという共通の制限がある。 このようなプラクティスは、テストデータが順次到着する可能性があるため、分散シフトのスケールが頻繁に変化するため、TTAに準最適である。 そこで本研究では,DLTTAと呼ばれる,テスト時間適応のための動的学習率調整手法を提案する。 具体的には、DLTTAは、与えられたテストサンプルの誤差を効果的に測定するメモリバンクベースの推定スキームを備えている。 この推定誤差に基づいて、各試験試料に対して適切な適応度を達成するために、動的学習率調整戦略を開発する。 網膜光コヒーレンス断層撮影(OCT),病理像分類,前立腺MRIの3つの課題に対して,DLTTAの有効性と適用性について検討した。 本手法は,現在のテスト時間適応法よりも,効率良く高速なテスト時間適応を実現し,一貫した性能向上を実現する。 コードは、https://github.com/med-air/DLTTAで入手できる。

関連論文リスト

• PMT: Progressive Mean Teacher via Exploring Temporal Consistency for Semi-Supervised Medical Image Segmentation [51.509573838103854]
  医用画像セグメンテーションのための半教師付き学習フレームワークであるプログレッシブ平均教師(PMT)を提案する。 我々のPMTは、トレーニングプロセスにおいて、堅牢で多様な特徴を学習することで、高忠実な擬似ラベルを生成する。 CT と MRI の異なる2つのデータセットに対する実験結果から,本手法が最先端の医用画像分割法より優れていることが示された。
  論文  参考訳（メタデータ） (2024-09-08T15:02:25Z)
• Gradient Alignment Improves Test-Time Adaptation for Medical Image Segmentation [15.791041311313448]
  勾配アライメントに基づくテスト時間適応法(GraTa)による勾配方向と学習率の向上 GraTa法は、勾配アライメントを容易にするために、擬似的勾配に補助勾配を組み込む。 擬似勾配と補助勾配のコサイン類似性に基づく動的学習率を設計する。
  論文  参考訳（メタデータ） (2024-08-14T07:37:07Z)
• Active Test-Time Adaptation: Theoretical Analyses and An Algorithm [51.84691955495693]
  テスト時間適応(TTA)は、教師なし設定でストリーミングテストデータの分散シフトに対処する。 完全TTA設定内に能動学習を統合する能動テスト時間適応(ATTA)の新たな問題設定を提案する。
  論文  参考訳（メタデータ） (2024-04-07T22:31:34Z)
• Each Test Image Deserves A Specific Prompt: Continual Test-Time Adaptation for 2D Medical Image Segmentation [14.71883381837561]
  ドメイン間の分散シフトは、実世界のアプリケーションに事前訓練されたセマンティックセグメンテーションモデルをデプロイする上で重要な障害である。 テスト時間適応は、推論中にドメイン間の分布シフトに取り組むのに有効であることが証明されている。 本稿では,各テスト画像に対する特定のプロンプトをトレーニングし,バッチ正規化レイヤの統計値を調整するために,Visual Prompt-based Test-Time Adaptation (VPTTA)法を提案する。
  論文  参考訳（メタデータ） (2023-11-30T09:03:47Z)
• Point-TTA: Test-Time Adaptation for Point Cloud Registration Using Multitask Meta-Auxiliary Learning [17.980649681325406]
  我々は、ポイントクラウド登録(PCR)のための新しいテスト時間適応フレームワークであるPoint-TTAを提案する。 我々のモデルは、テストデータの事前の知識を必要とせずに、テスト時に目に見えない分布に適応することができる。 訓練中は, 補助タスクによる適応モデルにより主タスクの精度が向上するように, メタ補助学習アプローチを用いて訓練を行う。
  論文  参考訳（メタデータ） (2023-08-31T06:32:11Z)
• A Comprehensive Survey on Test-Time Adaptation under Distribution Shifts [143.14128737978342]
  新たなパラダイムであるテスト時適応は、事前トレーニングされたモデルをテスト中にラベルのないデータに適用し、予測を行う可能性がある。 このパラダイムの最近の進歩は、推論に先立って自己適応モデルのトレーニングにラベルのないデータを活用するという大きな利点を浮き彫りにしている。
  論文  参考訳（メタデータ） (2023-03-27T16:32:21Z)
• DELTA: degradation-free fully test-time adaptation [59.74287982885375]
  テスト時間バッチ正規化(BN)や自己学習といった,一般的な適応手法では,2つの好ましくない欠陥が隠されていることがわかった。 まず、テスト時間BNにおける正規化統計は、現在受信されているテストサンプルに完全に影響され、その結果、不正確な推定結果が得られることを明らかにする。 第二に、テスト時間適応中にパラメータ更新が支配的なクラスに偏っていることを示す。
  論文  参考訳（メタデータ） (2023-01-30T15:54:00Z)
• Efficient Test-Time Model Adaptation without Forgetting [60.36499845014649]
  テストタイム適応は、トレーニングとテストデータの間の潜在的な分散シフトに取り組むことを目指している。 信頼性および非冗長なサンプルを同定するためのアクティブなサンプル選択基準を提案する。 また、重要なモデルパラメータを劇的な変化から制約するFisher regularizerを導入します。
  論文  参考訳（メタデータ） (2022-04-06T06:39:40Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。