論文の概要: The Power of Proxy Data and Proxy Networks for Hyper-Parameter
Optimization in Medical Image Segmentation
- arxiv url: http://arxiv.org/abs/2107.05471v1
- Date: Mon, 12 Jul 2021 14:37:08 GMT
- ステータス: 処理完了
- システム内更新日: 2021-07-13 15:45:20.294441
- Title: The Power of Proxy Data and Proxy Networks for Hyper-Parameter
Optimization in Medical Image Segmentation
- Title(参考訳): 医用画像セグメンテーションにおけるハイパーパラメータ最適化のためのプロキシデータとプロキシネットワークのパワー
- Authors: Vishwesh Nath, Dong Yang, Ali Hatamizadeh, Anas A. Abidin, Andriy
Myronenko, Holger Roth, Daguang Xu
- Abstract要約: 本稿では,プロキシデータとプロキシネットワークの2つの新しい手法を提案する。
我々は、よく知られた公開データセットを用いて、CTおよびMR画像のモダリティに関する提案手法を検証した。
- 参考スコア(独自算出の注目度): 7.257408590794691
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Deep learning models for medical image segmentation are primarily
data-driven. Models trained with more data lead to improved performance and
generalizability. However, training is a computationally expensive process
because multiple hyper-parameters need to be tested to find the optimal setting
for best performance. In this work, we focus on accelerating the estimation of
hyper-parameters by proposing two novel methodologies: proxy data and proxy
networks. Both can be useful for estimating hyper-parameters more efficiently.
We test the proposed techniques on CT and MR imaging modalities using
well-known public datasets. In both cases using one dataset for building proxy
data and another data source for external evaluation. For CT, the approach is
tested on spleen segmentation with two datasets. The first dataset is from the
medical segmentation decathlon (MSD), where the proxy data is constructed, the
secondary dataset is utilized as an external validation dataset. Similarly, for
MR, the approach is evaluated on prostate segmentation where the first dataset
is from MSD and the second dataset is PROSTATEx. First, we show higher
correlation to using full data for training when testing on the external
validation set using smaller proxy data than a random selection of the proxy
data. Second, we show that a high correlation exists for proxy networks when
compared with the full network on validation Dice score. Third, we show that
the proposed approach of utilizing a proxy network can speed up an AutoML
framework for hyper-parameter search by 3.3x, and by 4.4x if proxy data and
proxy network are utilized together.
- Abstract(参考訳): 医用画像セグメンテーションのためのディープラーニングモデルは、主にデータ駆動である。
より多くのデータでトレーニングされたモデルは、パフォーマンスと一般化性を改善する。
しかし、トレーニングは計算コストの高いプロセスであり、最適なパフォーマンスのために最適な設定を見つけるために複数のハイパーパラメータをテストする必要がある。
本研究では,プロキシデータとプロキシネットワークという2つの手法を提案し,ハイパーパラメータの推定を高速化することに注力する。
どちらもハイパーパラメータをより効率的に推定するのに有用である。
提案手法はよく知られた公開データセットを用いてctとmr画像のモダリティを用いて検証する。
いずれの場合も、プロキシデータを構築するために1つのデータセットと、外部評価のために別のデータソースを使用する。
CTの場合、この手法は2つのデータセットで脾臓のセグメンテーションでテストされる。
最初のデータセットは、プロキシデータが構築され、二次データセットが外部バリデーションデータセットとして使用される医療セグメンテーションデカトロン(MSD)からである。
同様に、MRでは、第1のデータセットがMSD、第2のデータセットがPRSTATExである前立腺のセグメンテーションに基づいてアプローチを評価する。
まず、プロキシデータのランダム選択よりも小さなプロキシデータを使用して外部検証セットでテストする場合、トレーニングにフルデータを使用する場合の相関性が高いことを示す。
第2に、バリデーション・ダイススコアのフルネットワークと比較した場合、プロキシネットワークには高い相関があることを示す。
第3に,プロキシネットワークを利用するアプローチでは,プロキシデータとプロキシネットワークを併用すれば,ハイパーパラメータ検索のためのAutoMLフレームワークを3.3倍,4.4倍高速化できることを示す。
関連論文リスト
- Truthful Dataset Valuation by Pointwise Mutual Information [28.63827288801458]
観測データを真に報告することで,データ提供者が常に期待するスコアを最大化することができる新しいデータ評価手法を提案する。
本手法は、適切なスコアリングルールのパラダイムに従って、テストデータセットと評価データセットのポイントワイド相互情報(PMI)を測定する。
論文 参考訳(メタデータ) (2024-05-28T15:04:17Z) - An Efficient Virtual Data Generation Method for Reducing Communication
in Federated Learning [34.39250699866746]
いくつかの古典的なスキームでは、サーバがローカルモデルから参加者のトレーニングデータに関する補助情報を抽出し、中央ダミーデータセットを構築することができると仮定している。
サーバはダミーデータセットを使用して、集約されたグローバルモデルを微調整し、より少ない通信ラウンドでターゲットテストの精度を達成する。
本稿では、上記のソリューションをデータベースの通信効率FLフレームワークにまとめる。
論文 参考訳(メタデータ) (2023-06-21T08:07:07Z) - Joint Optimization of Class-Specific Training- and Test-Time Data
Augmentation in Segmentation [35.41274775082237]
本稿では,医用画像セグメンテーションのための有効で汎用的なデータ拡張フレームワークを提案する。
我々は、学習データと検証データの分布を整合させるために、計算効率が高く、データ効率のよい勾配に基づくメタラーニング手法を採用する。
本稿では,DeepMedic と nnU-Net の2つの最先端セグメンテーションモデルを用いた4つの医用画像セグメンテーション課題に対する提案手法の有効性を示す。
論文 参考訳(メタデータ) (2023-05-30T14:48:45Z) - ALMERIA: Boosting pairwise molecular contrasts with scalable methods [0.0]
ALMERIAは、一対の分子コントラストに基づく化合物の類似性と活性予測を推定するためのツールである。
大量のデータを利用するスケーラブルなソフトウェアと手法を使って実装されている。
分子活性予測の最先端性能を示す実験を行った。
論文 参考訳(メタデータ) (2023-04-28T16:27:06Z) - SEAM: Searching Transferable Mixed-Precision Quantization Policy through
Large Margin Regularization [50.04951511146338]
混合精度量子化(MPQ)は各層に対して最適なビット幅割り当てを求めるのに時間を要する。
本稿では,小規模なプロキシデータセットを用いて効率的なMPQポリシーを効率的に検索する手法を提案する。
論文 参考訳(メタデータ) (2023-02-14T05:47:45Z) - Prompt Tuning for Parameter-efficient Medical Image Segmentation [79.09285179181225]
2つの医用画像データセットのセマンティックセグメンテーションにパラメータ効率が良いが効果的な適応を実現するために,いくつかのコントリビューションを提案し,検討する。
我々はこのアーキテクチャを、オンライン生成プロトタイプへの割り当てに基づく専用密集型セルフスーパービジョンスキームで事前訓練する。
得られたニューラルネットワークモデルにより、完全に微調整されたモデルとパラメータに適応したモデルとのギャップを緩和できることを実証する。
論文 参考訳(メタデータ) (2022-11-16T21:55:05Z) - Optimizing Server-side Aggregation For Robust Federated Learning via
Subspace Training [80.03567604524268]
クライアント間の非IIDデータ分散と中毒攻撃は、現実世界のフェデレーション学習システムにおける2つの大きな課題である。
サーバ側集約プロセスを最適化する汎用的なアプローチであるSmartFLを提案する。
本稿では,SmartFLの収束と一般化能力に関する理論的解析を行う。
論文 参考訳(メタデータ) (2022-11-10T13:20:56Z) - Data Augmentation for Abstractive Query-Focused Multi-Document
Summarization [129.96147867496205]
2つのQMDSトレーニングデータセットを提示し,2つのデータ拡張手法を用いて構築する。
これらの2つのデータセットは相補的な性質を持ち、すなわちQMDSCNNは実際のサマリを持つが、クエリはシミュレートされる。
組み合わせたデータセット上にエンドツーエンドのニューラルネットワークモデルを構築し、DUCデータセットに最新の転送結果をもたらします。
論文 参考訳(メタデータ) (2021-03-02T16:57:01Z) - Fewer is More: A Deep Graph Metric Learning Perspective Using Fewer
Proxies [65.92826041406802]
本稿では,グラフ分類の観点から,プロキシベースのディープグラフメトリックラーニング手法を提案する。
複数のグローバルプロキシを利用して、各クラスの元のデータポイントを総括的に近似する。
本研究では, 近接関係を接地トラス・ラベルに従って調整する, 新たな逆ラベル伝搬アルゴリズムを設計する。
論文 参考訳(メタデータ) (2020-10-26T14:52:42Z) - Pre-Trained Models for Heterogeneous Information Networks [57.78194356302626]
異種情報ネットワークの特徴を捉えるための自己教師付き事前学習・微調整フレームワークPF-HINを提案する。
PF-HINは4つのデータセットにおいて、各タスクにおける最先端の代替よりも一貫して、大幅に優れています。
論文 参考訳(メタデータ) (2020-07-07T03:36:28Z) - Classification Algorithm of Speech Data of Parkinsons Disease Based on
Convolution Sparse Kernel Transfer Learning with Optimal Kernel and Parallel
Sample Feature Selection [14.1270098940551]
スパースカーネル転送学習に基づく新しいPD分類アルゴリズムを提案する。
スパース伝達学習は公共データセットからPD音声の特徴構造情報を抽出するために用いられる。
提案アルゴリズムは、分類精度が明らかに向上する。
論文 参考訳(メタデータ) (2020-02-10T13:20:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。