論文の概要: Choice of training label matters: how to best use deep learning for
quantitative MRI parameter estimation
- arxiv url: http://arxiv.org/abs/2205.05587v1
- Date: Wed, 11 May 2022 16:00:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-12 22:01:00.839995
- Title: Choice of training label matters: how to best use deep learning for
quantitative MRI parameter estimation
- Title(参考訳): トレーニングラベルの重要事項の選択:定量的MRIパラメータ推定におけるディープラーニングの最適活用法
- Authors: Sean C. Epstein, Timothy J. P. Bray, Margaret Hall-Craggs and Hui
Zhang
- Abstract要約: 自己教師付き手法に関連付けられていた低バイアスパラメータ推定は、教師付き学習フレームワーク内で複製可能であることを示す。
このアプローチは、単一の、統一されたディープラーニングパラメータ推定フレームワークのステージを設定する。
- 参考スコア(独自算出の注目度): 2.2086005010186387
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Deep learning (DL) is gaining popularity as a parameter estimation method for
quantitative MRI. A range of competing implementations have been proposed,
relying on either supervised or self-supervised learning. Self-supervised
approaches, sometimes referred to as unsupervised, have been loosely based on
auto-encoders, whereas supervised methods have, to date, been trained on
groundtruth labels. These two learning paradigms have been shown to have
distinct strengths. Notably, self-supervised approaches have offered lower-bias
parameter estimates than their supervised alternatives. This result is
counterintuitive - incorporating prior knowledge with supervised labels should,
in theory, lead to improved accuracy. In this work, we show that this apparent
limitation of supervised approaches stems from the naive choice of groundtruth
training labels. By training on labels which are deliberately not groundtruth,
we show that the low-bias parameter estimation previously associated with
self-supervised methods can be replicated - and improved on - within a
supervised learning framework. This approach sets the stage for a single,
unifying, deep learning parameter estimation framework, based on supervised
learning, where trade-offs between bias and variance are made by careful
adjustment of training label.
- Abstract(参考訳): 定量的MRIのパラメータ推定手法として,ディープラーニング(DL)が普及している。
教師付き学習または自己教師付き学習のいずれかに依存する、さまざまな競合実装が提案されている。
自己監督的なアプローチは、しばしば教師なし(unsupervised)と呼ばれ、オートエンコーダ(auto-encoder)に基づいて緩やかに行われている。
これら2つの学習パラダイムは、異なる強みを持つことが示されている。
特に、自己教師型アプローチは、監督型アプローチよりも低いバイアスパラメータ推定を提供している。
この結果は直観に反する - 教師付きラベルに事前知識を組み込むことで、理論的には、精度が向上するはずだ。
本研究では,この教師付きアプローチの明らかな限界が,基礎訓練ラベルのナイーブな選択に起因していることを示す。
故意に基礎的でないラベルをトレーニングすることにより,教師あり学習フレームワーク内で,自己教師あり手法に関連する低バイアスパラメータ推定を再現し,改良できることを示す。
このアプローチは、教師付き学習に基づく単一の統一的なディープラーニングパラメータ推定フレームワークのステージを設定し、トレーニングラベルを注意深く調整することでバイアスと分散のトレードオフが生まれる。
関連論文リスト
- Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳(メタデータ) (2024-03-01T03:27:08Z) - Selective Learning: Towards Robust Calibration with Dynamic Regularization [79.92633587914659]
ディープラーニングにおけるミススキャリブレーションとは、予測された信頼とパフォーマンスの間には相違がある、という意味である。
トレーニング中に何を学ぶべきかを学ぶことを目的とした動的正規化(DReg)を導入し、信頼度調整のトレードオフを回避する。
論文 参考訳(メタデータ) (2024-02-13T11:25:20Z) - One-bit Supervision for Image Classification: Problem, Solution, and
Beyond [114.95815360508395]
本稿では,ラベルの少ない新しい学習環境である,画像分類のための1ビット監督について述べる。
多段階学習パラダイムを提案し、負ラベル抑圧を半教師付き半教師付き学習アルゴリズムに組み込む。
複数のベンチマークにおいて、提案手法の学習効率は、フルビットの半教師付き監視手法よりも優れている。
論文 参考訳(メタデータ) (2023-11-26T07:39:00Z) - Self-training via Metric Learning for Source-Free Domain Adaptation of Semantic Segmentation [3.1460691683829825]
教師なしのドメイン適応手法は、事前訓練されたソースドメインモデルとラベルなしのターゲットドメインデータを用いて、ターゲットドメインのモデルをトレーニングすることを目的としている。
従来の手法では、通常擬似ラベルによる自己学習が用いられており、予測信頼度に基づいてしきい値付けされることが多い。
本稿では,教師ネットワークからの全ての予測を用いて,学生ネットワークを訓練する平均教師モデルを導入することによって,新しいアプローチを提案する。
論文 参考訳(メタデータ) (2022-12-08T12:20:35Z) - AI-KD: Adversarial learning and Implicit regularization for self-Knowledge Distillation [20.80341206396388]
本稿では, 自己知識蒸留(AI-KD)における対向学習と暗黙の正則化という, 対向的ペナル化自己知識蒸留法を提案する。
我々のモデルは,事前学習と過去の予測確率から得られた決定論的および進歩的知識を蒸留するだけでなく,逆学習を用いて決定論的予測分布の知識を伝達する。
提案手法の有効性を実証し,提案手法が最先端手法よりも優れた性能を実現することを示す。
論文 参考訳(メタデータ) (2022-11-20T10:30:58Z) - Conformal Credal Self-Supervised Learning [7.170735702082675]
半教師付き学習において、自己学習のパラダイムとは、学習者自身が提案する擬似ラベルから学習することを指す。
そのような方法の1つは、いわゆるクレダル自己教師学習であり、ラベル上の(単体ではなく)確率分布の集合の形で擬超越性を維持している。
論文 参考訳(メタデータ) (2022-05-30T16:53:16Z) - Learning with Proper Partial Labels [87.65718705642819]
部分ラベル学習は、不正確なラベルを持つ弱い教師付き学習の一種である。
この適切な部分ラベル学習フレームワークには,従来の部分ラベル学習設定が数多く含まれていることを示す。
次に、分類リスクの統一的非バイアス推定器を導出する。
論文 参考訳(メタデータ) (2021-12-23T01:37:03Z) - Improving Self-supervised Learning with Automated Unsupervised Outlier
Arbitration [83.29856873525674]
本稿では,自己教師型学習のためのビューサンプリング問題を対象とした,軽量潜在変数モデル UOTA を提案する。
本手法は,多くの主流な自己指導型学習手法に直接応用する。
論文 参考訳(メタデータ) (2021-12-15T14:05:23Z) - Estimating and Improving Fairness with Adversarial Learning [65.99330614802388]
本研究では,深層学習に基づく医療画像解析システムにおけるバイアスの同時緩和と検出を目的としたマルチタスク・トレーニング戦略を提案する。
具体的には,バイアスに対する識別モジュールと,ベース分類モデルにおける不公平性を予測するクリティカルモジュールを追加することを提案する。
大規模で利用可能な皮膚病変データセットのフレームワークを評価します。
論文 参考訳(メタデータ) (2021-03-07T03:10:32Z) - Mitigating Class Boundary Label Uncertainty to Reduce Both Model Bias
and Variance [4.563176550691304]
トレーニングデータラベルの不正確性と不確実性に対処する新しい手法について検討する。
本手法は,トレーニングセットのポイントワイドラベルの不確かさを推定することにより,バイアスと分散の両面を低減できる。
論文 参考訳(メタデータ) (2020-02-23T18:24:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。