論文の概要: BYOLMed3D: Self-Supervised Representation Learning of Medical Videos
using Gradient Accumulation Assisted 3D BYOL Framework
- arxiv url: http://arxiv.org/abs/2208.00444v1
- Date: Sun, 31 Jul 2022 14:48:06 GMT
- ステータス: 処理完了
- システム内更新日: 2022-08-02 13:54:21.804364
- Title: BYOLMed3D: Self-Supervised Representation Learning of Medical Videos
using Gradient Accumulation Assisted 3D BYOL Framework
- Title（参考訳）: BYOLMed3D: 3D BYOLフレームワークを用いた医用ビデオの自己教師付き表現学習
- Authors: Siladittya Manna, Souvik Chakraborty
- Abstract要約: 教師付き学習アルゴリズムは、堅牢な表現を学習するために、大量のバランスのとれたデータを必要とする。
自己教師付き学習アルゴリズムはデータの不均衡に対して堅牢であり、堅牢な表現を学習することができる。
我々は、勾配累積法を用いて3D BYOL自己教師モデルを構築し、通常、自己教師アルゴリズムで必要とされるバッチ内の多数のサンプルを扱う。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/publicdomain/zero/1.0/
- Abstract: Applications on Medical Image Analysis suffer from acute shortage of large
volume of data properly annotated by medical experts. Supervised Learning
algorithms require a large volumes of balanced data to learn robust
representations. Often supervised learning algorithms require various
techniques to deal with imbalanced data. Self-supervised learning algorithms on
the other hand are robust to imbalance in the data and are capable of learning
robust representations. In this work, we train a 3D BYOL self-supervised model
using gradient accumulation technique to deal with the large number of samples
in a batch generally required in a self-supervised algorithm. To the best of
our knowledge, this work is one of the first of its kind in this domain. We
compare the results obtained through our experiments in the downstream task of
ACL Tear Injury detection with the contemporary self-supervised pre-training
methods and also with ResNet3D-18 initialized with the Kinetics-400 pre-trained
weights. From the downstream task experiments, it is evident that the proposed
framework outperforms the existing baselines.
- Abstract（参考訳）: 医用画像解析の応用は、医療専門家が適切に注釈した大量のデータの急性欠如に苦しむ。
教師付き学習アルゴリズムは、堅牢な表現を学ぶために大量のバランスのとれたデータを必要とする。
教師あり学習アルゴリズムは、不均衡なデータを扱うために様々な技術を必要とする。
一方、自己教師付き学習アルゴリズムはデータの不均衡に頑健であり、堅牢な表現を学習することができる。
本研究では, 勾配蓄積法を用いて3次元 BYOL の自己教師型モデルを訓練し, 自己教師型アルゴリズムで一般的に必要とされるバッチ内の多数のサンプルを扱う。
私たちの知る限りでは、この研究はこの分野における最初の研究の1つです。
我々は, ACL Tear Injury 検出の下流課題における実験の結果と, 現代の自己指導型事前訓練法, および Kinetics-400 の事前訓練重量を初期化した ResNet3D-18 との比較を行った。
下流のタスク実験から,提案したフレームワークが既存のベースラインを上回っていることは明らかである。
関連論文リスト
- Masked LoGoNet: Fast and Accurate 3D Image Analysis for Medical Domain [48.440691680864745]
我々はLoGoNetと呼ばれる新しいニューラルネットワークアーキテクチャを導入する。
LoGoNetは、LKA(Large Kernel Attention)とデュアルエンコーディング戦略を利用して、U字型アーキテクチャに新しい特徴抽出器を統合する。
大規模ラベル付きデータセットの欠如を補うために,3次元画像に適した新しいSSL方式を提案する。
論文 参考訳（メタデータ） (2024-02-09T05:06:58Z) - LVM-Med: Learning Large-Scale Self-Supervised Vision Models for Medical
Imaging via Second-order Graph Matching [59.01894976615714]
LVM-Medは、大規模医療データセットに基づいてトレーニングされた、最初のディープネットワークファミリーである。
55の公開データセットから約13万の医療画像を収集しました。
LVM-Medは、多くの最先端の教師付き、自己監督型、基礎モデルよりも経験的に優れている。
論文 参考訳（メタデータ） (2023-06-20T22:21:34Z) - Data Efficient Contrastive Learning in Histopathology using Active Sampling [0.0]
ディープラーニングアルゴリズムは、デジタル病理学において堅牢な定量的分析を提供することができる。
これらのアルゴリズムは大量の注釈付きトレーニングデータを必要とする。
アドホックなプリテキストタスクを用いて特徴を学習するための自己教師付き手法が提案されている。
そこで本研究では,小規模なプロキシネットワークを用いたトレーニングセットから情報的メンバを積極的に抽出する手法を提案する。
論文 参考訳（メタデータ） (2023-03-28T18:51:22Z) - Towards Robust Dataset Learning [90.2590325441068]
本稿では,頑健なデータセット学習問題を定式化するための三段階最適化法を提案する。
ロバストな特徴と非ロバストな特徴を特徴付ける抽象モデルの下で,提案手法はロバストなデータセットを確実に学習する。
論文 参考訳（メタデータ） (2022-11-19T17:06:10Z) - Self-supervised Model Based on Masked Autoencoders Advance CT Scans
Classification [0.0]
本稿では,自己教師付き学習アルゴリズムMAEに着想を得た。
ImageNetで事前トレーニングされたMAEモデルを使用して、CT Scansデータセット上で転送学習を実行する。
この方法はモデルの一般化性能を改善し、小さなデータセットに過度に適合するリスクを回避する。
論文 参考訳（メタデータ） (2022-10-11T00:52:05Z) - Advancing 3D Medical Image Analysis with Variable Dimension Transform
based Supervised 3D Pre-training [45.90045513731704]
本稿では,革新的でシンプルな3Dネットワーク事前学習フレームワークを再考する。
再設計された3Dネットワークアーキテクチャにより、データ不足の問題に対処するために、修正された自然画像が使用される。
4つのベンチマークデータセットに関する総合的な実験により、提案した事前学習モデルが収束を効果的に加速できることが示されている。
論文 参考訳（メタデータ） (2022-01-05T03:11:21Z) - Self Context and Shape Prior for Sensorless Freehand 3D Ultrasound
Reconstruction [61.62191904755521]
3DフリーハンドUSは、幅広い範囲とフリーフォームスキャンを提供することで、この問題に対処することを約束している。
既存のディープラーニングベースの手法は、スキルシーケンスの基本ケースのみに焦点を当てている。
複雑なスキルシーケンスを考慮したセンサレスフリーハンドUS再構成手法を提案する。
論文 参考訳（メタデータ） (2021-07-31T16:06:50Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳（メタデータ） (2021-06-17T17:26:31Z) - Planar 3D Transfer Learning for End to End Unimodal MRI Unbalanced Data
Segmentation [0.0]
本稿では,事前学習した2次元畳み込みニューラルネットワーク重みを平面3次元カーネルにマッピングする手法を提案する。
提案手法は2次元VGG-16から転送されるエンコーダを備えた平面3Dres-u-netネットワークにより検証される。
論文 参考訳（メタデータ） (2020-11-23T17:11:50Z) - 3D Self-Supervised Methods for Medical Imaging [7.65168530693281]
本稿では,プロキシタスクの形式で,5種類の自己教師型手法の3次元バージョンを提案する。
提案手法は,未ラベルの3次元画像からニューラルネットワークの特徴学習を容易にし,専門家のアノテーションに必要なコストを削減することを目的としている。
開発したアルゴリズムは、3D Contrastive Predictive Coding, 3D Rotation Prediction, 3D Jigsaw puzzles, Relative 3D patch location, 3D Exemplar Networkである。
論文 参考訳（メタデータ） (2020-06-06T09:56:58Z) - Self-Training with Improved Regularization for Sample-Efficient Chest
X-Ray Classification [80.00316465793702]
挑戦的なシナリオで堅牢なモデリングを可能にするディープラーニングフレームワークを提案する。
その結果,85%のラベル付きデータを用いて,大規模データ設定で学習した分類器の性能に適合する予測モデルを構築することができた。
論文 参考訳（メタデータ） (2020-05-03T02:36:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。