論文の概要: Student Collaboration Improves Self-Supervised Learning: Dual-Loss
Adaptive Masked Autoencoder for Brain Cell Image Analysis
- arxiv url: http://arxiv.org/abs/2205.05194v1
- Date: Tue, 10 May 2022 22:32:29 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-13 09:30:20.944206
- Title: Student Collaboration Improves Self-Supervised Learning: Dual-Loss
Adaptive Masked Autoencoder for Brain Cell Image Analysis
- Title(参考訳): 学生コラボレーションによる自己監督型学習の改善:脳細胞画像解析のためのデュアルロス適応型マスケードオートエンコーダ
- Authors: Son T. Ly, Bai Lin, Hung Q. Vo, Dragan Maric, Badri Roysam, and Hien
V. Nguyen
- Abstract要約: 自己教師付き学習は、大量のバイオメディカルデータと限られたアノテーションで学ぶための実践的なソリューションである。
本研究は,情報理論の観点から構築した自己教師型Dual-Loss Adaptive Masked Autoencoder (DAMA) アルゴリズムを提案する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Self-supervised learning leverages the underlying data structure as the
source of the supervisory signal without the need for human annotation effort.
This approach offers a practical solution to learning with a large amount of
biomedical data and limited annotation. Unlike other studies exploiting data
via multi-view (e.g., augmented images), this study presents a self-supervised
Dual-Loss Adaptive Masked Autoencoder (DAMA) algorithm established from the
viewpoint of the information theory. Specifically, our objective function
maximizes the mutual information by minimizing the conditional entropy in
pixel-level reconstruction and feature-level regression. We further introduce
an adaptive mask sampling strategy to maximize mutual information. We conduct
extensive experiments on brain cell images to validate the proposed method.
DAMA significantly outperforms both state-of-the-art self-supervised and
supervised methods on brain cells data and demonstrates competitive result on
ImageNet-1k. Code: https://github.com/hula-ai/DAM A
- Abstract(参考訳): 自己教師付き学習は、人間のアノテーションを使わずに監督信号のソースとして基盤となるデータ構造を利用する。
このアプローチは、大量のバイオメディカルデータと限られたアノテーションで学習する実践的なソリューションを提供する。
マルチビューによるデータ活用(例:拡張画像)の他の研究と異なり、情報理論の観点から確立した自己教師付きデュアルロス適応マスクオートエンコーダ(dama)アルゴリズムを提案する。
特に,目的関数は,画素レベル再構成と特徴レベル回帰の条件エントロピーを最小化し,相互情報を最大化する。
さらに,相互情報を最大化するための適応マスクサンプリング戦略を導入する。
提案手法を検証するため,脳細胞画像の広範な実験を行った。
DAMAは、最先端の自己監督法と脳細胞データに対する監督法の両方を著しく上回り、ImageNet-1k上での競争結果を示す。
コード:https://github.com/hula-ai/DA MA
関連論文リスト
- Adversarial Distortion Learning for Medical Image Denoising [61.62352710438441]
本稿では,2次元および3次元(2D/3D)のバイオメディカル画像データから,新たな逆歪み学習法を提案する。
提案されたADLは2つの自動エンコーダで構成されている。
デノイザとディスクリミネータはどちらも、Efficient-Unetと呼ばれる自動エンコーダをベースとしている。
論文 参考訳(メタデータ) (2022-04-29T13:47:39Z) - The Devil is in the Frequency: Geminated Gestalt Autoencoder for
Self-Supervised Visual Pre-Training [13.087987450384036]
視覚前訓練のための新しいMasked Image Modeling (MIM) をGeminated Autoencoder (Ge$2-AE) と呼ぶ。
具体的には、画素と周波数空間の両方から画像内容を再構成するgeminated decoderをモデルに装備する。
論文 参考訳(メタデータ) (2022-04-18T09:22:55Z) - Intelligent Masking: Deep Q-Learning for Context Encoding in Medical
Image Analysis [48.02011627390706]
我々は,対象地域を排除し,事前訓練の手順を改善する,新たな自己指導型アプローチを開発した。
予測モデルに対してエージェントを訓練することで、下流の分類タスクで抽出した意味的特徴を大幅に改善できることを示す。
論文 参考訳(メタデータ) (2022-03-25T19:05:06Z) - Weakly Supervised Change Detection Using Guided Anisotropic Difusion [97.43170678509478]
我々は、このようなデータセットを変更検出の文脈で活用するのに役立つ独自のアイデアを提案する。
まず,意味的セグメンテーション結果を改善する誘導異方性拡散(GAD)アルゴリズムを提案する。
次に、変化検出に適した2つの弱い教師付き学習戦略の可能性を示す。
論文 参考訳(メタデータ) (2021-12-31T10:03:47Z) - ContIG: Self-supervised Multimodal Contrastive Learning for Medical
Imaging with Genetics [4.907551775445731]
本研究では、ラベルのない医療画像と遺伝データの大規模なデータセットから学習できる自己教師付き手法であるContIGを提案する。
提案手法は特徴空間における画像といくつかの遺伝的モダリティをコントラスト的損失を用いて整列させる。
また、我々のモデルで学んだ特徴に関するゲノムワイド・アソシエーション研究を行い、画像と遺伝データの間の興味深い関係を明らかにする。
論文 参考訳(メタデータ) (2021-11-26T11:06:12Z) - Preservational Learning Improves Self-supervised Medical Image Models by
Reconstructing Diverse Contexts [58.53111240114021]
本稿では,自己監督型医療表現学習のためのPCRLについて紹介する。
PCRLは、事前学習ファインタニングプロトコルの下で非常に競争力のある結果をもたらし、5つの分類/分類タスクにおいて、自己監督的および監督的双方を上回っている。
論文 参考訳(メタデータ) (2021-09-09T16:05:55Z) - Enhancing MR Image Segmentation with Realistic Adversarial Data
Augmentation [17.539828821476224]
本稿では,学習データの利用効率を向上させるために,逆データ拡張手法を提案する。
本稿では,データ拡張モデルとセグメンテーションネットワークを協調的に最適化する汎用的なタスク駆動学習フレームワークを提案する。
提案した逆データ拡張は生成ネットワークに依存しず,汎用セグメンテーションネットワークのプラグインモジュールとして使用できる。
論文 参考訳(メタデータ) (2021-08-07T11:32:37Z) - Cross-Modality Brain Tumor Segmentation via Bidirectional
Global-to-Local Unsupervised Domain Adaptation [61.01704175938995]
本論文では,UDAスキームに基づくBiGL(Bidirectional Global-to-Local)適応フレームワークを提案する。
具体的には、脳腫瘍をセグメント化するために、双方向画像合成およびセグメンテーションモジュールを提案する。
提案手法は, 最先端の非教師なし領域適応法を大きなマージンで上回っている。
論文 参考訳(メタデータ) (2021-05-17T10:11:45Z) - Multi-Pretext Attention Network for Few-shot Learning with
Self-supervision [37.6064643502453]
補助的なサンプルに依存しない自己教師付き学習のための,新しい拡張不要な手法を提案する。
さらに,従来の拡張信頼手法とGCを組み合わせるために,特定の注意機構を利用するマルチテキスト注意ネットワーク(MAN)を提案する。
miniImageNetおよびtieredImageNetデータセット上でMANを幅広く評価し、提案手法が最新(SOTA)関連手法より優れていることを実証した。
論文 参考訳(メタデータ) (2021-03-10T10:48:37Z) - G-MIND: An End-to-End Multimodal Imaging-Genetics Framework for
Biomarker Identification and Disease Classification [49.53651166356737]
診断によって誘導される画像データと遺伝データを統合し、解釈可能なバイオマーカーを提供する新しいディープニューラルネットワークアーキテクチャを提案する。
2つの機能的MRI(fMRI)パラダイムとSingle Nucleotide Polymorphism (SNP)データを含む統合失調症の集団研究で本モデルを評価した。
論文 参考訳(メタデータ) (2021-01-27T19:28:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。