論文の概要: Boosting 3D Neuron Segmentation with 2D Vision Transformer Pre-trained on Natural Images

• arxiv url: http://arxiv.org/abs/2405.02686v1
• Date: Sat, 4 May 2024 14:57:28 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-07 18:49:54.462890
• Title: Boosting 3D Neuron Segmentation with 2D Vision Transformer Pre-trained on Natural Images
• Title（参考訳）: 自然画像を用いた2次元視覚変換器による3次元ニューロン分割の促進
• Authors: Yik San Cheng, Runkai Zhao, Heng Wang, Hanchuan Peng, Weidong Cai,
• Abstract要約: 本研究では,大規模自然画像に事前学習した2次元視覚変換器モデルを活用する新しい訓練パラダイムを提案する。 本手法は,3次元ニューロンセグメンテーション能力を向上させるために,豊富な自然と希少なニューロン画像領域間の知識共有接続を構築する。 一般的なベンチマークであるBigNeuronで評価したところ、スクラッチからトレーニングしたモデルよりもニューロンのセグメンテーション性能が8.71%向上した。
• 参考スコア（独自算出の注目度）: 10.790999324557179
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Neuron reconstruction, one of the fundamental tasks in neuroscience, rebuilds neuronal morphology from 3D light microscope imaging data. It plays a critical role in analyzing the structure-function relationship of neurons in the nervous system. However, due to the scarcity of neuron datasets and high-quality SWC annotations, it is still challenging to develop robust segmentation methods for single neuron reconstruction. To address this limitation, we aim to distill the consensus knowledge from massive natural image data to aid the segmentation model in learning the complex neuron structures. Specifically, in this work, we propose a novel training paradigm that leverages a 2D Vision Transformer model pre-trained on large-scale natural images to initialize our Transformer-based 3D neuron segmentation model with a tailored 2D-to-3D weight transferring strategy. Our method builds a knowledge sharing connection between the abundant natural and the scarce neuron image domains to improve the 3D neuron segmentation ability in a data-efficiency manner. Evaluated on a popular benchmark, BigNeuron, our method enhances neuron segmentation performance by 8.71% over the model trained from scratch with the same amount of training samples.
• Abstract（参考訳）: 神経科学の基本課題の1つであるニューロン再構成は、三次元光顕微鏡画像データから神経形態を再構築する。 神経系における神経細胞の構造と機能の関係を分析する上で重要な役割を担っている。 しかし、ニューロンデータセットの不足と高品質なSWCアノテーションのため、単一ニューロン再構成のための堅牢なセグメンテーション手法を開発することは依然として困難である。 この制限に対処するため、我々は、複雑なニューロン構造を学習する際のセグメンテーションモデルを支援するために、膨大な自然画像データからコンセンサス知識を抽出することを目的としている。 具体的には,大規模な自然画像に事前学習した2次元ビジョントランスフォーマーモデルを利用して,2次元から3次元の重み移動戦略でトランスフォーマーに基づく3次元ニューロンセグメンテーションモデルを初期化する,新たなトレーニングパラダイムを提案する。 本手法は, 豊富な自然と希少なニューロン画像領域間の知識共有接続を構築し, データ効率で3次元ニューロンセグメンテーション能力を向上させる。 一般的なベンチマークであるBigNeuronを用いて評価し、トレーニングサンプルと同じ量でスクラッチからトレーニングしたモデルに対して、ニューロンセグメンテーション性能を8.71%向上させる。

関連論文リスト

• Self-Supervised Pretext Tasks for Alzheimer's Disease Classification using 3D Convolutional Neural Networks on Large-Scale Synthetic Neuroimaging Dataset [11.173478552040441]
  アルツハイマー病(Alzheimer's Disease, AD)は、脳の局所的および広範な神経変性を誘導する疾患である。 本研究では、下流ADとCN分類のための特徴抽出器を訓練するための教師なし手法をいくつか評価した。
  論文  参考訳（メタデータ） (2024-06-20T11:26:32Z)
• MindBridge: A Cross-Subject Brain Decoding Framework [60.58552697067837]
  脳の復号化は、獲得した脳信号から刺激を再構築することを目的としている。 現在、脳の復号化はモデルごとのオブジェクトごとのパラダイムに限られている。 我々は,1つのモデルのみを用いることで,オブジェクト間脳デコーディングを実現するMindBridgeを提案する。
  論文  参考訳（メタデータ） (2024-04-11T15:46:42Z)
• Learning Multimodal Volumetric Features for Large-Scale Neuron Tracing [72.45257414889478]
  オーバーセグメントニューロン間の接続を予測し,人間の作業量を削減することを目的としている。 最初はFlyTracingという名前のデータセットを構築しました。 本稿では,高密度なボリュームEM画像の埋め込みを生成するための,新しい接続性を考慮したコントラスト学習手法を提案する。
  論文  参考訳（メタデータ） (2024-01-05T19:45:12Z)
• Neuroformer: Multimodal and Multitask Generative Pretraining for Brain Data [3.46029409929709]
  最先端のシステム神経科学実験は大規模なマルチモーダルデータを生み出し、これらのデータセットは分析のための新しいツールを必要とする。 視覚領域と言語領域における大きな事前学習モデルの成功に触発されて、我々は大規模な細胞分解性神経スパイクデータの解析を自己回帰生成問題に再構成した。 我々はまず、シミュレーションデータセットでNeuroformerを訓練し、本質的なシミュレートされた神経回路の動作を正確に予測し、方向を含む基盤となる神経回路の接続性を推定した。
  論文  参考訳（メタデータ） (2023-10-31T20:17:32Z)
• NRTR: Neuron Reconstruction with Transformer from 3D Optical Microscopy Images [5.724034347184251]
  本稿では,ニューロン再構成を直接予測問題とみなすニューロン再構成変換器(NRTR)を提案する。 NRTRは、エンド・ツー・エンドのニューロン再構築のための最初の画像-セット深層学習モデルである。
  論文  参考訳（メタデータ） (2022-12-08T09:35:22Z)
• PointNeuron: 3D Neuron Reconstruction via Geometry and Topology Learning of Point Clouds [18.738943602529805]
  本稿では3次元ニューロン再構築のための新しい枠組みを提案する。 私たちのキーとなるアイデアは、点雲の幾何学的表現力を使って、ニューロンの固有の構造情報をよりよく探索することです。
  論文  参考訳（メタデータ） (2022-10-15T14:11:56Z)
• Overcoming the Domain Gap in Neural Action Representations [60.47807856873544]
  3Dポーズデータは、手動で介入することなく、マルチビュービデオシーケンスから確実に抽出できる。 本稿では,ニューラルアクション表現の符号化を,ニューラルアクションと行動拡張のセットと共に導くために使用することを提案する。 ドメインギャップを減らすために、トレーニングの間、同様の行動をしているように見える動物間で神経と行動のデータを取り替える。
  論文  参考訳（メタデータ） (2021-12-02T12:45:46Z)
• Overcoming the Domain Gap in Contrastive Learning of Neural Action Representations [60.47807856873544]
  神経科学の基本的な目標は、神経活動と行動の関係を理解することである。 我々は,ハエが自然に生み出す行動からなる新しいマルチモーダルデータセットを作成した。 このデータセットと新しい拡張セットは、神経科学における自己教師あり学習手法の適用を加速することを約束します。
  論文  参考訳（メタデータ） (2021-11-29T15:27:51Z)
• Dynamic Neural Diversification: Path to Computationally Sustainable Neural Networks [68.8204255655161]
  訓練可能なパラメータが制限された小さなニューラルネットワークは、多くの単純なタスクに対してリソース効率の高い候補となる。 学習過程において隠れた層内のニューロンの多様性を探索する。 ニューロンの多様性がモデルの予測にどのように影響するかを分析する。
  論文  参考訳（メタデータ） (2021-09-20T15:12:16Z)
• Voxel-wise Cross-Volume Representation Learning for 3D Neuron Reconstruction [27.836007480393953]
  本稿では,エンコーダとデコーダのセグメンテーションモデルに基づいて,新しいボクセルレベルのクロスボリューム表現学習パラダイムを提案する。 我々の手法は推論中に余分なコストを伴わない。 提案手法は,BigNeuronプロジェクトから得られた42個の3次元ニューロン画像に基づいて,元のセグメンテーションモデルの学習能力を向上させる。
  論文  参考訳（メタデータ） (2021-08-14T12:17:45Z)
• Non-linear Neurons with Human-like Apical Dendrite Activations [81.18416067005538]
  XOR論理関数を100%精度で学習し, 標準的なニューロンに後続のアピーカルデンドライト活性化(ADA)が認められた。 コンピュータビジョン,信号処理,自然言語処理の6つのベンチマークデータセットについて実験を行った。
  論文  参考訳（メタデータ） (2020-02-02T21:09:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。