論文の概要: Hierarchical Sparse Attention Framework for Computationally Efficient Classification of Biological Cells
- arxiv url: http://arxiv.org/abs/2505.07661v1
- Date: Mon, 12 May 2025 15:29:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-13 20:21:49.455449
- Title: Hierarchical Sparse Attention Framework for Computationally Efficient Classification of Biological Cells
- Title(参考訳): 生体細胞の効率的な分類のための階層的スパースアテンションフレームワーク
- Authors: Elad Yoshai, Dana Yagoda-Aharoni, Eden Dotan, Natan T. Shaked,
- Abstract要約: SparseAttnNetは、効率的な画像分類のための新しい階層型アテンション駆動フレームワークである。
生体細胞画像の場合、SparseAttnNetは全画像の代わりに約15%のピクセルを処理可能であることを示す。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: We present SparseAttnNet, a new hierarchical attention-driven framework for efficient image classification that adaptively selects and processes only the most informative pixels from images. Traditional convolutional neural networks typically process the entire images regardless of information density, leading to computational inefficiency and potential focus on irrelevant features. Our approach leverages a dynamic selection mechanism that uses coarse attention distilled by fine multi-head attention from the downstream layers of the model, allowing the model to identify and extract the most salient k pixels, where k is adaptively learned during training based on loss convergence trends. Once the top-k pixels are selected, the model processes only these pixels, embedding them as words in a language model to capture their semantics, followed by multi-head attention to incorporate global context. For biological cell images, we demonstrate that SparseAttnNet can process approximately 15% of the pixels instead of the full image. Applied to cell classification tasks using white blood cells images from the following modalities: optical path difference (OPD) images from digital holography for stain-free cells, images from motion-sensitive (event) camera from stain-free cells, and brightfield microscopy images of stained cells, For all three imaging modalities, SparseAttnNet achieves competitive accuracy while drastically reducing computational requirements in terms of both parameters and floating-point operations per second, compared to traditional CNNs and Vision Transformers. Since the model focuses on biologically relevant regions, it also offers improved explainability. The adaptive and lightweight nature of SparseAttnNet makes it ideal for deployment in resource-constrained and high-throughput settings, including imaging flow cytometry.
- Abstract(参考訳): SparseAttnNetは、画像から最も情報性の高いピクセルのみを適応的に選択・処理する、効率的な画像分類のための新しい階層型アテンション駆動フレームワークである。
従来の畳み込みニューラルネットワークは、情報密度に関係なく画像全体を処理し、計算の非効率性と無関係な特徴にフォーカスする可能性がある。
提案手法では,モデルの下流層から細かなマルチヘッドアテンションによって抽出された粗いアテンションを用いて,学習中にkが適応的に学習されるような,最も有能なkピクセルを同定・抽出する機構を利用する。
トップkのピクセルが選択されると、モデルはこれらのピクセルのみを処理し、それらを言語モデルに埋め込んでセマンティクスを捉える。
生体細胞画像の場合、SparseAttnNetは全画像の代わりに約15%のピクセルを処理可能であることを示す。
染色無細胞に対するデジタルホログラフィーからの光路差(OPD)画像、染色無細胞からのモーション感度(イベント)カメラの画像、染色細胞からの明視野顕微鏡画像の3つの画像モダリティすべてにおいて、SparseAtttnNetは、従来のCNNやVision Transformersと比較して、パラメータと浮動小数点演算の両方の計算要求を劇的に減らしながら、競合精度を実現している。
このモデルは生物学的に関連のある領域に焦点を当てているため、説明性も改善されている。
SparseAttnNetの適応性と軽量性は、画像フローサイトメトリーを含むリソース制約や高スループット設定への展開に最適である。
関連論文リスト
- Improving Sickle Cell Disease Classification: A Fusion of Conventional Classifiers, Segmented Images, and Convolutional Neural Networks [0.31457219084519006]
本稿では, 従来の分類器, セグメント化画像, CNNを併用して, 病原細胞疾患の自動分類を行う手法を提案する。
以上の結果から,SVMを用いたセグメント画像とCNN機能を用いることで96.80%の精度が得られた。
論文 参考訳(メタデータ) (2024-12-23T20:42:15Z) - Affine-Consistent Transformer for Multi-Class Cell Nuclei Detection [76.11864242047074]
本稿では, 原子核位置を直接生成する新しいアフィン一貫性変換器 (AC-Former) を提案する。
本稿では,AAT (Adaptive Affine Transformer) モジュールを導入し,ローカルネットワークトレーニングのためのオリジナル画像をワープするための重要な空間変換を自動学習する。
実験結果から,提案手法は様々なベンチマークにおいて既存の最先端アルゴリズムを著しく上回ることがわかった。
論文 参考訳(メタデータ) (2023-10-22T02:27:02Z) - Pixel-Inconsistency Modeling for Image Manipulation Localization [59.968362815126326]
デジタル画像法医学は、画像認証と操作のローカライゼーションにおいて重要な役割を果たす。
本稿では,画素不整合アーチファクトの解析を通じて,一般化されたロバストな操作ローカライゼーションモデルを提案する。
実験により,本手法は固有の画素不整合偽指紋を抽出することに成功した。
論文 参考訳(メタデータ) (2023-09-30T02:54:51Z) - LMBiS-Net: A Lightweight Multipath Bidirectional Skip Connection based
CNN for Retinal Blood Vessel Segmentation [0.0]
ブラディングアイの病気は、しばしば変化した網膜形態と相関し、眼底画像の網膜構造をセグメント化することによって臨床的に識別できる。
深層学習は、医用画像のセグメンテーションにおいて有望であるが、反復的な畳み込みとプール操作への依存は、エッジ情報の表現を妨げる可能性がある。
LMBiS-Net と呼ばれる軽量な画素レベルのCNNを網膜血管のセグメンテーションのために提案する。
論文 参考訳(メタデータ) (2023-09-10T09:03:53Z) - Asymmetric Co-Training with Explainable Cell Graph Ensembling for
Histopathological Image Classification [28.949527817202984]
本稿では,深部グラフ畳み込みニューラルネットワークと畳み込みニューラルネットワークを組み合わせた非対称協調学習フレームワークを提案する。
セルグラフデータを扱う14層ディープグラフ畳み込みネットワークを構築した。
プライベートLUAD7Cおよびパブリック大腸癌データセットに対するアプローチについて検討した。
論文 参考訳(メタデータ) (2023-08-24T12:27:03Z) - Disruptive Autoencoders: Leveraging Low-level features for 3D Medical
Image Pre-training [51.16994853817024]
本研究は、3Dラジオグラフィ画像のための効果的な事前学習フレームワークの設計に焦点をあてる。
ローカルマスキングと低レベルの摂動の組み合わせによって生成された破壊から、オリジナルのイメージを再構築しようとする事前トレーニングフレームワークであるDisruptive Autoencodersを紹介する。
提案する事前トレーニングフレームワークは、複数のダウンストリームタスクでテストされ、最先端のパフォーマンスを実現する。
論文 参考訳(メタデータ) (2023-07-31T17:59:42Z) - A novel approach for glaucoma classification by wavelet neural networks
using graph-based, statisitcal features of qualitatively improved images [0.0]
我々は、最適な拡張網膜画像特徴にウェーブレットニューラルネットワーク(WNN)を用いた新しい緑内障分類手法を提案する。
WNN分類器の性能は、様々なデータセットを持つ多層パーセプトロンニューラルネットワークと比較される。
論文 参考訳(メタデータ) (2022-06-24T06:19:30Z) - Class Balanced PixelNet for Neurological Image Segmentation [20.56747443955369]
画素レベルの畳み込みニューラルネットワーク(CNN)を用いた自動脳腫瘍分割法(PixelNetなど)を提案する。
提案モデルは脳腫瘍と虚血性脳梗塞のセグメンテーションデータセットにおいて有望な結果を得た。
論文 参考訳(メタデータ) (2022-04-23T10:57:54Z) - Two-Stream Graph Convolutional Network for Intra-oral Scanner Image
Segmentation [133.02190910009384]
本稿では,2ストリームグラフ畳み込みネットワーク(TSGCN)を提案する。
TSGCNは3次元歯(表面)セグメンテーションにおいて最先端の方法よりも優れています。
論文 参考訳(メタデータ) (2022-04-19T10:41:09Z) - Neural Cellular Automata Manifold [84.08170531451006]
ニューラルセルラーオートマタのニューラルネットワークアーキテクチャは、より大きなNNにカプセル化可能であることを示す。
これにより、NAAの多様体を符号化する新しいモデルを提案し、それぞれが異なる画像を生成することができる。
生物学的には、我々のアプローチは転写因子の役割を担い、細胞の分化を促進する特定のタンパク質への遺伝子マッピングを調節する。
論文 参考訳(メタデータ) (2020-06-22T11:41:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。