論文の概要: CellMSA: Context Modeling for Single-Cell Representation Learning
- arxiv url: http://arxiv.org/abs/2609.38908v1
- Date: Wed, 30 Sep 2026 03:55:27 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-01 18:57:27.152631
- Title: CellMSA: Context Modeling for Single-Cell Representation Learning
- Title(参考訳): CellMSA:シングルセル表現学習のためのコンテキストモデリング
- Abstract要約: 単細胞転写学は前例のない解像度で細胞状態のプロファイリングを可能にする。
既存のシングルセルファウンデーションモデルでは、各セルを独立してエンコードするか、同じバッチからのみモデルをデノナイズする。
我々は,MSAにインスパイアされた帰納的バイアスを転写モデルに導入する単一セル表現学習フレームワークであるCellMSAを提案する。
- 参考スコア(独自算出の注目度): 11.344905908662675
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Single-cell transcriptomics enables profiling of cellular states at unprecedented resolution, but its high dimensionality, sparsity, and technical batch effects pose significant challenges for representation learning. Existing single-cell foundation models typically encode each cell independently or only model cells from the same batch for denoising, thereby underutilizing the rich relational information across batches and cell types to model gene expression patterns. We argue that single-cell models can benefit from more informative cell-context modeling. By comparing consistency and variation across cells, models can capture fine-grained gene-gene dependencies associated with cell states, which are essential for learning high-quality representations. Inspired by the use of multiple sequence alignment (MSA) context in protein modeling, we propose CellMSA, a single-cell representation learning framework that introduces an MSA-inspired inductive bias into transcriptomic modeling. For each target cell, CellMSA retrieves relevant cells from different batches and biologically related cell types as context, and summarizes cross-cell patterns into a context-dependent gene-pair representation. This representation is then injected into a pair-aware target-cell encoder for fine-grained representation learning. We pretrain CellMSA on a large-scale human single-cell corpus of approximately 109 million cell observations, including 65.6 million primary observations. Experiments show that our framework consistently outperforms existing methods across multiple benchmarks. Code is available at the following repository: https://github.com/PharMolix/CellMSA.
- Abstract(参考訳): 単細胞転写学は、前例のない解像度で細胞状態のプロファイリングを可能にするが、その高次元性、空間性、技術的バッチ効果は表現学習に重大な課題をもたらす。
既存の単一細胞基盤モデルは、通常、各セルを独立にコードするか、同じバッチからモデルセルのみをデノナイズし、これにより、バッチや細胞タイプにわたるリッチリレーショナル情報を、遺伝子発現パターンをモデル化するために活用する。
シングルセルモデルはより情報的なセルコンテキストモデリングの恩恵を受けることができると我々は主張する。
セル間の一貫性と変異を比較することで、モデルが高品質な表現を学習するのに必須の、細胞状態に関連するきめ細かい遺伝子依存を捉えることができる。
タンパク質モデリングにおけるマルチシークエンスアライメント(MSA)のコンテキストに着想を得て,MSAにインスパイアされたインダクティブバイアスを転写モデルに導入する単一セル表現学習フレームワークCellMSAを提案する。
各標的細胞に対して、CellMSAは異なるバッチから関連する細胞と生物学的に関連する細胞タイプをコンテキストとして検索し、クロスセルパターンをコンテキスト依存的な遺伝子ペア表現にまとめる。
この表現は、微細な表現学習のためにペア認識されたターゲットセルエンコーダに注入される。
約109万の細胞を観察し、6560万の一次観察を含む大規模なヒト単細胞コーパスでCellMSAを事前訓練した。
実験により、我々のフレームワークは複数のベンチマークで既存のメソッドを一貫して上回ります。
コードは以下のリポジトリで入手できる。
関連論文リスト
- Towards Scalable Context-Aware Single-Cell Spatial Transcriptomics Prediction from Histology Images [50.824193996370106]
CellOは、画像ごとのフォワードパスを単一の病理基盤モデルで実行するための効率的なエンドツーエンドフレームワークである。
空間バイアスによる局所的形態的コンテキストを用いて各細胞表現を洗練する,距離遅延型クロスアテンションモジュールを提案する。
本研究は,H&E画像からの単一細胞遺伝子発現予測のためのスケーラブルな基盤を確立する。
論文 参考訳(メタデータ) (2026-09-29T00:40:28Z) - Prototype Guided Post-pretraining for Single-Cell Representation Learning [0.0]
遺伝子発現データからの単一細胞表現学習は、細胞機能の基礎となる複雑な制御ロジックを明らかにする手段を提供する。
遺伝子をトークンとして扱い、細胞を文として扱う、いくつかの単細胞事前訓練モデルが最近提案されている。
本稿では,単細胞基礎モデルの事前学習段階と微調整段階の間で動作するポストプレトレーニング手法であるCellRefineを紹介する。
論文 参考訳(メタデータ) (2026-05-08T16:08:10Z) - Lingshu-Cell: A generative cellular world model for transcriptome modeling toward virtual cells [48.885716676667776]
Lingshu-Cellは、転写状態の分布を学習し、摂動下で条件シミュレーションをサポートする離散拡散モデルである。
約18,000の遺伝子にまたがる複雑なトランスクリプトーム全体の発現依存性を、以前の遺伝子選択に頼らずに捕捉する。
これは、Virtual Cell Challenge H1遺伝子摂動ベンチマークにおいて、ヒトPBMCのサイトカイン誘発反応の予測において、主要な性能を発揮する。
論文 参考訳(メタデータ) (2026-03-26T09:46:27Z) - Cell-o1: Training LLMs to Solve Single-Cell Reasoning Puzzles with Reinforcement Learning [44.91329557101423]
我々はCellPuzzlesタスクを導入し、その目的はセルのバッチにユニークなセルタイプを割り当てることである。
このベンチマークは、様々な組織、疾患、ドナーの状態にまたがっており、ラベルの独特性を保証するために、バッチレベルの細胞コンテキストをまたいで推論する必要がある。
蒸留液の微調整を施した7B LLMのCell-o1を提案する。
論文 参考訳(メタデータ) (2025-06-03T14:16:53Z) - CellVerse: Do Large Language Models Really Understand Cell Biology? [74.34984441715517]
我々は,4種類のシングルセルマルチオミクスデータを統合する統一言語中心の質問応答ベンチマークであるCellVerseを紹介する。
我々は,CellVerse上で160Mから671Bまでの14のオープンソースおよびクローズドソースLLMの性能を体系的に評価した。
論文 参考訳(メタデータ) (2025-05-09T06:47:23Z) - Multi-Modal and Multi-Attribute Generation of Single Cells with CFGen [76.02070962797794]
本研究では、単一セルデータ固有の離散性を保存するフローベースの条件生成モデルであるCellFlow for Generation (CFGen)を紹介する。
CFGenは、全ゲノムマルチモーダル単一セルデータを確実に生成し、重要な生物学的データ特性の回復を改善する。
論文 参考訳(メタデータ) (2024-07-16T14:05:03Z) - CellMixer: Annotation-free Semantic Cell Segmentation of Heterogeneous
Cell Populations [9.335273591976648]
異種細胞集団のセマンティックセグメンテーションのための革新的なアノテーションのないアプローチであるCellMixerを提案する。
以上の結果から,CellMixerは複数のセルタイプにまたがる競合セグメンテーション性能と画像モダリティを実現することができることがわかった。
論文 参考訳(メタデータ) (2023-12-01T15:50:20Z) - Mixed Models with Multiple Instance Learning [51.440557223100164]
一般化線形混合モデル(GLMM)とMultiple Instance Learning(MIL)を統合するフレームワークであるMixMILを紹介する。
実験結果から,MixMILは単一セルデータセットにおいて既存のMILモデルより優れていることがわかった。
論文 参考訳(メタデータ) (2023-11-04T16:42:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。