論文の概要: Towards a knowledge-enhanced single-cell foundation model

• arxiv url: http://arxiv.org/abs/2609.14970v1
• Date: Mon, 14 Sep 2026 03:23:55 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-16 07:15:06.042784
• Title: Towards a knowledge-enhanced single-cell foundation model
• Title（参考訳）: 知識強化単一細胞基盤モデルに向けて
• Abstract要約: シングルセルファウンデーションモデル(scFM)は、より大規模な転写前トレーニングに依存している。 セルアノテーションと遺伝子制御の監督を共有トランスクリプトームトランスフォーマーエンコーダに統合する,シンプルで効果的なSCFMである scKITE を提案する。
• 参考スコア（独自算出の注目度）: 10.747678948866643
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Single-cell foundation models (scFMs) increasingly rely on large-scale transcriptomic pretraining, yet expanding pretraining data can yield diminishing gains while substantially increasing computational cost. Our data scaling analyses showed that incorporating biological knowledge, including cell-level text annotation and gene-level regulatory information, provided additional scaling dimension than simply increasing data size. Motivated by this observation, we present scKITE, a simple yet effective scFM that integrates cell-annotation and gene-regulatory supervision into a shared transcriptomic Transformer encoder through lightweight auxiliary decoders. These decoders are used only during pretraining and subsequently discarded, yielding a general-purpose encoder enriched with biological knowledge for downstream applications. With only 179,067 pretraining samples, i.e., less than 0.5\% of those used by previous strong scFMs, scKITE outperformed these models across diverse downstream tasks, highlighting knowledge-enhanced pretraining as a promising paradigm for biologically grounded scFMs.
• Abstract（参考訳）: シングルセルファウンデーションモデル(scFM)は、大規模なトランスクリプトーム事前学習にますます依存しているが、事前学習データの拡大は、計算コストを大幅に増加させながら、利得を減少させる可能性がある。 データスケーリング分析の結果、細胞レベルのテキストアノテーションや遺伝子レベルの規制情報を含む生物学的知識を取り入れることで、単にデータサイズを増大させる以上のスケーリング次元が得られた。 本研究は, セルアノテーションと遺伝子制御を併用した, 軽量な補助デコーダを用いた共有トランスクリプトムトランスフォーマーエンコーダである scKITE を提案する。 これらのデコーダは事前訓練時にのみ使用され、その後廃棄され、下流の応用のための生物学的知識に富んだ汎用エンコーダとなる。 179,067の事前訓練サンプル、すなわち以前の強いSCFMが使用したサンプルの0.55%未満のサンプルで、 scKITEはこれらのモデルを様々な下流のタスクで上回り、生物学的に接地されたSCFMにとって有望なパラダイムとして知識に富んだ事前訓練を強調した。

関連論文リスト

• Beyond Augmentation: Score-Guided Pathological Prior for EEG-based Depression Detection [7.12129270303641]
  脳波を用いた深層学習に基づく大うつ病(MDD)検出は「小脳ジレンマ」によって制限される そこで我々は,Score-Guided Classification (SGC) の新たなフレームワーク "Beyond Augmentation" を提案する。 SGCは擬似サンプルを合成せず、教師なし生成ネットワークアーキテクチャを用いてサンプルの構造的および統計的異常度をモデル化する。
  論文  参考訳（メタデータ） (2026-05-29T14:45:33Z)
• Learning Generalizable Action Representations via Pre-training AEMG [1.3478288753277627]
  EMGのための大規模な自己教師型表現学習フレームワークであるAny Electromyography (AEMG)を提案する。 AEMGは神経筋のダイナミックスを言語的に再認識し、新しい神経筋収縮トケナイザー(NCT)を用いて、離散的な筋肉収縮を構造的単語に変換する。 AEMGは、最先端の6つのベースラインと比較して、ゼロショット・ワン・オブジェクトアウト(LOSO)の精度を5.79-9.25%向上させることを示した。
  論文  参考訳（メタデータ） (2026-05-05T07:50:00Z)
• Granular-ball Guided Masking: Structure-aware Data Augmentation [97.18560547134587]
  Granular-ball Guided Masking (GBGM) は、Granular-ball Computing (GBC) によって誘導される構造対応強化戦略である。 GBGMは、粗い階層的なマスキングプロセスを通じて冗長な領域を抑えながら、意味的に豊富で構造上重要な領域を適応的に保存する。 複数のベンチマークの実験では、分類精度とマスク画像再構成が一貫した改善が示されている。
  論文  参考訳（メタデータ） (2025-12-24T07:15:33Z)
• MEG-GPT: A transformer-based foundation model for magnetoencephalography data [6.336623115095147]
  近年のディープラーニングの進歩は、言語や視覚などの他の領域において、大規模に基礎モデルを使用することで、大きな進歩をもたらした。 本稿では,時間アテンションと次の時間ポイント予測を用いたトランスフォーマーベース基盤モデルMEG-GPTを紹介する。 我々は大規模なMEGデータセットから抽出したトークン化された脳領域の時間軸についてMEG-GPTを訓練した。
  論文  参考訳（メタデータ） (2025-10-20T20:18:38Z)
• DeepSeq: High-Throughput Single-Cell RNA Sequencing Data Labeling via Web Search-Augmented Agentic Generative AI Foundation Models [0.0]
  生成AI基盤モデルは、構造化された生物学的データを処理するための変換ポテンシャルを提供する。 本稿では,実時間Web検索を用いたエージェント基礎モデルを用いて実験データのラベル付けを自動化し,最大82.5%の精度を実現することを提案する。
  論文  参考訳（メタデータ） (2025-06-14T23:30:22Z)
• Large-Scale Targeted Cause Discovery via Learning from Simulated Data [66.51307552703685]
  本稿では,観測結果から対象変数の因果変数を推定する機械学習手法を提案する。 我々は、シミュレートされたデータに基づいて教師あり学習を用いてニューラルネットワークを訓練し、因果関係を推定する。 大規模遺伝子制御ネットワークにおける因果関係の同定に優れた性能を示す実験結果が得られた。
  論文  参考訳（メタデータ） (2024-08-29T02:21:11Z)
• Injecting Hierarchical Biological Priors into Graph Neural Networks for Flow Cytometry Prediction [1.7709249262395883]
  本研究では、単一セルのマルチクラス分類のためのグラフニューラルネットワーク(GNN)に階層的な事前知識を注入することを検討する。 本稿では,複数のGNNモデル,すなわちFCHC-GNNに適用可能な階層的なプラグイン手法を提案する。
  論文  参考訳（メタデータ） (2024-05-28T18:24:16Z)
• Improving Biomedical Entity Linking with Retrieval-enhanced Learning [53.24726622142558]
  $k$NN-BioELは、トレーニングコーパス全体から同様のインスタンスを予測のヒントとして参照する機能を備えたBioELモデルを提供する。 k$NN-BioELは、いくつかのデータセットで最先端のベースラインを上回ります。
  論文  参考訳（メタデータ） (2023-12-15T14:04:23Z)
• A Memory Transformer Network for Incremental Learning [64.0410375349852]
  本研究では,モデルが学習する時間とともに,新しいデータクラスが観察される学習環境であるクラスインクリメンタルラーニングについて検討する。 素直な問題定式化にもかかわらず、クラス増分学習への分類モデルの素直な適用は、これまで見られたクラスの「破滅的な忘れ込み」をもたらす。 これは、過去のデータのサブセットをメモリバンクに保存し、将来のタスクをトレーニングする際の忘れの防止にそれを活用することで、破滅的な忘れの問題を克服するものだ。
  論文  参考訳（メタデータ） (2022-10-10T08:27:28Z)
• CCLF: A Contrastive-Curiosity-Driven Learning Framework for Sample-Efficient Reinforcement Learning [56.20123080771364]
  我々は、強化学習のためのモデルに依存しないコントラスト駆動学習フレームワーク(CCLF)を開発した。 CCLFは、サンプルの重要性を完全に活用し、自己管理的な学習効率を向上させる。 このアプローチをDeepMind Control Suite、Atari、MiniGridベンチマークで評価する。
  論文  参考訳（メタデータ） (2022-05-02T14:42:05Z)
• A Systematic Approach to Featurization for Cancer Drug Sensitivity Predictions with Deep Learning [49.86828302591469]
  35,000以上のニューラルネットワークモデルをトレーニングし、一般的な成果化技術を駆使しています。 RNA-seqは128以上のサブセットであっても非常に冗長で情報的であることがわかった。
  論文  参考訳（メタデータ） (2020-04-30T20:42:17Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。