論文の概要: GeneICL: A Tabular Foundation Model for Bulk Transcriptomics

• arxiv url: http://arxiv.org/abs/2610.08694v1
• Date: Tue, 06 Oct 2026 17:10:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:30.138332
• Title: GeneICL: A Tabular Foundation Model for Bulk Transcriptomics
• Title（参考訳）: GeneICL: バルク転写学のための語彙基礎モデル
• Abstract要約: 遺伝子発現は生医学において広く測定されている。 臨床結果の予測は、高次元性、強い特徴相関、限られたラベル付きデータにより依然として困難である。
• 参考スコア（独自算出の注目度）: 40.70020444515545
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Gene expression is widely measured in biomedicine, yet clinical outcome prediction remains challenging due to high dimensionality, strong feature correlations, and limited labeled data. Large self-supervised transcriptomic foundation models often fail to outperform simple supervised baselines. Tabular foundation models offer an alternative through in-context learning, but are typically pretrained on generic synthetic data rather than transcriptomic structure. We ask whether transcriptomics-aware pretraining, rather than scale, is the missing ingredient. Towards this end, we introduce GeneICL, a 4.2M-parameter tabular foundation model combining a semi-synthetic pretraining prior built from measured bulk expression profiles with a parameter-efficient recurrent architecture. We further enable right-censored survival prediction via a training-free reduction to regression using Cox partial-likelihood residuals. We evaluate GeneICL on 80 clinical outcome-prediction tasks spanning classification, regression, and survival. Tabular foundation models consistently outperform self-supervised transcriptomic models, while GeneICL achieves the best overall rank among evaluated foundation models and tuned baselines. GeneICL does so with up to 387$\times$ fewer parameters, no gradient updates at inference, and predictions within seconds on a laptop CPU.
• Abstract（参考訳）: 遺伝子の発現は生医学において広く測定されているが、高次元性、強い特徴相関、限られたラベル付きデータにより、臨床結果の予測は難しいままである。 大規模な自己教師付きトランスクリプトーム基礎モデルは、単純な教師付きベースラインを上回りません。 タブラル基礎モデルは、文脈内学習を通じて代替手段を提供するが、典型的には転写構造ではなく、一般的な合成データに基づいて事前訓練される。 本研究は, スケールではなく, トランスクリプトミクスを意識した事前学習が欠落する要素であるかどうかを問うものである。 この目的のために,実測バルク式プロファイルから構築した半合成事前学習とパラメータ効率のよい再帰的アーキテクチャを組み合わせた4.2Mの表層基礎モデルGeneICLを導入する。 さらに,Coxの部分的残差を用いて,トレーニング不要の回帰還元による右室生存予測が可能となる。 分類,退行,生存期間にまたがる80の臨床成績予測課題についてGeneICLを評価した。 一方、GeneICLは、評価された基礎モデルとチューニングされたベースラインの中で、最高の総合的なランクを達成している。 GeneICLは最大387$\times$より少ないパラメータ、推論時の勾配更新なし、ラップトップCPUで数秒以内に予測できる。

関連論文リスト

• From Residuals to Reasons: LLM-Guided Mechanism Inference from Tabular Data [10.795877029195845]
  科学的応用のための機械学習における永続的な課題は、予測と理解を共同で達成することである。 マルチエージェント残差文脈学習(MARICL)を導入する。 MARICLは、すべてのデータセットのベースモデルに対して一貫して改善されている。
  論文  参考訳（メタデータ） (2026-05-21T15:34:08Z)
• MAT-Cell: A Multi-Agent Tree-Structured Reasoning Framework for Batch-Level Single-Cell Annotation [81.82645086402366]
  MAT-Cellは,単細胞解析を構築的で検証可能な証明生成に再構成する,ニューロシンボリック推論フレームワークである。 MAT-Cellは、適応型レトリーバル増強生成(RAG)を通じて、生物学的公理の基底神経推論に象徴的な制約を注入し、転写ノイズを減少させる。 最先端のSOTA(State-of-the-art)モデルを大幅に上回り、挑戦的なシナリオにおいて堅牢なパフォーマンスを維持します。
  論文  参考訳（メタデータ） (2026-04-07T04:56:06Z)
• Parameter-free representations outperform single-cell foundation models on downstream benchmarks [0.0]
  シングルセルRNAシークエンシング(scRNA-seq)データは、強く再現可能な統計構造を示す。 TranscriptFormerのような大規模基盤モデルは、潜在ベクトル空間に遺伝子を埋め込むことで遺伝子発現の生成モデルを学ぶ。 計算集約的な深層学習に基づく表現を使わずに、類似のパフォーマンスが達成できるかどうかを問う。
  論文  参考訳（メタデータ） (2026-02-18T18:42:29Z)
• From Generative Modeling to Clinical Classification: A GPT-Based Architecture for EHR Notes [0.0]
  本研究は臨床テキスト分類のためのGPTアーキテクチャを提案する。 すべてのモデルパラメータを更新する代わりに、GPT-2のバックボーンの大部分は凍結されている。 提案手法はMIMIC-IV-Noteデータセットからの放射線学報告に基づいて評価する。
  論文  参考訳（メタデータ） (2026-01-29T16:33:47Z)
• Amortized In-Context Mixed Effect Transformer Models: A Zero-Shot Approach for Pharmacokinetics [0.0]
  Amortized In-Context Mixed-Effect Transformer (AICMET) モデルを提案する。 メカニカル・コンパートメンタル・プレファレンスと、文脈内ベイズ推論とを統一する。 実験の結果,AICMETは最先端の予測精度を達成し,患者間の変動を忠実に定量化することがわかった。
  論文  参考訳（メタデータ） (2025-08-21T15:45:17Z)
• Self-Boost via Optimal Retraining: An Analysis via Approximate Message Passing [58.52119063742121]
  独自の予測と潜在的にノイズの多いラベルを使ってモデルをトレーニングすることは、モデルパフォーマンスを改善するためのよく知られた戦略である。 本稿では,モデルの予測と提供ラベルを最適に組み合わせる方法について論じる。 我々の主な貢献は、現在のモデルの予測と与えられたラベルを組み合わせたベイズ最適集約関数の導出である。
  論文  参考訳（メタデータ） (2025-05-21T07:16:44Z)
• The Languini Kitchen: Enabling Language Modelling Research at Different Scales of Compute [66.84421705029624]
  本稿では,アクセル時間で測定された等価計算に基づくモデル比較を可能にする実験的プロトコルを提案する。 私たちは、既存の学術的ベンチマークを上回り、品質、多様性、文書の長さで上回る、大規模で多様で高品質な書籍データセットを前処理します。 この研究は、GPT-2アーキテクチャから派生したフィードフォワードモデルと、10倍のスループットを持つ新しいLSTMの形式でのリカレントモデルという2つのベースラインモデルも提供する。
  論文  参考訳（メタデータ） (2023-09-20T10:31:17Z)
• Semantic Self-adaptation: Enhancing Generalization with a Single Sample [45.111358665370524]
  セマンティックセグメンテーションのための自己適応型アプローチを提案する。 整合正則化を用いて畳み込み層のパラメータを入力画像に微調整する。 実験により, 自己適応は訓練時のモデル正規化の確立した実践を補完する可能性が示唆された。
  論文  参考訳（メタデータ） (2022-08-10T12:29:01Z)
• Imputation-Free Learning from Incomplete Observations [73.15386629370111]
  本稿では,不備な値を含む入力からの推論をインプットなしでトレーニングするIGSGD法の重要性について紹介する。 バックプロパゲーションによるモデルのトレーニングに使用する勾配の調整には強化学習(RL)を用いる。 我々の計算自由予測は、最先端の計算手法を用いて従来の2段階の計算自由予測よりも優れている。
  論文  参考訳（メタデータ） (2021-07-05T12:44:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。