論文の概要: What DNA Foundation Models Learn Beyond Sequence Composition
- arxiv url: http://arxiv.org/abs/2610.15711v1
- Date: Sun, 11 Oct 2026 15:51:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:15.23933
- Title: What DNA Foundation Models Learn Beyond Sequence Composition
- Title(参考訳): DNAファンデーションモデルがシーケンス構成を超えて何を学べるか
- Abstract要約: 我々は、57のゲノム分類データセットにわたる正規化k-mer周波数に対するゲノム基盤モデル(FM)を評価する。
単純なk-mer機能はほとんどのモデルと競合するが、NTv3は一貫した優位性を示している。
本研究は, 構成的特徴を必須制御として確立し, 凍結ゲノム表現の付加価値を評価するための相補的診断を行う。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Do genomic foundation models (FMs) provide predictive information beyond simple sequence composition? We evaluate frozen representations from five DNA FMs against normalized k-mer frequencies across 57 genomic classification datasets and two exploratory gene-expression regression tasks. Simple k-mer features remain competitive with most models, whereas NTv3 shows a consistent advantage; the ranking is robust to globally fixed and multi-scale k-mer baselines and alternative downstream probes. To test incremental predictive utility directly, we compare global 6-mer features with their concatenation with each FM embedding under a matched Random Forest protocol. NTv3 improves 46 of 57 datasets (mean $Δ$MCC = +0.072), while Caduceus provides smaller gains and the other models do not improve mean MCC. We separately decompose embeddings into a component linearly predictable from 6-mer frequencies and a ridge residual, finding that linear recoverability does not reliably indicate downstream utility. Exact 6-mer-preserving shuffles further reveal task-relevant sequence-order sensitivity, most pronounced for NTv3, although order sensitivity alone does not guarantee predictive improvements. Our results establish compositional features as essential controls and offer complementary diagnostics for evaluating the added value of frozen genomic representations, without making claims about fine-tuning capacity.
- Abstract(参考訳): ゲノム基盤モデル(FM)は、単純な配列構成を超えた予測情報を提供するか?
57のゲノム分類データセットと2つの探索的遺伝子発現回帰タスクを用いて、5つのDNA FMからの凍結表現を正常化したk-mer周波数に対して評価した。
単純なk-mer機能はほとんどのモデルと競合するが、NTv3は一貫した優位性を示している。
逐次予測ユーティリティを直接テストするために、グローバルな6-mer機能と、一致したランダムフォレストプロトコルの下で各FM埋め込みとの結合を比較した。
NTv3は57データセットの46(平均$Δ$MCC = +0.072)を改善し、Caduceusはより小さなゲインを提供し、他のモデルは平均MCCを改善しない。
6-merの周波数とリッジ残差から線形に予測可能なコンポーネントへの埋め込みを分離し、線形回復性は下流の実用性を確実に示さないことを示した。
厳密な6-mer保存シャッフルは、NTv3の最も顕著なタスク関連シーケンス順序感度をさらに明らかにするが、順序感度だけでは予測的改善は保証されない。
本研究は, 構成的特徴を必須制御として確立し, 微調整能力の主張を伴わずに凍結ゲノム表現の付加価値を評価するための相補的診断を行う。
関連論文リスト
- ProtocolMatch: Protocol-Dependent Model Selection for Scientific Dynamics Forecasting [46.122203287541005]
プロトコルに依存したモデル選択を定式化し、計算マッチング、バリデーション選択、フェール保存評価フレームワークであるProtocolMatchを導入する。
駆動量子スピン力学では、3つの独立に生成されたデータセットに対して、繰り返し、パッチ付きアテンション、因果アテンション、低ランク線形予測器を比較する。
論文 参考訳(メタデータ) (2026-10-07T15:23:27Z) - GeneICL: A Tabular Foundation Model for Bulk Transcriptomics [40.70020444515545]
遺伝子発現は生医学において広く測定されている。
臨床結果の予測は、高次元性、強い特徴相関、限られたラベル付きデータにより依然として困難である。
論文 参考訳(メタデータ) (2026-10-06T17:10:37Z) - Towards Robust Time Series Learning via Capacity-Centric Modulation [76.23489485385964]
本稿では,CCM(Capacity-Centric Modulation)を相補的,サンプル適応正規化原理として提案する。
SACM(Sample-Adaptive Capacity Modulation)は,スペクトル空間の分散を利用して,サンプルワイドドロップアウト確率を割り当てるタスク非依存のフレームワークである。
301個の実世界のデータセット-バックボーンペアのうち、SACMは平均でMSEの予測を6.7%削減し、分類精度を3.04%改善し、ポイント調整されたF1を17.05%改善した。
論文 参考訳(メタデータ) (2026-09-30T10:51:23Z) - AmbiModBench: Benchmarking Gene Perturbation Prediction Beyond Shared Responses [48.72528617189033]
遺伝的摂動に対する細胞応答の予測は、単細胞ゲノム学における実験の優先順位付けに役立つ。
本稿では,AmbiModBenchを提案する。
論文 参考訳(メタデータ) (2026-09-26T12:10:35Z) - When Does Deep Representation Learning Help Single-Cell Clustering? A Sensitivity-Aware Diagnostic Benchmark for Biomedical AI Pipelines [0.0]
単細胞リボ核酸シークエンシング(scRNA-seq)は、精密医療のための基礎技術である。
追加の深層表現のステージは計算とチューニングのコストに価値があるだろうか?
この問題は、実際の10データセット上の9つのクラスタリングパイプラインの診断ベンチマークを用いて解決する。
論文 参考訳(メタデータ) (2026-07-28T04:48:47Z) - OncoTraj: a public benchmark for longitudinal resistance prediction in EGFR-mutant non-small-cell lung cancer on osimertinib [0.0]
OncoTraj は 813 EGFR変異 NSCLC 患者のオシメルチニブを服用する公的なベンチマークである。
OncoTrajは、3つのロックされたタスクを定義している。 (A) 固定12ヶ月の目印による進行のバイナリ分類、 (B) 日ごとの時間から最初の生産性の回帰、 (C) 支配的な抵抗機構の6つのクラス分類である。
論文 参考訳(メタデータ) (2026-06-09T17:33:24Z) - PRIME: Prototype-Driven Multimodal Pretraining for Cancer Prognosis with Missing Modalities [86.63247982275396]
PRIMEは、欠落を認識したマルチモーダルな自己教師型事前トレーニングフレームワークである。
部分的に観察されたコホートから頑健で伝達可能な表現を学ぶ。
The Cancer Genome AtlasのPRIMEを32種類の癌に対してラベルフリープレトレーニングで評価した。
論文 参考訳(メタデータ) (2026-04-05T21:14:27Z) - Context-Aware Regularization with Markovian Integration for Attention-Based Nucleotide Analysis [0.2718525106069543]
自己回帰変換器は、固定長のコンテキストウィンドウに頼ってマルコフの振る舞いを示す。
CARMANIAは、NT予測を遷移行列(TM)損失で強化する自己教師型事前学習フレームワークである。
TM損失は、予測トークン遷移を、各入力シーケンスから経験的に導出されたn-gram統計と整合させ、局所的なコンテキストを超えた高次依存関係を捕捉するようモデルに促す。
論文 参考訳(メタデータ) (2025-07-12T19:03:28Z) - The effect of data augmentation and 3D-CNN depth on Alzheimer's Disease
detection [51.697248252191265]
この研究は、データハンドリング、実験設計、モデル評価に関するベストプラクティスを要約し、厳密に観察する。
我々は、アルツハイマー病(AD)の検出に焦点を当て、医療における課題のパラダイム的な例として機能する。
このフレームワークでは,3つの異なるデータ拡張戦略と5つの異なる3D CNNアーキテクチャを考慮し,予測15モデルを訓練する。
論文 参考訳(メタデータ) (2023-09-13T10:40:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。