論文の概要: Exhaustive Circuit Mapping of a Single-Cell Foundation Model Reveals Massive Redundancy, Heavy-Tailed Hub Architecture, and Layer-Dependent Differentiation Control

• arxiv url: http://arxiv.org/abs/2603.11940v1
• Date: Thu, 12 Mar 2026 13:53:20 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-13 14:46:26.119594
• Title: Exhaustive Circuit Mapping of a Single-Cell Foundation Model Reveals Massive Redundancy, Heavy-Tailed Hub Architecture, and Layer-Dependent Differentiation Control
• Title（参考訳）: 単セルファンデーションモデルの露光回路マッピングによる大規模冗長性、重厚ハブ構造、層依存性の微分制御
• Authors: Ihor Kendiukhov,
• Abstract要約: 本稿では, サーキットトレース, 高次アブレーション, 因果軌道ステアリングによる限界に対処する3つの実験について述べる。 第一に、第5層における4065個のアクティブオートエンコーダの特徴を徹底的に追跡すると、1393850の下流エッジが得られる。 第2に、8つの三つ子にまたがる3つの冗長性は、冗長性は相互作用順序とともに単調に深まることを示す。 第3に、軌道案内型特徴ステアリングは、層の位置と微分方向との因果関係を確立する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Mechanistic interpretability of biological foundation models has relied on selective feature sampling, pairwise interaction testing, and observational trajectory analysis. Each of these can introduce systematic bias. Here we present three experiments that address these limitations through exhaustive circuit tracing, higher order combinatorial ablation, and causal trajectory steering in Geneformer, a transformer based single cell foundation model. First, exhaustive tracing of all 4065 active sparse autoencoder features at layer 5 yields 1393850 significant downstream edges, a 27 fold expansion over selective sampling. This reveals a heavy tailed hub distribution in which 1.8 percent of features account for disproportionate connectivity and 40 percent of the top 20 hubs lack biological annotation. These results indicate systematic annotation bias in prior selective analyses. Second, three way combinatorial ablation across 8 feature triplets shows that redundancy deepens monotonically with interaction order, with a three way ratio of 0.59 versus a pairwise ratio of 0.74, and with zero synergy. This confirms that the model architecture is subadditive at all tested orders. Third, trajectory guided feature steering establishes a causal link between layer position and differentiation directionality. Late layer features at L17 consistently push cell states toward maturity, with fraction positive equal to 1.0. Early and mid layer features at L0 and L11 mostly push away from maturity, with fraction positive ranging from 0.00 to 0.58. Together these results move from correlation toward causal evidence for layer dependent control of cell state.
• Abstract（参考訳）: 生体基盤モデルの力学的解釈性は、選択的特徴サンプリング、ペア相互作用試験、観察軌道解析に頼っている。 これらはそれぞれ、体系的なバイアスを導入することができる。 本稿では, トランスフォーマーを用いた単一細胞基盤モデルGeneformerにおける, サーキットトレース, 高次組合せアブレーション, および因果軌道ステアリングによるこれらの制限に対処する3つの実験について述べる。 第一に、第5層における4065個のアクティブスパースオートエンコーダの特徴の徹底的な追跡は、選択サンプリングよりも27倍の27倍の1393850のダウンストリームエッジを生じる。 これは、機能のうち1.8%が不均衡な接続を担っており、上位20のハブの40%が生物学的アノテーションを欠いている、重く尾のついたハブ分布を明らかにしている。 これらの結果は,事前選択分析における系統的アノテーションバイアスを示している。 第2に、8つの三重項からなる3方向の組合せアブレーションは、冗長性は相互作用の順序によって単調に深められ、3方向比は0.59、対比は0.74、相乗効果は0である。 これは、モデルアーキテクチャが全てのテストされた順序で副添加物であることを確認する。 第三に、軌道案内型特徴ステアリングは、層の位置と微分方向との因果関係を確立する。 L17の後期層の特徴は、細胞状態が一貫して成熟に向かって進み、分画率は1.0に等しい。 L0およびL11における初期層と中期層の特徴は、主に成熟度から遠ざかっており、0.00から0.58の範囲に比例する。 これらの結果は相関から細胞状態の層依存性制御の因果的証拠へと移行する。

関連論文リスト

• Causal Circuit Tracing Reveals Distinct Computational Architectures in Single-Cell Foundation Models: Inhibitory Dominance, Biological Coherence, and Cross-Model Convergence [0.0]
  SAE特徴と下流応答を損なうことで因果回路をトレースする手法を提案する。 我々はGeneformer V2-316M と scGPT に4つの条件で適用した。
  論文  参考訳（メタデータ） (2026-03-02T11:21:44Z)
• What Topological and Geometric Structure Do Biological Foundation Models Learn? Evidence from 141 Hypotheses [0.0]
  52回の反復で141の幾何学的および位相的仮説を提案し,検証し,洗練するAI駆動ブレインストーミングループを提案する。 遺伝子埋め込み近傍は非自明なトポロジーを示し、12層のうち11層に持続的ホモロジーが有意である。 scGPTとGeneformerのCCAアライメントは0.80の正準相関と72%の遺伝子検索精度をもたらすが、19の検査方法が確実に遺伝子レベルの対応を回復することはなかった。
  論文  参考訳（メタデータ） (2026-02-25T14:33:24Z)
• Function-Space Decoupled Diffusion for Forward and Inverse Modeling in Carbon Capture and Storage [65.51149575007149]
  本稿では,Fun-DDPSについて述べる。Fun-DDPSは,関数空間拡散モデルと微分可能なニューラル演算子サロゲートを結合した生成フレームワークである。 Fun-DDPSは、ジョイントステートベースラインで観察される高周波アーティファクトから、物理的に一貫した実現をもたらす。
  論文  参考訳（メタデータ） (2026-02-12T18:58:12Z)
• Structure-Informed Estimation for Pilot-Limited MIMO Channels via Tensor Decomposition [51.56484100374058]
  本稿では、スパース観測から低ランクテンソル完備化としてパイロットリミテッドチャネル推定を定式化する。 合成チャネル実験による最小二乗平均二乗誤差(NMSE)の最小二乗平均誤差(LS)に対する改善 DeepMIMO線トレーシングチャネルの評価では、純粋なテンソル法よりも24-44%NMSEが減少している。
  論文  参考訳（メタデータ） (2026-02-03T23:38:05Z)
• Towards a Science of Scaling Agent Systems [79.64446272302287]
  エージェント評価の定義を定式化し,エージェント量,コーディネーション構造,モデル,タスク特性の相互作用として,スケーリング法則を特徴付ける。 協調指標を用いて予測モデルを導出し,R2=0をクロスバリデーションし,未知のタスク領域の予測を可能にする。 ツールコーディネーショントレードオフ: 固定的な計算予算の下では, ツールヘビータスクはマルチエージェントのオーバーヘッドから不均衡に悩まされ, 2) 能力飽和: 調整が減少または負のリターンを, 単一エージェントのベースラインが45%を超えると達成できる。
  論文  参考訳（メタデータ） (2025-12-09T06:52:21Z)
• Beyond Mimicry: Preference Coherence in LLMs [0.19116784879310025]
  大規模言語モデルが真の嗜好構造を示すかどうかを,AI固有のトレードオフに対する応答をテストすることによって検討する。 23の組合せ(47.9%)は、シナリオ強度と選択パターンの統計的に有意な関係を示した。 5つの組み合わせ(10.4%)だけが適応的またはしきい値に基づく行動を通じて有意義な嗜好コヒーレンスを示す。 不安定な遷移(45.8%)と刺激特異的感性は、現在のAIシステムが統一された嗜好構造を欠いていることを示唆している。
  論文  参考訳（メタデータ） (2025-11-17T17:41:48Z)
• Departures: Distributional Transport for Single-Cell Perturbation Prediction with Neural Schrödinger Bridges [51.83259180910313]
  遺伝子機能解析における大きなボトルネックは、単細胞データの未成熟の性質である。 我々は、SB(Schrdinger Bridge)を近似して、単セル摂動データに対処する。 本モデルは,異種単一セル応答を効果的に捉え,最先端の性能を実現する。
  論文  参考訳（メタデータ） (2025-11-17T08:27:13Z)
• Balancing Centralized Learning and Distributed Self-Organization: A Hybrid Model for Embodied Morphogenesis [0.0]
  本研究では,学習可能な脳様のコントローラを細胞様のグレースコット基質に結合して,最小限の努力でステアパターン形成を行う方法について検討する。 コンパクトな畳み込みポリシは、微分可能なPyTorch反応拡散シミュレータに埋め込まれる。
  論文  参考訳（メタデータ） (2025-11-13T09:05:27Z)
• Alpamayo-R1: Bridging Reasoning and Action Prediction for Generalizable Autonomous Driving in the Long Tail [85.47497935739936]
  Alpamayo-R1 (AR1) は、因果推論の連鎖と軌道計画を統合する視覚言語モデルである。 また,AR1は,軌道のみのベースラインに比べて,難問の計画精度が12%向上することを示した。 今後のアップデートで、AR1モデルとCoCのサブセットをリリースする予定です。
  論文  参考訳（メタデータ） (2025-10-30T01:25:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。