論文の概要: Sparse Autoencoders for Low-$N$ Protein Function Prediction and Design

• arxiv url: http://arxiv.org/abs/2508.18567v1
• Date: Mon, 25 Aug 2025 23:56:39 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-27 17:42:38.631449
• Title: Sparse Autoencoders for Low-$N$ Protein Function Prediction and Design
• Title（参考訳）: 低N$タンパク質機能予測のためのスパースオートエンコーダと設計
• Authors: Darin Tsui, Kunal Talreja, Amirali Aghazadeh,
• Abstract要約: アミノ酸配列からのタンパク質機能の予測は、データスカース機構における中心的な課題である。 タンパク質言語モデル(pLM)は進化的インフォームド埋め込みとスパースオートエンコーダ(SAE)を提供することによって分野を進歩させた。 SAEは、24のシーケンスしか持たないが、フィットネス予測において、ESM2ベースラインよりも一貫して優れているか、競争している。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Predicting protein function from amino acid sequence remains a central challenge in data-scarce (low-$N$) regimes, limiting machine learning-guided protein design when only small amounts of assay-labeled sequence-function data are available. Protein language models (pLMs) have advanced the field by providing evolutionary-informed embeddings and sparse autoencoders (SAEs) have enabled decomposition of these embeddings into interpretable latent variables that capture structural and functional features. However, the effectiveness of SAEs for low-$N$ function prediction and protein design has not been systematically studied. Herein, we evaluate SAEs trained on fine-tuned ESM2 embeddings across diverse fitness extrapolation and protein engineering tasks. We show that SAEs, with as few as 24 sequences, consistently outperform or compete with their ESM2 baselines in fitness prediction, indicating that their sparse latent space encodes compact and biologically meaningful representations that generalize more effectively from limited data. Moreover, steering predictive latents exploits biological motifs in pLM representations, yielding top-fitness variants in 83% of cases compared to designing with ESM2 alone.
• Abstract（参考訳）: アミノ酸配列からのタンパク質機能の予測は、少量のアッセイラベル配列関数データしか利用できない場合、機械学習誘導タンパク質の設計を制限するデータスカース(低価N$)レギュレーションにおいて、依然として中心的な課題である。 タンパク質言語モデル(pLM)は、進化的インフォームド埋め込みとスパースオートエンコーダ(SAE)を提供することで、これらの埋め込みを構造的および機能的特徴を捉えた解釈可能な潜在変数に分解することが可能になった。 しかし,低N$関数予測およびタンパク質設計におけるSAEの有効性は体系的に研究されていない。 そこで本研究では,各種フィットネス外挿およびタンパク質工学タスクにおける細調整ESM2埋め込みを訓練したSAEを評価した。 SAEは24列に満たないが、フィットネス予測においてESM2ベースラインを一貫して上回り、競合し、その疎い潜伏空間は、限られたデータからより効果的に一般化するコンパクトで生物学的に有意義な表現を符号化していることを示す。 さらに、操舵予測潜水剤はpLM表現の生物学的モチーフを利用しており、ESM2単独の設計と比較して83%のケースで最適性変異が生じる。

関連論文リスト

• DISPROTBENCH: A Disorder-Aware, Task-Rich Benchmark for Evaluating Protein Structure Prediction in Realistic Biological Contexts [76.59606029593085]
  DisProtBenchは、構造障害および複雑な生物学的条件下でタンパク質構造予測モデル(PSPM)を評価するためのベンチマークである。 DisProtBenchはデータの複雑さ、タスクの多様性、解釈可能性という3つの重要な軸にまたがっている。 その結果,機能的予測障害と相関する低信頼領域を有する障害下でのモデルロバスト性に有意な変動が認められた。
  論文  参考訳（メタデータ） (2025-06-18T23:58:22Z)
• ProtCLIP: Function-Informed Protein Multi-Modal Learning [18.61302416993122]
  ProtCLIPは,機能認識タンパク質の埋め込みを表現した多モード基盤モデルである。 当社のProtCLIPは,5つのクロスモーダル変換ベンチマークにおいて,平均75%の大幅な改善を実現している。 実験により,タンパク質多量性基盤モデルとしてのProtCLIPの異常なポテンシャルが検証された。
  論文  参考訳（メタデータ） (2024-12-28T04:23:47Z)
• Multi-modal Representation Learning Enables Accurate Protein Function Prediction in Low-Data Setting [0.0]
  HOPER(Holistic ProtEin Representation)は、低データ設定でタンパク質機能予測(PFP)を強化するために設計された新しいフレームワークである。 本研究は,生物研究におけるデータ制限を克服するためのマルチモーダル表現学習の有効性を強調した。
  論文  参考訳（メタデータ） (2024-11-22T20:13:55Z)
• Long-context Protein Language Modeling Using Bidirectional Mamba with Shared Projection Layers [76.95505296417866]
  言語モデル(LM)の自己教師による訓練は、有意義な表現の学習や創薬設計において、タンパク質配列に大きな成功を収めている。 ほとんどのタンパク質LMは、短い文脈長を持つ個々のタンパク質に基づいて訓練されたトランスフォーマーアーキテクチャに基づいている。 そこで本研究では,選択的構造化状態空間モデルに基づく代替タンパク質であるBiMamba-Sに基づくLC-PLMを提案する。
  論文  参考訳（メタデータ） (2024-10-29T16:43:28Z)
• xTrimoPGLM: Unified 100B-Scale Pre-trained Transformer for Deciphering the Language of Protein [74.64101864289572]
  本稿では,タンパク質の理解と生成を同時に行うために,統一されたタンパク質言語モデル xTrimoPGLM を提案する。 xTrimoPGLMは、4つのカテゴリにわたる18のタンパク質理解ベンチマークにおいて、他の高度なベースラインを著しく上回っている。 また、自然の原理に従ってデノボタンパク質配列を生成でき、微調整を監督した後にプログラム可能な生成を行うことができる。
  論文  参考訳（メタデータ） (2024-01-11T15:03:17Z)
• Efficiently Predicting Protein Stability Changes Upon Single-point Mutation with Large Language Models [51.57843608615827]
  タンパク質の熱安定性を正確に予測する能力は、様々なサブフィールドや生化学への応用において重要である。 タンパク質配列と構造的特徴を統合したESMによる効率的なアプローチを導入し, 単一点突然変異によるタンパク質の熱安定性変化を予測する。
  論文  参考訳（メタデータ） (2023-12-07T03:25:49Z)
• Exploring Post-Training Quantization of Protein Language Models [9.562786130999188]
  タンパク質言語モデルのための後学習量子化(PTQ)に関する研究(ProteinLMs) 我々の研究は、タンパク質膜の全重量と活性化を定量化する最初の試みである。 非対称なアクティベーション値に対して一方向線形量子化を利用する新しいPTQ法を提案する。
  論文  参考訳（メタデータ） (2023-10-30T15:18:06Z)
• ProtFIM: Fill-in-Middle Protein Sequence Design via Protein Language Models [0.0]
  現実世界のタンパク質工学では、タンパク質配列の中央にあるアミノ酸が他の残基を維持しながら最適化されることが多い。 タンパク質言語モデル(pLM)はタンパク質配列設計のための有望なツールである。 ProtFIMとよばれる中間変換によって訓練された言語モデルは、タンパク質工学により適していることを示す。
  論文  参考訳（メタデータ） (2023-03-29T04:35:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。