論文の概要: Exploring the limits of pre-trained embeddings in machine-guided protein design: a case study on predicting AAV vector viability

• arxiv url: http://arxiv.org/abs/2602.14828v1
• Date: Mon, 16 Feb 2026 15:21:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-02-17 16:22:50.480587
• Title: Exploring the limits of pre-trained embeddings in machine-guided protein design: a case study on predicting AAV vector viability
• Title（参考訳）: 機械誘導タンパク質設計におけるプレトレーニング埋込み限界の探索--AAVベクター生存率予測のケーススタディ
• Authors: Ana F. Rodrigues, Lucas Ferraz, Laura Balbi, Pedro Giesteira Cotovio, Catia Pesquita,
• Abstract要約: タンパク質バイオエンジニアリングは、配列表現に固有の課題を提起する。 実験は典型的には少数の突然変異を特徴としており、全配列にわたってわずかに分布するか、局所的な領域に集中している。 これにより、意味のある信号を抽出するシーケンスレベルの表現が制限される。
• 参考スコア（独自算出の注目度）: 0.39146761527401425
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Effective representations of protein sequences are widely recognized as a cornerstone of machine learning-based protein design. Yet, protein bioengineering poses unique challenges for sequence representation, as experimental datasets typically feature few mutations, which are either sparsely distributed across the entire sequence or densely concentrated within localized regions. This limits the ability of sequence-level representations to extract functionally meaningful signals. In addition, comprehensive comparative studies remain scarce, despite their crucial role in clarifying which representations best encode relevant information and ultimately support superior predictive performance. In this study, we systematically evaluate multiple ProtBERT and ESM2 embedding variants as sequence representations, using the adeno-associated virus capsid as a case study and prototypical example of bioengineering, where functional optimization is targeted through highly localized sequence variation within an otherwise large protein. Our results reveal that, prior to fine-tuning, amino acid-level embeddings outperform sequence-level representations in supervised predictive tasks, whereas the latter tend to be more effective in unsupervised settings. However, optimal performance is only achieved when embeddings are fine-tuned with task-specific labels, with sequence-level representations providing the best performance. Moreover, our findings indicate that the extent of sequence variation required to produce notable shifts in sequence representations exceeds what is typically explored in bioengineering studies, showing the need for fine-tuning in datasets characterized by sparse or highly localized mutations.
• Abstract（参考訳）: タンパク質配列の効率的な表現は機械学習に基づくタンパク質設計の基盤として広く認識されている。 しかし、タンパク質のバイオエンジニアリングは配列表現に独特な課題をもたらし、実験的なデータセットは典型的には、配列全体にわたってわずかに分散するか、局部的な領域に密集している、わずかな突然変異を特徴とする。 これにより、機能的に意味のある信号を抽出するシーケンスレベルの表現が制限される。 さらに、関連する情報をどの表現でエンコードするかを明確にし、最終的には優れた予測性能をサポートするのに重要な役割を担っているにもかかわらず、包括的な比較研究はほとんど残っていない。 本研究では,複数のProtBERTとESM2の組込み変異体を配列表現として体系的に評価し,アデノ関連ウイルスカプシドを事例研究およびバイオエンジニアリングの原型例とした。 その結果、アミノ酸レベルの埋め込みは、微調整前は、教師付き予測タスクにおいてシーケンスレベルの表現よりも優れており、後者は教師なし設定においてより効果的であることが明らかとなった。 しかし、最適な性能は、埋め込みがタスク固有のラベルで微調整された場合にのみ達成され、シーケンスレベルの表現が最高のパフォーマンスを提供する。 さらに,本研究では, 配列表現の顕著な変化に必要な配列変化の程度が, バイオエンジニアリング研究の典型的課題よりも大きく, スパース変異や高度局所変異を特徴とするデータセットの微調整の必要性が示唆された。

関連論文リスト

• S$^2$Drug: Bridging Protein Sequence and 3D Structure in Contrastive Representation Learning for Virtual Screening [72.89086338778098]
  タンパク質リガンドコントラスト表現学習のための2段階フレームワークを提案する。 最初の段階では、ESM2ベースのバックボーンを用いて、ChemBLでタンパク質配列を事前訓練する。 第2段階では、残基レベルゲーティングモジュールを介して配列と構造情報を融合することでPDBBindを微調整する。 この補助的なタスクは、モデルを誘導し、タンパク質配列内の結合残基を正確に局在させ、それらの3次元空間配列をキャプチャする。
  論文  参考訳（メタデータ） (2025-11-10T11:57:47Z)
• SeqProFT: Applying LoRA Finetuning for Sequence-only Protein Property Predictions [8.112057136324431]
  本研究では,ESM-2モデルのエンド・ツー・エンドの微調整を行うためにLoRA法を用いる。 下流ネットワークにマルチヘッドアテンション機構を統合して、シーケンス特徴とコンタクトマップ情報を組み合わせる。
  論文  参考訳（メタデータ） (2024-11-18T12:40:39Z)
• MeToken: Uniform Micro-environment Token Boosts Post-Translational Modification Prediction [65.33218256339151]
  翻訳後修飾(PTM)はプロテオームの複雑さと機能を大幅に拡張する。 既存の計算手法は主に、配列依存的なモチーフの認識によって引き起こされる、PTM部位を予測するタンパク質配列に焦点を当てている。 本稿では,各酸のマイクロ環境をトークン化し,シーケンス情報と構造情報を統一された離散トークンに統合するMeTokenモデルを提案する。
  論文  参考訳（メタデータ） (2024-11-04T07:14:28Z)
• Semantically Rich Local Dataset Generation for Explainable AI in Genomics [0.716879432974126]
  ゲノム配列に基づいて訓練されたブラックボックス深層学習モデルは、異なる遺伝子制御機構の結果を予測するのに優れている。 本稿では、遺伝的プログラミングを用いて、その意味的多様性に寄与する配列の摂動を進化させることによりデータセットを生成することを提案する。
  論文  参考訳（メタデータ） (2024-07-03T10:31:30Z)
• Learning to Predict Mutation Effects of Protein-Protein Interactions by Microenvironment-aware Hierarchical Prompt Learning [78.38442423223832]
  我々は、新しいコードブック事前学習タスク、すなわちマスク付きマイクロ環境モデリングを開発する。 突然変異効果予測において、最先端の事前学習法よりも優れた性能と訓練効率を示す。
  論文  参考訳（メタデータ） (2024-05-16T03:53:21Z)
• Efficiently Predicting Protein Stability Changes Upon Single-point Mutation with Large Language Models [51.57843608615827]
  タンパク質の熱安定性を正確に予測する能力は、様々なサブフィールドや生化学への応用において重要である。 タンパク質配列と構造的特徴を統合したESMによる効率的なアプローチを導入し, 単一点突然変異によるタンパク質の熱安定性変化を予測する。
  論文  参考訳（メタデータ） (2023-12-07T03:25:49Z)
• Fast and Functional Structured Data Generators Rooted in Out-of-Equilibrium Physics [44.97217246897902]
  エネルギーモデルを用いて、構造化データセットで高品質なラベル特化データを生成するという課題に対処する。 伝統的な訓練方法は、マルコフ連鎖モンテカルロ混合による困難に遭遇する。 非平衡効果を利用した新しいトレーニングアルゴリズムを用いる。
  論文  参考訳（メタデータ） (2023-07-13T15:08:44Z)
• SESNet: sequence-structure feature-integrated deep learning method for data-efficient protein engineering [6.216757583450049]
  タンパク質変異体の適合度を予測するための教師付きディープラーニングモデルであるSESNetを開発した。 SESNetは,シーケンスと関数の関係を予測するための最先端モデルよりも優れていることを示す。 我々のモデルは、タンパク質変異体の適合性の予測において、特に高次変異体に対して驚くほど高い精度を達成することができる。
  論文  参考訳（メタデータ） (2022-12-29T01:49:52Z)
• EBM-Fold: Fully-Differentiable Protein Folding Powered by Energy-based Models [53.17320541056843]
  本研究では,データ駆動型生成ネットワークを用いたタンパク質構造最適化手法を提案する。 EBM-Foldアプローチは,従来のロゼッタ構造最適化ルーチンと比較して,高品質なデコイを効率よく生成できる。
  論文  参考訳（メタデータ） (2021-05-11T03:40:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。