論文の概要: SFM-Protein: Integrative Co-evolutionary Pre-training for Advanced Protein Sequence Representation

• arxiv url: http://arxiv.org/abs/2410.24022v1
• Date: Thu, 31 Oct 2024 15:22:03 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-01 16:59:46.814912
• Title: SFM-Protein: Integrative Co-evolutionary Pre-training for Advanced Protein Sequence Representation
• Title（参考訳）: SFM-Protein:高度タンパク質配列表現のための統合的共進化前訓練
• Authors: Liang He, Peiran Jin, Yaosen Min, Shufang Xie, Lijun Wu, Tao Qin, Xiaozhuan Liang, Kaiyuan Gao, Yuliang Jiang, Tie-Yan Liu,
• Abstract要約: タンパク質基盤モデルのための新しい事前学習戦略を導入する。 アミノ酸残基間の相互作用を強調し、短距離および長距離の共進化的特徴の抽出を強化する。 大規模タンパク質配列データセットを用いて学習し,より優れた一般化能力を示す。
• 参考スコア（独自算出の注目度）: 97.99658944212675
• License:
• Abstract: Proteins, essential to biological systems, perform functions intricately linked to their three-dimensional structures. Understanding the relationship between protein structures and their amino acid sequences remains a core challenge in protein modeling. While traditional protein foundation models benefit from pre-training on vast unlabeled datasets, they often struggle to capture critical co-evolutionary information, which evolutionary-based methods excel at. In this study, we introduce a novel pre-training strategy for protein foundation models that emphasizes the interactions among amino acid residues to enhance the extraction of both short-range and long-range co-evolutionary features from sequence data. Trained on a large-scale protein sequence dataset, our model demonstrates superior generalization ability, outperforming established baselines of similar size, including the ESM model, across diverse downstream tasks. Experimental results confirm the model's effectiveness in integrating co-evolutionary information, marking a significant step forward in protein sequence-based modeling.
• Abstract（参考訳）: 生物学的システムに必須のタンパク質は、3次元構造と複雑な関係を持つ機能を果たす。 タンパク質構造とアミノ酸配列の関係を理解することは、タンパク質モデリングにおける中心的な課題である。 従来のタンパク質基盤モデルは、ラベルのない膨大なデータセットの事前トレーニングの恩恵を受けるが、進化的手法が優れている重要な共進化的情報を取得するのに苦労することが多い。 本研究では,アミノ酸残基間の相互作用を強調し,配列データから短距離および長距離の共進化的特徴を抽出する,タンパク質基盤モデルのための新しい事前学習戦略を提案する。 大規模タンパク質配列データセットを用いて学習し、多様な下流タスクにおいて、ESMモデルを含む同様のサイズの確立されたベースラインよりも優れた一般化能力を示す。 実験結果は、共進化情報の統合におけるモデルの有効性を確認し、タンパク質配列に基づくモデリングにおいて重要な一歩を踏み出した。

関連論文リスト

• Boosting Protein Language Models with Negative Sample Mining [20.721167029530168]
  本稿では,タンパク質表現学習分野における大規模言語モデル向上のための先駆的手法を提案する。 私たちの主な貢献は、共進化の知識への過度な信頼を関連付けるための洗練プロセスにあります。 本手法は,この新たなアプローチを活かして,注目スコア空間内でのトランスフォーマーベースモデルのトレーニングを支援する。
  論文  参考訳（メタデータ） (2024-05-28T07:24:20Z)
• Protein Conformation Generation via Force-Guided SE(3) Diffusion Models [48.48934625235448]
  新しいタンパク質コンホメーションを生成するために、深層生成モデリング技術が用いられている。 本稿では,タンパク質コンフォメーション生成のための力誘導SE(3)拡散モデルConfDiffを提案する。
  論文  参考訳（メタデータ） (2024-03-21T02:44:08Z)
• Diffusion on language model embeddings for protein sequence generation [0.5442686600296733]
  連続拡散を利用したアミノ酸配列生成モデルであるDiMAを導入する。 優れたパフォーマンスをもたらす設計選択の影響を定量的に説明します。 我々のアプローチは、タンパク質空間の構造的および機能的多様性を正確に反映する、新規で多様なタンパク質配列を一貫して生成する。
  論文  参考訳（メタデータ） (2024-03-06T14:15:20Z)
• PSC-CPI: Multi-Scale Protein Sequence-Structure Contrasting for Efficient and Generalizable Compound-Protein Interaction Prediction [63.50967073653953]
  化合物-タンパク質相互作用予測は、合理的な薬物発見のための化合物-タンパク質相互作用のパターンと強度を予測することを目的としている。 既存のディープラーニングベースの手法では、タンパク質配列や構造が単一のモダリティしか利用していない。 CPI予測のためのマルチスケールタンパク質配列構造コントラストフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-02-13T03:51:10Z)
• Endowing Protein Language Models with Structural Knowledge [5.587293092389789]
  本稿では,タンパク質構造データを統合することにより,タンパク質言語モデルを強化する新しいフレームワークを提案する。 PST(Protein Structure Transformer)と呼ばれる精製モデルは、小さなタンパク質構造データベース上でさらに事前訓練されている。 PSTは、タンパク質配列の最先端基盤モデルであるESM-2を一貫して上回り、タンパク質機能予測の新しいベンチマークを設定している。
  論文  参考訳（メタデータ） (2024-01-26T12:47:54Z)
• Efficiently Predicting Protein Stability Changes Upon Single-point Mutation with Large Language Models [51.57843608615827]
  タンパク質の熱安定性を正確に予測する能力は、様々なサブフィールドや生化学への応用において重要である。 タンパク質配列と構造的特徴を統合したESMによる効率的なアプローチを導入し, 単一点突然変異によるタンパク質の熱安定性変化を予測する。
  論文  参考訳（メタデータ） (2023-12-07T03:25:49Z)
• Predicting mutational effects on protein-protein binding via a side-chain diffusion probabilistic model [14.949807579474781]
  SidechainDiffは、未ラベルな実験タンパク質構造を利用する表現学習に基づくアプローチである。 SidechainDiffは、側鎖の拡散に基づく最初の生成モデルであり、タンパク質のバックボーン構造の生成に主に焦点をあてた以前の試みと区別している。
  論文  参考訳（メタデータ） (2023-10-30T15:23:42Z)
• State-specific protein-ligand complex structure prediction with a multi-scale deep generative model [68.28309982199902]
  タンパク質-リガンド複合体構造を直接予測できる計算手法であるNeuralPLexerを提案する。 我々の研究は、データ駆動型アプローチがタンパク質と小分子の構造的協調性を捉え、酵素や薬物分子などの設計を加速させる可能性を示唆している。
  論文  参考訳（メタデータ） (2022-09-30T01:46:38Z)
• Protein Structure and Sequence Generation with Equivariant Denoising Diffusion Probabilistic Models [3.5450828190071646]
  バイオエンジニアリングにおける重要な課題は、特定の3D構造と標的機能を可能にする化学的性質を持つタンパク質を設計することである。 タンパク質の構造と配列の両方の生成モデルを導入し、従来の分子生成モデルよりもはるかに大きなスケールで操作できる。
  論文  参考訳（メタデータ） (2022-05-26T16:10:09Z)
• Learning Geometrically Disentangled Representations of Protein Folding Simulations [72.03095377508856]
  この研究は、薬物標的タンパク質の構造的アンサンブルに基づいて生成ニューラルネットワークを学習することに焦点を当てている。 モデル課題は、様々な薬物分子に結合したタンパク質の構造的変動を特徴付けることである。 その結果,我々の幾何学的学習に基づく手法は,複雑な構造変化を生成するための精度と効率の両方を享受できることがわかった。
  論文  参考訳（メタデータ） (2022-05-20T19:38:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。