論文の概要: Transformers in Protein: A Survey
- arxiv url: http://arxiv.org/abs/2505.20098v2
- Date: Tue, 27 May 2025 10:44:08 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-05-28 14:37:20.263754
- Title: Transformers in Protein: A Survey
- Title（参考訳）: タンパク質のトランスフォーマー:サーベイ
- Authors: Xiaowen Ling, Zhiqiang Li, Yanbin Wang, Zhuhong You,
- Abstract要約: トランスフォーマーモデルは、タンパク質研究にまたがる多様な課題に対処する前例のない可能性を示している。
本稿では, タンパク質構造予測, 機能予測, タンパク質-タンパク質相互作用解析, 機能アノテーション, 薬物発見・標的同定など, 重要な領域を体系的に検討する。
各研究領域について、その目的と背景を概説し、先行手法とその限界を批判的に評価し、トランスフォーマーモデルによって実現された変革的貢献を強調する。
- 参考スコア（独自算出の注目度）: 3.4460628622243448
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: As protein informatics advances rapidly, the demand for enhanced predictive accuracy, structural analysis, and functional understanding has intensified. Transformer models, as powerful deep learning architectures, have demonstrated unprecedented potential in addressing diverse challenges across protein research. However, a comprehensive review of Transformer applications in this field remains lacking. This paper bridges this gap by surveying over 100 studies, offering an in-depth analysis of practical implementations and research progress of Transformers in protein-related tasks. Our review systematically covers critical domains, including protein structure prediction, function prediction, protein-protein interaction analysis, functional annotation, and drug discovery/target identification. To contextualize these advancements across various protein domains, we adopt a domain-oriented classification system. We first introduce foundational concepts: the Transformer architecture and attention mechanisms, categorize Transformer variants tailored for protein science, and summarize essential protein knowledge. For each research domain, we outline its objectives and background, critically evaluate prior methods and their limitations, and highlight transformative contributions enabled by Transformer models. We also curate and summarize pivotal datasets and open-source code resources to facilitate reproducibility and benchmarking. Finally, we discuss persistent challenges in applying Transformers to protein informatics and propose future research directions. This review aims to provide a consolidated foundation for the synergistic integration of Transformer and protein informatics, fostering further innovation and expanded applications in the field.
- Abstract（参考訳）: タンパク質情報学が急速に進歩するにつれて、予測精度の向上、構造解析、機能的理解の需要が高まっている。
トランスフォーマーモデルは、強力なディープラーニングアーキテクチャとして、タンパク質研究における多様な課題に対処する前例のない可能性を示している。
しかし、この分野におけるTransformerアプリケーションに関する包括的なレビューは、まだ不十分である。
本稿では,100以上の研究を調査し,タンパク質関連タスクにおけるトランスフォーマーの実践的実装と研究の進展を詳細に分析することによって,このギャップを埋める。
本稿では,タンパク質構造予測,機能予測,タンパク質-タンパク質相互作用解析,機能アノテーション,薬物発見・標的同定など,重要な領域を体系的に検討する。
様々なタンパク質ドメインにまたがるこれらの進歩を文脈的に理解するために、ドメイン指向の分類システムを採用する。
まず、トランスフォーマーアーキテクチャとアテンションメカニズム、タンパク質科学に適したトランスフォーマー変種を分類し、重要なタンパク質知識を要約する基礎概念を紹介する。
各研究領域について、その目的と背景を概説し、先行手法とその限界を批判的に評価し、トランスフォーマーモデルによって実現された変革的貢献を強調する。
また、再現性とベンチマークを容易にするために、重要なデータセットとオープンソースのコードリソースをキュレートし、要約します。
最後に,タンパク質情報学にトランスフォーマーを適用する上での永続的な課題について論じ,今後の研究方向性を提案する。
このレビューはトランスフォーマーとタンパク質情報学のシナジスティックな統合のための統合基盤を提供することを目的としており、さらなるイノベーションとこの分野の応用の促進を目的としている。
関連論文リスト
- Advanced Deep Learning Methods for Protein Structure Prediction and Design [28.575821996185024]
タンパク質構造予測と設計に応用した高度な深層学習手法を包括的に検討する。
テキストは、構造生成、評価指標、多重シーケンスアライメント処理、ネットワークアーキテクチャを含む重要なコンポーネントを分析する。
予測精度を向上し、深層学習技術と実験的検証を統合するための戦略を徹底的に検討した。
論文 参考訳（メタデータ） (2025-03-14T21:28:29Z) - Protein Large Language Models: A Comprehensive Survey [71.65899614084853]
タンパク質特異的な大規模言語モデル(Protein LLMs)は、より効率的なタンパク質構造予測、機能アノテーション、設計を可能にすることで、タンパク質科学に革命をもたらしている。
この作業は、アーキテクチャ、データセットのトレーニング、評価メトリクス、さまざまなアプリケーションをカバーする、Protein LLMの最初の包括的な概要を提供する。
論文 参考訳（メタデータ） (2025-02-21T19:22:10Z) - Computational Protein Science in the Era of Large Language Models (LLMs) [54.35488233989787]
計算タンパク質科学(Computational protein science)は、タンパク質配列構造-機能パラダイムにおける知識を明らかにすること、および応用を開発することを目的としている。
最近、言語モデル (Language Models, PLM) は、前例のない言語処理と一般化能力のために、AIのマイルストーンとして登場した。
論文 参考訳（メタデータ） (2025-01-17T16:21:18Z) - ProteinBench: A Holistic Evaluation of Protein Foundation Models [53.59325047872512]
本稿では,タンパク質基盤モデルのための総合評価フレームワークであるProteinBenchを紹介する。
本研究のアプローチは, タンパク質ドメインにおける課題を包括的に包括するタスクの分類学的分類, (ii) 品質, 新規性, 多様性, 堅牢性, および (iii) 様々なユーザ目標から詳細な分析を行い, モデルパフォーマンスの全体的視点を提供する,4つの重要な側面にわたるパフォーマンスを評価するマルチメトリック評価アプローチからなる。
論文 参考訳（メタデータ） (2024-09-10T06:52:33Z) - Endowing Protein Language Models with Structural Knowledge [5.587293092389789]
本稿では,タンパク質構造データを統合することにより,タンパク質言語モデルを強化する新しいフレームワークを提案する。
PST(Protein Structure Transformer)と呼ばれる精製モデルは、小さなタンパク質構造データベース上でさらに事前訓練されている。
PSTは、タンパク質配列の最先端基盤モデルであるESM-2を一貫して上回り、タンパク質機能予測の新しいベンチマークを設定している。
論文 参考訳（メタデータ） (2024-01-26T12:47:54Z) - PersGNN: Applying Topological Data Analysis and Geometric Deep Learning
to Structure-Based Protein Function Prediction [0.07340017786387766]
本研究では,タンパク質構造を分離し,タンパク質データバンク内のタンパク質の機能的アノテーションを作成する。
本稿では,グラフ表現学習とトポロジカルデータ解析を組み合わせた,エンドツーエンドのトレーニング可能なディープラーニングモデルPersGNNを提案する。
論文 参考訳（メタデータ） (2020-10-30T02:24:35Z) - BERTology Meets Biology: Interpreting Attention in Protein Language
Models [124.8966298974842]
注目レンズを用いたタンパク質トランスフォーマーモデルの解析方法を示す。
注意はタンパク質の折りたたみ構造を捉え、基礎となる配列では遠く離れているが、三次元構造では空間的に近接しているアミノ酸を接続する。
また、注意とタンパク質構造との相互作用を三次元的に可視化する。
論文 参考訳（メタデータ） (2020-06-26T21:50:17Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。