論文の概要: Antibody Foundational Model : Ab-RoBERTa
- arxiv url: http://arxiv.org/abs/2506.13006v1
- Date: Mon, 16 Jun 2025 00:22:07 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-17 17:28:47.28529
- Title: Antibody Foundational Model : Ab-RoBERTa
- Title(参考訳): 抗体基礎モデル : Ab-RoBERTa
- Authors: Eunna Huh, Hyeonsu Lee, Hyunjin Shin,
- Abstract要約: 本稿では,RoBERTaを用いた抗体特異的モデルであるAb-RoBERTaを紹介する。
このリソースは、寄生虫の予測や人間性評価など、幅広い抗体関連研究応用をサポートすることを意図している。
- 参考スコア(独自算出の注目度): 3.1952340441132474
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: With the growing prominence of antibody-based therapeutics, antibody engineering has gained increasing attention as a critical area of research and development. Recent progress in transformer-based protein large language models (LLMs) has demonstrated promising applications in protein sequence design and structural prediction. Moreover, the availability of large-scale antibody datasets such as the Observed Antibody Space (OAS) database has opened new avenues for the development of LLMs specialized for processing antibody sequences. Among these, RoBERTa has demonstrated improved performance relative to BERT, while maintaining a smaller parameter count (125M) compared to the BERT-based protein model, ProtBERT (420M). This reduced model size enables more efficient deployment in antibody-related applications. However, despite the numerous advantages of the RoBERTa architecture, antibody-specific foundational models built upon it have remained inaccessible to the research community. In this study, we introduce Ab-RoBERTa, a RoBERTa-based antibody-specific LLM, which is publicly available at https://huggingface.co/mogam-ai/Ab-RoBERTa. This resource is intended to support a wide range of antibody-related research applications including paratope prediction or humanness assessment.
- Abstract(参考訳): 抗体ベースの治療法の普及に伴い、抗体工学は研究・開発の重要な領域として注目を集めている。
トランスフォーマーに基づくタンパク質大言語モデル(LLM)の最近の進歩は、タンパク質配列の設計と構造予測に有望な応用を実証している。
さらに,OAS(Observed Antibody Space)データベースなどの大規模抗体データセットが利用可能になったことで,抗体配列の処理に特化したLCMの開発に新たな道が開かれた。
これらのうち、RoBERTaはBERTと比較して性能が向上し、BERTベースのタンパク質モデルであるProtBERT (420M)に比べてパラメータ数(125M)が小さい。
このモデルサイズを縮小することで、抗体関連アプリケーションへのより効率的なデプロイが可能になる。
しかし、RoBERTaアーキテクチャの多くの利点にもかかわらず、抗体特異的基盤モデルは研究コミュニティにはアクセスできないままである。
本稿では,RoBERTa をベースとした抗体特異的 LLM である Ab-RoBERTa について紹介し, https://huggingface.co/mogam-ai/Ab-RoBERTa で公開している。
このリソースは、寄生虫の予測や人間性評価など、幅広い抗体関連研究応用をサポートすることを意図している。
関連論文リスト
- Relation-Aware Equivariant Graph Networks for Epitope-Unknown Antibody Design and Specificity Optimization [61.06622479173572]
本稿では,抗原特異的CDRの構造と共同設計配列に対する抗原抗体相互作用をモデル化するRAADフレームワークを提案する。
さらに, 抗体特異度をよりよく測定し, 抗体特異度を最適化するコントラスト特異的エンハンス制約を開発するための新しい評価指標を提案する。
論文 参考訳(メタデータ) (2024-12-14T03:00:44Z) - AntiBARTy Diffusion for Property Guided Antibody Design [0.0]
我々は、BART(Bidirectional and Auto-Regressive Transformer)に基づく抗体特異的言語モデルAntiBARTyを訓練し、その潜在空間を用いて、誘導IgG de novo設計のための特性条件拡散モデルを訓練する。
試験例では, 抗体の妥当性を維持し, 配列の多様性を制御しながら, シリカ溶解度を向上した新規抗体を効果的に生成できることが示唆された。
論文 参考訳(メタデータ) (2023-09-22T18:30:50Z) - xTrimoABFold: De novo Antibody Structure Prediction without MSA [77.47606749555686]
我々は、抗体配列から抗体構造を予測するために、xTrimoABFoldという新しいモデルを開発した。
CDRにおけるドメイン特異的焦点損失のアンサンブル損失とフレーム整合点損失を最小化することにより,PDBの抗体構造をエンドツーエンドにトレーニングした。
論文 参考訳(メタデータ) (2022-11-30T09:26:08Z) - Incorporating Pre-training Paradigm for Antibody Sequence-Structure
Co-design [134.65287929316673]
深層学習に基づく計算抗体の設計は、人間の経験を補完する可能性のあるデータから自動的に抗体パターンをマイニングするので、注目を集めている。
計算手法は高品質な抗体構造データに大きく依存しており、非常に限定的である。
幸いなことに、CDRをモデル化し、構造データへの依存を軽減するために有効な抗体の配列データが多数存在する。
論文 参考訳(メタデータ) (2022-10-26T15:31:36Z) - Reprogramming Pretrained Language Models for Antibody Sequence Infilling [72.13295049594585]
抗体の計算設計には、構造的一貫性を維持しながら、新規で多様な配列を生成することが含まれる。
近年のディープラーニングモデルでは優れた結果が得られたが、既知の抗体配列/構造対の数が限られているため、性能が劣化することが多い。
これは、ソース言語でトレーニング済みのモデルを再利用して、異なる言語で、データが少ないタスクに適応するものです。
論文 参考訳(メタデータ) (2022-10-05T20:44:55Z) - Antibody Representation Learning for Drug Discovery [7.291511531280898]
新規なSARS-CoV-2抗体結合データセットと追加ベンチマークデータセットについて報告する。
従来の統計的シーケンスモデル,各データセットの教師付き学習,および抗体特異的事前訓練言語モデルの微調整の3つのクラスを比較した。
実験結果から,特徴表現の自己教師付き事前学習は,従来の手法よりも大幅に改善されていることが示唆された。
論文 参考訳(メタデータ) (2022-10-05T13:48:41Z) - AntBO: Towards Real-World Automated Antibody Design with Combinatorial
Bayesian Optimisation [53.43922443725598]
本稿では,CDRH3領域のシリコ設計を効率的に行うための組合せ最適化アルゴリズムAntBOを提案する。
AntBOをベンチマークするために、私たちはAbsolut!ソフトウェアスイートをブラックボックスのオラクルとして使用しています。
200以上のタンパク質の設計において、AntBOは690万の実験的に得られたCDRH3から引き出された最も優れた結合配列より優れた抗体配列を提案することができる。
論文 参考訳(メタデータ) (2022-01-29T12:03:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。