論文の概要: AMix-2: Establishing Protein as a Native Modality in Large Language Models

• arxiv url: http://arxiv.org/abs/2605.30963v1
• Date: Fri, 29 May 2026 07:58:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-01 20:56:50.45738
• Title: AMix-2: Establishing Protein as a Native Modality in Large Language Models
• Title（参考訳）: AMix-2: 大規模言語モデルのネイティブモダリティとしてのタンパク質の確立
• Abstract要約: 大型言語モデル(LLM)において、タンパク質をネイティブなモダリティとして確立するタンパク質-テキスト基盤モデルAMix-2を提案する。 AMix-2は、(1)自然言語とタンパク質配列を共有トークン空間に埋め込む統一されたタンパク質-テキストの定式化、(2)ブロックワイド拡散言語モデリングバックボーンの2つの主要なアイデアに基づいて構築されている。 本稿では,様々な理解・設計タスクにまたがって,時間認識・ホモロジー認識プロトコルを用いた総合ベンチマークであるProteinArenaを紹介する。
• 参考スコア（独自算出の注目度）: 88.00237394496698
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: We present AMix-2, a protein-text foundation model that establishes protein as a native modality in large language models (LLMs), unifying protein understanding and sequence design within a single foundation model. AMix-2 is built upon two key ideas: (1) a unified protein-text formulation that embeds natural language and protein sequence in a shared token space, enabling one model to perform biological reasoning and conditional design instead of separate downstream task-specialized models; and (2) a block-wise diffusion language modeling backbone that combines causal generation across blocks with bidirectional context and iterative refinement within blocks. This scheme better matches the intrinsic nature of proteins than a strict left-to-right factorization. To evaluate protein foundation models under realistic generalization settings, we further introduce ProteinArena, a comprehensive benchmark with time-aware and homology-aware protocols across various understanding and design tasks, and with baselines covering classical bioinformatics tools, protein-specialized models and LLMs. On ProteinArena, AMix-2 outperforms frontier LLMs and demonstrates competitive performance to task-specific protein models. Controlled experiments further show that the diffusion-based paradigm generally surpasses its autoregressive counterpart, highlighting the advantage of flexible generation order for protein sequences. We release both AMix-2 and ProteinArena to facilitate open research in protein foundation models.
• Abstract（参考訳）: 本稿では,大規模言語モデル(LLM)において,タンパク質をネイティブなモダリティとして確立し,単一の基盤モデル内でのタンパク質理解と配列設計を統一する,タンパク質文基盤モデルAMix-2を提案する。 AMix-2は、(1)自然言語とタンパク質配列を共有トークン空間に埋め込んだ統一的なタンパク質文の定式化により、1つのモデルが下流のタスク特化モデルを分離する代わりに生物学的推論と条件設計を行えるようにし、(2)ブロック間の因果生成と双方向のコンテキストとブロック内の反復的洗練を結合したブロックワイド拡散言語モデリングバックボーンを基盤とする。 このスキームは、厳格な左から右への分解よりも、タンパク質の本質的な性質とよく一致している。 タンパク質基盤モデルを現実的な一般化設定下で評価するために,様々な理解・設計課題にまたがる時間認識・ホモロジー認識プロトコルを用いた総合ベンチマークであるProteinArenaを導入し,古典的なバイオインフォマティクスツール,タンパク質特異的モデル,LLMをベースラインとした。 ProteinArenaでは、AMix-2はFrontier LLMよりも優れており、タスク特異的なタンパク質モデルとの競合性能を示している。 制御された実験により、拡散に基づくパラダイムは一般的に自己回帰的パラダイムを上回ることが示され、タンパク質配列のフレキシブルな生成順序の利点が強調された。 我々は,タンパク質基盤モデルのオープンな研究を促進するために,AMix-2とProteinArenaを共にリリースする。

関連論文リスト

• Demystify Protein Generation with Hierarchical Conditional Diffusion Models [17.174551222714722]
  本稿では,特定の機能によって誘導される効率的なエンド・ツー・エンドタンパク質設計のための新しい条件付き拡散モデルを提案する。 異なるレベルの表現を同時に生成することにより、我々のフレームワークは、異なるレベルの階層関係を効果的にモデル化することができる。 また,生成したタンパク質の品質を評価するため,新しい信頼性評価指標であるProtein-MMDを提案する。
  論文  参考訳（メタデータ） (2025-07-24T17:34:02Z)
• ProtDAT: A Unified Framework for Protein Sequence Design from Any Protein Text Description [7.198238666986253]
  記述型テキスト入力からタンパク質を設計できるde novo微細化フレームワークを提案する。 Prot DATは、タンパク質データの本質的な特性に基づいて、配列とテキストを分離されたエンティティではなく、結合的な全体として統一する。 実験の結果,Prot DATはタンパク質配列生成の最先端性能を実現し,有理性,機能,構造的類似性,妥当性に優れていた。
  論文  参考訳（メタデータ） (2024-12-05T11:05:46Z)
• Long-context Protein Language Modeling Using Bidirectional Mamba with Shared Projection Layers [76.95505296417866]
  言語モデル(LM)の自己教師による訓練は、有意義な表現の学習や創薬設計において、タンパク質配列に大きな成功を収めている。 ほとんどのタンパク質LMは、短い文脈長を持つ個々のタンパク質に基づいて訓練されたトランスフォーマーアーキテクチャに基づいている。 そこで本研究では,選択的構造化状態空間モデルに基づく代替タンパク質であるBiMamba-Sに基づくLC-PLMを提案する。
  論文  参考訳（メタデータ） (2024-10-29T16:43:28Z)
• Design Proteins Using Large Language Models: Enhancements and Comparative Analyses [12.140433802768733]
  我々は、Mistral-7B1、Llama-2-7B2、Llama-3-8B3、gemma-7B4を含む事前訓練されたLLM群を採用し、有効なタンパク質配列を生成する。 我々はこれらのモデルを再訓練し、タンパク質関連データを処理し、生物学的に実現可能なタンパク質構造の生成を保証する。 実験の結果, 限られたデータであっても, 適応されたモデルは, 確立されたタンパク質中心モデルに匹敵する効率を示すことがわかった。
  論文  参考訳（メタデータ） (2024-08-12T08:17:27Z)
• Diffusion on language model encodings for protein sequence generation [0.5088559194265662]
  DiMAは、タンパク質言語モデル表現で動作する潜伏拡散フレームワークである。 新規で高品質で多様なタンパク質配列を生産する。 これは、タンパク質ファミリーの生成、モチーフの足場と埋め込み、折りたたみ特異的な配列設計を含む条件付き生成タスクをサポートする。
  論文  参考訳（メタデータ） (2024-03-06T14:15:20Z)
• ProtLLM: An Interleaved Protein-Language LLM with Protein-as-Word Pre-Training [82.37346937497136]
  本稿では,タンパク質中心タスクとタンパク質言語タスクの両方を対象とした多機能多言語多言語言語モデル (LLM) を提案する。 ProtLLMはユニークな動的タンパク質実装機構を備えており、複雑な入力を処理できる。 専門的なタンパク質語彙を開発することで、自然言語だけでなく、膨大な候補からタンパク質を予測できる能力をモデルに装備する。
  論文  参考訳（メタデータ） (2024-02-28T01:29:55Z)
• xTrimoPGLM: Unified 100B-Scale Pre-trained Transformer for Deciphering the Language of Protein [74.64101864289572]
  本稿では,タンパク質の理解と生成を同時に行うために,統一されたタンパク質言語モデル xTrimoPGLM を提案する。 xTrimoPGLMは、4つのカテゴリにわたる18のタンパク質理解ベンチマークにおいて、他の高度なベースラインを著しく上回っている。 また、自然の原理に従ってデノボタンパク質配列を生成でき、微調整を監督した後にプログラム可能な生成を行うことができる。
  論文  参考訳（メタデータ） (2024-01-11T15:03:17Z)
• Progressive Multi-Modality Learning for Inverse Protein Folding [47.095862120116976]
  マルチモーダルトランスファー学習を利用するMMDesignと呼ばれる新しいタンパク質設計パラダイムを提案する。 MMDesignは、事前訓練された構造モジュールと事前訓練されたコンテキストモジュールを組み合わせる最初のフレームワークである。 実験結果は、小さなデータセットでのみトレーニングした結果、MMDesignが様々な公開ベンチマークのベースラインを一貫して上回っていることを示している。
  論文  参考訳（メタデータ） (2023-12-11T10:59:23Z)
• A Latent Diffusion Model for Protein Structure Generation [50.74232632854264]
  本稿では,タンパク質モデリングの複雑さを低減できる潜在拡散モデルを提案する。 提案手法は, 高い設計性と効率性を有する新規なタンパク質のバックボーン構造を効果的に生成できることを示す。
  論文  参考訳（メタデータ） (2023-05-06T19:10:19Z)
• Protein Sequence and Structure Co-Design with Equivariant Translation [19.816174223173494]
  既存のアプローチは自己回帰モデルまたは拡散モデルを用いてタンパク質配列と構造の両方を生成する。 本稿では,タンパク質配列と構造共設計が可能な新しいアプローチを提案する。 我々のモデルは、幾何学的制約と文脈特徴からの相互作用を推論する三角法を意識したエンコーダで構成されている。 全てのタンパク質アミノ酸は翻訳工程で1ショットずつ更新され、推論プロセスが大幅に加速される。
  論文  参考訳（メタデータ） (2022-10-17T06:00:12Z)
• Learning Geometrically Disentangled Representations of Protein Folding Simulations [72.03095377508856]
  この研究は、薬物標的タンパク質の構造的アンサンブルに基づいて生成ニューラルネットワークを学習することに焦点を当てている。 モデル課題は、様々な薬物分子に結合したタンパク質の構造的変動を特徴付けることである。 その結果,我々の幾何学的学習に基づく手法は,複雑な構造変化を生成するための精度と効率の両方を享受できることがわかった。
  論文  参考訳（メタデータ） (2022-05-20T19:38:00Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。