論文の概要: Trion-1: Unifying Language, Protein Sequence, and Structure with Diffusion Language Models
- arxiv url: http://arxiv.org/abs/2610.31215v1
- Date: Thu, 22 Oct 2026 12:59:42 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.380057
- Title: Trion-1: Unifying Language, Protein Sequence, and Structure with Diffusion Language Models
- Title（参考訳）: Trion-1:拡散言語モデルによる統一言語、タンパク質配列、構造
- Abstract要約: Trion-1は、タンパク質の最初のネイティブで統一されたマルチモーダル拡散言語モデル(dLLM)である。
折り畳み、逆折り畳み、シーケンス理解、構造理解、シーケンス設計、構造設計の6つのコア機能を統合する。
シーケンス理解のために、Trion-1 は Claude Opus 4.7 (62.37%) のような上位層 LLM と同等に動作する。
- 参考スコア（独自算出の注目度）: 26.29575314639038
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We envision a general-purpose protein foundation model as a unified, interactive model of sequence, structure, and function, capable of understanding, generation, and cross-modal translation while retaining the instruction-following and reasoning capabilities of modern LLMs. Toward this vision, we introduce Trion-1, the first native, unified, multimodal diffusion language model (dLLM) for proteins. Trion-1 is built on two key design choices: (1) a unified discrete token space that jointly represents sequence, structure, and natural language; (2) a dLLM backbone that replaces strict left-to-right factorization with bidirectional or semi-bidirectional token interactions, enabling global residue communication and long-range contact modeling that are naturally suited to structure modeling. This formulation unifies six core capabilities: folding, inverse folding, sequence understanding, structure understanding, sequence design, and structure design, while retaining the native language capabilities of general-purpose LLMs. On established benchmarks, Trion-1 achieves broadly competitive performance. In folding, Trion-1 achieves a TM-score above 0.8 with a single sample under strict homology control, matching or exceeding the existing tri-modal model using 200 samples. For sequence understanding, Trion-1 performs on par with top-tier LLMs such as Claude Opus 4.7 (62.37%). These results support well-aligned sequence-structure-language representations and strong cross-modal generative capabilities.
- Abstract（参考訳）: 我々は,現代LLMの命令追従と推論能力を維持しつつ,理解,生成,相互翻訳が可能な汎用タンパク質基盤モデルを,シーケンス,構造,機能の統一的でインタラクティブなモデルとして想定する。
このビジョンに向けて、タンパク質に対する最初のネイティブで統一されたマルチモーダル拡散言語モデル(dLLM)であるTrion-1を紹介する。
トリオン-1 は,(1) 配列,構造,自然言語を連立的に表現する統一された離散トークン空間,(2) 厳密な左から右への分解を双方向または半双方向のトークン相互作用に置き換える dLLM バックボーン,および,構造モデリングに自然に適する大域的残差通信と長距離接触モデリングを実現する。
この定式化は、フォールディング、逆折り畳み、シーケンス理解、構造理解、シーケンス設計、構造設計の6つのコア機能を統合し、汎用LLMのネイティブ言語能力を維持している。
確立されたベンチマークでは、Trion-1は幅広い競争性能を達成している。
折り畳みにおいて、Trion-1は厳密なホモロジー制御の下で1つのサンプルで0.8以上のTMスコアを達成する。
シーケンス理解のために、Trion-1 は Claude Opus 4.7 (62.37%) のような上位層 LLM と同等に動作する。
これらの結果は、適切に整列されたシーケンス構造言語表現と強力なクロスモーダル生成機能をサポートする。
関連論文リスト
- SimpleDesign: A Joint Model for Protein Sequence and Structure Codesign [53.93453139057735]
データ空間で直接訓練された効果的なマルチモーダルタンパク質設計モデルであるSimpleDesignを提案する。
2M以上のシーケンス構造ペア上でSimpleDesignをトレーニングし、共設計および非条件シーケンス/構造生成ベンチマーク間で強力なパフォーマンスを実現する。
論文 参考訳（メタデータ） (2026-09-03T05:25:05Z) - $\mathcal{S}^2$IT: Stepwise Syntax Integration Tuning for Large Language Models in Aspect Sentiment Quad Prediction [51.165432266846096]
構文構造情報は、大言語モデル(LLM)の生成パラダイムにおいて未利用である
S2ITは、多段階のチューニングプロセスを通じて、構文構造知識をLLMに徐々に統合する。
実験により、S2ITは複数のデータセットにわたる最先端のパフォーマンスを大幅に改善することが示された。
論文 参考訳（メタデータ） (2026-04-25T13:24:29Z) - Binary Token-Level Classification with DeBERTa for All-Type MWE Identification: A Lightweight Approach with Linguistic Enhancement [1.8429656136522097]
本稿では,バイナリトークンレベルの分類,言語的特徴の統合,データ拡張を組み合わせた,MWE識別のための包括的アプローチを提案する。
我々のDeBERTa-v3大規模モデルは、CoAMデータセット上で69.8%のF1を達成し、このデータセットで最高の結果(Qwen-72B, 57.8% F1)を12ポイント上回り、パラメータは165倍少ない。
論文 参考訳（メタデータ） (2026-01-27T08:42:54Z) - Syntactic Control of Language Models by Posterior Inference [53.823006836309695]
言語モデルによって生成されたテキストの構文構造を制御することは、明快さ、スタイリスティックな一貫性、解釈可能性を必要とするアプリケーションにとって重要である。
後部推論に基づくサンプリングアルゴリズムは、生成中に対象の選挙区構造を効果的に強制することができると論じる。
提案手法では,提案分布からのサンプリングにより後続分布を推定するモンテカルロ法と,各生成したトークンが所望の構文構造に整合することを保証する統語タグを併用する。
論文 参考訳（メタデータ） (2025-06-08T14:01:34Z) - DPLM-2: A Multimodal Diffusion Protein Language Model [75.98083311705182]
DPLM-2は, 離散拡散タンパク質言語モデル(DPLM)を拡張し, 配列と構造の両方に適合する多モーダルタンパク質基盤モデルである。
DPLM-2は、配列と構造、およびその限界と条件の結合分布を学習する。
実験によりDPLM-2は高度に互換性のあるアミノ酸配列とそれに対応する3D構造を同時に生成できることが示された。
論文 参考訳（メタデータ） (2024-10-17T17:20:24Z) - In-Context Language Learning: Architectures and Algorithms [73.93205821154605]
我々は、文脈言語学習(ICLL)において、私たちが用語する新しいモデル問題群(英語版)のレンズを通してICLを研究する。
我々は,通常のICLLタスクにおいて,多種多様なニューラルシーケンスモデルを評価する。
論文 参考訳（メタデータ） (2024-01-23T18:59:21Z) - All in One: Exploring Unified Vision-Language Tracking with Multi-Modal Alignment [39.54689489555342]
現在の視覚注入(VL)トラッキングフレームワークは、視覚特徴抽出器、言語特徴抽出器、融合モデルという3つの部分から構成される。
本稿では,一貫したトランスフォーマーバックボーンを採用することで,共同特徴抽出とインタラクションを学習するオールインワンフレームワークを提案する。
論文 参考訳（メタデータ） (2023-07-07T03:51:21Z) - Fold2Seq: A Joint Sequence(1D)-Fold(3D) Embedding-based Generative Model
for Protein Design [70.27706384570723]
Fold2Seqは特定の標的に条件付きタンパク質配列を設計するための新しいフレームワークである。
Fold2Seqの性能は, シーケンス設計の速度, カバレッジ, 信頼性において向上したか, 同等であったかを示す。
フォールドベースのFold2Seqの独特な利点は、構造ベースのディープモデルやRosettaDesignと比較して、3つの現実世界の課題においてより明確になる。
論文 参考訳（メタデータ） (2021-06-24T14:34:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。