論文の概要: Yeti: A compact protein structure tokenizer for reconstruction and multi-modal generation

• arxiv url: http://arxiv.org/abs/2605.09981v1
• Date: Mon, 11 May 2026 04:49:47 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.527011
• Title: Yeti: A compact protein structure tokenizer for reconstruction and multi-modal generation
• Title（参考訳）: yeti: 再構成とマルチモーダル生成のためのコンパクトなタンパク質構造トークン化器
• Authors: Nabin Giri, Steven Farrell, Kristofer E. Bouchard,
• Abstract要約: ルックアップ自由量子化に基づくコンパクトなタンパク質構造プロテタイザであるProtetiを導入し,マルチモーダル学習のためのフローマッチング手法を提案する。 既存のモデルと比較して、Ottiは一般的に最高のコードブック利用率とトークンの多様性を達成し、多様なデータセットにおいて2番目に優れた再構成精度(ESM3よりも10倍少ないパラメータ)を実現している。 結果として得られるマルチモーダルモデルは、タンパク質配列と構造を無条件に共生して可塑性構造を生成し、10倍のモデルに匹敵する結果が得られる。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Multimodal models that jointly reason over protein sequences, structures, and function annotations within a unified representation hold immense potential for integrating multimodal data and generating new proteins with designed functional properties. To utilize transformer architectures, such models require a tokenizer that converts protein structure from continuous atomic coordinates into discrete representations suitable for scalable multimodal training. The quality of such models are fundamentally upper bounded by the fidelity and expressiveness of the underlying tokenized structure. However, existing tokenizers prioritize reconstruction over generative abilities. To address these gaps, we introduce Yeti, a simple and compact protein structure tokenizer based on lookup free quantization and trained end to end with a flow matching objective for multimodal learning. Compared to existing models, Yeti generally achieves the best codebook utilization and token diversity, and second best reconstruction accuracy (with 10x fewer parameters than ESM3) on diverse datasets. To validate Yeti's generative capability, we trained a compact multimodal model jointly over its structure tokens and amino acid sequence entirely from scratch, with no pretrained initialization. The resulting multimodal model generates plausible structures under unconditional cogeneration of protein sequence and structures, achieving comparable results to 10x larger models. Together, these results demonstrate that Yeti is a compact and expressive protein structure tokenizer suitable for training multimodal models that cogenerates highly plausible sequences and structures.
• Abstract（参考訳）: 統一表現内のタンパク質配列、構造、関数アノテーションを共同で推論するマルチモーダルモデルは、多モーダルデータを統合し、設計された機能特性を持つ新しいタンパク質を生成する大きな可能性を秘めている。 トランスフォーマーアーキテクチャを利用するためには、タンパク質構造を連続的な原子座標からスケーラブルなマルチモーダルトレーニングに適した離散表現に変換するトークン化器が必要である。 そのようなモデルの質は、基礎となるトークン化構造の忠実さと表現性によって、基本的に上界である。 しかし、既存のトークンライザは、生成能力よりも再構築を優先している。 これらのギャップに対処するために,ルックアップ自由量子化に基づくシンプルでコンパクトなタンパク質構造トークンーザであるProttiを導入し,マルチモーダル学習のためのフローマッチングを目的とし,エンド・ツー・エンドのトレーニングを行った。 既存のモデルと比較して、Ottiは一般的に最高のコードブック利用率とトークンの多様性を達成し、多様なデータセットにおいて2番目に優れた再構成精度(ESM3よりも10倍少ないパラメータ)を実現している。 yetiの生成能力を検証するため,構造トークンとアミノ酸配列を完全にスクラッチから学習し,事前訓練した初期化を伴わずに,コンパクトなマルチモーダルモデルを訓練した。 結果として得られるマルチモーダルモデルは、タンパク質配列と構造を無条件に共生して可塑性構造を生成し、10倍のモデルに匹敵する結果が得られる。 これらの結果は,高度に可塑性な配列や構造を共生成するマルチモーダルモデルの訓練に適した,コンパクトかつ表現力のあるタンパク質構造トークンであることを示す。

関連論文リスト

• Scaling Atomistic Protein Binder Design with Generative Pretraining and Test-Time Compute [64.59043351161004]
  両パラダイムを統一する新規な完全原子結合体生成法であるProteina-Complexaを提案する。 Proteina-Complexa は計算バインダー設計ベンチマークにおける新しい技術状態を設定する。 また, 界面水素結合最適化, フォールドクラス誘導結合体生成, 小分子ターゲットへの拡張, 酵素設計タスクについても述べる。
  論文  参考訳（メタデータ） (2026-03-30T01:54:03Z)
• Protein Autoregressive Modeling via Multiscale Structure Generation [51.92004892768298]
  タンパク質自己回帰モデリング(PAR)は,タンパク質のバックボーン生成のための最初のマルチスケール自己回帰フレームワークである。 ノイズの多いコンテキスト学習とスケジュールサンプリングを採用し、堅牢なバックボーン生成を実現している。 非条件生成ベンチマークでは、PARはタンパク質の分布を効果的に学習し、高い設計品質のバックボーンを生成する。
  論文  参考訳（メタデータ） (2026-02-04T18:59:49Z)
• HD-Prot: A Protein Language Model for Joint Sequence-Structure Modeling with Continuous Structure Tokens [33.896084921181476]
  HD-Protは、離散的なpLMの上に連続的に評価された拡散ヘッドを埋め込むハイブリッド拡散タンパク質言語モデルである。 非条件のシーケンス構造コジェネレーション、モチーフ・スキャフォールディング、タンパク質構造予測、逆フォールディングタスクにおいて競合性能を達成する。
  論文  参考訳（メタデータ） (2025-12-17T06:46:27Z)
• ProteinAE: Protein Diffusion Autoencoders for Structure Encoding [64.77182442408254]
  本稿では,新規かつ合理化されたタンパク質拡散オートエンコーダであるProteinAEを紹介する。 プロテインAEは、タンパク質のバックボーン座標を直接E(3)から連続的でコンパクトな潜在空間にマッピングする。 本研究では,既存のオートエンコーダよりも優れた,最先端の再構築品質を実現することを実証する。
  論文  参考訳（メタデータ） (2025-10-12T14:30:32Z)
• All-atom inverse protein folding through discrete flow matching [11.47007092758602]
  本稿では, タンパク質配列を設計するための生成モデルとしてADFLIP(All-atom Discrete FLow matching Inverse Protein folding)を提案する。 本モデルは, 単一構造および多構造逆折り畳みタスクにおける最先端性能を実現し, 全原子タンパク質設計に優れた可能性を示す。
  論文  参考訳（メタデータ） (2025-07-04T11:57:38Z)
• DPLM-2: A Multimodal Diffusion Protein Language Model [75.98083311705182]
  DPLM-2は, 離散拡散タンパク質言語モデル(DPLM)を拡張し, 配列と構造の両方に適合する多モーダルタンパク質基盤モデルである。 DPLM-2は、配列と構造、およびその限界と条件の結合分布を学習する。 実験によりDPLM-2は高度に互換性のあるアミノ酸配列とそれに対応する3D構造を同時に生成できることが示された。
  論文  参考訳（メタデータ） (2024-10-17T17:20:24Z)
• Sequence-Augmented SE(3)-Flow Matching For Conditional Protein Backbone Generation [55.93511121486321]
  タンパク質構造生成のための新しいシーケンス条件付きフローマッチングモデルFoldFlow-2を紹介する。 我々は、以前の作業のPDBデータセットよりも桁違いに大きい新しいデータセットでFoldFlow-2を大規模にトレーニングします。 我々はFoldFlow-2が従来のタンパク質構造に基づく生成モデルよりも優れていることを実証的に観察した。
  論文  参考訳（メタデータ） (2024-05-30T17:53:50Z)
• Learning the Language of Protein Structure [8.364087723533537]
  本稿では,タンパク質構造を離散表現に効果的にトークン化するベクトル量子化オートエンコーダを用いたアプローチを提案する。 学習した表現の有効性を示すために、コードブック上でトレーニングされた単純なGPTモデルにより、新規で多様性があり、設計可能なタンパク質構造を生成することができることを示す。
  論文  参考訳（メタデータ） (2024-05-24T16:03:47Z)
• EigenFold: Generative Protein Structure Prediction with Diffusion Models [10.24107243529341]
  EigenFoldは、特定のタンパク質配列から構造分布をサンプリングする拡散生成モデリングフレームワークである。 最近のCAMEOターゲットでは、EigenFoldは0.84の中央値TMSスコアを達成し、モデルの不確実性のより包括的な画像を提供する。
  論文  参考訳（メタデータ） (2023-04-05T02:46:13Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。