論文の概要: Generative modeling of intrinsically disordered protein regions by reinforcing sparse autoencoder features
- arxiv url: http://arxiv.org/abs/2610.02189v1
- Date: Thu, 01 Oct 2026 17:59:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-03 01:19:24.368358
- Title: Generative modeling of intrinsically disordered protein regions by reinforcing sparse autoencoder features
- Title(参考訳): スパースオートエンコーダの機能強化による内因性障害タンパク質領域の創成モデル
- Abstract要約: 5400万の予測ILDに基づいて訓練された自己回帰型タンパク質言語モデルであるIDiomを提示する。
また,Sparse Autoencoder Feature (RL-SAE) を用いた強化学習も導入した。
- 参考スコア(独自算出の注目度): 33.83423398688871
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Intrinsically disordered protein regions (IDRs) play central roles in cellular processes such as transcriptional regulation, signal transduction, and subcellular localization, yet their functional design remains challenging. Structure-based design methods do not readily apply to IDRs, and existing protein language models are trained on full-length protein sequences, thus learning a prior that is biased towards folded domains. Here, we present IDiom, an autoregressive protein language model trained on IDiom-DB, a dataset of 54 million predicted IDRs curated from the AlphaFold Database. IDiom generates diverse sequences that recapitulate the composition, patterning, motifs, and predicted disorder of natural IDRs. To control function-associated sequence patterns, we also introduce reinforcement learning with sparse autoencoder features (RL-SAE), a post-training method that rewards the generation of sequences that activate specified feature sets. Across eight IDR design tasks, RL-SAE sequences activate, on average, 90% of 30 targeted features, compared to 24% for activation steering. We demonstrate that RL-SAE improves the predicted subcellular localization and transcriptional activity of generated IDRs compared to steering and supervised fine-tuning, and enables features associated with distinct biological functions to be combined within individual sequences. Thus, IDiom and RL-SAE enable interpretable and composable IDR design through explicit control of function-associated sequence features. More broadly, RL-SAE could extend to other protein design settings where interpretable features provide useful design targets. Code is available at https://github.com/rotskoff-group/idiom.
- Abstract(参考訳): 内在的に不規則なタンパク質領域(IDR)は転写調節、シグナル伝達、細胞内局在などの細胞プロセスにおいて中心的な役割を果たすが、機能設計はいまだに困難である。
構造に基づく設計手法はIDRに容易に適用できず、既存のタンパク質言語モデルは完全長のタンパク質配列で訓練されるため、折り畳みドメインに偏った事前学習が可能である。
ここでは、IDiom-DBをトレーニングした自己回帰型タンパク質言語モデルであるIDiomについて述べる。
IDiomは、組成、パターン、モチーフ、予測された天然のIDRの障害を再カプセル化する多様な配列を生成する。
関数関連シーケンスパターンを制御するために,特定特徴セットを活性化するシーケンスの生成に報いる後学習法であるスパースオートエンコーダ機能(RL-SAE)を用いた強化学習を導入する。
8つのIDR設計タスクの中で、RL-SAEシーケンスは平均して30のターゲット機能のうち90%を活性化し、アクティベーションステアリングは24%であった。
我々は、RL-SAEが、操舵および監督された微調整と比較して、生成したILDの細胞内局在および転写活性を予測し、個々の配列に異なる生物学的機能に関連する特徴を組み込むことを実証した。
したがって、IDiomとRL-SAEは関数関連配列の特徴を明示的に制御することで、解釈可能で構成可能なIDR設計を可能にする。
より広い範囲で、RL-SAEは、解釈可能な機能が有用な設計ターゲットを提供する他のタンパク質設計設定にまで拡張できる。
コードはhttps://github.com/rotskoff-group/idiom.comで入手できる。
関連論文リスト
- Evolution-Aware MSA Reasoning for Subsampling via Factor Graphs [55.715754117956514]
複数のシーケンスアライメントは、明示的な進化コンテキストを持つタンパク質言語モデルを提供する。
MSAサブサンプリングは限定的なトークン予算では避けられない。
本稿では,因子グラフ推論を用いて固定予算MSAサブセットを推定するAP-REASONERを提案する。
論文 参考訳(メタデータ) (2026-07-24T13:55:21Z) - Circuit Tracing in Autoregressive Protein Language Models [0.0]
ProGenMechは、生成タンパク質言語モデルのための機械的解釈可能性フレームワークである。
マルチ層トランスコーダをProGen3に拡張する。これは因果生成とスパンインフィルのためにトレーニングされたスパースミクチャー・オブ・エキスパートモデルである。
ProGen3の確率分布と機能的スコアリング動作の回復において、ローカルトランスコーダのベースラインを上回っている。
論文 参考訳(メタデータ) (2026-06-14T22:28:50Z) - Bidirectional Representations Augmented Autoregressive Biological Sequence Generation:Application in De Novo Peptide Sequencing [51.12821379640881]
自己回帰(AR)モデルは、全体的な双方向表現を提供するが、生成的コヒーレンスとスケーラビリティに関する課題に直面している。
非自己回帰機構からリッチなコンテキスト情報を動的に統合することにより、AR生成を向上するハイブリッドフレームワークを提案する。
新しいクロスデコーダアテンションモジュールにより、ARデコーダは、これらの双方向機能を反復的にクエリし、統合することができる。
論文 参考訳(メタデータ) (2025-10-09T12:52:55Z) - Regulatory DNA sequence Design with Reinforcement Learning [56.20290878358356]
本稿では,強化学習を利用して事前学習した自己回帰モデルを微調整する生成手法を提案する。
2つの酵母培地条件下でのプロモーター設計タスクの評価と,3種類のヒト細胞に対するエンハンサー設計タスクの評価を行った。
論文 参考訳(メタデータ) (2025-03-11T02:33:33Z) - UniGenX: a unified generative foundation model that couples sequence, structure and function to accelerate scientific design across proteins, molecules and materials [62.72989417755985]
自然系における関数の統一生成モデルUniGenXを提案する。
UniGenXはシンボルトークンと数値トークンの混合ストリームとして異種入力を表す。
ドメイン間のファンクション・アウェア・ジェネレーションに対して、最先端または競合的なパフォーマンスを達成する。
論文 参考訳(メタデータ) (2025-03-09T16:43:07Z) - SeqProFT: Applying LoRA Finetuning for Sequence-only Protein Property Predictions [8.112057136324431]
本研究では,ESM-2モデルのエンド・ツー・エンドの微調整を行うためにLoRA法を用いる。
下流ネットワークにマルチヘッドアテンション機構を統合して、シーケンス特徴とコンタクトマップ情報を組み合わせる。
論文 参考訳(メタデータ) (2024-11-18T12:40:39Z) - Semantically Rich Local Dataset Generation for Explainable AI in Genomics [0.716879432974126]
ゲノム配列に基づいて訓練されたブラックボックス深層学習モデルは、異なる遺伝子制御機構の結果を予測するのに優れている。
本稿では、遺伝的プログラミングを用いて、その意味的多様性に寄与する配列の摂動を進化させることによりデータセットを生成することを提案する。
論文 参考訳(メタデータ) (2024-07-03T10:31:30Z) - Reprogramming Pretrained Language Models for Antibody Sequence Infilling [72.13295049594585]
抗体の計算設計には、構造的一貫性を維持しながら、新規で多様な配列を生成することが含まれる。
近年のディープラーニングモデルでは優れた結果が得られたが、既知の抗体配列/構造対の数が限られているため、性能が劣化することが多い。
これは、ソース言語でトレーニング済みのモデルを再利用して、異なる言語で、データが少ないタスクに適応するものです。
論文 参考訳(メタデータ) (2022-10-05T20:44:55Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。