Fugu-MT 論文翻訳(概要): QLoRA Fine-Tuning of Ministral LLM for Sequence-to-Function Protein Annotation

論文の概要: QLoRA Fine-Tuning of Ministral LLM for Sequence-to-Function Protein Annotation

arxiv url: http://arxiv.org/abs/2609.24538v1
Date: Mon, 21 Sep 2026 13:09:59 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-22 20:29:01.294131
Title: QLoRA Fine-Tuning of Ministral LLM for Sequence-to-Function Protein Annotation
Title（参考訳）: ミニストラムLDMのQLoRA微調整によるタンパク質の配列変換
Abstract要約: 本稿では,タンパク質のアノテーションをシーケンス・ツー・テキスト生成問題として研究する。 QLoRA (4-bit NF4 Quantization with Low-rank Adapters) を用いた3Bパラメータミニストラール3塩基モデルをシーケンスアノテーション対上で微調整する。そこで我々は,QLoRA-fine-tuned compact LLMsは,タンパク質の実質的なサブセットに対して,本物の生物学的値を持つキュレーター型アノテーションを生成することができると結論付けた。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Functional annotation of newly sequenced proteins remains a bottleneck in molecular biology: the number of sequences in public repositories grows far faster than the capacity for manual curation. Most computational approaches consider annotation as multi-label classification over a fixed ontology, which constrains predictions to a predefined label set. In this work we study the the protein annotation as a sequence-to-text generation problem. We fine-tune the 3B-parameter Ministral 3 base model with QLoRA (4-bit NF4 quantization with low-rank adapters) on sequence annotation pairs. We assess predictions with an LLM-as-expert protocol: a GPT model prompted as a senior molecular-biology curator scores organism identification as binary and function annotation quality. We conclude that QLoRA-fine-tuned compact LLMs can generate curator-style annotations with genuine biological value for a substantial subset of proteins. We also discuss future directions in data quality, model scaling, and evidence grounding that are needed to make the approach sufficiently reliable for practical use.
Abstract（参考訳）: 新規に配列されたタンパク質の機能的アノテーションは分子生物学におけるボトルネックであり、公開リポジトリ内の配列の数は手作業によるキュレーションの能力よりもはるかに速く成長する。ほとんどの計算手法は、アノテーションを固定オントロジー上のマルチラベル分類とみなし、事前に定義されたラベル集合に予測を制約する。本研究では,タンパク質のアノテーションをシーケンス・ツー・テキスト生成問題として研究する。 QLoRA (4-bit NF4 Quantization with Low-rank Adapters) を用いた3Bパラメータミニストラー3塩基モデルをシーケンスアノテーション対上で微調整する。 LLM-as-expertプロトコルを用いて,分子生物学の上級キュレーターとして誘導されるGPTモデルを用いて,生物の同定をバイナリおよび関数アノテーションの品質として評価する。そこで我々は,QLoRA-fine-tuned compact LLMsは,タンパク質の実質的なサブセットに対して,本物の生物学的値を持つキュレーター型アノテーションを生成することができると結論付けた。また、データ品質、モデルスケーリング、そしてそのアプローチを実用に十分な信頼性を持たせるために必要な根拠となる証拠の今後の方向性についても論じる。

関連論文リスト

Tool-Augmented On-Policy Distillation for LLM Domain Adaptation in Sequence-Based Omics Tasks [72.97315136048122]
マルチオミクスシーケンスの最初の推論ベンチマークであるOmicsBenchを紹介する。予測と科学的推論の両方を評価することが重要ですツール強化型オン・ポリケーション (TA-OPD) を導入し, シークエンス予測とエビデンス基底の生物学的推論を一致させる。
論文参考訳（メタデータ） (2026-09-20T08:08:34Z)
Unlocking Biological Workflows for Robust Protein-Text Question Answering: A Dual-Dimensional RAG Framework [60.82334952881798]
タンパク-テキスト質問回答(QA)は、自然言語による生物学的配列の解釈に不可欠である。 2D-ProteinRAGは,大規模言語モデル(LLM)を金本位生物研究ワークフロー内で動作させる新しいフレームワークである。本研究では,2D-Proteinが常に最先端の性能を達成し,微調整ベースラインや他のRAG法よりも優れた性能を発揮することを示す。
論文参考訳（メタデータ） (2026-05-17T05:03:24Z)
Self Distillation Fine-Tuning of Protein Language Models Improves Versatility in Protein Design [61.2846583160056]
Supervised Fine-tuning (SFT) は、大規模言語モデルを特殊なドメインに適応するための標準的なアプローチである。これは、高品質なアノテートされたデータは、自然言語よりもタンパク質の入手がはるかに難しいためである。生成したタンパク質配列の忠実度,信頼性,新規性を改善するために設計された,PLMの高速SFTのための簡易かつ汎用的なレシピを提案する。
論文参考訳（メタデータ） (2025-12-10T05:34:47Z)
LAMP-PRo: Label-aware Attention for Multi-label Prediction of DNA- and RNA-binding Proteins using Protein Language Models [0.5315873835064231]
LAMP-PRoは、事前学習されたタンパク質言語モデル(PLM)、注意機構、マルチラベル学習に基づいている。我々はDNA結合タンパク質とRNA結合タンパク質の依存関係を明示的に捉える新しいラベル間アテンション機構を含む。
論文参考訳（メタデータ） (2025-09-29T04:13:51Z)
GENERator: A Long-Context Generative Genomic Foundation Model [66.46537421135996]
本稿では,98k塩基対 (bp) と1.2Bパラメータからなるゲノム基盤モデル GENERator を提案する。 DNAの386Bbpからなる拡張データセットに基づいて、GENERatorは、確立されたベンチマークと新しく提案されたベンチマークの両方で最先端のパフォーマンスを実証する。また、特に特定のアクティビティプロファイルを持つエンハンサーシーケンスを即応的に生成することで、シーケンス最適化において大きな可能性を秘めている。
論文参考訳（メタデータ） (2025-02-11T05:39:49Z)
Prot2Chat: Protein LLM with Early-Fusion of Text, Sequence and Structure [7.9473027178525975]
タンパク質配列と構造情報を統一的にエンコードするために,タンパク質MPNNを改変した。我々は,大規模言語モデル(LLM)を用いて質問をベクトルにエンコードし,タンパク質情報を仮想トークンに圧縮するタンパク質テキストアダプタを開発した。
論文参考訳（メタデータ） (2025-02-07T05:23:16Z)
Multi-modal Representation Learning Enables Accurate Protein Function Prediction in Low-Data Setting [0.0]
HOPER(Holistic ProtEin Representation)は、低データ設定でタンパク質機能予測(PFP)を強化するために設計された新しいフレームワークである。本研究は,生物研究におけるデータ制限を克服するためのマルチモーダル表現学習の有効性を強調した。
論文参考訳（メタデータ） (2024-11-22T20:13:55Z)
SeqProFT: Applying LoRA Finetuning for Sequence-only Protein Property Predictions [8.112057136324431]
本研究では,ESM-2モデルのエンド・ツー・エンドの微調整を行うためにLoRA法を用いる。下流ネットワークにマルチヘッドアテンション機構を統合して、シーケンス特徴とコンタクトマップ情報を組み合わせる。
論文参考訳（メタデータ） (2024-11-18T12:40:39Z)
Pre-training Co-evolutionary Protein Representation via A Pairwise Masked Language Model [93.9943278892735]
タンパク質配列表現学習の鍵となる問題は、配列中の残基間の共変量によって反映される共進化情報をキャプチャすることである。 Pairwise Masked Language Model (PMLM) と呼ばれる専用言語モデルによる事前学習により,この情報を直接キャプチャする新しい手法を提案する。提案手法は, 相互関係を効果的に把握し, ベースラインと比較して, 接触予測性能を最大9%向上できることを示す。
論文参考訳（メタデータ） (2021-10-29T04:01:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。