論文の概要: QProtFuse: Query-Guided Layer Fusion for Retrieval-Augmented Protein Function Prediction
- arxiv url: http://arxiv.org/abs/2610.30180v1
- Date: Mon, 19 Oct 2026 14:47:25 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-24 02:08:44.077326
- Title: QProtFuse: Query-Guided Layer Fusion for Retrieval-Augmented Protein Function Prediction
- Title(参考訳): QProtFuse: 検索型タンパク質機能予測のためのクエリガイド型層融合
- Abstract要約: 大きな言語モデル(LLM)は、自然言語クエリに柔軟な関数記述を提供するが、その限定されたタンパク質理解は、検索拡張生成(RAG)を動機付けている。
既存のタンパク質RAG法は、単一のタンパク質言語モデル(PLM)で符号化された豊富な知識を見下ろしながら、主に外部検索信号を拡張している。
検索性能はPLM層や生物タスクによって異なり, 従来の最終層選択が最適であることを示す。
本稿では,QProtFuseを提案する。QProtFuseは,クエリを用いて多層タンパク質の特徴を適応的に融合し,モジュール内およびクロスモーダルコントラストの目的を通じて,タンパク質とアノテーションの検索を共同で学習する。
- 参考スコア(独自算出の注目度): 11.151705086657659
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Predicting protein functions from amino acid sequences is essential to understanding biological processes. Large language models (LLMs) offer flexible function descriptions to natural-language queries, yet their limited protein understanding motivates retrieval-augmented generation (RAG). Existing protein RAG methods primarily expand external retrieval signals while overlooking the rich knowledge encoded within a single protein language model (PLM). We show that retrieval performance varies across PLM layers and biological tasks, making conventional final-layer selection suboptimal. To this end, we propose QProtFuse, which uses queries to adaptively fuse multi-layer protein features and jointly learns protein and annotation retrieval through intra-modal and cross-modal contrastive objectives. On Prot-Inst-OOD, QProtFuse achieves the best protein and annotation retrieval scores, reaching 16.4\% Recall@1 with annotation reranking. These gains improve downstream RAG-based function descriptions, yielding the highest LLM-as-a-judge scores for both Qwen3-8B (6.22/10) and DeepSeek-V4-Pro (6.68/10). Ablations and weight analyses demonstrate the value of query-guided fusion and complementary training objectives for exploiting a PLM's internal knowledge.
- Abstract(参考訳): アミノ酸配列からタンパク質の機能を予測することは生物学的過程を理解するのに不可欠である。
大きな言語モデル(LLM)は、自然言語クエリに柔軟な関数記述を提供するが、その限定されたタンパク質理解は、検索拡張生成(RAG)を動機付けている。
既存のタンパク質RAG法は、主に、単一のタンパク質言語モデル(PLM)で符号化された豊富な知識を見下ろしながら、外部の検索信号を拡張する。
検索性能はPLM層や生物タスクによって異なり, 従来の最終層選択が最適であることを示す。
この目的のために,QProtFuseを提案する。QProtFuseは,クエリを用いて多層タンパク質の特徴を適応的に融合し,モジュール内およびクロスモーダルコントラストの目的を通じてタンパク質とアノテーションの検索を共同で学習する。
Prot-Inst-OODでは、QProtFuseが最高のタンパク質とアノテーション検索スコアを獲得し、16.4\% Recall@1に到達し、アノテーションを再ランク付けする。
これにより、下流のRAGベースの関数記述が改善され、Qwen3-8B (6.22/10) とDeepSeek-V4-Pro (6.68/10) で最高のLCM-as-a-judgeスコアが得られる。
アブレーションと重量分析は、PLMの内部知識を活用するためのクエリ誘導融合と補完的な訓練目標の価値を示す。
関連論文リスト
- Protein as a Second Language for LLMs [50.34983283157322]
『Protein-as-Second-Language』の枠組みは、新しいシンボリック言語における文としてアミノ酸配列を再構成する。
属性予測,記述的理解,拡張推論にまたがる79,926個のタンパク質-QAインスタンスのバイリンガルコーパスをキュレートする。
提案手法は,オープンソース LLM と GPT-4 間で一貫した利得を提供し,最大 17.2% のROUGE-L 改善を実現している。
論文 参考訳(メタデータ) (2025-10-13T09:21:45Z) - Protein Large Language Models: A Comprehensive Survey [71.65899614084853]
タンパク質特異的な大規模言語モデル(Protein LLMs)は、より効率的なタンパク質構造予測、機能アノテーション、設計を可能にすることで、タンパク質科学に革命をもたらしている。
この作業は、アーキテクチャ、データセットのトレーニング、評価メトリクス、さまざまなアプリケーションをカバーする、Protein LLMの最初の包括的な概要を提供する。
論文 参考訳(メタデータ) (2025-02-21T19:22:10Z) - Structure-Enhanced Protein Instruction Tuning: Towards General-Purpose Protein Understanding with LLMs [43.811432723460534]
本稿では,このギャップを埋めるために,構造強化タンパク質インストラクションチューニング(SEPIT)フレームワークを紹介する。
提案手法では,新しい構造認識モジュールをpLMに組み込んで構造知識を充実させる。
我々はこれまでで最大かつ最も包括的なタンパク質命令データセットを構築し、汎用タンパク質理解モデルの訓練と評価を可能にした。
論文 参考訳(メタデータ) (2024-10-04T16:02:50Z) - ProteinGPT: Multimodal LLM for Protein Property Prediction and Structure Understanding [22.610060675922536]
本稿では,タンパク質の多モード多言語モデルであるProteinGPTを紹介する。
タンパク質GPTは、タンパク質配列と構造エンコーダを線形射影層に統合し、正確な表現適応を保証する。
我々は,20~30個のプロパティタグと5〜10個のQAペアを付加した132,092個のタンパク質の大規模データセットを構築し,GPT-4oを用いた命令調整プロセスを最適化した。
論文 参考訳(メタデータ) (2024-08-21T06:16:22Z) - A Fine-tuning Dataset and Benchmark for Large Language Models for Protein Understanding [10.652670673334486]
ProteinLMBenchは、LCMのタンパク質理解能力を評価するために、手動で検証された多重選択質問からなる最初のベンチマークデータセットである。
ProteinLMDatasetは、さらに自己教師付き事前トレーニングと教師付き微調整のために設計されたデータセットである。
インターンLM2-7BはProteinLMDatasetで事前訓練され微調整され、ProteinLMBenchでGPT-4を上回り、高い精度のスコアを得た。
論文 参考訳(メタデータ) (2024-06-08T18:11:30Z) - ProtT3: Protein-to-Text Generation for Text-based Protein Understanding [88.43323947543996]
言語モデル(LM)は、タンパク質のテキスト記述を理解するのに優れている。
タンパク質言語モデル(PLM)は、タンパク質データを理解し、高品質な表現に変換するが、テキストを処理するのに苦労する。
ProtT3は、テキストベースのタンパク質理解のための、タンパク質からテキストへの生成のためのフレームワークである。
論文 参考訳(メタデータ) (2024-05-21T08:06:13Z) - ProLLM: Protein Chain-of-Thoughts Enhanced LLM for Protein-Protein Interaction Prediction [54.132290875513405]
タンパク質-タンパク質相互作用(PPI)の予測は、生物学的機能や疾患を理解する上で重要である。
PPI予測に対する従来の機械学習アプローチは、主に直接的な物理的相互作用に焦点を当てていた。
PPIに適したLLMを用いた新しいフレームワークProLLMを提案する。
論文 参考訳(メタデータ) (2024-03-30T05:32:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。