論文の概要: MoRA: On-the-fly Molecule-aware Low-Rank Adaptation Framework for LLM-based Multi-Modal Molecular Assistant

• arxiv url: http://arxiv.org/abs/2510.12245v1
• Date: Tue, 14 Oct 2025 07:54:43 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-10-15 19:02:32.231252
• Title: MoRA: On-the-fly Molecule-aware Low-Rank Adaptation Framework for LLM-based Multi-Modal Molecular Assistant
• Title（参考訳）: MoRA:LLMに基づくマルチモーダル分子アシスタントのためのオンザフライ分子対応低ランク適応フレームワーク
• Authors: Tao Yin, Xiaohong Zhang, Jiacheng Zhang, Li Huang, Zhibin Zhang, Yuansong Zeng, Jin Xie, Meng Yan,
• Abstract要約: そこで本研究では,各分子のインスタンス固有のパラメータ空間アライメント手法を提案する。 MoRAは入力分子グラフごとに一意に低ランク適応重みを生じる。 実験により、MoRAのインスタンス固有の動的適応は静的適応ベースラインよりも優れていることが示された。
• 参考スコア（独自算出の注目度）: 23.60380089071549
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Effectively integrating molecular graph structures with Large Language Models (LLMs) is a key challenge in drug discovery. Most existing multi-modal alignment methods typically process these structures by fine-tuning the LLM or adding a static adapter simultaneously. However, these approaches have two main limitations: (1) it optimizes a shared parameter space across all molecular inputs, limiting the model's ability to capture instance-specific structural features; and (2) fine-tuning the LLM for molecular tasks can lead to catastrophic forgetting, undermining its general reasoning capabilities. In this paper, instead of static task-oriented adaptation, we propose an instance-specific parameter space alignment approach for each molecule on-the-fly. To this end, we introduce Molecule-aware Low-Rank Adaptation (MoRA) that produces a unique set of low-rank adaptation weights for each input molecular graph. These weights are then dynamically injected into a frozen LLM, allowing the model to adapt its reasoning to the structure of each molecular input, while preserving the LLM's core knowledge. Extensive experiments demonstrate that on key molecular tasks, such as chemical reaction prediction and molecular captioning, MoRA's instance-specific dynamic adaptation outperforms statically adapted baselines, including a 14.1% relative improvement in reaction prediction exact match and a 22% reduction in error for quantum property prediction. The code is available at https://github.com/jk-sounds/MoRA.
• Abstract（参考訳）: 分子グラフ構造とLLM(Large Language Models)を効果的に統合することは、薬物発見の鍵となる課題である。 既存のマルチモーダルアライメント手法の多くは、LLMを微調整したり、静的なアダプタを同時に追加することで、これらの構造を処理している。 しかしながら、これらのアプローチには2つの主な制限がある:(1)全ての分子入力に対して共有パラメータ空間を最適化し、モデルがインスタンス固有の構造的特徴を捉える能力を制限し、(2)分子タスクのためのLLMの微調整は破滅的な忘れを招き、一般的な推論能力を損なう。 本稿では,静的タスク指向適応の代わりに,各分子をオンザフライで配置するインスタンス固有パラメータ空間アライメント手法を提案する。 この目的のために,分子グラフ毎に低ランク適応重みのユニークなセットを生成するMolecule-aware Low-Rank Adaptation (MoRA)を導入する。 これらの重みは凍結LDMに動的に注入され、LLMのコア知識を保ちながら、各分子入力の構造にその推論を適応させることができる。 化学反応予測や分子キャプションなどの重要な分子タスクにおいて、MoRAのインスタンス固有の動的適応は、反応予測の正確な一致が14.1%向上し、量子特性予測のエラーが22%減少するなど、静的に適応されたベースラインを上回っている。 コードはhttps://github.com/jk-sounds/MoRAで公開されている。

関連論文リスト

• Text-Guided Multi-Property Molecular Optimization with a Diffusion Language Model [20.250683535089617]
  変換器を用いた拡散言語モデル(TransDLM)を用いたテキスト誘導多目的分子最適化手法を提案する。 物理的、化学的に詳細なセマンティクスを特異的な分子表現と融合することにより、TransDLMは様々な情報ソースを効果的に統合し、正確な最適化を導く。
  論文  参考訳（メタデータ） (2024-10-17T14:30:27Z)
• MolX: Enhancing Large Language Models for Molecular Understanding With A Multi-Modal Extension [44.97089022713424]
  タスクハンドリング能力の強い大規模言語モデル(LLM)は、様々な分野において顕著な進歩を見せている。 本研究は, 分子の理解能力を高めるために, MolX と呼ばれるマルチモーダル外部モジュールを組み込むことにより, LLM の分子理解能力を高めることを目的とする。 手作りの分子指紋は、その埋め込みドメイン知識を活用するために組み込まれている。
  論文  参考訳（メタデータ） (2024-06-10T20:25:18Z)
• Molecule Design by Latent Prompt Transformer [76.2112075557233]
  本研究は、分子設計の課題を条件付き生成モデリングタスクとしてフレーミングすることによって検討する。 本研究では,(1)学習可能な事前分布を持つ潜伏ベクトル,(2)プロンプトとして潜伏ベクトルを用いる因果トランスフォーマーに基づく分子生成モデル,(3)潜在プロンプトを用いた分子の目標特性および/または制約値を予測する特性予測モデルからなる新しい生成モデルを提案する。
  論文  参考訳（メタデータ） (2024-02-27T03:33:23Z)
• Chemical-Reaction-Aware Molecule Representation Learning [88.79052749877334]
  本稿では,化学反応を用いて分子表現の学習を支援することを提案する。 本手法は,1) 埋め込み空間を適切に整理し, 2) 分子埋め込みの一般化能力を向上させるために有効であることが証明された。 実験結果から,本手法は様々なダウンストリームタスクにおける最先端性能を実現することが示された。
  論文  参考訳（メタデータ） (2021-09-21T00:08:43Z)
• MIMOSA: Multi-constraint Molecule Sampling for Molecule Optimization [51.00815310242277]
  生成モデルと強化学習アプローチは、最初の成功をおさめたが、複数の薬物特性を同時に最適化する上で、依然として困難に直面している。 本稿では,MultI-Constraint MOlecule SAmpling (MIMOSA)アプローチ,初期推定として入力分子を用いるサンプリングフレームワーク,ターゲット分布からのサンプル分子を提案する。
  論文  参考訳（メタデータ） (2020-10-05T20:18:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。