論文の概要: In-Context Learning for Few-Shot Molecular Property Prediction

• arxiv url: http://arxiv.org/abs/2310.08863v1
• Date: Fri, 13 Oct 2023 05:12:48 GMT
• ステータス: 処理完了
• システム内更新日: 2023-10-16 14:25:23.364703
• Title: In-Context Learning for Few-Shot Molecular Property Prediction
• Title（参考訳）: 分子特性予測のためのインコンテキスト学習
• Authors: Christopher Fifty, Jure Leskovec, Sebastian Thrun
• Abstract要約: 本稿では,文脈内学習の基盤となる概念に適応し,数発の分子特性予測のための新しいアルゴリズムを開発する。 提案手法は分子特性を(分子, 特性測定)ペアの文脈から予測することを学び, 微調整をせずに新しい性質に迅速に適応する。
• 参考スコア（独自算出の注目度）: 56.67309268480843
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In-context learning has become an important approach for few-shot learning in Large Language Models because of its ability to rapidly adapt to new tasks without fine-tuning model parameters. However, it is restricted to applications in natural language and inapplicable to other domains. In this paper, we adapt the concepts underpinning in-context learning to develop a new algorithm for few-shot molecular property prediction. Our approach learns to predict molecular properties from a context of (molecule, property measurement) pairs and rapidly adapts to new properties without fine-tuning. On the FS-Mol and BACE molecular property prediction benchmarks, we find this method surpasses the performance of recent meta-learning algorithms at small support sizes and is competitive with the best methods at large support sizes.
• Abstract（参考訳）: コンテキスト内学習は、モデルパラメータを微調整することなく新しいタスクに迅速に適応できるため、大規模言語モデルにおける数少ない学習にとって重要なアプローチとなっている。 しかし、自然言語の応用に限られており、他のドメインにも適用できない。 本稿では, インコンテキスト学習の基盤となる概念を適用し, 分子特性予測のための新しいアルゴリズムを開発した。 本手法は(分子, 物性測定)ペアの文脈から分子特性を予測し, 微調整することなく迅速に新しい性質に適応する。 FS-Mol と BACE の分子特性予測ベンチマークでは,この手法が近年のメタ学習アルゴリズムの性能を小さなサポートサイズで上回り,大規模なサポートサイズで最高の手法と競合することがわかった。

関連論文リスト

• Cross-Modal Learning for Chemistry Property Prediction: Large Language Models Meet Graph Machine Learning [0.0]
  グラフニューラルネットワーク(GNN)の分析能力と大規模言語モデル(LLM)の言語生成・予測能力を利用する多モード融合(MMF)フレームワークを提案する。 本フレームワークは,グラフ構造化データのモデリングにおけるGNNの有効性とLLMのゼロショットおよび少数ショット学習能力を組み合わせることにより,オーバーフィッティングのリスクを低減し,予測の改善を実現する。
  論文  参考訳（メタデータ） (2024-08-27T11:10:39Z)
• Molecular Graph Representation Learning Integrating Large Language Models with Domain-specific Small Models [12.744381867301353]
  大規模言語モデルとドメイン固有小モデルを統合する新しい分子グラフ表現学習フレームワークを提案する。 分子グラフとそれに対応する記述文を含む多モードアライメント法を用いて、分子表現の事前学習を誘導する。
  論文  参考訳（メタデータ） (2024-08-19T16:11:59Z)
• Ensemble Model With Bert,Roberta and Xlnet For Molecular property prediction [0.0]
  本稿では,分子特性を高精度に予測するための新しい手法を提案する。 我々はアンサンブル学習を採用し,BERT,RoBERTa,XLNetの微調整を行う。 この革新は、コスト効率が高く、資源効率のよいソリューションを提供し、分子領域におけるさらなる研究を推し進める可能性がある。
  論文  参考訳（メタデータ） (2024-05-30T10:03:58Z)
• SINC: Self-Supervised In-Context Learning for Vision-Language Tasks [64.44336003123102]
  大規模言語モデルにおけるコンテキスト内学習を実現するためのフレームワークを提案する。 メタモデルは、カスタマイズされたデモからなる自己教師型プロンプトで学ぶことができる。 実験の結果、SINCは様々な視覚言語タスクにおいて勾配に基づく手法よりも優れていた。
  論文  参考訳（メタデータ） (2023-07-15T08:33:08Z)
• Implicit Geometry and Interaction Embeddings Improve Few-Shot Molecular Property Prediction [53.06671763877109]
  我々は, 複雑な分子特性を符号化した分子埋め込みを開発し, 数発の分子特性予測の性能を向上させる。 我々の手法は大量の合成データ、すなわち分子ドッキング計算の結果を利用する。 複数の分子特性予測ベンチマークでは、埋め込み空間からのトレーニングにより、マルチタスク、MAML、プロトタイプラーニング性能が大幅に向上する。
  論文  参考訳（メタデータ） (2023-02-04T01:32:40Z)
• Few-Shot Graph Learning for Molecular Property Prediction [46.60746023179724]
  分子特性予測の新しいモデルであるMeta-MGNNを提案する。 ラベルのない分子情報を利用するため、Meta-MGNNはさらに分子構造、属性ベースの自己監視モジュール、および自己注意のタスクウェイトを組み込む。 2つの公開マルチプロパティデータセットに関する広範な実験は、Meta-MGNNがさまざまな最先端のメソッドを上回っていることを示しています。
  論文  参考訳（メタデータ） (2021-02-16T01:55:34Z)
• Reprogramming Language Models for Molecular Representation Learning [65.00999660425731]
  本稿では,分子学習タスクのための事前学習言語モデルに対して,辞書学習(R2DL)による表現再プログラミングを提案する。 対比プログラムは、k-SVDソルバを用いて、高密度ソースモデル入力空間(言語データ)とスパースターゲットモデル入力空間(例えば、化学および生物学的分子データ)との間の線形変換を学習する。 R2DLは、ドメイン固有のデータに基づいて訓練されたアート毒性予測モデルの状態によって確立されたベースラインを達成し、限られたトレーニングデータ設定でベースラインを上回る。
  論文  参考訳（メタデータ） (2020-12-07T05:50:27Z)
• Reinforced Molecular Optimization with Neighborhood-Controlled Grammars [63.84003497770347]
  分子最適化のためのグラフ畳み込みポリシネットワークであるMNCE-RLを提案する。 我々は、元の近傍制御された埋め込み文法を拡張して、分子グラフ生成に適用する。 提案手法は, 分子最適化タスクの多種多様さにおいて, 最先端性能を実現する。
  論文  参考訳（メタデータ） (2020-11-14T05:42:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。