論文の概要: Large Language Models for Scientific Synthesis, Inference and
Explanation
- arxiv url: http://arxiv.org/abs/2310.07984v1
- Date: Thu, 12 Oct 2023 02:17:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-14 13:10:53.286924
- Title: Large Language Models for Scientific Synthesis, Inference and
Explanation
- Title(参考訳): 科学合成・推論・説明のための大規模言語モデル
- Authors: Yizhen Zheng, Huan Yee Koh, Jiaxin Ju, Anh T.N. Nguyen, Lauren T. May,
Geoffrey I. Webb, Shirui Pan
- Abstract要約: 大規模言語モデルがどのように科学的合成、推論、説明を行うことができるかを示す。
我々は,この「知識」を科学的文献から合成することで,大きな言語モデルによって強化できることを示す。
このアプローチは、大きな言語モデルが機械学習システムの予測を説明することができるというさらなる利点を持っている。
- 参考スコア(独自算出の注目度): 56.41963802804953
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Large language models are a form of artificial intelligence systems whose
primary knowledge consists of the statistical patterns, semantic relationships,
and syntactical structures of language1. Despite their limited forms of
"knowledge", these systems are adept at numerous complex tasks including
creative writing, storytelling, translation, question-answering, summarization,
and computer code generation. However, they have yet to demonstrate advanced
applications in natural science. Here we show how large language models can
perform scientific synthesis, inference, and explanation. We present a method
for using general-purpose large language models to make inferences from
scientific datasets of the form usually associated with special-purpose machine
learning algorithms. We show that the large language model can augment this
"knowledge" by synthesizing from the scientific literature. When a conventional
machine learning system is augmented with this synthesized and inferred
knowledge it can outperform the current state of the art across a range of
benchmark tasks for predicting molecular properties. This approach has the
further advantage that the large language model can explain the machine
learning system's predictions. We anticipate that our framework will open new
avenues for AI to accelerate the pace of scientific discovery.
- Abstract(参考訳): 大規模言語モデルは、言語1の統計パターン、意味的関係、構文構造からなる人工知能システムの一種である。
知識」の限られた形態にもかかわらず、これらのシステムは創造的執筆、ストーリーテリング、翻訳、質問応答、要約、コンピュータコード生成など多くの複雑なタスクに適応している。
しかし、彼らはまだ自然科学の高度な応用を実証していない。
ここでは,大規模言語モデルが科学的合成,推論,説明をいかに行うかを示す。
本稿では,汎用大規模言語モデルを用いて,特殊目的機械学習アルゴリズムに付随する形態の科学的データセットから推論を行う手法を提案する。
大規模言語モデルは、科学的文献から合成することで、この「知識」を増強できることを示す。
従来の機械学習システムが、この合成および推論された知識で強化されると、分子特性を予測するための様々なベンチマークタスクにおいて、最先端の技術を上回ります。
このアプローチは、大きな言語モデルが機械学習システムの予測を説明することができるというさらなる利点を持っている。
我々は、私たちのフレームワークが科学的な発見のペースを加速するために、AIの新しい道を開くことを期待している。
関連論文リスト
- Natural Language Counterfactual Explanations for Graphs Using Large Language Models [7.560731917128082]
我々は、オープンソースのLarge Language Modelsの力を利用して、自然言語の説明を生成する。
提案手法は, 対実例の正確な自然言語表現を効果的に生成することを示す。
論文 参考訳(メタデータ) (2024-10-11T23:06:07Z) - SciAgents: Automating scientific discovery through multi-agent intelligent graph reasoning [0.0]
人工知能の鍵となる課題は、科学的理解を自律的に進めるシステムを作ることである。
3つのコア概念を活用するアプローチであるSciAgentsを提案する。
この枠組みは研究仮説を自律的に生成し、基礎となるメカニズム、設計原則、予期せぬ材料特性を解明する。
我々のケーススタディでは、生成AI、オントロジ表現、マルチエージェントモデリングを組み合わせて、生物学的システムに似た知能の群を活用できるスケーラブルな能力を実証している。
論文 参考訳(メタデータ) (2024-09-09T12:25:10Z) - Scientific Computing with Large Language Models [0.0]
本稿では,科学計算応用のための大規模言語モデルの出現について概説する。
物理システムを記述するために設計された科学文書や特殊言語を自然言語処理するユースケースを強調した。
論文 参考訳(メタデータ) (2024-06-11T13:39:07Z) - LVLM-Interpret: An Interpretability Tool for Large Vision-Language Models [50.259006481656094]
本稿では,大規模視覚言語モデルの内部メカニズムの理解を目的とした対話型アプリケーションを提案する。
このインタフェースは, 画像パッチの解釈可能性を高めるために設計されており, 応答の生成に有効である。
本稿では,一般的な大規模マルチモーダルモデルであるLLaVAにおける障害機構の理解に,アプリケーションがどのように役立つかのケーススタディを示す。
論文 参考訳(メタデータ) (2024-04-03T23:57:34Z) - Language Evolution with Deep Learning [49.879239655532324]
計算モデリングは言語の出現の研究において重要な役割を担っている。
構造化言語の出現を誘発する可能性のある条件と学習プロセスをシミュレートすることを目的としている。
この章では、最近機械学習の分野に革命をもたらした別の種類の計算モデル、ディープ・ラーニング・モデルについて論じる。
論文 参考訳(メタデータ) (2024-03-18T16:52:54Z) - From Word Models to World Models: Translating from Natural Language to
the Probabilistic Language of Thought [124.40905824051079]
言語インフォームド・シンキングのための計算フレームワークである「構成」を合理的に提案する。
我々は、自然言語から確率論的思考言語への文脈感応的なマッピングとして、言語の意味を定式化する。
LLMは、現実的に適切な言語的意味をキャプチャする文脈依存翻訳を生成することができることを示す。
認知的なモチベーションを持つシンボリックモジュールを統合するために、我々のフレームワークを拡張します。
論文 参考訳(メタデータ) (2023-06-22T05:14:00Z) - Language Models are not Models of Language [0.0]
トランスファーラーニングにより、言語モデリングタスクでトレーニングされた大規模なディープラーニングニューラルネットワークにより、パフォーマンスが大幅に向上した。
深層学習モデルは言語の理論的モデルではないので、言語モデルという用語は誤解を招く。
論文 参考訳(メタデータ) (2021-12-13T22:39:46Z) - Generated Knowledge Prompting for Commonsense Reasoning [53.88983683513114]
本稿では,汎用的なプロンプト形式を用いて,言語モデルから直接知識文を生成することを提案する。
このアプローチは、4つのコモンセンス推論タスクにおいて、既製の言語モデルと微調整された言語モデルの両方のパフォーマンスを向上させる。
特に、モデルが生成した知識を使用することで、予測が改善できることが分かる。
論文 参考訳(メタデータ) (2021-10-15T21:58:03Z) - A general framework for scientifically inspired explanations in AI [76.48625630211943]
我々は、AIシステムの説明を実装可能な一般的なフレームワークの理論的基盤として、科学的説明の構造の概念をインスタンス化する。
このフレームワークは、AIシステムの"メンタルモデル"を構築するためのツールを提供することを目的としている。
論文 参考訳(メタデータ) (2020-03-02T10:32:21Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。