Fugu-MT 論文翻訳(概要): Common errors in Generative AI systems used for knowledge extraction in the climate action domain

論文の概要: Common errors in Generative AI systems used for knowledge extraction in the climate action domain

arxiv url: http://arxiv.org/abs/2402.00830v1
Date: Thu, 1 Feb 2024 18:17:29 GMT
ステータス: 処理完了
システム内更新日: 2024-02-02 14:00:20.978130
Title: Common errors in Generative AI systems used for knowledge extraction in the climate action domain
Title（参考訳）: 気候行動領域における知識抽出に使用される生成AIシステムにおける共通誤り
Authors: Denis Havlik, Marcelo Pias
Abstract要約: 大規模言語モデル(LLM)およびより具体的には、生成事前訓練変換器(GPT)は、気候行動のステークホルダーがデジタル知識ベースを探索し、持続可能な方法で気候行動知識を抽出し活用するのに役立つ。 LLMは「知識基盤の確率論的モデル」であり、説得力のあるテキストを生成するのに優れるが、生成した情報の確率的性質のために完全に信頼できない。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large Language Models (LLMs) and, more specifically, the Generative Pre-Trained Transformers (GPT) can help stakeholders in climate action explore digital knowledge bases and extract and utilize climate action knowledge in a sustainable manner. However, LLMs are "probabilistic models of knowledge bases" that excel at generating convincing texts but cannot be entirely relied upon due to the probabilistic nature of the information produced. This brief report illustrates the problem space with examples of LLM responses to some of the questions of relevance to climate action.
Abstract（参考訳）: 大規模言語モデル(LLM)およびより具体的には、生成事前訓練変換器(GPT)は、気候行動のステークホルダーがデジタル知識ベースを探索し、持続可能な方法で気候行動知識を抽出し活用するのに役立つ。しかし、LLMは「知識基盤の確率論的モデル」であり、説得力のあるテキストを生成するのに優れるが、生成した情報の確率的性質により完全に信頼できない。本報告では, LLM 応答の例として, 気候活動との関連性に関するいくつかの質問について述べる。

関連論文リスト

Language Agents Meet Causality -- Bridging LLMs and Causal World Models [50.79984529172807]
因果表現学習を大規模言語モデルと統合する枠組みを提案する。このフレームワークは、自然言語表現に関連付けられた因果変数を持つ因果世界モデルを学ぶ。本研究では,時間的スケールと環境の複雑さを考慮した因果推論と計画課題の枠組みを評価する。
論文参考訳（メタデータ） (2024-10-25T18:36:37Z)
Unlearning Climate Misinformation in Large Language Models [17.95497650321137]
気候変動に関する誤報は、人類にとって最も深刻な脅威の1つに対処する上で、重要な障害となっている。本稿では,気候情報に関する大規模言語モデル(LLM)の事実的精度について検討する。
論文参考訳（メタデータ） (2024-05-29T23:11:53Z)
LLMs' Reading Comprehension Is Affected by Parametric Knowledge and Struggles with Hypothetical Statements [59.71218039095155]
言語モデルの自然言語理解(NLU)能力を評価するための主要な手段として、読解理解(RC)があげられる。文脈がモデルの内部知識と一致している場合、モデルの回答がコンテキスト理解に由来するのか、あるいは内部情報から生じるのかを識別することは困難である。この問題に対処するために、架空の事実や実体に基づいて、想像上のデータにRCを使うことを提案する。
論文参考訳（メタデータ） (2024-04-09T13:08:56Z)
Quantitative knowledge retrieval from large language models [4.155711233354597]
大規模言語モデル(LLM)は、説得力のある自然言語配列を生成する能力について広く研究されている。本稿では,データ解析作業を支援するための定量的知識検索のメカニズムとして,LLMの実現可能性について検討する。
論文参考訳（メタデータ） (2024-02-12T16:32:37Z)
Mitigating Large Language Model Hallucinations via Autonomous Knowledge Graph-based Retrofitting [51.7049140329611]
本稿では,知識グラフに基づくリトロフィッティング(KGR)を提案する。実験により,実QAベンチマークにおいて,KGRはLLMの性能を大幅に向上できることが示された。
論文参考訳（メタデータ） (2023-11-22T11:08:38Z)
Are Large Language Models Geospatially Knowledgeable? [21.401931052512595]
本稿では,Large Language Models (LLM) で符号化された地理空間的知識,認識,推論能力の程度について検討する。自己回帰言語モデルに焦点をあて, (i) 地理座標系におけるLLMの探索と地理空間知識の評価, (ii) 地理空間的および非地理空間的前置法を用いて地理空間的意識を測定する, (iii) 多次元スケーリング(MDS) 実験を用いて, モデルの地理空間的推論能力を評価する, 実験手法を考案した。
論文参考訳（メタデータ） (2023-10-09T17:20:11Z)
Thrust: Adaptively Propels Large Language Models with External Knowledge [58.72867916604562]
大規模事前学習言語モデル(PTLM)は、モデルパラメータの豊富な知識を符号化する。 PTLMの固有の知識は不透明または静的であり、外部の知識を必要とする。本稿では,外部知識のインスタンスレベル適応推進(IAPEK)を提案する。
論文参考訳（メタデータ） (2023-07-19T20:16:46Z)
On the Risk of Misinformation Pollution with Large Language Models [127.1107824751703]
本稿では,現代大規模言語モデル (LLM) の誤用の可能性について検討する。本研究は, LLMが効果的な誤情報発生器として機能し, DOQAシステムの性能が著しく低下することを明らかにする。
論文参考訳（メタデータ） (2023-05-23T04:10:26Z)
Enhancing Large Language Models with Climate Resources [5.2677629053588895]
大規模言語モデル(LLM)は、人間のようなテキストを生成する能力を示すことによって、人工知能のランドスケープを変革した。しかし、彼らはしばしば不正確な言語を使うが、それは気候変動など、正確性が重要である領域では有害である。本研究では,複数のソースにアクセスするエージェントとしてLLMの可能性を活かすために,近年のアイデアを活用している。本研究では,ClimateWatchから放射データを取得するプロトタイプエージェントを用いて,本手法の有効性を実証する。
論文参考訳（メタデータ） (2023-03-31T20:24:14Z)
Principled Knowledge Extrapolation with GANs [92.62635018136476]
我々は,知識外挿の新たな視点から,対実合成を研究する。本稿では, 知識外挿問題に対処するために, クローズド形式判別器を用いた対角ゲームが利用可能であることを示す。提案手法は,多くのシナリオにおいて,エレガントな理論的保証と優れた性能の両方を享受する。
論文参考訳（メタデータ） (2022-05-21T08:39:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。