論文の概要: Fast and Accurate Contextual Knowledge Extraction Using Cascading Language Model Chains and Candidate Answers

• arxiv url: http://arxiv.org/abs/2507.22921v1
• Date: Mon, 21 Jul 2025 14:31:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-08-03 20:19:02.942478
• Title: Fast and Accurate Contextual Knowledge Extraction Using Cascading Language Model Chains and Candidate Answers
• Title（参考訳）: Cascading Language Model Chains と Candidate Answers を用いた文脈知識の高速かつ高精度抽出
• Authors: Lee Harris,
• Abstract要約: 本稿では,Language Model Chain (LMC)アルゴリズムを提案し,実装し,適用する。 この場合、与えられたプロンプトに対する言語モデルの応答は、それが可能な答えの集合に存在する場合にのみ正しい。 われわれは, LMC アルゴリズムを用いて, 生年月日を医療資料から抽出した。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Language models can capture complex relationships in given text, but these are notorious for being costly and for producing information that does not exist (i.e., hallucinations). Furthermore, the resources invested into producing this information would be wasted if it were incorrect. We address these issues by proposing, implementing, and applying the Language Model Chain (LMC) algorithm. In this, a language model's response to a given prompt about given text is only correct if it exists in the collection of possible (i.e., candidate) answers, and text corresponding to incorrect responses is fed into a more predictive (but slower) language model. This process is repeated for a collection of language models, or until all predictions about the text are correct. We used the LMC algorithm to extract patient dates of birth from medical documents, and combining a collection of language models in a multi-stage cascade significantly increased prediction speed and accuracy over individual language models, while greatly reducing the number of corresponding hallucinations. We believe that the novel LMC algorithm significantly contributes to the knowledge extraction field, and that this should be explored much further in the future.
• Abstract（参考訳）: 言語モデルは与えられたテキストの複雑な関係を捉えることができるが、これらは高価であり、存在しない情報(幻覚)を生み出すことで悪名高い。 さらに、この情報を生み出すのに費やした資源は、間違っていれば無駄にされることになる。 言語モデルチェイン(LMC)アルゴリズムの提案,実装,適用により,これらの問題に対処する。 この方法では、与えられたテキストに関する与えられたプロンプトに対する言語モデルの応答は、可能な(すなわち、候補)回答のコレクションに存在する場合にのみ正しいものであり、誤った応答に対応するテキストは、より予測的な(しかし遅い)言語モデルに入力される。 このプロセスは言語モデルの収集や、テキストに関するすべての予測が正しいまで繰り返される。 われわれは, LMCアルゴリズムを用いて, 医療文書から患者の出生日時を抽出し, 多段階カスケードにおける言語モデルの収集と組み合わせることで, 個々の言語モデルに対する予測速度と精度を著しく向上し, 対応する幻覚の数を大幅に削減した。 我々は,新しいLCCアルゴリズムが知識抽出の分野に大きく貢献し,今後さらに研究が進むだろうと考えている。

関連論文リスト

• Ask a Local: Detecting Hallucinations With Specialized Model Divergence [0.16874375111244325]
  本研究では,大規模言語モデルに対する新しい幻覚検出手法であるAsk a Localを紹介する。 提案手法は,言語特化モデルのパープレキシティ分布のばらつきを計算し,ハロゲン化の可能性のあるスパンを同定する。 そこで本研究では,14言語にまたがる人間による質問応答データセットについて,一貫した性能を示す。
  論文  参考訳（メタデータ） (2025-06-03T20:00:49Z)
• Large language models can be zero-shot anomaly detectors for time series? [9.249657468385779]
  sigllmは,大規模言語モデルを用いた時系列異常検出のためのフレームワークである。 本稿では,入力のどの要素が異常であるかを言語モデルに直接問うプロンプトベースの検出手法を提案する。 その結果, 予測手法はF1スコアに対して, 全11データセットにおいてプロンプト法よりも有意に優れていた。
  論文  参考訳（メタデータ） (2024-05-23T16:21:57Z)
• Fine-tuning Language Models for Factuality [96.5203774943198]
  大規模な事前訓練型言語モデル(LLM)は、しばしば伝統的な検索エンジンの代替として、広く使われるようになった。 しかし、言語モデルは説得力のあるが事実的に不正確な主張をしがちである(しばしば「幻覚」と呼ばれる)。 本研究では,人間のラベル付けなしに,より現実的な言語モデルを微調整する。
  論文  参考訳（メタデータ） (2023-11-14T18:59:15Z)
• Leveraging LLMs for Synthesizing Training Data Across Many Languages in Multilingual Dense Retrieval [56.65147231836708]
  SWIM-IRは, 微調整多言語高密度検索のための33言語を含む合成検索訓練データセットである。 SAPは、ターゲット言語における情報クエリの生成において、大きな言語モデル(LLM)を支援する。 我々のモデルはSWIM-Xと呼ばれ、人間に指示された高密度検索モデルと競合する。
  論文  参考訳（メタデータ） (2023-11-10T00:17:10Z)
• RegaVAE: A Retrieval-Augmented Gaussian Mixture Variational Auto-Encoder for Language Modeling [79.56442336234221]
  可変オートエンコーダ(VAE)に基づく検索拡張言語モデルであるRegaVAEを紹介する。 テキストコーパスを潜在空間にエンコードし、ソースとターゲットの両方のテキストから現在と将来の情報をキャプチャする。 各種データセットに対する実験結果から,テキスト生成品質と幻覚除去の大幅な改善が示された。
  論文  参考訳（メタデータ） (2023-10-16T16:42:01Z)
• mFACE: Multilingual Summarization with Factual Consistency Evaluation [79.60172087719356]
  抽象的な要約は、事前訓練された言語モデルと大規模データセットの可用性のおかげで、近年で新たな関心を集めている。 有望な結果にもかかわらず、現在のモデルはいまだに現実的に矛盾した要約を生み出すことに苦しむ。 事実整合性評価モデルを利用して、多言語要約を改善する。
  論文  参考訳（メタデータ） (2022-12-20T19:52:41Z)
• Mixed Attention Transformer for LeveragingWord-Level Knowledge to Neural Cross-Lingual Information Retrieval [15.902630454568811]
  本稿では,辞書や翻訳表などの外部単語レベルの知識を取り入れた,MAT(Mixed Attention Transformer)を提案する。 翻訳知識をアテンションマトリックスに符号化することにより、MATを用いたモデルは、入力シーケンス内の相互翻訳された単語にフォーカスすることができる。
  論文  参考訳（メタデータ） (2021-09-07T00:33:14Z)
• Comparison of Interactive Knowledge Base Spelling Correction Models for Low-Resource Languages [81.90356787324481]
  低リソース言語に対する正規化の推進は、パターンの予測が難しいため、難しい作業である。 この研究は、ターゲット言語データに様々な量を持つニューラルモデルとキャラクタ言語モデルの比較を示す。 我々の利用シナリオは、ほぼゼロのトレーニング例によるインタラクティブな修正であり、より多くのデータが収集されるにつれてモデルを改善する。
  論文  参考訳（メタデータ） (2020-10-20T17:31:07Z)
• XCOPA: A Multilingual Dataset for Causal Commonsense Reasoning [68.57658225995966]
  XCOPA (Cross-lingual Choice of Plausible Alternatives) は11言語における因果コモンセンス推論のための多言語データセットである。 提案手法は,翻訳に基づく転送と比較して,現在の手法の性能が低下していることを明らかにする。
  論文  参考訳（メタデータ） (2020-05-01T12:22:33Z)
• Limits of Detecting Text Generated by Large-Scale Language Models [65.46403462928319]
  誤情報キャンペーンで使用される可能性があるため、長く一貫性のあるテキストを生成できる大規模な言語モデルが危険であると考える者もいる。 ここでは、仮説テスト問題として大規模言語モデル出力検出を定式化し、テキストを真あるいは生成されたものと分類する。
  論文  参考訳（メタデータ） (2020-02-09T19:53:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。