論文の概要: Kongzi: A Historical Large Language Model with Fact Enhancement

• arxiv url: http://arxiv.org/abs/2504.09488v1
• Date: Sun, 13 Apr 2025 09:01:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-04-15 16:53:02.831394
• Title: Kongzi: A Historical Large Language Model with Fact Enhancement
• Title（参考訳）: Kongzi: ファクトエンハンスメントを備えた歴史ある大規模言語モデル
• Authors: Jiashu Yang, Ningning Wang, Yian Zhao, Chaoran Feng, Junjia Du, Hao Pang, Zhirui Fang, Xuxin Cheng,
• Abstract要約: Kongziは、歴史的分析のために特別に設計された大きな言語モデルである。 キュレートされた高品質の歴史的データと新しい事実強化学習戦略の統合により、コンジは強い事実整合性と洗練された推論深度を示す。
• 参考スコア（独自算出の注目度）: 4.687722574822698
• License:
• Abstract: The capabilities of the latest large language models (LLMs) have been extended from pure natural language understanding to complex reasoning tasks. However, current reasoning models often exhibit factual inaccuracies in longer reasoning chains, which poses challenges for historical reasoning and limits the potential of LLMs in complex, knowledge-intensive tasks. Historical studies require not only the accurate presentation of factual information but also the ability to establish cross-temporal correlations and derive coherent conclusions from fragmentary and often ambiguous sources. To address these challenges, we propose Kongzi, a large language model specifically designed for historical analysis. Through the integration of curated, high-quality historical data and a novel fact-reinforcement learning strategy, Kongzi demonstrates strong factual alignment and sophisticated reasoning depth. Extensive experiments on tasks such as historical question answering and narrative generation demonstrate that Kongzi outperforms existing models in both factual accuracy and reasoning depth. By effectively addressing the unique challenges inherent in historical texts, Kongzi sets a new standard for the development of accurate and reliable LLMs in professional domains.
• Abstract（参考訳）: 最新の大規模言語モデル(LLM)の機能は、純粋な自然言語理解から複雑な推論タスクまで拡張されている。 しかしながら、現在の推論モデルは、長い推論連鎖において事実的不正確性を示すことが多く、これは歴史的推論の課題を引き起こし、複雑で知識集約的なタスクにおけるLLMの可能性を制限する。 歴史的研究は、事実情報の正確な提示だけでなく、時間的相関を確立し、断片的でしばしば曖昧な情報源からコヒーレントな結論を導き出す能力も必要である。 これらの課題に対処するため,歴史分析に特化して設計された大規模言語モデルであるKongziを提案する。 キュレートされた高品質の歴史的データと新しい事実強化学習戦略の統合により、コンジは強い事実整合性と洗練された推論深度を示す。 歴史的質問応答や物語生成などのタスクに関する大規模な実験は、コンジが既存のモデルを事実精度と推論深度の両方で上回っていることを示している。 歴史的文書に固有の独自の課題を効果的に解決することで、コンジはプロフェッショナルドメインにおける正確で信頼性の高いLLMの開発のための新しい標準を策定した。

関連論文リスト

• LongFaith: Enhancing Long-Context Reasoning in LLMs with Faithful Synthetic Data [19.79929012055293]
  LongFaithは忠実な長文推論命令データセットを合成するための新しいパイプラインである。 基礎的真理と引用に基づく推論のプロンプトを統合することにより、注意散らしを排除し、推論連鎖の精度を向上させる。
  論文  参考訳（メタデータ） (2025-02-18T06:40:23Z)
• Failure Modes of LLMs for Causal Reasoning on Narratives [51.19592551510628]
  本研究では,大言語モデル(LLM)の因果推論能力について,物語から因果関係を推定する代表的な問題から検討する。 最新の言語モデルでさえ、物語の提示とパラメトリック知識の両方において、信頼できないショートカットに依存していることがわかった。
  論文  参考訳（メタデータ） (2024-10-31T12:48:58Z)
• Leave No Document Behind: Benchmarking Long-Context LLMs with Extended Multi-Doc QA [71.04146366608904]
  長いコンテキストモデリング能力は広く注目を集めており、超コンテキストウィンドウを持つLarge Language Models (LLMs) の出現につながっている。 拡張多文書質問応答(QA)によって現実的なシナリオに整合する新しい長文ベンチマークであるLoongを提案する。 Loong氏は、Spotlight Locating, Comparison, Clustering, Chain of Reasoningという、コンテキスト長の4つのタスクを紹介している。
  論文  参考訳（メタデータ） (2024-06-25T09:42:56Z)
• Large Language Models are Limited in Out-of-Context Knowledge Reasoning [65.72847298578071]
  大規模言語モデル (LLMs) は、文脈内推論の実行において広範な知識と強力な能力を持っている。 本稿では、複数の知識を組み合わせて新しい知識を推論する、文脈外知識推論(OCKR)という、文脈外推論の重要な側面に焦点を当てる。
  論文  参考訳（メタデータ） (2024-06-11T15:58:59Z)
• Consistency Training by Synthetic Question Generation for Conversational Question Answering [14.211024633768986]
  我々は、歴史的情報を合成的な質問で強化し、その推論を無関係な歴史に対して堅牢にする。 これは、会話型QA設定をモデル化するためのデータ拡張の一形態として、質問生成を用いた最初の研究例である。
  論文  参考訳（メタデータ） (2024-04-17T06:49:14Z)
• NovelQA: Benchmarking Question Answering on Documents Exceeding 200K Tokens [63.7488938083696]
  NovelQAは拡張テキストによる大規模言語モデルの能力をテストするために設計されたベンチマークである。 本稿では,ノベルQAの設計と構築について述べる。 NovelQAにおけるLong-context LLMの評価により,モデルの性能に関する重要な知見が得られた。
  論文  参考訳（メタデータ） (2024-03-18T17:32:32Z)
• Multilingual Event Extraction from Historical Newspaper Adverts [42.987470570997694]
  本稿では,歴史文献の新たな領域からのイベント抽出の課題について述べる。 我々は,近代植民地時代の新聞広告からなる,英語,フランス語,オランダ語に新しい多言語データセットを導入する。 注記データが少ない場合でも,問題を抽出的QAタスクとして定式化することにより,驚くほど優れた結果が得られることがわかった。
  論文  参考訳（メタデータ） (2023-05-18T12:40:41Z)
• ConvFinQA: Exploring the Chain of Numerical Reasoning in Conversational Finance Question Answering [70.6359636116848]
  本稿では,対話型質問応答における数値推論の連鎖を研究するために,新しい大規模データセットConvFinQAを提案する。 我々のデータセットは、現実世界の会話において、長距離で複雑な数値推論パスをモデル化する上で大きな課題となる。
  論文  参考訳（メタデータ） (2022-10-07T23:48:50Z)
• Restoring and Mining the Records of the Joseon Dynasty via Neural Language Modeling and Machine Translation [20.497110880878544]
  本論文では,自己保持機構に基づく履歴文書の復元と翻訳のためのマルチタスク学習手法を提案する。 提案手法は,マルチタスク学習を使わずに,翻訳作業の精度をベースラインよりも大幅に向上させる。
  論文  参考訳（メタデータ） (2021-04-13T06:40:25Z)
• A Knowledge-Enhanced Pretraining Model for Commonsense Story Generation [98.25464306634758]
  本稿では,外部知識ベースからのコモンセンス知識を利用して,合理的なストーリーを生成することを提案する。 我々は,真と偽のストーリーを識別するための差別的目的を組み合わせたマルチタスク学習を採用している。 我々のモデルは、特に論理学とグローバルコヒーレンスの観点から、最先端のベースラインよりも合理的なストーリーを生成することができる。
  論文  参考訳（メタデータ） (2020-01-15T05:42:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。