論文の概要: Position: Logical Soundness is not a Reliable Criterion for Neurosymbolic Fact-Checking with LLMs
- arxiv url: http://arxiv.org/abs/2604.04177v1
- Date: Sun, 05 Apr 2026 16:48:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-04-07 15:49:18.963657
- Title: Position: Logical Soundness is not a Reliable Criterion for Neurosymbolic Fact-Checking with LLMs
- Title（参考訳）: 位置:論理的音性はLLMを用いたニューロシンボリック・ファクト・チェッキングの信頼性基準ではない
- Authors: Jason Chan, Robert Gaizauskas, Zhixue Zhao,
- Abstract要約: いくつかのニューロシンボリックシステムは、自然言語を論理式に変換するために大きな言語モデル(LLM)を用いて主張を検証する。
このようなアプローチは、論理的に健全な結論と人間が通常行う推論の体系的な相違により、構造的に誤解を招く主張を検出するのに失敗する、と我々は主張する。
- 参考スコア（独自算出の注目度）: 6.916679603940271
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As large language models (LLMs) are increasing integrated into fact-checking pipelines, formal logic is often proposed as a rigorous means by which to mitigate bias, errors and hallucinations in these models' outputs. For example, some neurosymbolic systems verify claims by using LLMs to translate natural language into logical formulae and then checking whether the proposed claims are logically sound, i.e. whether they can be validly derived from premises that are verified to be true. We argue that such approaches structurally fail to detect misleading claims due to systematic divergences between conclusions that are logically sound and inferences that humans typically make and accept. Drawing on studies in cognitive science and pragmatics, we present a typology of cases in which logically sound conclusions systematically elicit human inferences that are unsupported by the underlying premises. Consequently, we advocate for a complementary approach: leveraging the human-like reasoning tendencies of LLMs as a feature rather than a bug, and using these models to validate the outputs of formal components in neurosymbolic systems against potentially misleading conclusions.
- Abstract（参考訳）: 大規模言語モデル(LLM)がファクトチェックパイプラインに統合されるにつれて、形式論理はしばしば、これらのモデルの出力におけるバイアス、エラー、幻覚を緩和する厳密な手段として提案される。
例えば、いくつかのニューロシンボリックシステムは、LLMを用いて自然言語を論理式に翻訳し、提案された主張が論理的に正しいかどうかを確認する。
このようなアプローチは、論理的に健全な結論と人間が通常行う推論の体系的な相違により、構造的に誤解を招く主張を検出するのに失敗する、と我々は主張する。
認知科学とプラグマティクスの研究に基づき,論理的に結論が体系的に人間の推論を導き出す事例のタイプロジを提示する。
その結果、我々は、LLMの人間ライクな推論傾向をバグではなく特徴として活用し、これらのモデルを用いて、ニューロシンボリックシステムにおける形式的コンポーネントの出力を、潜在的に誤解を招く結論から検証する、という補完的なアプローチを提唱した。
関連論文リスト
- Pushing the Boundaries of Natural Reasoning: Interleaved Bonus from Formal-Logic Verification [49.506412445511934]
大きな言語モデル(LLM)は目覚ましい能力を示すが、その次は論理的不整合と報奨ハックを生み出す。
本稿では,自然言語生成プロセスと形式的記号的検証を動的にインターリーブする形式論理検証誘導フレームワークを提案する。
我々はこのフレームワークを,形式論理検証誘導制御による微調整とポリシー最適化の相乗効果を生かした,新しい2段階のトレーニングパイプラインを通じて運用する。
論文 参考訳（メタデータ） (2026-01-30T07:01:25Z) - Addressing Logical Fallacies In Scientific Reasoning From Large Language Models: Towards a Dual-Inference Training Framework [0.13854111346209866]
大規模言語モデル(LLM)は自然言語処理を変革し、科学、医療、意思決定の進歩への期待が高まっている。
本稿は,2つのコントリビューションを行う。まず,主要なプラットフォームから存在するLCMが,否定や反例,あるいは欠陥のある前提で科学的領域を推論する際に,体系的な弱点を示すことを示す。
第二に、肯定生成と構造化反事実否定を統合する二重推論トレーニングフレームワークを導入する。
論文 参考訳（メタデータ） (2025-12-03T19:50:39Z) - Are Language Models Efficient Reasoners? A Perspective from Logic Programming [109.47572890883248]
現代言語モデル(LM)は、強い推論能力を示すが、標準的な評価は、人間のような推論の重要な側面である効率性を見越しながら、正確性を強調する。
本稿では、論理プログラミングのレンズを用いて、LM推論効率を評価するためのフレームワークを提案する。
論文 参考訳（メタデータ） (2025-10-29T15:30:31Z) - DivLogicEval: A Framework for Benchmarking Logical Reasoning Evaluation in Large Language Models [58.439517684779936]
本稿では,多種多様な文からなる自然文からなる古典論理ベンチマークDivLogicEvalを提案する。
また,より信頼性の高い評価を実現するために,大規模言語モデルに固有のバイアスやランダム性の影響を緩和する新たな評価指標を導入する。
論文 参考訳（メタデータ） (2025-09-19T04:40:46Z) - Sound and Complete Neurosymbolic Reasoning with LLM-Grounded Interpretations [7.81820080453498]
大規模言語モデル(LLM)は、自然言語の理解と生成において印象的な能力を示している。
パラ一貫性論理に対する形式的意味論の解釈関数に LLM を直接統合する手法を提案する。
論文 参考訳（メタデータ） (2025-07-13T19:05:43Z) - CLATTER: Comprehensive Entailment Reasoning for Hallucination Detection [60.98964268961243]
我々は,系統的かつ包括的な推論プロセスを実行するためのモデルを導くことで,モデルがよりきめ細やかで正確な絞り込み決定を実行できることを提案する。
我々は,(i)クレームの分解,(ii)サブクレームの属性と包含分類,および(iii)集約分類から成る3段階の推論プロセスを定義し,そのような導出推論が実際に幻覚検出の改善をもたらすことを示す。
論文 参考訳（メタデータ） (2025-06-05T17:02:52Z) - Enhancing Large Language Models through Neuro-Symbolic Integration and Ontological Reasoning [0.0]
大規模言語モデル(LLM)は自然言語処理において顕著な能力を示すが、幻覚として知られる不正確さと論理的不整合に悩まされている。
本稿では,LLM出力の一貫性と信頼性を高めるために,記号的存在論的推論と機械学習を融合したニューロシンボリックアプローチを提案する。
論文 参考訳（メタデータ） (2025-04-10T10:39:24Z) - Towards Logically Sound Natural Language Reasoning with Logic-Enhanced Language Model Agents [3.5083201638203154]
Logic-Enhanced Language Model Agents (LELMA) は、大きな言語モデルと形式論理を統合するフレームワークである。
LeLMAは自動形式化を用いて推論を論理表現に変換し、論理的妥当性を評価する。
LeLMAはエラー検出の精度が高く,自己修正による推論精度の向上を実現している。
論文 参考訳（メタデータ） (2024-08-28T18:25:35Z) - A Closer Look at the Self-Verification Abilities of Large Language Models in Logical Reasoning [73.77088902676306]
論理的推論の文脈において,大規模言語モデル(LLM)の自己検証能力について詳しく検討する。
本研究の主目的は,既存のLCMが誤った推論手順を正確に識別するのに苦労し,自己検証法の有効性を保証できないことにある。
論文 参考訳（メタデータ） (2023-11-14T07:13:10Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。