論文の概要: SymDiag: Explainable Diagnosis for LLM Reasoning via Neuro-Symbolic Verification
- arxiv url: http://arxiv.org/abs/2608.08786v1
- Date: Sun, 09 Aug 2026 16:05:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-11 19:16:36.948864
- Title: SymDiag: Explainable Diagnosis for LLM Reasoning via Neuro-Symbolic Verification
- Title（参考訳）: SymDiag:ニューロ・シンボリック・検証によるLDM推論の説明可能な診断
- Abstract要約: 大規模言語モデル(LLM)は、データ駆動推論としてますます機能するが、最終的な答えが正しい場合でも、そのチェーン・オブ・シント(CoT)は不誠実である。
textbfSymDiagは,構造的故障診断として検証を推し進めるニューロシンボリックなフレームワークである。
- 参考スコア（独自算出の注目度）: 25.97411184140887
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large language models (LLMs) increasingly serve as data-driven reasoners, yet their chains-of-thought (CoT) can be unfaithful even when final answers are correct. Most existing ``verification'' signals are not diagnostic: answer matching observes only the outcome, LLM-as-judge provides subjective and non-verifiable critiques, and scalar rewards (e.g., PRMs/RMs) offer little insight into where a multi-step derivation fails.We propose \textbf{SymDiag}, a neuro-symbolic framework that \textbf{reframes reasoning verification as structured failure diagnosis}. SymDiag translates natural-language CoT into symbolic constraints and performs step-level satisfiability/entailment checks to (i) localize failing steps and (ii) produce verifiable diagnostic evidence, including counterexamples, inconsistency witnesses, and missing-premise indicators. A central challenge is that apparent ``logic violations'' can be caused either by genuine reasoning defects or by neural-to-symbolic translation noise. SymDiag therefore incorporates a Self-Auditor that disentangles TranslationError from ReasoningError via dual symbolic encodings consistency checks, enabling robust diagnosis under partial observability. Across diverse mathematical, logical, scientific, and general reasoning benchmarks, SymDiag improves detection of unfaithful reasoning and provides substantially more effective feedback for multi-round reasoning repair than outcome-only verification and LLM-based judging, offering a principled foundation for trustworthy and scalable reasoning diagnosis.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、データ駆動推論としてますます機能するが、最終的な答えが正しい場合でも、そのチェーン・オブ・シント(CoT)は不誠実である。
応答マッチングは結果のみを観察し、LLM-as-judgeは主観的かつ検証不能な批評を提供し、スカラー報酬(例えば、PRMs/RMs)は多段階の導出がどこで失敗するかについての知見をほとんど提供しない。
SymDiagは自然言語のCoTをシンボリック制約に変換し、ステップレベルの満足度/詳細チェックを実行します。
(i)失敗するステップをローカライズし、
二 反例、不整合証人及び欠落前提証書を含む検証可能な診断証拠を作成すること。
中心的な課題は、「論理的違反」が真の理由付けの欠陥またはニューラル・ツー・シンボリック翻訳ノイズによって引き起こされる可能性があることである。
そこでSymDiagは、ReasoningErrorからReasoningErrorをアンタングルするSelf-Auditorをデュアルシンボルエンコーディングによる一貫性チェックに組み込んで、部分的可観測性の下で堅牢な診断を可能にする。
様々な数学的、論理的、科学的、そして一般的な推論のベンチマークにおいて、SymDiagは不誠実な推論の検出を改善し、結果のみの検証やLSMに基づく判断よりも、多ラウンドの推論の修復に対してはるかに効果的なフィードバックを提供し、信頼性がありスケーラブルな推論診断のための原則化された基礎を提供する。
関連論文リスト
- LogSemFuse: Semantic Evidence Fusion for Explainable Log Anomaly Detection [6.950497660953971]
LogSemFuseはエビデンス誘導プラグインフレームワークで、既存のバックボーン検出器を元のパイプラインを置き換えることなく拡張する。
我々は、DeepLog、LogAnomaly、LogBERT、NeuralLogをバックボーンとして、HDFS、BGL、LibertyのLogSemFuseを評価する。
論文 参考訳（メタデータ） (2026-07-03T20:50:07Z) - Uncertainty Reasoning with Large Language Models for Explainable Disease Diagnosis [12.157855328093055]
臨床的意思決定には、不完全で不正確で言語的に表現された患者の物語に対する推論が必要である。
本稿では,大規模言語モデルと形式論理を整合させるニューロシンボリック推論フレームワークを提案する。
結果は、最先端のLLMに匹敵する性能を示す。
論文 参考訳（メタデータ） (2026-05-25T08:18:45Z) - MedCausalX: Adaptive Causal Reasoning with Self-Reflection for Trustworthy Medical Vision-Language Models [10.466505116993451]
既存の医療連鎖モデルには因果推論を表現・強制するための明確なメカニズムが欠如している。
MedCausalXは医療用VLMの因果推論チェーンを明示的にモデル化したエンドツーエンドフレームワークである。
我々は,MedCausalXが常に最先端の手法より優れ,診断の整合性は+5.4ポイント向上し,幻覚は10ポイント以上減少し,最上位の空間接地IoUに達することを示す。
論文 参考訳（メタデータ） (2026-03-24T11:28:15Z) - Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。
損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。
視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。
言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
論文 参考訳（メタデータ） (2026-03-20T02:07:10Z) - Toward Guarantees for Clinical Reasoning in Vision Language Models via Formal Verification [12.60121003165514]
ヴィジュアル言語モデル(VLM)は放射線学レポートの起草において有望であるが、しばしば論理的矛盾に悩まされる。
標準的な語彙測度は、臨床パラフレージングを強く罰し、これらの誘因的障害を捉えるのに失敗する。
本稿では,VLMレポートの内部一貫性を決定的に監査するニューロシンボリック検証フレームワークを提案する。
論文 参考訳（メタデータ） (2026-02-27T15:49:59Z) - Uncovering Hidden Correctness in LLM Causal Reasoning via Symbolic Verification [56.51953062869371]
DoVerifier は、因果表現が与えられた因果グラフから導出可能であるかどうかをdo-calculus と probability theory の規則を用いてチェックする記号検証器である。
因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果的因果
論文 参考訳（メタデータ） (2026-01-29T03:22:58Z) - MM-CoT:A Benchmark for Probing Visual Chain-of-Thought Reasoning in Multimodal Models [49.32415342913976]
マルチモーダルモデルにおけるCoT推論の視覚的グラウンドリングと論理的コヒーレンスを探索するための診断ベンチマークであるMM-CoTを紹介する。
MM-CoT上での先進的な視覚言語モデルの評価を行い,最も先進的なシステムでさえも苦戦し,生成頻度と真の推論忠実さの相違が明らかとなった。
論文 参考訳（メタデータ） (2025-12-09T04:13:31Z) - Joint Evaluation of Answer and Reasoning Consistency for Hallucination Detection in Large Reasoning Models [12.270274049887298]
トレースの推論は冗長あるいは論理的に矛盾する可能性があるため、新しい幻覚の源となる。
既存の幻覚検出法は主に回答レベルの不確実性に焦点を当てている。
LRMにおける幻覚検出に適した新しいフレームワークであるRASを提案する。
論文 参考訳（メタデータ） (2025-06-05T09:54:04Z) - JustLogic: A Comprehensive Benchmark for Evaluating Deductive Reasoning in Large Language Models [51.99046112135311]
LLM(Large Language Models)の厳密な評価のための合成推論ベンチマークであるJustLogicを紹介する。
JustLogicは非常に複雑で、多様な言語パターン、語彙、引数構造を生成することができる。
実験の結果, (i) LLMは人体平均値よりも同等かそれ以上に機能するが, 人体天井よりも著しく低下することがわかった。
論文 参考訳（メタデータ） (2025-01-24T15:49:10Z) - Neuro-Symbolic Integration Brings Causal and Reliable Reasoning Proofs [95.07757789781213]
LLMの複雑な推論には2行のアプローチが採用されている。
1行の作業は様々な推論構造を持つLLMを誘導し、構造出力は自然に中間推論ステップと見なすことができる。
他方の行では、LCMのない宣言的解法を用いて推論処理を行い、推論精度は向上するが、解法のブラックボックスの性質により解釈性に欠ける。
具体的には,Prologインタプリタが生成した中間検索ログにアクセスし,人間可読推論に解釈可能であることを示す。
論文 参考訳（メタデータ） (2023-11-16T11:26:21Z) - A Closer Look at the Self-Verification Abilities of Large Language Models in Logical Reasoning [73.77088902676306]
論理的推論の文脈において,大規模言語モデル(LLM)の自己検証能力について詳しく検討する。
本研究の主目的は,既存のLCMが誤った推論手順を正確に識別するのに苦労し,自己検証法の有効性を保証できないことにある。
論文 参考訳（メタデータ） (2023-11-14T07:13:10Z) - Logic-induced Diagnostic Reasoning for Semi-supervised Semantic
Segmentation [85.12429517510311]
LogicDiagは、セマンティックセグメンテーションのためのニューラルネットワークによる半教師付き学習フレームワークである。
私たちの重要な洞察は、記号的知識によって識別される擬似ラベル内の衝突は、強いが一般的に無視される学習信号として機能する、ということです。
本稿では,論理規則の集合として意味論的概念の構造的抽象化を定式化するデータ・ハングリーセグメンテーションシナリオにおけるLogicDiagの実践的応用について紹介する。
論文 参考訳（メタデータ） (2023-08-24T06:50:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。