論文の概要: Reasoning Error from Known Fact: Step-Level Self-Consistency Group Relative Policy Optimization for LLM

• arxiv url: http://arxiv.org/abs/2607.18915v1
• Date: Tue, 21 Jul 2026 09:56:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-22 19:05:05.388016
• Title: Reasoning Error from Known Fact: Step-Level Self-Consistency Group Relative Policy Optimization for LLM
• Title（参考訳）: LLMにおけるステップレベル自己整合性グループ相対的政策最適化
• Abstract要約: 大規模言語モデル(LLM)における幻覚のきめ細かい分析を行う。 推論の痕跡は、特に文脈知覚的Factual Hallucinationsの傾向が強い。 本稿では,ステップレベルの報酬をトレースの推論に割り当てるステップレベルの自己一貫性グループ相対政策最適化(SSC-GRPO)を提案する。
• 参考スコア（独自算出の注目度）: 20.624980796952112
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: With the rapid advancement of large language models (LLMs), modern systems not only possess strong foundational capabilities and extensive knowledge, but can also solve complex problems via long, multi-step reasoning. However, as reasoning traces become longer, LLMs may produce a substantial amount of hallucinated content during the reasoning process, which is often difficult to detect. In this work, we conduct a fine-grained analysis of hallucinations arising in LLM reasoning and find that the reasoning traces are particularly prone to Context-Sensitive Factual Hallucinations: cases where the model actually has the relevant knowledge, yet makes factual errors due to contextual interference during reasoning. To address this issue, we propose Step-level Self-Consistency Group Relative Policy Optimization (SSC-GRPO), which assigns step-level rewards to reasoning traces by computing self-consistency scores of individual steps across multiple rollouts. Compared with prior methods, SSC-GRPO achieves state-of-the-art performance on both mathematical reasoning benchmarks and hallucination leaderboards. Our results offer a new perspective for detecting and mitigating hallucinations in the reasoning process of large language models.
• Abstract（参考訳）: 大規模言語モデル(LLM)の急速な進歩により、現代システムは強力な基礎能力と広範な知識を持つだけでなく、長い多段階の推論によって複雑な問題を解くことができる。 しかし、推理トレースが長くなるにつれて、LSMは推論過程中にかなりの量の幻覚コンテンツを生成する可能性があるため、しばしば検出が困難である。 本研究では,LLM推論に起因する幻覚のきめ細かい分析を行い,モデルが実際に関連する知識を持つ場合の文脈-知覚的現実的幻覚に特に関連性があるが,推論中の文脈的干渉による事実的誤りを生じさせる理由を見出す。 この問題に対処するため、ステップレベルの自己整合性グループ相対政策最適化(SSC-GRPO)を提案し、複数のロールアウトにまたがる個々のステップの自己整合性スコアを計算することにより、トレースの推論にステップレベルの報酬を割り当てる。 従来の手法と比較して、SSC-GRPOは数学的推論ベンチマークと幻覚のリーダーボードの両方で最先端のパフォーマンスを達成する。 本結果は,大規模言語モデルの推論過程における幻覚の検出と緩和のための新たな視点を提供する。

関連論文リスト

• AdapTime: Enabling Adaptive Temporal Reasoning in Large Language Models [65.97075015662318]
  AdapTimeは適応的な時間的推論手法であり、入力コンテキストに基づいて推論ステップを動的に実行する。 最先端のLCMとシームレスに統合され、外部サポートに頼ることなく、時間的推論能力を大幅に向上する。
  論文  参考訳（メタデータ） (2026-04-27T08:34:40Z)
• METER: Evaluating Multi-Level Contextual Causal Reasoning in Large Language Models [61.33372454250959]
  コンテキスト因果推論は、大規模言語モデルにとって重要なが難しい能力である。 既存のベンチマークでは、コンテキスト整合性を保証するか、完全な因果階層をカバーすることができない。 私たちはMETERの先駆者であり、因果はしごの3つのレベルすべてにわたってLSMを体系的にベンチマークしました。
  論文  参考訳（メタデータ） (2026-04-13T14:07:11Z)
• Saliency-Aware Multi-Route Thinking: Revisiting Vision-Language Reasoning [50.62037276161025]
  視覚言語モデル(VLM)は、視覚とテキストのモダリティを共同で活用することを目的としている。 主な障害は、視覚的な入力は通常、生成開始時に1回だけ提供されることである。 EmphSaliency-Aware Principle (SAP) の選択を提案する。
  論文  参考訳（メタデータ） (2026-02-18T18:49:56Z)
• ProgRAG: Hallucination-Resistant Progressive Retrieval and Reasoning over Knowledge Graphs [2.9539912037183362]
  大きな言語モデル(LLM)は強い推論能力を示すが、幻覚と限られた透明性に苦しむ。 本稿では,複雑な質問をサブクエストに分解し,部分的推論経路を拡張するマルチホップ知識グラフ質問応答(KGQA)フレームワークであるProgRAGを提案する。 3つのよく知られたデータセットの実験により、ProgRAGはマルチホップKGQAで既存のベースラインを上回っていることが示された。
  論文  参考訳（メタデータ） (2025-11-13T12:14:36Z)
• CLATTER: Comprehensive Entailment Reasoning for Hallucination Detection [60.98964268961243]
  我々は,系統的かつ包括的な推論プロセスを実行するためのモデルを導くことで,モデルがよりきめ細やかで正確な絞り込み決定を実行できることを提案する。 我々は,(i)クレームの分解,(ii)サブクレームの属性と包含分類,および(iii)集約分類から成る3段階の推論プロセスを定義し,そのような導出推論が実際に幻覚検出の改善をもたらすことを示す。
  論文  参考訳（メタデータ） (2025-06-05T17:02:52Z)
• MIRAGE: Assessing Hallucination in Multimodal Reasoning Chains of MLLM [58.2298313720146]
  マルチモーダル幻覚は多源性であり、様々な原因から生じる。 既存のベンチマークでは、知覚誘発幻覚と推論誘発幻覚を適切に区別することができない。
  論文  参考訳（メタデータ） (2025-05-30T05:54:36Z)
• Rethinking the Unsolvable: When In-Context Search Meets Test-Time Scaling [1.219841051166348]
  本稿では,テキスト内検索とテスト時間スケーリングの併用の可能性について検討する。 内部スケーリングを付加したLLMに高度なコンテキスト内探索プロンプトを付加することにより、変換性能のブレークスルーを実現することができる。
  論文  参考訳（メタデータ） (2025-05-28T12:28:18Z)
• Reasoning LLMs are Wandering Solution Explorers [5.3795217858078805]
  本稿では、系統的な問題解決を構成するものを定式化し、系統的な探検家ではなく、移動者である理由を明らかにする共通障害モードを特定する。 以上の結果から,現在のモデルの性能は,複雑性が増大するにつれて著しく低下するが,単純なタスクに適していると考えられることが示唆された。
  論文  参考訳（メタデータ） (2025-05-26T17:59:53Z)
• Failure Modes of LLMs for Causal Reasoning on Narratives [51.19592551510628]
  世界の知識と論理的推論の相互作用について検討する。 最先端の大規模言語モデル(LLM)は、しばしば表面的な一般化に依存している。 タスクの単純な再構成により、より堅牢な推論行動が引き起こされることを示す。
  論文  参考訳（メタデータ） (2024-10-31T12:48:58Z)
• Concise and Organized Perception Facilitates Reasoning in Large Language Models [31.238220405009617]
  推論に取り組むために大規模な言語モデル(LLM)をエクスプロイトすることは、注目を集めている。 複雑な論理的問題において満足な結果を達成することは依然として非常に困難であり、コンテキスト内の多くの前提とマルチホップ推論が特徴である。 本研究は,まず情報フローの観点からそのメカニズムを考察し,不規則な内容や無関係な内容を扱う際に,人間のような認知バイアスに類似した困難に直面することを明らかにする。
  論文  参考訳（メタデータ） (2023-10-05T04:47:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。