論文の概要: Hallucination Across the Reasoning Lifecycle: Interface Visibility, Causal Evidence, and Release Control in Large Reasoning Models
- arxiv url: http://arxiv.org/abs/2610.05472v1
- Date: Sun, 04 Oct 2026 19:24:31 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-10 13:35:50.711585
- Title: Hallucination Across the Reasoning Lifecycle: Interface Visibility, Causal Evidence, and Release Control in Large Reasoning Models
- Title（参考訳）: 推論ライフサイクル全体での幻覚:大規模推論モデルにおけるインタフェース可視性、因果的証拠、放出制御
- Abstract要約: 本調査では,312件の論文と,3つの質問に関するテキストベースの推論幻覚に関する第一部報告を合成する。
UIPCAレコードなし前提(U)、無効推論(I)、依存的再利用(P)、可視的応答-トレース一貫性(C)、行動-政治失敗(A)
この合成は、診断を検証、修復、選択的なリリース、メモリ、ツール、トレーニングフィードバック全体にわたる永続的な状態制御に結びつける。
- 参考スコア（独自算出の注目度）: 44.67758186056767
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Reasoning errors can propagate into later decisions and memory. This survey synthesizes 312 papers and first-party reports on text-based reasoning hallucinations around three questions: what evidence is observable, what study designs establish, and which corrective actions the evidence supports. UIPCA records unsupported premises (U), invalid inferences (I), dependent reuse (P), visible answer-trace consistency (C), and action-policy failures (A). Across 58 reviewed sources, no comparison establishes that a specified intervention improves reasoning while reducing factual reliability under matched conditions. The synthesis connects diagnosis to verification, repair, selective release, and persistent-state control across memory, tools, and training feedback.
- Abstract（参考訳）: 推論エラーは、後の決定と記憶に伝播する可能性がある。
この調査は、312の論文と第1の報告を合成し、どの証拠が観察可能か、どの研究デザインが確立するか、その証拠が支持する是正行動かという3つの質問に関するテキストベースの推論幻覚に関する第1の報告をまとめた。
UIPCAレコードなしの前提(U)、無効な推論(I)、依存的再利用(P)、可視的応答-トレース一貫性(C)、アクション-ポリティクス障害(A)。
58以上の文献では、特定の介入が推論を改善しつつ、一致した条件下での事実的信頼性を低下させるという比較は行われていない。
この合成は、診断を検証、修復、選択的なリリース、メモリ、ツール、トレーニングフィードバック全体にわたる永続的な状態制御に結びつける。
関連論文リスト
- Claim-Gated Source-Risk Auditing for Generative Search [5.329247092746233]
生成検索は、サポートされたパスを引用するが、その解釈を変えるソース関係を省略することができる。
クェリソース回答のクレームゲート監査を指定する。
我々は、セマンティックな妥当性を確立するために、独立したアノテーション、保留評価、およびペアのユーティリティテストを定義する。
論文 参考訳（メタデータ） (2026-09-24T07:22:14Z) - Complex Problem Solving in Large Language Models: A Statistical Control Survey and Diagnostic Framework [52.886947585847594]
大規模言語モデル(LLM)による複雑な問題解決は、しばしばより強い推論やより長い生成の問題としてフレーム化される。
しかし、早期のエラー増幅、迅速な脆さ、誤ったコミットメントを修正する失敗を説明するのは難しい。
本調査はCPSを潜在解状態上の逐次推定・決定問題と解釈する。
論文 参考訳（メタデータ） (2026-09-17T18:28:45Z) - EVAR: Evidence-Validated Hypothesis Admission for Budget-Aware Narrative Reasoning [6.590648135605556]
EVARは、予算を考慮した物語推論のためのエビデンス検証仮説解釈フレームワークである。
EVARは、制御可能な推論コストを維持しながら、タスク性能とエビデンス忠実性の両方を改善していることを示す。
論文 参考訳（メタデータ） (2026-08-30T15:07:27Z) - When benchmark inferences do not compose: Projectibility in AI evaluation [0.0]
AIベンチマークの結果が1ステップで連続的なクレームに達することはめったにない。
評価者はそれをさらなるケースに一般化し、能力の証拠として解釈し、新しいタスクに外挿し、他のシステムやサイトへ輸送する。
保証リンクは保証チェーンを自動的に作らない。
論文 参考訳（メタデータ） (2026-07-28T18:07:04Z) - HiEviDR-Bench: A Benchmark for Hierarchical Evidence Aggregation in Deep Research [52.87128503345243]
我々は,Deep Researchにおける階層的エビデンス・アグリゲーションを評価するためのベンチマークであるHiEviDR-Benchを紹介する。
HiEviDR-Benchは、エビデンスの選択、クロスソースリンク、アグリゲーションをキャプチャする明示的なエビデンスグラフを持つ各インスタンスを表す。
報告品質,エビデンストレーサビリティ,引用精度,クレーム検証,回答正当性という5次元のトレーサビリティ指向評価フレームワークを開発した。
論文 参考訳（メタデータ） (2026-07-27T23:50:46Z) - Task-Conditional Faithfulness Auditing of Multimodal LLMs for Grid Diagnosis [5.427346259545067]
マルチモーダル大言語モデル(LLM)は、トポロジー、測定、インシデントテキストを組み合わせてグリッド診断を行うことができる。
本稿では,タスク条件の忠実度監査を行うための一般的な枠組みを提案する。
論文 参考訳（メタデータ） (2026-07-27T15:17:15Z) - Causality is Key for Interpretability Claims to Generalise [35.833847356014154]
大規模言語モデル(LLM)の解釈可能性の研究は、モデル行動に関する重要な洞察をもたらした。
繰り返し発生する落とし穴: 一般化しない発見と、証拠を突破する因果解釈。
パールの因果的階層は、解釈可能性の研究が正当化できることを明確にする。
論文 参考訳（メタデータ） (2026-02-18T18:45:04Z) - CLATTER: Comprehensive Entailment Reasoning for Hallucination Detection [60.98964268961243]
我々は,系統的かつ包括的な推論プロセスを実行するためのモデルを導くことで,モデルがよりきめ細やかで正確な絞り込み決定を実行できることを提案する。
我々は,(i)クレームの分解,(ii)サブクレームの属性と包含分類,および(iii)集約分類から成る3段階の推論プロセスを定義し,そのような導出推論が実際に幻覚検出の改善をもたらすことを示す。
論文 参考訳（メタデータ） (2025-06-05T17:02:52Z) - Data Fusion for Partial Identification of Causal Effects [62.56890808004615]
本稿では,研究者が重要な疑問に答えられるような,新しい部分的識別フレームワークを提案する。
因果効果は肯定的か否定的か?
本研究の枠組みをSTARプロジェクトに適用し,第3級の標準試験性能に対する教室規模の影響について検討する。
論文 参考訳（メタデータ） (2025-05-30T07:13:01Z) - Fostering Appropriate Reliance on Large Language Models: The Role of Explanations, Sources, and Inconsistencies [66.30619782227173]
大規模言語モデル(LLMs)は、流動的で説得力のある誤った応答を生成することができる。
ユーザの信頼を形作るLCM応答のいくつかの特徴を同定する。
説明は正しい応答と誤応答の両方に依存することが判明した。
情報源が提供された場合や説明が矛盾している場合の誤った応答への依存度は低い。
論文 参考訳（メタデータ） (2025-02-12T16:35:41Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。