論文の概要: Coherent Without Grounding, Grounded Without Success: Observability and Epistemic Failure

• arxiv url: http://arxiv.org/abs/2603.28371v1
• Date: Mon, 30 Mar 2026 12:38:42 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-31 23:18:45.394451
• Title: Coherent Without Grounding, Grounded Without Success: Observability and Epistemic Failure
• Title（参考訳）: グラウンディングのないコヒーレント、成功しないグラウンドド:観察可能性とてんかんの失敗
• Authors: Camilo Chacón Sartori,
• Abstract要約: 私は、人工エージェントを評価するには、コヒーレンス、グラウンド、そして説明とアクションをリンクする適切な関係という三部構成のフレームワークが必要であると論じます。 私は、様々な観測可能性の下で、先行、信号、およびドメイン知識がどのように相互作用するかのモデルである、てんかん三角法を開発します。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: When an agent can articulate why something works, we typically take this as evidence of genuine understanding. This presupposes that effective action and correct explanation covary, and that coherent explanation reliably signals both. I argue that this assumption fails for contemporary Large Language Models (LLMs). I introduce what I call the Bidirectional Coherence Paradox: competence and grounding not only dissociate but invert across epistemic conditions. In low-observability domains, LLMs often act successfully while misidentifying the mechanisms that produce their success. In high-observability domains, they frequently generate explanations that accurately track observable causal structure yet fail to translate those diagnoses into effective intervention. In both cases, explanatory coherence remains intact, obscuring the underlying dissociation. Drawing on experiments in compiler optimization and hyperparameter tuning, I develop the Epistemic Triangle, a model of how priors, signals, and domain knowledge interact under varying observability. The results suggest that neither behavioral success nor explanatory accuracy alone suffices for attributing understanding. I argue that evaluating artificial epistemic agents requires a tripartite framework -- coherence, grounding, and a proper basing relation linking explanation to action. The systematic separation of knowing-that and knowing-how in LLMs thus challenges assumptions inherited from both epistemology and current AI evaluation practice.
• Abstract（参考訳）: エージェントが何かが機能する理由を記述できる場合、私たちはこれを真の理解の証拠とみなすのが普通です。 このことは、効果的な行動と正しい説明共変を前提としており、一貫性のある説明は両方を確実に合図する。 この仮定は、現代のLarge Language Models (LLMs) には当てはまらないと思います。 私は、二方向性コヒーレンスパラドックス(Bidirectional Coherence Paradox)と呼ぶものを紹介します。 低可観測性領域では、LSMは成功をもたらすメカニズムを誤識別しながらうまく行動することが多い。 高可観測性ドメインでは、観測可能な因果構造を正確に追跡する説明を頻繁に生成するが、これらの診断を効果的な介入に変換することができない。 どちらの場合も、説明的一貫性はそのままであり、根底にある解離を無視する。 コンパイラ最適化とハイパーパラメータチューニングの実験に基づいて,前兆,信号,ドメイン知識が様々な可観測性の下でどのように相互作用するかのモデルであるEpstemic Triangleを開発した。 その結果,行動的成功や説明的正確性だけでは理解に寄与しない可能性が示唆された。 人工てんかん薬の評価には、コヒーレンス、接地、そして行動の説明をリンクする適切な接地関係という三部構成の枠組みが必要であると私は主張する。 したがって、LLMにおけるノウハウとノウハウの体系的な分離は、認識論と現在のAI評価の両方から受け継がれた仮定に挑戦する。

関連論文リスト

• Anatomy of a Lie: A Multi-Stage Diagnostic Framework for Tracing Hallucinations in Vision-Language Models [62.932580559941414]
  VLM(Vision-Language Models)は、しばしば「ハロシン化(hallucinate)」する。 本稿では,静的な出力誤差からモデル計算認知の動的病理へ再キャストし,幻覚を診断するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-03-16T17:20:38Z)
• AI Knows What's Wrong But Cannot Fix It: Helicoid Dynamics in Frontier LLMs Under High-Stakes Decisions [51.56484100374058]
  ヘリコイド力学(Helicoid dynamics)は、その2番目のドメインの特定の障害状態に与えられる名前である。 システムは巧みに働き、エラーに陥り、何がうまくいかなかったかを正確に名付け、さらに高度な技術で同じパターンを再現する。 この先進的な事例シリーズは、7つの主要なシステムにまたがる体制を文書化する。
  論文  参考訳（メタデータ） (2026-03-12T05:25:49Z)
• Beyond Hallucinations: The Illusion of Understanding in Large Language Models [0.0]
  大規模言語モデル(LLM)は、人間のコミュニケーションや意思決定に深く浸透している。 彼らはあいまいさ、偏見、言語自体に固有の真理への直接アクセスの欠如を継承する。 本稿は,LLMがシステム1認知を大規模に運用する,高速,連想的,説得的だが,反射やファルシフィケーションは行わない,と論じる。
  論文  参考訳（メタデータ） (2025-10-16T13:19:44Z)
• Hallucination Detection via Internal States and Structured Reasoning Consistency in Large Language Models [7.18947815679122]
  内部状態探索と整合検証は、大きな言語モデルにおける幻覚を検出するために用いられる。 両手法のギャップを埋める統一的なフレームワークを開発する。 私たちのフレームワークは一貫して、強力なベースラインをはるかに上回ります。
  論文  参考訳（メタデータ） (2025-10-13T15:31:21Z)
• Distributional Semantics Tracing: A Framework for Explaining Hallucinations in Large Language Models [4.946483489399819]
  大規模言語モデル(LLM)は、事実的に誤った文を生成する幻覚の傾向にある。 この研究は、3つの主要な貢献を通じて、この障害モードの本質的、アーキテクチャ的起源について調査する。
  論文  参考訳（メタデータ） (2025-10-07T16:40:31Z)
• Generalization or Hallucination? Understanding Out-of-Context Reasoning in Transformers [80.70134000599391]
  我々は、両方の行動は、アウト・オブ・コンテクスト推論(OCR)として知られる単一のメカニズムに由来すると論じる。 OCRは、関連する概念が因果関係であるかによって、一般化と幻覚の両方を駆動する。 我々の研究は、OCR現象を理解するための理論的基盤を提供し、知識注入から望ましくない行動を分析し緩和するための新しいレンズを提供する。
  論文  参考訳（メタデータ） (2025-06-12T16:50:45Z)
• Failure Modes of LLMs for Causal Reasoning on Narratives [51.19592551510628]
  世界の知識と論理的推論の相互作用について検討する。 最先端の大規模言語モデル(LLM)は、しばしば表面的な一般化に依存している。 タスクの単純な再構成により、より堅牢な推論行動が引き起こされることを示す。
  論文  参考訳（メタデータ） (2024-10-31T12:48:58Z)
• A Semantic Approach to Decidability in Epistemic Planning (Extended Version) [72.77805489645604]
  我々は決定可能性を達成するために新しい意味論的アプローチを用いる。 具体的には、知識の論理S5$_n$と(知識)可換性と呼ばれる相互作用公理を拡大する。 我々は,本フレームワークが,独立した知識である共通知識の有限的非固定点的特徴を認めていることを証明した。
  論文  参考訳（メタデータ） (2023-07-28T11:26:26Z)
• Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
  観測と実験の任意の組み合わせからネスト反事実の同定について検討した。 具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
  論文  参考訳（メタデータ） (2021-07-07T12:51:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。