論文の概要: The Missing Knowledge Layer in AI: A Framework for Stable Human-AI Reasoning

• arxiv url: http://arxiv.org/abs/2604.14881v1
• Date: Thu, 16 Apr 2026 11:19:00 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-17 21:29:31.862523
• Title: The Missing Knowledge Layer in AI: A Framework for Stable Human-AI Reasoning
• Title（参考訳）: AIの不足する知識層 - 安定したヒューマンAI推論のためのフレームワーク
• Authors: Rikard Rosenbacke, Carl Rosenbacke, Victor Rosenbacke, Martin McKee,
• Abstract要約: 人間も同様の弱点を示し、しばしば信頼性について流線型を誤っている。 本論文は,人間-AI推論の安定化に関する5つの研究シリーズの中で,初めてのものである。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Large language models are increasingly integrated into decision-making in areas such as healthcare, law, finance, engineering, and government. Yet they share a critical limitation: they produce fluent outputs even when their internal reasoning has drifted. A confident answer can conceal uncertainty, speculation, or inconsistency, and small changes in phrasing can lead to different conclusions. This makes LLMs useful assistants but unreliable partners in high-stakes contexts. Humans exhibit a similar weakness, often mistaking fluency for reliability. When a model responds smoothly, users tend to trust it, even when both model and user are drifting together. This paper is the first in a five-paper research series on stabilising human-AI reasoning. The series proposes a two-layer approach: Parts II-IV introduce human-side mechanisms such as uncertainty cues, conflict surfacing, and auditable reasoning traces, while Part V develops a model-side Epistemic Control Loop (ECL) that detects instability and modulates generation accordingly. Together, these layers form a missing operational substrate for governance by increasing signal-to-noise at the point of use. Stabilising interaction makes uncertainty and drift visible before enforcement is applied, enabling more precise capability governance. This aligns with emerging compliance expectations, including the EU AI Act and ISO/IEC 42001, by making reasoning processes traceable under real conditions of use. The central claim is that fluency is not reliability. Without structures that stabilise both human and model reasoning, AI cannot be trusted or governed where it matters most.
• Abstract（参考訳）: 大規模言語モデルは、医療、法律、金融、工学、政府などの分野で意思決定にますます統合されている。 しかし、彼らは限界を共有しており、内部の推論がドリフトしたとしても、流動的なアウトプットを生成する。 自信ある答えは不確実性、憶測、矛盾を隠蔽し、言い換えの小さな変化は異なる結論をもたらす。 これにより、LLMは有用なアシスタントとなるが、高度なコンテキストにおいて信頼性の低いパートナーとなる。 人間も同様の弱点を示し、しばしば信頼性について流線型を誤っている。 モデルがスムーズに応答すると、モデルとユーザの両方が一緒にドリフトしている場合でも、ユーザはそれを信頼する傾向があります。 本論文は,人間-AI推論の安定化に関する5つの研究シリーズの中で,初めてのものである。 パートII-IVは、不確実性キュー、コンフリクトサーフェイス、監査可能な推論トレースなどの人間側メカニズムを導入し、パート5は不安定性を検出し、それに応じて生成を調整するモデル側エピステミック制御ループ(ECL)を開発する。 これらのレイヤは共に、使用時に信号とノイズを増大させることで、ガバナンスのための運用上の基盤を欠いている。 インタラクションの安定化は、施行前に不確実性とドリフトを可視化し、より正確な能力管理を可能にする。 これはEU AI Act や ISO/IEC 42001 など,実際の使用条件下での推論プロセスをトレース可能にすることで,新たなコンプライアンスの期待と一致している。 中心的な主張は、流布は信頼性ではないということだ。 人間とモデルの推論の両方を安定化させる構造がなければ、AIは最も重要な場所を信頼または支配することはできない。

関連論文リスト

• AI Knows What's Wrong But Cannot Fix It: Helicoid Dynamics in Frontier LLMs Under High-Stakes Decisions [51.56484100374058]
  ヘリコイド力学(Helicoid dynamics)は、その2番目のドメインの特定の障害状態に与えられる名前である。 システムは巧みに働き、エラーに陥り、何がうまくいかなかったかを正確に名付け、さらに高度な技術で同じパターンを再現する。 この先進的な事例シリーズは、7つの主要なシステムにまたがる体制を文書化する。
  論文  参考訳（メタデータ） (2026-03-12T05:25:49Z)
• Stability of AI Governance Systems: A Coupled Dynamics Model of Public Trust and Social Disruptions [0.49157446832511503]
  本稿では,離散時間ホークスプロセスを統合する厳密な結合力学モデルを提案する。 信頼の低下はその後の論争の激しさを増幅する。 数値実験により、エコーチャンバーネットワーク構造とメディア増幅がガバナンスの失敗を加速する方法が明らかにされた。
  論文  参考訳（メタデータ） (2026-03-10T12:24:30Z)
• When Visibility Outpaces Verification: Delayed Verification and Narrative Lock-in in Agentic AI Discourse [2.5424331328233207]
  エージェントAIシステム - 独立した計画と実行が可能な自律的なエンティティ。 本稿ではエージェントAIのオンライン議論における社会的証明と検証タイミングの相互作用について検討する。
  論文  参考訳（メタデータ） (2026-02-11T22:30:12Z)
• Making LLMs Reliable When It Matters Most: A Five-Layer Architecture for High-Stakes Decisions [51.56484100374058]
  現在の大規模言語モデル(LLM)は、実行前にアウトプットをチェックできるが、不確実な結果を伴う高い戦略決定には信頼性が低い検証可能な領域で優れている。 このギャップは、人間と人工知能(AI)システムの相互認知バイアスによって引き起こされ、そのセクターにおける評価と投資の持続可能性の保証を脅かす。 本報告では、7つのフロンティアグレードLDMと3つの市場向けベンチャーヴィグネットの時間的圧力下での系統的質的評価から生まれた枠組みについて述べる。
  論文  参考訳（メタデータ） (2025-11-10T22:24:21Z)
• The Lock-In Phase Hypothesis: Identity Consolidation as a Precursor to AGI [0.0]
  大規模言語モデル (LLM) は広くオープンであり、非常に安定している。 人間の発達と類似して、人工知能(AGI)の進歩にはロックインフェーズが伴うという仮説を立てる。 我々は、このフェーズを形式化し、学習力学における既知の現象にリンクし、オンセット検出のための運用メトリクスを提案する。 この結果から,小型モデルにおける性能トレードオフから,中規模モデルにおけるコストフリー導入,大規模モデルにおける過渡的不安定化に至るまで,さまざまな結果が得られた。
  論文  参考訳（メタデータ） (2025-10-23T04:20:10Z)
• Can Large Language Models Express Uncertainty Like Human? [71.27418419522884]
  我々は,人間に注釈を付けた信頼スコアを持つヘッジ式の最初の多種多様な大規模データセットをリリースする。 現代大言語モデルにまたがる言語信頼に関する最初の体系的研究を行う。
  論文  参考訳（メタデータ） (2025-09-29T02:34:30Z)
• Rationales Are Not Silver Bullets: Measuring the Impact of Rationales on Model Performance and Reliability [70.4107059502882]
  有理数拡張による学習言語モデルは、多くの既存の作品において有益であることが示されている。 モデル性能に対する合理的性の影響を徹底的に調査するため、包括的調査を行う。
  論文  参考訳（メタデータ） (2025-05-30T02:39:37Z)
• The Traitors: Deception and Trust in Multi-Agent Language Model Simulations [0.0]
  ソーシャル・デダクション・ゲームに触発されたマルチエージェント・シミュレーション・フレームワークであるThe Traitorsを紹介した。 我々は,詐欺の成功,信頼ダイナミクス,集団推論品質を計測する評価指標のスイートを開発する。 DeepSeek-V3, GPT-4o-mini, GPT-4o(モデル毎に10回の走行)による実験では, 顕著な非対称性が示された。
  論文  参考訳（メタデータ） (2025-05-19T10:01:35Z)
• How Far Are LLMs from Believable AI? A Benchmark for Evaluating the Believability of Human Behavior Simulation [46.42384207122049]
  我々は,人間の振る舞いをシミュレートする際の大規模言語モデル (LLM) の信頼性を評価するために SimulateBench を設計する。 SimulateBenchに基づいて、文字をシミュレートする際、広く使われている10個のLLMの性能を評価する。
  論文  参考訳（メタデータ） (2023-12-28T16:51:11Z)
• Formalizing Trust in Artificial Intelligence: Prerequisites, Causes and Goals of Human Trust in AI [55.4046755826066]
  我々は、社会学の対人信頼(すなわち、人間の信頼)に着想を得た信頼のモデルについて議論する。 ユーザとAIの間の信頼は、暗黙的あるいは明示的な契約が保持する信頼である。 我々は、信頼できるAIの設計方法、信頼が浮かび上がったかどうか、保証されているかどうかを評価する方法について論じる。
  論文  参考訳（メタデータ） (2020-10-15T03:07:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。