論文の概要: The Cognitive Circuit Breaker: A Systems Engineering Framework for Intrinsic AI Reliability

• arxiv url: http://arxiv.org/abs/2604.13417v1
• Date: Wed, 15 Apr 2026 02:34:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-16 20:38:32.357863
• Title: The Cognitive Circuit Breaker: A Systems Engineering Framework for Intrinsic AI Reliability
• Title（参考訳）: 認知回路ブレーカ - 固有のAI信頼性のためのシステムエンジニアリングフレームワーク
• Authors: Jonathan Pan,
• Abstract要約: 大規模言語モデル(LLM)は、ミッションクリティカルなソフトウェアシステムにますます多くデプロイされている。 本稿では,遅延のオーバーヘッドを最小限に抑えた本質的な信頼性監視を実現する,新しいシステムエンジニアリングフレームワークであるCognitive Circuit Breakerを提案する。 本稿では,認知的不協和の統計的に有意な検出,アーキテクチャに依存したout-of-Distribution(OOD)の一般化,およびこのフレームワークがアクティブな推論パイプラインに無視可能な計算オーバーヘッドを付加することを示す。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: As Large Language Models (LLMs) are increasingly deployed in mission-critical software systems, detecting hallucinations and ``faked truthfulness'' has become a paramount engineering challenge. Current reliability architectures rely heavily on post-generation, black-box mechanisms, such as Retrieval-Augmented Generation (RAG) cross-checking or LLM-as-a-judge evaluators. These extrinsic methods introduce unacceptable latency, high computational overhead, and reliance on secondary external API calls, frequently violating standard software engineering Service Level Agreements (SLAs). In this paper, we propose the Cognitive Circuit Breaker, a novel systems engineering framework that provides intrinsic reliability monitoring with minimal latency overhead. By extracting hidden states during a model's forward pass, we calculate the ``Cognitive Dissonance Delta'' -- the mathematical gap between an LLM's outward semantic confidence (softmax probabilities) and its internal latent certainty (derived via linear probes). We demonstrate statistically significant detection of cognitive dissonance, highlight architecture-dependent Out-of-Distribution (OOD) generalization, and show that this framework adds negligible computational overhead to the active inference pipeline.
• Abstract（参考訳）: 大きな言語モデル(LLM)がミッションクリティカルなソフトウェアシステムにますます導入されるにつれて、幻覚や‘偽りの真実’を検出することが、エンジニアリングの最大の課題となっている。 現在の信頼性アーキテクチャは、Retrieval-Augmented Generation (RAG) クロスチェックやLSM-as-a-judge評価器など、ポストジェネレーションのブラックボックス機構に大きく依存している。 これらの過渡的手法は、許容できないレイテンシ、高い計算オーバーヘッド、二次的な外部API呼び出しへの依存、標準ソフトウェアエンジニアリングのSLA(Service Level Agreements)に頻繁に違反する。 本稿では,遅延オーバーヘッドを最小限に抑えつつ,本質的な信頼性監視を実現するシステムエンジニアリングフレームワークであるCognitive Circuit Breakerを提案する。 モデルの前方通過中に隠された状態を抽出することにより、LLMの外部意味的信頼度(ソフトマックス確率)と内部潜在確実性(線形プローブから派生した)との数学的ギャップである 'Cognitive Dissonance Delta''' を計算する。 本稿では,認知的不協和の統計的に有意な検出,アーキテクチャに依存したout-of-Distribution(OOD)の一般化,およびこのフレームワークがアクティブな推論パイプラインに無視可能な計算オーバーヘッドを付加することを示す。

関連論文リスト

• Automated Self-Testing as a Quality Gate: Evidence-Driven Release Management for LLM Applications [51.56484100374058]
  我々は,エビデンスに基づくリリース決定を伴う品質ゲートを導入する自動自己テストフレームワークを提案する。 内部展開型多エージェント対話型AIシステムの縦型ケーススタディにより,本フレームワークの評価を行った。
  論文  参考訳（メタデータ） (2026-03-13T20:44:15Z)
• Why Does the LLM Stop Computing: An Empirical Study of User-Reported Failures in Open-Source LLMs [50.075587392477935]
  オープンソースのDeepSeek、Llama、Qwenのエコシステムから、705の現実世界の失敗に関する大規模な実証的研究を行った。 ホワイトボックスオーケストレーションは、モデルアルゴリズムの欠陥からデプロイメントスタックのシステム的脆弱性へと、信頼性のボトルネックを移動させます。
  論文  参考訳（メタデータ） (2026-01-20T06:42:56Z)
• Kernel-Based Learning of Safety Barriers [0.9367224590861915]
  安全クリティカルなアプリケーションにおけるAIアルゴリズムの迅速な統合は、厳格な安全基準を満たす能力に対する懸念を高めている。 従来の安全検証ツールでは、AI駆動システムのブラックボックスの性質に苦戦している。 離散時間力学を用いたブラックボックスシステムの安全性検証と合成のためのデータ駆動方式を提案する。
  論文  参考訳（メタデータ） (2026-01-17T10:42:35Z)
• AI-NativeBench: An Open-Source White-Box Agentic Benchmark Suite for AI-Native Systems [52.65695508605237]
  我々は、Model Context Protocol(MCP)とAgent-to-Agent(A2A)標準に基づいて、アプリケーション中心でホワイトボックスのAI-NativeベンチマークスイートであるAI-NativeBenchを紹介する。 エージェントスパンを分散トレース内の第一級市民として扱うことにより,本手法は,単純な機能以上の工学的特性の粒度解析を可能にする。 この研究は、モデル能力の測定から信頼性の高いAI-Nativeシステムへの移行を導く最初の体系的な証拠を提供する。
  論文  参考訳（メタデータ） (2026-01-14T11:32:07Z)
• LUCID: Learning-Enabled Uncertainty-Aware Certification of Stochastic Dynamical Systems [0.8574682463936006]
  従来の形式的検証ツールは、不透明なブラックボックスAIコンポーネントと複雑なダイナミクスの両方を組み込んだシステムに直面したときに不足する。 我々は,ブラックボックス埋め込み動的システムの安全性を証明するための検証エンジンであるLUCIDを紹介する。 LUCIDは、このようなシステムの安全性を定量化する最初のツールである。
  論文  参考訳（メタデータ） (2025-12-12T17:46:50Z)
• Enhancing LLM Reliability via Explicit Knowledge Boundary Modeling [41.19330514054401]
  大規模言語モデル(LLM)は、不一致の自己認識に起因する幻覚の傾向にある。 本稿では,高速かつ低速な推論システムを統合し,信頼性とユーザビリティを調和させる明示的知識境界モデリングフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-03-04T03:16:02Z)
• ParamMute: Suppressing Knowledge-Critical FFNs for Faithful Retrieval-Augmented Generation [91.20492150248106]
  本研究では,不誠実な生成の背後にある内部メカニズムを解明し,不均等に活性化される中深度フィードフォワードネットワーク(FFN)のサブセットを同定する。 本研究では,不信感関連FFNの活性化を抑制することにより,文脈的忠実度を向上させるフレームワークであるParametric Knowledge Mutingを提案する。 実験結果から,ParamMuteはCoFaithfulQAと確立されたConFiQAベンチマークの両方の信頼度を大幅に向上し,パラメトリックメモリへの依存度を大幅に低下させることが示された。
  論文  参考訳（メタデータ） (2025-02-21T15:50:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。