論文の概要: Neuro-Symbolic Verification of LLM Outputs for Data-Sensitive Domains (extended preprint)

• arxiv url: http://arxiv.org/abs/2605.26942v1
• Date: Tue, 26 May 2026 12:32:17 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-27 17:51:42.088435
• Title: Neuro-Symbolic Verification of LLM Outputs for Data-Sensitive Domains (extended preprint)
• Title（参考訳）: データ高感度領域に対するLLM出力の神経・筋肉学的検証(拡張プレプリント)
• Authors: Paul Sigloch, Christoph Benzmüller,
• Abstract要約: 本稿では,形式的記号法とニューラルセマンティック解析を組み合わせたハイブリッド検証アーキテクチャを提案する。 出力検証のために、埋め込みに基づく意味的類似性はコンテキスト幻覚を検出する。 評価の結果, 構造体では83%, 意味形成では72%以上の幻覚検出率を示した。
• 参考スコア（独自算出の注目度）: 0.08594140167290099
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: LLMs deployed in high-stakes domains face fundamental reliability challenges: hallucinations, inconsistencies, and privacy vulnerabilities introduce unacceptable risks where errors carry legal, financial, or safety consequences. This paper presents a hybrid verification architecture combining formal symbolic methods with neural semantic analysis to provide complementary guarantees for LLM-generated content. This architecture employs logical reasoning for input verification, leveraging completeness properties to provide decidable guarantees on structured requirements. For output validation, embedding-based semantic similarity detects contextual hallucinations where formal methods lack expressiveness. This separation is realized in a parallel, actor-based pipeline, addressing limitations of prompt-based self-verification approaches, which inherit the distributional biases that produce hallucinations. The proposed architecture and type-aware verification method are validated with HAIMEDA, a real-world medical device damage assessment reporting system developed through Action Design Research. Evaluation shows hallucination detection rates of over 83% for structured entities and 72% for semantic fabrications, with a 30% reduction in report creation time, demonstrating that neuro-symbolic architectures can provide principled safeguards for LLM deployment in data-sensitive domains.
• Abstract（参考訳）: 幻覚、不整合、プライバシの脆弱性は、エラーが法的、財務的、安全上の結果をもたらす許容できないリスクをもたらす。 本稿では,形式的記号法とニューラルセマンティック分析を組み合わせたハイブリッド検証アーキテクチャを提案する。 このアーキテクチャでは、入力検証に論理的推論を採用し、完全性特性を活用して、構造化された要求に対する決定可能な保証を提供する。 出力検証において、埋め込みに基づく意味的類似性は、形式的手法が表現力に欠ける文脈的幻覚を検出する。 この分離はアクターベースの並列パイプラインで実現され、幻覚を生み出す分布バイアスを継承するプロンプトベースの自己検証アプローチの制限に対処する。 提案手法は,Action Design Research を通じて開発された実世界の医療機器被害評価システムである HAIMEDA を用いて検証を行った。 評価の結果,構造化エンティティの幻覚検出率は83%以上,セマンティックファブリケーションの72%,レポート作成時間の30%削減,ニューロシンボリックアーキテクチャーがデータ感受性ドメインにおけるLCM展開の原則的保護を提供することを示した。

関連論文リスト

• Neural Uncertainty Principle: A Unified View of Adversarial Fragility and LLM Hallucination [60.197429875410286]
  大規模言語モデルにおける視覚と幻覚の対立的脆弱性は、伝統的に別の問題と見なされている。 損失誘起状態下でのニューラル不確実性原理(NUP)の定式化により, ほぼバウンド状態においては, さらなる圧縮は感度分散の増大を伴うことが判明した。 視覚では、高度に結合したコンポーネントをマスキングすることで、コストのかかる敵の訓練なしに堅牢性を向上させる。 言語では、任意の応答トークンを生成する前に、同じプレフィルステージプローブが幻覚リスクを検出する。
  論文  参考訳（メタデータ） (2026-03-20T02:07:10Z)
• A Hybrid Knowledge-Grounded Framework for Safety and Traceability in Prescription Verification [7.782616091483888]
  PharmGraph-Auditorは,安全かつエビデンスを前提とした処方薬監査のための新しいシステムである。 我々のシステムの中核は、仮想知識グラフパラダイムの下で実装された、信頼できるハイブリッド医薬品知識ベース(HPKB)である。 監査のために,信頼性の低いジェネレータから透明な推論エンジンにLLMを変換する新しい推論パラダイムであるKBグラウンド・オブ・バリデーション(CoV)を導入する。
  論文  参考訳（メタデータ） (2026-03-11T15:35:55Z)
• Dependable Artificial Intelligence with Reliability and Security (DAIReS): A Unified Syndrome Decoding Approach for Hallucination and Backdoor Trigger Detection [0.8594140167290097]
  本稿では,学習システムにおけるセキュリティ違反と信頼性違反の両方を検出するために,シンドローム復号に基づく新しい統一手法を提案する。 我々はNLP文埋め込み空間にシンドロームデコードアプローチを適用し、MLトレーニングデータセット内の有毒および無毒サンプルの識別を可能にする。
  論文  参考訳（メタデータ） (2026-02-06T09:36:03Z)
• Hallucination Detection and Mitigation in Large Language Models [0.0]
  LLM(Large Language Models)とLRM(Large Reasoning Models)は、金融や法律のような高額な領域に変革をもたらす。 幻覚を起こそうとする傾向は、事実的に不正確な、または、サポートされていないコンテンツを発生させ、重大な信頼性のリスクを生じさせる。 本稿では,根本原因認識による継続的改善サイクル上に構築された幻覚管理のための包括的枠組みを紹介する。
  論文  参考訳（メタデータ） (2026-01-14T23:19:37Z)
• LLM-based Agents for Automated Confounder Discovery and Subgroup Analysis in Causal Inference [1.1538255621565348]
  本稿では,共同創設者の自動発見とサブグループ分析のための大規模言語モデルに基づくエージェントを提案する。 本フレームワークは,サブグループ識別と構造発見を体系的に行う。 以上の結果から,LSMをベースとしたエージェントは,スケーラブルで信頼性が高く,セマンティックに認識された因果推論へ有望な道をたどることが示唆された。
  論文  参考訳（メタデータ） (2025-08-10T07:45:49Z)
• Retrieval is Not Enough: Enhancing RAG Reasoning through Test-Time Critique and Optimization [58.390885294401066]
  Retrieval-augmented Generation (RAG) は知識基底型大規模言語モデル(LLM)を実現するためのパラダイムとして広く採用されている。 RAGパイプラインは、モデル推論が得られた証拠と整合性を維持するのに失敗することが多く、事実上の矛盾や否定的な結論につながる。 批判駆動アライメント(CDA)に基づく新しい反復的枠組みであるAlignRAGを提案する。 AlignRAG-autoは、動的に洗練を終了し、批判的な反復回数を事前に指定する必要がなくなる自律的な変種である。
  論文  参考訳（メタデータ） (2025-04-21T04:56:47Z)
• Exploring Automatic Cryptographic API Misuse Detection in the Era of LLMs [60.32717556756674]
  本稿では,暗号誤用の検出において,大規模言語モデルを評価するための体系的評価フレームワークを提案する。 11,940個のLCM生成レポートを詳細に分析したところ、LSMに固有の不安定性は、報告の半数以上が偽陽性になる可能性があることがわかった。 最適化されたアプローチは、従来の手法を超え、確立されたベンチマークでこれまで知られていなかった誤用を明らかにすることで、90%近い顕著な検出率を達成する。
  論文  参考訳（メタデータ） (2024-07-23T15:31:26Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。