論文の概要: Towards Neuro-symbolic Causal Rule Synthesis, Verification, and Evaluation Grounded in Legal and Safety Principles

• arxiv url: http://arxiv.org/abs/2604.28087v1
• Date: Thu, 30 Apr 2026 16:34:02 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-01 16:31:54.200241
• Title: Towards Neuro-symbolic Causal Rule Synthesis, Verification, and Evaluation Grounded in Legal and Safety Principles
• Title（参考訳）: 法・安全原則に基づくニューロシンボリック因果規則の合成・検証・評価に向けて
• Authors: Zainab Rehan, Christian Medeiros Adriano, Sona Ghahremani, Holger Giese,
• Abstract要約: ルールベースのシステムは、スケーラビリティ、脆性、目標の過ちに苦しむ。 本稿では,目標の不特定を緩和し,スケーラブルなルール維持をサポートするメタレベルレイヤを提案する。 2つの自律運転シナリオにおける概念実証実装によるアプローチの評価を行った。
• 参考スコア（独自算出の注目度）: 0.28582274879786684
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Rule-based systems remain central in safety-critical domains but often struggle with scalability, brittleness, and goal misspecification. These limitations can lead to reward hacking and failures in formal verification, as AI systems tend to optimize for narrow objectives. In previous research, we developed a neuro-symbolic causal framework that integrates first-order logic abduction trees, structural causal models, and deep reinforcement learning within a MAPE-K loop to provide explainable adaptations under distribution shifts. In this paper, we extend that framework by introducing a meta-level layer designed to mitigate goal misspecification and support scalable rule maintenance. This layer consists of a Goal/Rule Synthesizer and a Rule Verification Engine, which iteratively refine a formal rule theory from high-level natural-language goals and principles provided by human experts. The synthesis pipeline employs large language models (LLMs) to: (1) decompose goals into candidate causes, (2) consolidate semantics to remove redundancies, (3) translate them into candidate first-order rules, and (4) compose necessary and sufficient causal sets. The verification pipeline then performs (1) syntax and schema validation, (2) logical consistency analysis, and (3) safety and invariant checks before integrating verified rules into the knowledge base. We evaluated our approach with a proof-of-concept implementation in two autonomous driving scenarios. Results indicate that, given human-specified goals and principles, the pipeline can successfully derive minimal necessary and sufficient rule sets and formalize them as logical constraints. These findings suggest that the pipeline supports incremental, modular, and traceable rule synthesis grounded in established legal and safety principles.
• Abstract（参考訳）: ルールベースのシステムは、安全クリティカルなドメインの中心に留まるが、スケーラビリティ、脆性、目標の仕様ミスに苦慮することが多い。 これらの制限は、AIシステムが狭い目的のために最適化する傾向があるため、正式な検証においてハッキングや失敗に報いる可能性がある。 本研究は,MAPE-Kループ内に一階論理帰納木,構造因果モデル,深部強化学習を統合し,分布シフトによる説明可能な適応を提供するニューロシンボリック因果フレームワークを開発した。 本稿では,その枠組みを,目標の誤特定を緩和し,スケーラブルなルール維持をサポートするよう設計したメタレベルレイヤを導入することで拡張する。 この層はゴール/ルールシンセサイザーとルール検証エンジンで構成され、人間の専門家によって提供される高レベルの自然言語の目標と原則から形式的なルール理論を反復的に洗練する。 合成パイプラインは大きな言語モデル(LLM)を用いて、(1)目的を候補原因に分解し、(2)冗長性を取り除くためにセマンティクスを統合し、(3)候補一階規則に翻訳し、(4)必要かつ十分な因果集合を構成する。 検証パイプラインは、(1)構文とスキーマの検証、(2)論理一貫性の分析、(3)検証済みのルールを知識ベースに統合する前に安全性と不変性のチェックを実行する。 2つの自律運転シナリオにおいて,概念実証実装によるアプローチの評価を行った。 結果は、人間の指定した目標と原則によって、パイプラインは最小限の必要かつ十分なルールセットを導出し、それらを論理的な制約として形式化することができることを示している。 これらの結果は、パイプラインが、確立された法と安全性の原則に基づいて、インクリメンタルでモジュラーでトレーサブルなルール合成をサポートすることを示唆している。

関連論文リスト

• HIPO: Instruction Hierarchy via Constrained Reinforcement Learning [57.40686733111483]
  textscHIPOは、制約付きマルコフ決定プロセスとしてHIFを定式化する新しいアライメントフレームワークである。 textscHIPOはシステムプロンプトを単に入力コンテキストから厳密なアルゴリズム境界まで高める。
  論文  参考訳（メタデータ） (2026-03-17T06:12:41Z)
• Agency and Architectural Limits: Why Optimization-Based Systems Cannot Be Norm-Responsive [0.0]
  AIシステムは、標準によって管理されるという前提の下で、ハイステークな状況にますますデプロイされている。 本稿では,最適化システムに対して仮定が正式に無効であることを示す。
  論文  参考訳（メタデータ） (2026-02-26T17:16:17Z)
• The Convergence of Schema-Guided Dialogue Systems and the Model Context Protocol [0.0]
  本稿では、互換性誘導対話(SGD)とモデルコンテキストプロトコル(MCP)の基本的な収束性を確立する。 SGD と MCP は、決定論的で監査可能な LLM-エージェント相互作用のための統一パラダイムの2つの現れを表す。
  論文  参考訳（メタデータ） (2026-02-21T09:02:35Z)
• Structured Decomposition for LLM Reasoning: Cross-Domain Validation and Semantic Web Integration [0.0]
  ルールベースの推論は、決定が監査可能で正当化可能な領域で発生します。 このような入力にルールを適用するには、解釈の柔軟性と形式的な保証の両方が必要である。 本稿では,これらの強みを組み合わせた統合パターンを提案する。
  論文  参考訳（メタデータ） (2026-01-04T17:19:20Z)
• Rule Encoding and Compliance in Large Language Models: An Information-Theoretic Analysis [0.0]
  大規模言語モデル(LLM)に基づく安全クリティカルエージェントの設計には、単純なプロンプトエンジニアリング以上のものが必要である。 本稿では,ルールエンコーディングが注意機構やコンプライアンス行動にどのように影響するかを包括的に情報理論で分析する。
  論文  参考訳（メタデータ） (2025-09-23T14:42:32Z)
• Explainable Rule Application via Structured Prompting: A Neural-Symbolic Approach [0.0]
  大規模言語モデル(LLM)は複雑な推論タスクでは優れているが、一貫性のあるルールアプリケーション、例外処理、説明可能性に苦慮している。 本稿では、推論を3つの検証可能なステップ(エンティティ識別、プロパティ抽出、シンボリックルール適用)に分解する構造化プロンプトフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-06-19T14:14:01Z)
• DECIDER: A Dual-System Rule-Controllable Decoding Framework for Language Generation [57.07295906718989]
  制約付き復号法は,事前訓練された大言語(Ms と PLMs)が生成するテキストの意味やスタイルを,推論時に様々なタスクに対して制御することを目的としている。 これらの方法は、しばしば、欲求的かつ明示的にターゲットを選択することによって、もっともらしい連続を導く。 認知二重プロセス理論に着想を得て,新しい復号化フレームワークDECDERを提案する。
  論文  参考訳（メタデータ） (2024-03-04T11:49:08Z)
• Can LLMs Reason with Rules? Logic Scaffolding for Stress-Testing and Improving LLMs [87.34281749422756]
  大規模言語モデル(LLM)は、様々な推論タスクにおいて、印象的な人間的なパフォーマンスを実現している。 しかし、その根底にある推論規則の熟達性は、人間の能力に欠ける。 本稿では,推論ルールベースであるULogicを構築するための,推論ルール生成フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-02-18T03:38:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。