論文の概要: SafePilot: A Framework for Assuring LLM-enabled Cyber-Physical Systems

• arxiv url: http://arxiv.org/abs/2603.21523v1
• Date: Mon, 23 Mar 2026 03:31:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-24 19:11:39.46169
• Title: SafePilot: A Framework for Assuring LLM-enabled Cyber-Physical Systems
• Title（参考訳）: SafePilot: LLM対応サイバー物理システムの保証フレームワーク
• Authors: Weizhe Xu, Mengyu Liu, Fanxin Kong,
• Abstract要約: 大規模言語モデル(LLM)は、最近、様々なサイバー物理システムに統合され始めている。 LLMは"ハロシン化"(hallucination)を生成します。 属性ベースおよび時間仕様に従ってCPSのエンドツーエンド保証を提供する新しい階層型ニューロシンボリックフレームワークであるSafePilotを提案する。
• 参考スコア（独自算出の注目度）: 2.2566909388480743
• License: http://creativecommons.org/licenses/by-nc-sa/4.0/
• Abstract: Large Language Models (LLMs), deep learning architectures with typically over 10 billion parameters, have recently begun to be integrated into various cyber-physical systems (CPS) such as robotics, industrial automation, and autopilot systems. The abstract knowledge and reasoning capabilities of LLMs are employed for tasks like planning and navigation. However, a significant challenge arises from the tendency of LLMs to produce "hallucinations" - outputs that are coherent yet factually incorrect or contextually unsuitable. This characteristic can lead to undesirable or unsafe actions in the CPS. Therefore, our research focuses on assuring the LLM-enabled CPS by enhancing their critical properties. We propose SafePilot, a novel hierarchical neuro-symbolic framework that provides end-to-end assurance for LLM-enabled CPS according to attribute-based and temporal specifications. Given a task and its specification, SafePilot first invokes a hierarchical planner with a discriminator that assesses task complexity. If the task is deemed manageable, it is passed directly to an LLM-based task planner with built-in verification. Otherwise, the hierarchical planner applies a divide-and-conquer strategy, decomposing the task into sub-tasks, each of which is individually planned and later merged into a final solution. The LLM-based task planner translates natural language constraints into formal specifications and verifies the LLM's output against them. If violations are detected, it identifies the flaw, adjusts the prompt accordingly, and re-invokes the LLM. This iterative process continues until a valid plan is produced or a predefined limit is reached. Our framework supports LLM-enabled CPS with both attribute-based and temporal constraints. Its effectiveness and adaptability are demonstrated through two illustrative case studies.
• Abstract（参考訳）: 100億以上のパラメータを持つディープラーニングアーキテクチャであるLarge Language Models (LLMs)は、最近、ロボティクス、産業自動化、自動操縦システムといった様々なサイバー物理システム(CPS)に統合され始めている。 LLMの抽象的な知識と推論能力は、計画やナビゲーションといったタスクに使用される。 しかし、LCMが「幻覚」を産み出す傾向から大きな課題が生じる。 この特徴は、CPSにおいて望ましくない、または安全でないアクションを引き起こす可能性がある。 そこで本研究は,LLM対応CPSの信頼性向上に重点を置いている。 属性ベースおよび時間仕様に従ってLCM対応CPSのエンドツーエンド保証を提供する新しい階層型ニューロシンボリックフレームワークであるSafePilotを提案する。 タスクとその仕様が与えられた後、SafePilotはまず、タスクの複雑さを評価する識別器を備えた階層的なプランナを起動する。 タスクが管理可能であると判断された場合、LSMベースのタスクプランナに直接渡され、ビルトイン検証が行われる。 そうでなければ、階層的プランナーは分割・コンカ戦略を適用し、タスクをサブタスクに分解し、それぞれが個別に計画され、後に最終解にマージされる。 LLMベースのタスクプランナは、自然言語の制約を形式的な仕様に変換し、LLMの出力を検証します。 違反が検出された場合、欠陥を特定し、それに応じてプロンプトを調整し、LSMを再起動する。 この反復的なプロセスは、有効な計画が作成されるか、事前に定義された限界に達するまで継続する。 我々のフレームワークは、属性ベースと時間的制約の両方でLLM対応CPSをサポートします。 その効果と適応性は2つの実証的なケーススタディによって実証される。

関連論文リスト

• VerifyLLM: LLM-Based Pre-Execution Task Plan Verification for Robots [44.99833362998488]
  本研究では,シミュレータや実環境で実行する前に,タスクプランを自動的に検証するアーキテクチャを提案する。 このモジュールは、Large Language Modelsの推論機能を使用して、論理的一貫性を評価し、計画の潜在的なギャップを特定する。 我々は,タスク計画の信頼性と効率の向上に寄与し,自律システムにおける堅牢な事前実行検証の必要性に対処する。
  論文  参考訳（メタデータ） (2025-07-07T15:31:36Z)
• LogicGuard: Improving Embodied LLM agents through Temporal Logic based Critics [3.3890411643175646]
  大規模言語モデル(LLM)はゼロショットと単一ステップの推論と意思決定の問題において有望であることを示している。 LogicGuardは,LLMアクターを軌跡レベルのLCM評論家に案内するモジュール型アクター・クリティックアーキテクチャである。 我々のセットアップは、言語モデルの推論強度と形式論理の保証を組み合わせる。
  論文  参考訳（メタデータ） (2025-07-04T04:53:53Z)
• RuAG: Learned-rule-augmented Generation for Large Language Models [62.64389390179651]
  本稿では,大量のオフラインデータを解釈可能な一階述語論理規則に自動抽出する新しいフレームワーク,RuAGを提案する。 我々は,自然言語処理,時系列,意思決定,産業タスクなど,公共および民間の産業タスクに関する枠組みを評価する。
  論文  参考訳（メタデータ） (2024-11-04T00:01:34Z)
• Q*: Improving Multi-step Reasoning for LLMs with Deliberative Planning [53.6472920229013]
  大規模言語モデル(LLM)は多くの自然言語タスクにおいて印象的な能力を示している。 LLMは多段階推論を行う際にエラー、幻覚、矛盾する文を生成する傾向がある。 本稿では,LLMの復号化過程を検討計画で導くためのフレームワークであるQ*を紹介する。
  論文  参考訳（メタデータ） (2024-06-20T13:08:09Z)
• From Words to Actions: Unveiling the Theoretical Underpinnings of LLM-Driven Autonomous Systems [59.40480894948944]
  大規模言語モデル (LLM) は、物理世界の意思決定問題を解くことができる。 このモデルの下で、LLM Plannerは、プロンプトを介して言語ベースのサブゴールを反復的に生成することにより、部分的に観測可能なマルコフ決定プロセス(POMDP)をナビゲートする。 我々は,事前学習したLLMプランナーが,文脈内学習を通じてベイズ的集計模倣学習(BAIL)を効果的に行うことを証明した。
  論文  参考訳（メタデータ） (2024-05-30T09:42:54Z)
• Empowering Large Language Models on Robotic Manipulation with Affordance Prompting [23.318449345424725]
  大規模な言語モデルは、制御シーケンスを適切に生成することで物理世界と相互作用することができない。 既存のLLMベースのアプローチでは、事前定義されたスキルや事前訓練されたサブ政治に頼ることでこの問題を回避することができる。 サブタスクプランナとモーションコントローラの両方をLLM+A(ffordance)と呼ぶフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-04-17T03:06:32Z)
• LgTS: Dynamic Task Sampling using LLM-generated sub-goals for Reinforcement Learning Agents [10.936460061405157]
  LgTS (LLM-Guided Teacher-Student Learning) を提案する。 提案手法では,提案したサブゴールを達成するための事前訓練されたポリシーも必要としない。
  論文  参考訳（メタデータ） (2023-10-14T00:07:03Z)
• Dynamic Planning with a LLM [15.430182858130884]
  大言語モデル(LLM)はゼロショット設定で多くのNLPタスクを解くことができるが、具体化エージェントを含むアプリケーションは依然として問題である。 LLM動的プランナー(LLM-DP)は,LLMが従来のプランナーと手動で作業し,具体的課題を解決する,神経象徴的な枠組みである。
  論文  参考訳（メタデータ） (2023-08-11T21:17:13Z)
• Plan, Eliminate, and Track -- Language Models are Good Teachers for Embodied Agents [99.17668730578586]
  事前訓練された大言語モデル(LLM)は、世界に関する手続き的な知識をキャプチャする。 Plan, Eliminate, and Track (PET)フレームワークはタスク記述をハイレベルなサブタスクのリストに変換する。 PETフレームワークは、人間の目標仕様への一般化のために、SOTAよりも15%改善されている。
  論文  参考訳（メタデータ） (2023-05-03T20:11:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。