論文の概要: SafeOrchestrate: Runtime Checked Intent-Driven Orchestration for Cyber-Physical Systems
- arxiv url: http://arxiv.org/abs/2611.09364v2
- Date: Wed, 11 Nov 2026 08:55:00 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-14 01:36:32.861431
- Title: SafeOrchestrate: Runtime Checked Intent-Driven Orchestration for Cyber-Physical Systems
- Title(参考訳): SafeOrchestrate: サイバー物理システムのための実行時チェックインテント駆動オーケストレーション
- Abstract要約: Safe Orchestrateは、ランタイムチェック、インテント駆動のCPSオーケストレーションのための参照アーキテクチャである。
NLの意図が与えられたら、アトミックな目標を導き、それぞれのランタイムチェック可能な仕様を生成し、仕様をデバイス割当に根拠付け、実行前のランタイム状態と安全制約に対するすべての候補アクションを検証する。
- 参考スコア(独自算出の注目度): 1.5745307498232168
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern cyber physical systems (CPS) integrate heterogeneous sensors, actuators, controllers, and services, composed at runtime rather than at design time. Orchestrating such systems through natural language (NL) is attractive, but unconstrained large language model (LLM) tool use is risky because actions must respect device capabilities, runtime state, and safety constraints. We present Safe Orchestrate, a reference architecture for runtime checked, intent driven CPS orchestration. Given an NL intent, it derives atomic goals, generates a runtime checkable specification for each, grounds the specifications to device affordances, and verifies every candidate action against runtime state and safety constraints before execution. In a Web of Things (WoT) instantiation, the architecture produces Linear Temporal Logic (LTL) style specifications from the NL intent, grounds them to Thing Description (TD) affordances exposed through the Model Context Protocol (MCP), and checks candidate actions against satisfiability modulo theories (SMT) backed guardrails. We evaluate this instantiation on simulated smart home, greenhouse, and industrial automation tasks against a direct LLM to MCP baseline. Safe Orchestrate maintains 100% required action accuracy on every task and 100% MCP Execution Similarity (MCP ES) on all but one, where MCP ES is 92%. By contrast, the baseline degrades on multi device, event triggered, and ordered tasks, with MCP ES falling to 13%. These results suggest that combining LLM based specification generation with role aware grounding and runtime constraint checking improves reliability for open CPS orchestration without enriched TD annotations or planning domain expertise.
- Abstract(参考訳): 現代のサイバー物理システム(CPS)は、設計時ではなく実行時に構成される異種センサー、アクチュエータ、コントローラ、サービスを統合する。
自然言語(NL)によるこのようなシステムのオーケストレーションは魅力的だが、デバイス能力、ランタイム状態、安全性の制約を尊重しなければならないため、制約のない大規模言語モデル(LLM)ツールの使用は危険である。
Safe Orchestrateは、ランタイムチェック、インテント駆動のCPSオーケストレーションのための参照アーキテクチャである。
NLの意図が与えられたら、アトミックな目標を導き、それぞれのランタイムチェック可能な仕様を生成し、仕様をデバイス割当に根拠付け、実行前のランタイム状態と安全制約に対するすべての候補アクションを検証する。
Web of Things(WoT)のインスタンス化では、アーキテクチャはNLインテントから線形時間論理(LTL)スタイルの仕様を生成し、それらをモデルコンテキストプロトコル(MCP)を通して公開するTing Description(TD)の価格に設定し、満足度変調理論(SMT)のバックガードレールに対する候補アクションをチェックする。
シミュレーションされたスマートホーム, 温室, 産業自動化タスクにおいて, MCPベースラインへの直接LLMに対するこのインスタンス化を評価する。
Safe Orchestrateは、すべてのタスクで100%要求される動作精度と、MCP ESが92%であるMCP実行類似度(MCP ES)を維持している。
対照的に、ベースラインはマルチデバイス、イベントトリガ、順序付けられたタスクで劣化し、MSP ESは13%に低下した。
これらの結果は、LLMベースの仕様生成と役割認識基盤とランタイム制約チェックを組み合わせることで、リッチなTDアノテーションやドメインの専門知識の計画なしに、オープンなCPSオーケストレーションの信頼性を向上させることを示唆している。
関連論文リスト
- Constrained-Action AI Remediation for SIEM/XDR via a NeMo-Guardrails Proxy [0.0]
情報技術と運用技術のためのセキュリティオペレーションセンター(SOC)は、インシデント対応の問題を共有している。
大規模言語モデル(LLM)は、警告をトリアージする推論エンジンとして提案され、自律的なデプロイメントでは、IPをブロックする、プロセスを殺す、本番ホスト上のファイルを隔離するコマンドを発行する。
この結合によって、新たなリスクがもたらされる: 単一の敵のアラートは、LLMの推論を通じてリモートコードパスになり、SOCが実行したアクションを推奨する。
論文 参考訳(メタデータ) (2026-10-07T12:00:51Z) - LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。
我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
論文 参考訳(メタデータ) (2026-08-26T12:13:05Z) - CyberLLM: A Multi-Agent LLM Framework for Autonomous Detection and Guarded Response in Automotive Cybersecurity [22.68559728326395]
CyberLLMは、脆弱性を自律的に検出し、正式なランタイム安全ガードの下で修正を実行するフレームワークである。
決定エージェントは発見を集約し、人間中心のアセット分類でタグ付けし、タイレッド応答を選択する。
対称攻撃パイプラインはエクスプロイトを生成し再生し、両方のサイドを同じシナリオで実行することができる。
論文 参考訳(メタデータ) (2026-08-06T23:39:13Z) - PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。
セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。
SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。
ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
論文 参考訳(メタデータ) (2026-07-18T04:46:53Z) - SeClaw: Spec-Driven Security Task Synthesis for Evaluating Autonomous Agents [87.26967184869198]
SeClawは、仕様駆動のセキュリティタスク合成と、自律エージェントの実行ベースのセキュリティ評価を組み合わせたフレームワークである。
ベンチマークは、リソース、ユーザタスク、環境、本質的なエージェントの振る舞いから生じるリスクをカバーしている。
論文 参考訳(メタデータ) (2026-06-01T14:23:42Z) - An Organization-Scoped LLM Agent Runtime Architecture for Regulated Cybersecurity Operations [0.3013679260442808]
規制されたサイバーセキュリティは、組織レベルの範囲を強制するランタイム基板を欠いている。
最近の大規模言語モデル(LLM)エージェントシステムは、孤立したサイバーセキュリティタスクに対して強い結果を報告している。
本稿では,金融サイバーセキュリティのための組織スコープ型エージェントランタイムアーキテクチャを提案する。
論文 参考訳(メタデータ) (2026-05-28T21:51:38Z) - SafePilot: A Framework for Assuring LLM-enabled Cyber-Physical Systems [2.2566909388480743]
大規模言語モデル(LLM)は、最近、様々なサイバー物理システムに統合され始めている。
LLMは"ハロシン化"(hallucination)を生成します。
属性ベースおよび時間仕様に従ってCPSのエンドツーエンド保証を提供する新しい階層型ニューロシンボリックフレームワークであるSafePilotを提案する。
論文 参考訳(メタデータ) (2026-03-23T03:31:51Z) - From Tool Orchestration to Code Execution: A Study of MCP Design Choices [20.817336331051752]
Model Context Protocols(MCP)は、エージェントシステムが異種実行環境を横断してツールを発見し、選択し、オーケストレーションするための統一されたプラットフォームを提供する。
最近のMPP設計では、コード実行を第一級の機能として組み込んでおり、これはCode Execution MCP(CEMCP)と呼ばれるアプローチである。
この研究は、コンテキスト結合(伝統的)とコンテキスト分離(CEMCP)のアーキテクチャ的区別を形式化し、それらの基本的なスケーラビリティのトレードオフを分析する。
論文 参考訳(メタデータ) (2026-02-17T19:03:08Z) - LPS-Bench: Benchmarking Safety Awareness of Computer-Use Agents in Long-Horizon Planning under Benign and Adversarial Scenarios [51.52395368061729]
LPS-Benchは,長期作業下でのMPPベースのCUAの計画時安全意識を評価するベンチマークである。
実験は、安全な行動を維持する既存のCUAの能力に重大な欠陥があることを明らかにする。
MCPに基づくCUAシステムにおける長期計画の安全性向上のための緩和戦略を提案する。
論文 参考訳(メタデータ) (2026-02-03T08:40:24Z) - CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。
CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。
このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
論文 参考訳(メタデータ) (2026-01-14T23:06:35Z) - DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。
この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。
本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
論文 参考訳(メタデータ) (2025-06-13T05:01:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。