論文の概要: Assuring Learning-Enabled Cyber-Physical Systems with Foundation Models: A Neuro-Symbolic Agenda for Testing, Verification, and Runtime Assurance
- arxiv url: http://arxiv.org/abs/2610.39547v1
- Date: Thu, 29 Oct 2026 07:48:59 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-02 23:28:36.69238
- Title: Assuring Learning-Enabled Cyber-Physical Systems with Foundation Models: A Neuro-Symbolic Agenda for Testing, Verification, and Runtime Assurance
- Title（参考訳）: 基礎モデルを用いた学習型サイバー物理システムの保証:テスト,検証,実行保証のためのニューロシンボリックアジェンダ
- Abstract要約: ニューラル、シンボリック、物理的境界を越えたエンジニアリングコントロールの復元には、モデル中心の評価からシステムレベルの保証へのシフトが必要である、と我々は主張する。
我々は,基礎モデル保証スタック(Foundation Model Assurance Stack)を紹介し,その3つの方向を接続する: (i) 明示的な記号的世界モデル,推論レイヤ,インターフェース, (ii) 意味論的基盤,適合性に基づくテスト, (iii) 構成的検証と実行保証。
- 参考スコア（独自算出の注目度）: 23.51785296221514
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Learning-enabled cyber-physical systems (CPS), including autonomous vehicles and UAVs, increasingly incorporate foundation models, yet fragmented assurance practices provide insufficient support for system-level guarantees. We argue that restoring engineering control across stochastic neural, symbolic, and physical boundaries requires a shift from model-centric evaluation to system-level assurance. We introduce the Foundation Model Assurance Stack, connecting three directions: (i) neuro-symbolic architectures that constrain foundation models through explicit symbolic world models, reasoning layers, and interfaces; (ii) semantically grounded, conformance-based testing that combines formal specifications and symbolic world models with foundation-model-assisted specification mining, scenario generation, and test synthesis; and (iii) compositional verification and runtime assurance that target formally tractable components and interfaces through modular contracts, equivalence checking, verified synthesis, uncertainty-aware reasoning, and runtime monitoring and enforcement. Symbolic abstractions establish assurance boundaries between stochastic learning and formal reasoning, connecting testing, verification, and runtime evidence across the system lifecycle. Foundation models serve as constrained assistants whose outputs are independently checked wherever correctness can be formally specified. We identify research challenges in specification engineering, abstraction fidelity, evidence composition, and lifecycle certification, and outline a staged agenda toward trustworthy, deployable, and certifiable learning-enabled CPS.
- Abstract（参考訳）: 自動運転車やUAVを含む学習可能なサイバー物理システム(CPS)は、ファンデーションモデルをますます取り入れているが、断片化された保証慣行はシステムレベルの保証を不十分にサポートしている。
確率的神経、記号的、物理的境界を越えた工学的制御の回復には、モデル中心の評価からシステムレベルの保証へのシフトが必要である、と我々は主張する。
ファウンデーションモデル保証スタックを導入し、3つの方向を接続する。
一 明示的な象徴的世界モデル、推論層及びインターフェースを介して基礎モデルを制約する神経象徴的建築
二 形式的仕様と象徴的世界モデルと基礎モデル支援仕様マイニング、シナリオ生成及びテスト合成を組み合わせた意味論的基礎に基づく適合性に基づくテスト
三 モジュール契約、等価性検査、検証された合成、不確実性を認識した推論、実行時監視及び実施を通じて、正式に抽出可能なコンポーネント及びインターフェースをターゲットにした構成検証及び実行時保証。
記号的抽象化は、確率的学習と形式的推論の間の保証境界を確立し、テスト、検証、実行時のエビデンスをシステムライフサイクル全体で接続する。
ファンデーションモデルは、アウトプットが独立してチェックされる制約付きアシスタントとして機能する。
我々は,仕様工学,抽象忠実性,エビデンス構成,ライフサイクル認定などの研究課題を特定し,信頼性,デプロイ性,認定可能な学習可能なCPSに向けた段階的な課題を概説する。
関連論文リスト
- SEAL-DT: An End-to-End Security Engineering and Assurance Framework for Cross-Domain Digital Twins [2.21328591527757]
SEAL-DTはセキュアなDigital Twinsの構築と評価のための構造化されたアプローチである。
エンティティの定義、プロセスモデル、決定論的シミュレーション、データコントラクト、エビデンスレコード、自動テスト、再現可能な結果を1つのコネクテッドモデルにもたらす。
主な貢献はエンドツーエンドのDTセキュリティフレームワークで、シナリオ定義、エンティティ/プロセスモデリング、シミュレーション、セキュリティ決定ロジック、エビデンス処理、バリデーション、再現可能なレポートにまたがる。
論文 参考訳（メタデータ） (2026-10-12T16:56:34Z) - Short Version of VERIFAI2026 Paper -- Learning Infused Formal Reasoning: Contract Synthesis, Artefact Reuse and Semantic Foundations [0.0]
本稿では,機械学習技術と形式検証を統合したLIFR(Learning-Infused Formal Reasoning)という研究ビジョンを概説する。
このフレームワークは、自然言語要求からの自動コントラクト合成、グラフマッチングと学習ベースの埋め込みを用いた検証アーティファクトのセマンティックリユース、および統一プログラミング理論(UTP)と制度理論に基づく数学的に基礎付けられたセマンティック基盤の3つの相補的な研究方向に焦点を当てている。
論文 参考訳（メタデータ） (2026-04-14T13:58:14Z) - Composable Attestation: A Generalized Framework for Continuous and Incremental Trust in AI-Driven Distributed Systems [4.2822349607372265]
本稿では,分散システムにおける連続的・漸進的信頼のための汎用的な暗号フレームワークとして,コンポーザブル証明を提案する。
このような証明システムのコア特性を定義する厳密な数学的基盤を確立する。
このフレームワークのユーティリティは、セキュアなAIモデルの完全性検証、フェデレーション学習、ランタイム信頼保証といったアプリケーションにまで拡張されている。
論文 参考訳（メタデータ） (2026-03-02T22:45:26Z) - Neural Proofs for Sound Verification and Control of Complex Systems [64.97409769546992]
この非公式な貢献は、音響証明の構築に対する新しいアプローチを追求している研究の進行中のラインを示す。
証明可能な正確なポリシ/ストラテジー/コントローラを生成することができ、ニューラル証明書と合わせて、興味のあるモデルの所定の仕様を正式に達成することができる。
論文 参考訳（メタデータ） (2025-12-20T15:01:41Z) - BarrierBench : Evaluating Large Language Models for Safety Verification in Dynamical Systems [4.530582224312311]
バリア証明書合成のための LLM ベースのエージェントフレームワークを提案する。
このフレームワークは自然言語推論を使用して、候補証明書を提案し、洗練し、検証する。
BarrierBenchは、線形、非線形、離散時間、連続時間設定にまたがる100の動的システムのベンチマークである。
論文 参考訳（メタデータ） (2025-11-12T14:23:49Z) - Safe and Certifiable AI Systems: Concepts, Challenges, and Lessons Learned [45.44933002008943]
この白書は、T"UV AUSTRIA Trusted AIフレームワークを提示する。
エンド・ツー・エンドの監査カタログであり、機械学習システムの評価と認定のための方法論である。
セキュアなソフトウェア開発、機能要件、倫理とデータプライバシという3つの柱の上に構築されているのは、EU AI Actの高レベルの義務を、特定かつテスト可能な基準に翻訳するものです。
論文 参考訳（メタデータ） (2025-09-08T17:52:08Z) - Quantifying Robustness: A Benchmarking Framework for Deep Learning Forecasting in Cyber-Physical Systems [44.61435605872856]
我々は,産業用CPSに合わせて,分散ロバスト性に基づく実用的ロバスト性定義を導入する。
本フレームワークは,センサドリフト,ノイズ,不規則サンプリングなどの現実的な乱れをシミュレートし,予測モデルの徹底的なロバスト性解析を可能にする。
論文 参考訳（メタデータ） (2025-04-04T14:50:48Z) - A General Framework for Verification and Control of Dynamical Models via Certificate Synthesis [54.959571890098786]
システム仕様を符号化し、対応する証明書を定義するためのフレームワークを提供する。
コントローラと証明書を形式的に合成する自動化手法を提案する。
我々のアプローチは、ニューラルネットワークの柔軟性を利用して、制御のための安全な学習の幅広い分野に寄与する。
論文 参考訳（メタデータ） (2023-09-12T09:37:26Z) - A Verification Framework for Component-Based Modeling and Simulation
Putting the pieces together [0.0]
提案する検証フレームワークは,コンポーザビリティを異なるレベルで検証するための方法,テクニック,ツールサポートを提供する。
特に、コンポーザビリティ全体の正しさにおける重要性と、プロセスで生じる困難度から、ダイナミック・セマンティック・コンポータビリティ(Dynamic-Semantic Composability)のレベルに注目します。
論文 参考訳（メタデータ） (2023-01-08T18:53:28Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。