論文の概要: Watchdogs and Oracles: Runtime Verification Meets Large Language Models for Autonomous Systems

• arxiv url: http://arxiv.org/abs/2511.14435v1
• Date: Tue, 18 Nov 2025 12:35:05 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-19 16:23:53.109694
• Title: Watchdogs and Oracles: Runtime Verification Meets Large Language Models for Autonomous Systems
• Title（参考訳）: WatchdogsとOracle: ランタイム検証が自律システムのための大規模言語モデルに到達
• Authors: Angelo Ferrando,
• Abstract要約: 大規模言語モデル(LLM)は、自然言語を形式的なアーティファクトに翻訳し、データのパターンを認識するのに優れています。 このビジョンペーパーは、RVとLLMの共生的な統合を論じている。 RV は LLM による自律性のためのガードレールとして機能し、一方 LLM は RV を拡張して仕様取得を支援し、予測推論をサポートし、不確実性に対処する。
• 参考スコア（独自算出の注目度）: 0.5156484100374059
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Assuring the safety and trustworthiness of autonomous systems is particularly difficult when learning-enabled components and open environments are involved. Formal methods provide strong guarantees but depend on complete models and static assumptions. Runtime verification (RV) complements them by monitoring executions at run time and, in its predictive variants, by anticipating potential violations. Large language models (LLMs), meanwhile, excel at translating natural language into formal artefacts and recognising patterns in data, yet they remain error-prone and lack formal guarantees. This vision paper argues for a symbiotic integration of RV and LLMs. RV can serve as a guardrail for LLM-driven autonomy, while LLMs can extend RV by assisting specification capture, supporting anticipatory reasoning, and helping to handle uncertainty. We outline how this mutual reinforcement differs from existing surveys and roadmaps, discuss challenges and certification implications, and identify future research directions towards dependable autonomy.
• Abstract（参考訳）: 学習可能なコンポーネントやオープン環境が関与する場合、自律システムの安全性と信頼性を確保することは特に困難である。 形式的手法は強い保証を提供するが、完全なモデルと静的仮定に依存する。 実行時検証(RV)は、実行時の監視と、潜在的な違反を予測して予測可能なバリエーションによってそれらを補完する。 一方、大きな言語モデル(LLM)は、自然言語を形式的なアーティファクトに翻訳し、データのパターンを認識するのに優れています。 このビジョンペーパーは、RVとLLMの共生的な統合を論じている。 RV は LLM による自律性のためのガードレールとして機能し、一方 LLM は RV を拡張して仕様取得を支援し、予測推論をサポートし、不確実性に対処する。 この相互強化が既存の調査やロードマップとどのように異なるのかを概説し、課題と認定の影響について議論し、信頼性の高い自律性に向けた今後の研究方向を特定する。

関連論文リスト

• LatentGuard: Controllable Latent Steering for Robust Refusal of Attacks and Reliable Response Generation [4.29885665563186]
  LATENTGUARDは、行動アライメントと教師付き潜在空間制御を組み合わせて、解釈可能で正確な安全操縦を行うフレームワークである。 本研究は, 実用性を損なうことなく, 安全性制御性と応答解釈性の両方を向上することを示す。
  論文  参考訳（メタデータ） (2025-09-24T07:31:54Z)
• Natural Reflection Backdoor Attack on Vision Language Model for Autonomous Driving [55.96227460521096]
  視覚言語モデル(VLM)は推論能力を高めるために自律運転システムに統合されている。 本稿では,自律運転シナリオにおけるVLMシステムを対象とした自然反射型バックドアアタックを提案する。 我々の発見は、自動運転の厳しいリアルタイム要求を生かした、新たなタイプの攻撃を発見しました。
  論文  参考訳（メタデータ） (2025-05-09T20:28:17Z)
• Steering Language Model Refusal with Sparse Autoencoders [16.304363931580273]
  この研究は、SAEステアリングに基づく安全改善と一般的なモデル機能との緊張関係を明らかにする。 本研究は,言語モデルにおける安全関連機能の性質に関する重要なオープンな疑問を明らかにするものである。
  論文  参考訳（メタデータ） (2024-11-18T05:47:02Z)
• A Superalignment Framework in Autonomous Driving with Large Language Models [2.650382010271]
  大規模言語モデル (LLM) と多モード大規模言語モデル (MLLM) は、自律運転において広く使われている。 その重要性にもかかわらず、自動運転におけるLLMのセキュリティの側面は未解明のままである。 本研究は,マルチエージェントLLMアプローチを利用した,自動運転車の新たなセキュリティフレームワークを提案する。
  論文  参考訳（メタデータ） (2024-06-09T05:26:38Z)
• RAG-Driver: Generalisable Driving Explanations with Retrieval-Augmented In-Context Learning in Multi-Modal Large Language Model [22.25903116720301]
  説明責任は、信頼できる自律的な意思決定において重要な役割を果たす。 MLLM(Multi-Modal Large Language Model)の最近の進歩は、駆動エージェントとしての説明可能性を高める有望な可能性を示している。 提案するRAG-Driverは,高機能,説明性,一般化可能な自律運転にコンテキスト内学習を活用する,検索強化型多モード大言語モデルである。
  論文  参考訳（メタデータ） (2024-02-16T16:57:18Z)
• Empowering Autonomous Driving with Large Language Models: A Safety Perspective [82.90376711290808]
  本稿では,Large Language Models (LLM) の自律運転システムへの統合について検討する。 LLMは行動計画におけるインテリジェントな意思決定者であり、文脈的安全学習のための安全検証シールドを備えている。 適応型LLM条件モデル予測制御(MPC)と状態機械を用いたLLM対応対話型行動計画スキームという,シミュレーション環境における2つの重要な研究について述べる。
  論文  参考訳（メタデータ） (2023-11-28T03:13:09Z)
• LLM4Drive: A Survey of Large Language Models for Autonomous Driving [62.10344445241105]
  大規模言語モデル(LLM)は、文脈理解、論理的推論、回答生成などの能力を示した。 本稿では,自動走行のための大規模言語モデル (LLM4AD) に関する研究ラインを体系的にレビューする。
  論文  参考訳（メタデータ） (2023-11-02T07:23:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。