論文の概要: One Monitor Does Not Fit All: Formalism-Agnostic Runtime Verification for Agentic AI
- arxiv url: http://arxiv.org/abs/2610.19818v1
- Date: Wed, 14 Oct 2026 08:58:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-15 21:06:16.04517
- Title: One Monitor Does Not Fit All: Formalism-Agnostic Runtime Verification for Agentic AI
- Title（参考訳）: One Monitorは、すべてに適合しない: エージェントAIのためのフォーマリズムに依存しない実行時検証
- Abstract要約: AgenticRVは実行バウンダリをフォーマリズムの監視から分離するランタイム検証アーキテクチャである。
我々は、観察が十分であれば形式化し、置換が決定を守り、妨害が安全でないことを防ぎます。
- 参考スコア（独自算出の注目度）: 0.5156484100374059
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Agentic AI systems combine model decisions, mutable state, tool calls, and delegation to external agents. Monitoring them requires observations from different execution boundaries, while prevention requires control before an operation produces its effect. We present AgenticRV, a runtime-verification architecture that separates these boundaries from the monitoring formalism. Adapters emit canonical events; each monitor receives its own projection and abstraction; and a decision policy uses normalised verdicts to select a reaction supported by the responsible adapter. We formalise when observations suffice, monitor replacement preserves decisions, and blocking prevents unsafe effects. We also distinguish rejected attempts from completed effects, avoiding the assumption that a blocked request must leave every monitor in a permanent violation state. The Python implementation supports LangGraph, MCP, and A2A. A controlled LangGraph experiment combines an external Reelay temporal monitor with a programmatic report monitor; ablations show why both are needed for the selected requirements. Differential checks and cross-adapter tests provide further integration evidence. An LLM-driven incident-response example illustrates the same enforcement path, while existing microbenchmarks isolate framework costs. The results support reuse of monitoring methods at explicit control boundaries, subject to the stated observation and deployment assumptions.
- Abstract（参考訳）: エージェントAIシステムは、モデル決定、変更可能な状態、ツール呼び出し、外部エージェントへの委譲を組み合わせる。
それらを監視するには、異なる実行境界からの観察が必要であるが、その一方で、その操作が効果をもたらす前には、予防には制御が必要である。
我々は、これらの境界をモニタリング形式から分離するランタイム検証アーキテクチャであるAgenticRVを提案する。
アダプタは標準的なイベントを発行し、各モニタは独自のプロジェクションと抽象化を受け取り、決定ポリシは正規化されたバリデーションを使用して、責任あるアダプタがサポートするリアクションを選択する。
我々は、観察が十分であれば形式化し、置換が決定を守り、妨害が安全でないことを防ぎます。
また、ブロックされた要求がすべてのモニタを恒久的な違反状態に残さなければならないという仮定を避けるために、完了した効果から拒否された試みを区別する。
Python実装はLangGraph、MPP、A2Aをサポートしている。
コントロールされたLangGraph実験は、外部のReelay時間モニターとプログラムによるレポートモニターを組み合わせる。
差分チェックとクロスアダプタテストは、さらなる統合の証拠を提供する。
LLM駆動のインシデント-レスポンスの例は、同じ実施パスを示し、既存のマイクロベンチマークはフレームワークコストを分離する。
その結果、明示的な制御境界における監視手法の再利用を支援する。
関連論文リスト
- Behavioural self-monitoring for autonomous earth observation agents: The attribute reliability monitor (ARM) [51.56484100374058]
この研究は、個々のセマンティック属性を評価するために時間をかけて疑念の証拠を蓄積するフレームワークである属性信頼性モニター(ARM)を導入している。
ARMは異なる検出器と時間モニタリング方法に対応し、介入ポリシーを消費システムに残す。
衛星熱赤外画像のための特殊な視覚言語モデルを用いて初期実装を評価した。
論文 参考訳（メタデータ） (2026-10-13T15:25:41Z) - Towards a Unified Misuse Monitoring Benchmark [25.152990233533163]
LLMエージェントはますますマルチアクター環境で働き、複数のソースからの誤用を露呈する。
既存の評価はこれらの脅威を別々に扱い、いつ有害になるかではなく、軌道が有害になるかどうかを問うものである。
本稿では,エージェントの応答の監視,その動作の外部化,および監視者が害箇所を識別する第1のポイントが害箇所内にあるかどうかを問う。
論文 参考訳（メタデータ） (2026-10-05T12:57:03Z) - Improving scalable oversight with co-trained monitors [6.970298371962309]
Worker-Monitorセットアップは、AI監視のための有望なアプローチだが、固定されたモニターに対するトレーニングワーカーは、監視の回避にインセンティブを与えることができる。
作業者と一緒にモニターを協調訓練することで,この障害モードを回避できるかどうかを検証し,教師付きアプローチと自己監督型アプローチの両方について検討する。
この結果から,適応モニタは作業戦略の進化に追随し,固定モニタは回避に弱いことが示唆された。
論文 参考訳（メタデータ） (2026-09-28T18:10:36Z) - TERMon: Detecting Persistent Behavioral Threats in Edge AI via Hardware-Native Ternary Runtime Monitor [0.9396259916237174]
エッジAIアクセラレータは、安全クリティカルな環境にますますデプロイされている。
モデル破損、分散シフト、および敵対的な入力が依然として良好で確実な予測を生成できるため、実行時の障害は検出されないことが多い。
本稿では,モデルの再実行や形式検証ではなく,推論動作を観察することで,そのような異常を検出する軽量ハードウェアランタイムモニタであるTERMonを提案する。
論文 参考訳（メタデータ） (2026-09-18T12:49:50Z) - Predictive Varanus: Combining CSP Conformance Monitoring with Predictive LTL Runtime Verification [0.5996444607432799]
PreDICTIVE VARANUSはプロセス代数Communicating Sequential Processes (CSP)で記述されたモデルを使用する2段階検証パイプラインである。
CSPバリデーションと予測の組み合わせによって、標準的なランタイムモニタリングよりも早期の検証が可能になることを示す。
ケーススタディは、CSPバリデーションと予測の組み合わせが、標準のランタイムモニタリングよりも早期のバリデーションを提供する方法を示している。
論文 参考訳（メタデータ） (2026-09-15T06:26:51Z) - PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。
セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。
SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。
ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
論文 参考訳（メタデータ） (2026-07-18T04:46:53Z) - $D^2$-Monitor: Dynamic Safety Monitoring for Diffusion LLMs via Hesitation-Aware Routing [63.49501120848927]
大規模言語モデル(D-LLM)の安全性監視はほとんど未検討である。
D-LLMの2レベル安全モニタであるD2$-Monitorを提案する。
D2$-Monitorは、常にオンのモニターとして軽量プローブを採用して、ヒューズレーションを共同で見積もり、ベース分類を実行する。
論文 参考訳（メタデータ） (2026-05-25T14:22:21Z) - Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。
本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。
本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
論文 参考訳（メタデータ） (2026-02-13T14:57:15Z) - Adaptive Attacks on Trusted Monitors Subvert AI Control Protocols [80.68060125494645]
プロトコルとモニタモデルを知っている信頼できないモデルによるアダプティブアタックについて検討する。
我々は、攻撃者がモデル出力に公知またはゼロショットプロンプトインジェクションを埋め込む単純な適応攻撃ベクトルをインスタンス化する。
論文 参考訳（メタデータ） (2025-10-10T15:12:44Z) - Sound Concurrent Traces for Online Monitoring Technical Report [0.0]
並列プログラムは通常、抽象的なプログラム実行のためのトレースの収集に依存します。
まず、トレースが並列実行を表すときの概念を定義します。
次に,非ブロッキングベクトルクロックアルゴリズムを提案し,音の同時トレースをハエで収集する。
論文 参考訳（メタデータ） (2024-02-28T15:11:39Z) - Monitoring ROS2: from Requirements to Autonomous Robots [58.720142291102135]
本稿では,構造化自然言語で記述された要件から自律ロボットのランタイムモニタを生成するための形式的アプローチの概要について述べる。
当社のアプローチでは,Fletal Requirement Elicitation Tool (FRET) とランタイム検証フレームワークであるCopilotを,Ogma統合ツールを通じて統合しています。
論文 参考訳（メタデータ） (2022-09-28T12:19:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。