論文の概要: Intrusion Detection for Agentic Processes: Evidence-Based Runtime Monitoring

• arxiv url: http://arxiv.org/abs/2610.00151v1
• Date: Thu, 10 Sep 2026 14:37:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-05 14:48:16.383762
• Title: Intrusion Detection for Agentic Processes: Evidence-Based Runtime Monitoring
• Title（参考訳）: エージェントプロセスの侵入検出:エビデンスに基づく実行監視
• Abstract要約: 本稿では,実行時侵入検知のためのエージェント・プロセス侵入検知システム(A-IDS)を提案する。 A-IDSは、エビデンスをサポートする観測結果と、ワークフロー状態、認可、通信、強制イベントのための管理およびバージョン管理された予測ベースラインを比較する。 A-IDSは異常な振る舞いから悪意のある意図を推測せず、観測されていない事象を非発生の証明として扱わず、新しい異常検知器、時間論理、前兆モデルも主張しない。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Agent deployments increasingly combine language-model inference with retrieval, delegation, tool execution, external-system access, and human approval. Security-relevant deviations can therefore emerge across an evolving process rather than in one isolated input or action. Building on the author's earlier black-box architecture for agentic processes and the subsequent evidence-claim model, this paper proposes an Agentic-Process Intrusion Detection System (A-IDS), an evidence-aware security interpretation layer for runtime intrusion detection whose monitored object is the agentic process itself. A-IDS compares evidence-supported observations with a governed and versioned expectation baseline for workflow state, authorization, communication, and mandatory events. Its conceptual contribution combines dynamically due governed expectations, visibility separated from three-valued matching, explicit unresolved observation states, and bounded findings that separate evidentiary status from operational impact. The model further identifies the monitoring plane itself as an attack surface when adversarial content reaches semantic evidence producers through otherwise legitimate observation paths. Some observations may be produced outside the operational agent's self-report path, but the model does not assume complete observability or universally trustworthy capture. Prompt injection is treated both as an input-security problem and as a possible origin of later process deviations and cross-agent influence paths. A-IDS does not infer malicious intent from anomalous behavior, does not treat an unobserved event as proof of non-occurrence, and does not claim a new anomaly detector, temporal logic, or provenance model. The contribution is conceptual: it does not validate an implementation, demonstrate empirical detection performance, establish causal attribution, or provide an enforcement mechanism.
• Abstract（参考訳）: エージェントのデプロイメントは、言語モデル推論と、検索、デリゲート、ツールの実行、外部システムアクセス、人間による承認とをますます組み合わせている。 したがって、セキュリティ関連の偏差は、一つの独立した入力やアクションではなく、進化するプロセスにまたがる可能性がある。 本稿では,エージェントプロセスの初期のブラックボックスアーキテクチャとそれに続くエビデンス評価モデルに基づいて,エージェントプロセス自体が監視対象である実行時侵入検知のためのエビデンス対応セキュリティ解釈層であるエージェント・プロシース侵入検知システム(A-IDS)を提案する。 A-IDSは、エビデンスをサポートする観測結果と、ワークフロー状態、認可、通信、強制イベントのための管理およびバージョン管理された予測ベースラインを比較する。 その概念的貢献は、3つの評価された一致状態から分離された可視性、明確な未解決の観測状態と、運用上の影響から明らかな状態を分離する有界な発見とを動的に組み合わせたものである。 このモデルは、敵のコンテンツが正当でない観測経路を通じて意味的エビデンス生産者に到達するとき、監視面自体を攻撃面として識別する。 いくつかの観測は操作員の自己申告経路の外側で作成されるが、このモデルは完全な可観測性や普遍的に信頼できる捕獲を前提としない。 プロンプト注入は入力セキュリティ問題と後続のプロセス偏差やエージェント間の影響経路の起源として扱われる。 A-IDSは異常な振る舞いから悪意のある意図を推測せず、観測されていない事象を非発生の証明として扱わず、新しい異常検知器、時間論理、前兆モデルも主張しない。 このコントリビューションは概念的であり、実装の検証、実証的な検出性能の実証、因果帰属の確立、あるいは実施メカニズムを提供する。

関連論文リスト

• Cognitive Admission Control: Risk-Conditioned Assurance for Consequential Actions in Agentic Distributed Systems [2.124730017640531]
  エージェント分散システムでは、エージェントは外部のインフラを変更できるが、突然変異の実行準備が整っているという証拠は欠如している。 CAC(Cognitive Admission Control)は、この証拠を明示する。 ポリシーは、型付けされた行動とそのモデル化されたリスクを、述語、エビデンスクラス、スコープ、鮮度、証人セットの制約を指定する保証義務にマップする。 承認が成功すると、アクション、証人マニフェスト、ディスパッチタイムガードを結び付ける証明書が生成される。
  論文  参考訳（メタデータ） (2026-09-14T20:20:54Z)
• AgenticVAU: Multi-Agent Explore-Verify Reasoning for Video Anomaly Understanding [14.12320671130862]
  本稿では,ビデオ異常理解のためのトレーニング不要なマルチエージェントフレームワークであるAgenticVAUを提案する。 視覚ルールの構築、探索計画、ビデオ観察、最終決定を扱うために、4つの特殊エージェントが導入された。 エージェントVAUは、十分な証拠が収集されるまで、広範囲の時間探査、密集した局所的検証、および相互比較をインターリーブする。
  論文  参考訳（メタデータ） (2026-08-04T15:01:59Z)
• Operational Hallucination and Safety Drift in AI Agents [0.3823356975862005]
  ツール使用自律エージェントのプランナーとして機能する大規模言語モデル(LLM)は、マルチターン実行における動的信頼性のリスクを導入する。 本稿では,複数のLLM(Safety Drift)とOperational Hallucination(Operational Hallucination)の2つの障害モードを実証的に特徴付ける。 本稿では、インテント-アクション整合性チェック、状態追跡、強制終了プリミティブを組み込んだ、軽量でプラグ&プレイのアーキテクチャ青写真であるAction-Aware Supervision Layerを提案する。
  論文  参考訳（メタデータ） (2026-07-20T17:01:50Z)
• PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
  我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。 セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。 SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。 ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
  論文  参考訳（メタデータ） (2026-07-18T04:46:53Z)
• Observability for Delegated Execution in Agentic AI Systems [0.6445605125467572]
  本稿では,軽量ゲートウェイと共通情報モデルからなるエージェント対応可観測基板を提案する。 これにより、時間-ウィンドウの相関なしに、信頼性の高いクロスツールデリゲートスコープの再構築と直接法医学的なクエリが可能になる。
  論文  参考訳（メタデータ） (2026-06-08T16:10:05Z)
• Taming Actor-Observer Asymmetry in Agents via Dialectical Alignment [59.536125286960186]
  セルフリフレクションと相互監査を可能にするために、専門的な役割を割り当てるマルチエージェントフレームワークがますます採用されている。 アクター・オブザーバ非対称性(Actor-Observer Asymmetric)と呼ばれる認知バイアスを同時に誘発する。 ReTASは、対立する視点を客観的なコンセンサスに合成するためにエージェントを誘導する。
  論文  参考訳（メタデータ） (2026-04-21T15:05:58Z)
• Reasoning Provenance for Autonomous AI Agents: Structured Behavioral Analytics Beyond State Checkpoints and Execution Traces [0.0]
  Agent Execution Record (AER) は構造化された推論プリミティブであり、すべてのステップで第一級クエリ可能なフィールドとしてインテント、観察、推論をキャプチャする。 AERが集団レベルの行動分析を可能にする方法を示す: 推論パターンマイニング、信頼度校正、クロスエージェント比較、モックリプレイによる反事実回帰テスト。
  論文  参考訳（メタデータ） (2026-03-23T08:27:54Z)
• Detecting Object Tracking Failure via Sequential Hypothesis Testing [80.7891291021747]
  ビデオにおけるリアルタイムのオンラインオブジェクト追跡は、コンピュータビジョンにおける中核的なタスクである。 本稿では,物体追跡を逐次的仮説テストとして解釈することを提案する。 本研究では,地中追跡情報と内部追跡情報の両方を活用することにより,教師なしと教師なしの両方の変種を提案する。
  論文  参考訳（メタデータ） (2026-02-13T14:57:15Z)
• Automated Detection of Visual Attribute Reliance with a Self-Reflective Agent [58.90049897180927]
  視覚モデルにおける視覚的特徴の意図しない依存を検出するための自動フレームワークを提案する。 自己反射エージェントは、モデルが依存する可能性のある視覚特性に関する仮説を生成し、テストする。 我々は,視覚特性の多様さを示すために設計された130モデルの新しいベンチマークに対して,我々のアプローチを評価した。
  論文  参考訳（メタデータ） (2025-10-24T17:59:02Z)
• Unsupervised Model Diagnosis [49.36194740479798]
  本稿では,ユーザガイドを使わずに,意味論的対実的説明を生成するために,Unsupervised Model Diagnosis (UMO)を提案する。 提案手法は意味論における変化を特定し可視化し,その変化を広範囲なテキストソースの属性と照合する。
  論文  参考訳（メタデータ） (2024-10-08T17:59:03Z)
• Nested Counterfactual Identification from Arbitrary Surrogate Experiments [95.48089725859298]
  観測と実験の任意の組み合わせからネスト反事実の同定について検討した。 具体的には、任意のネストされた反事実を非ネストされたものへ写像できる反ファクト的非ネスト定理(英語版)(CUT)を証明する。
  論文  参考訳（メタデータ） (2021-07-07T12:51:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。