論文の概要: Constrained-Action AI Remediation for SIEM/XDR via a NeMo-Guardrails Proxy
- arxiv url: http://arxiv.org/abs/2610.09906v1
- Date: Wed, 07 Oct 2026 12:00:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.894894
- Title: Constrained-Action AI Remediation for SIEM/XDR via a NeMo-Guardrails Proxy
- Title（参考訳）: NeMo-Guardrails Proxyを用いたSIEM/XDRの拘束型AI修復
- Abstract要約: 情報技術と運用技術のためのセキュリティオペレーションセンター(SOC)は、インシデント対応の問題を共有している。
大規模言語モデル(LLM)は、警告をトリアージする推論エンジンとして提案され、自律的なデプロイメントでは、IPをブロックする、プロセスを殺す、本番ホスト上のファイルを隔離するコマンドを発行する。
この結合によって、新たなリスクがもたらされる: 単一の敵のアラートは、LLMの推論を通じてリモートコードパスになり、SOCが実行したアクションを推奨する。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Security Operations Centers (SOCs) for information technology and operational technology share one incident-response problem: a flood of correlated alerts and too few analysts. Large Language Models (LLMs) are increasingly proposed as reasoning engines that triage alerts and, in autonomous deployments, issue commands that block IPs, kill processes, or quarantine files on production hosts. This coupling introduces a new risk: a single adversarial alert can become a remote code path through the LLM's reasoning, leading it to recommend an action the SOC then executes. We present a constrained-action architecture with two coordinated layers: (i) a SIEM/XDR control plane that grounds remediation in correlated host events and confines the LLM's output to a closed intent vocabulary whose templated commands are executed by thin endpoint agents, backstopped by an argument validator; and (ii) a NeMo-Guardrails proxy that wraps the SOC-analyst LLM with input- and output-rail policies, evaluated out-of-the-box against a SOC-specific adversarial corpus we release. The stock proxy lifts injection recall from 25.0% to 94.5% at a 0.1% false-positive rate, and a live red-team exercise confirms that the closed intent vocabulary and argument validator contain the observed LLM failure modes before any command crosses the trust boundary. As an architectural fit (not yet a measured operational-technology deployment), the constrained-action property suits critical-infrastructure settings where a wrong remediation has physical, not merely operational, consequences. The loop is best run human-in-the-loop or delayed: the measured rail latency keeps inline control out of scope.
- Abstract（参考訳）: 情報技術と運用技術のためのセキュリティオペレーションセンター(SOC)は、インシデント対応の1つの問題を共有している。
大規模言語モデル(LLM)は、警告をトリアージする推論エンジンとして提案され、自律的なデプロイメントでは、IPをブロックする、プロセスを殺す、本番ホスト上のファイルを隔離するコマンドを発行する。
この結合によって、新たなリスクがもたらされる: 単一の敵のアラートは、LLMの推論を通じてリモートコードパスになり、SOCが実行したアクションを推奨する。
2つの調整されたレイヤを持つ制約付きアクションアーキテクチャを提示する。
一 関係するホストイベントの修復を基礎として、テンプレートコマンドが薄いエンドポイントエージェントによって実行され、引数バリデータによってバックストップされた閉じた意図語彙にLLMの出力を閉じ込めるSIEM/XDR制御面
(II) SOC-analyst LLMを入力・出力・レールポリシーでラップしたNeMo-Guardrailsプロキシを,リリースしたSOC固有の対向コーパスに対してアウト・オブ・ボックスで評価した。
ストックプロキシは、インジェクションリコールを、0.1%の偽陽性率で25.0%から94.5%まで引き上げ、ライブ赤チーム演習により、任意のコマンドが信頼境界を越える前に、観測されたLDM障害モードを含むことを確認する。
アーキテクチャの適合性(まだ測定済みの運用技術デプロイメントではない)として、制約されたアクションプロパティは、間違った修復が物理的に、単なる運用ではなく、結果として生じる、クリティカル・インフラクチャ・セッティングに適合する。
ループはヒューマン・イン・ザ・ループ(Human-in-the-loop)あるいは遅延が最善である。
関連論文リスト
- Architecting the Secure AI-SOC: A Neurosymbolic Framework for Pipeline Integrity and Threat Mitigation [4.043348052153102]
大規模言語モデル(LLM)をセキュリティオペレーションセンター(SOC)に組み込むと、脅威のインテリジェンスを合理化するが、重大な脆弱性を導入する。
管理者はこのベクトルを利用して、悪意のあるペイロードをシステムログに埋め込むことで、マルチステッププロンプトウェアのキルチェーンを実行する。
本稿では,エンドツーエンドのパイプライン整合性を保証するニューロシンボリック・ディフェンス・イン・ディースアーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-09-09T18:03:41Z) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳（メタデータ） (2026-08-27T01:22:14Z) - LMSM: LLM Security Framework Inspired by Linux Security Modules [56.93644694627783]
大規模言語モデル(LLM)は階層化されたディフェンスでデプロイされることが多いが、悪意のあるプロンプトはそれらをバイパスすることができる。
我々は,Language Model Security Modules (LMSM) という,Linux Security Modules (LSM) の背後にある分離を LLM サービスに適応させるセキュリティフレームワークを提案する。
論文 参考訳（メタデータ） (2026-08-26T12:13:05Z) - CyberLLM: A Multi-Agent LLM Framework for Autonomous Detection and Guarded Response in Automotive Cybersecurity [22.68559728326395]
CyberLLMは、脆弱性を自律的に検出し、正式なランタイム安全ガードの下で修正を実行するフレームワークである。
決定エージェントは発見を集約し、人間中心のアセット分類でタグ付けし、タイレッド応答を選択する。
対称攻撃パイプラインはエクスプロイトを生成し再生し、両方のサイドを同じシナリオで実行することができる。
論文 参考訳（メタデータ） (2026-08-06T23:39:13Z) - When Collaboration Becomes a Trigger: Collective Evidence-Threshold Backdoors in Multi-Agent Systems [57.450132281381066]
ピアエビデンスが単一のメッセージによって決定されるのではなく、隠れたしきい値に達すると、バックドアの動作が起動される。
我々は,MASとBundary-Conditioned Backdoor Injection(BCBI)のための集合的エビデンス-ホールドバックドアパラダイムを導入する。
クリーンな通信力学を学習し,異常なエージェント更新を隔離する,クリーンな唯一の潜時防御であるLATTEを提案する。
論文 参考訳（メタデータ） (2026-08-02T08:38:44Z) - PhyAgentOS: A Self-Evolving Operating System for Embodied Agents with Decoupled Cognitive Planning and Physical Execution [49.776611937968]
我々は、スケジューリング、検証、メモリ、ベンチマーク、安全性をシステムレベルのサービスとして提供するPhyAgentOSを紹介します。
セッション中心のセッションは、スケジューリング、互換性、監督された実行、エビデンス収集、受け入れの最小単位として、アクションではなくセッションを扱う。
SessionVerifierは、実行終了とセマンティックタスク完了を、成功、失敗、または再計画のエビデンスに基づいて判断する。
ベンチマークはデプロイメントセッションと検証パスを再利用するので、結果は実際の実行に遡る。
論文 参考訳（メタデータ） (2026-07-18T04:46:53Z) - Autonomous LLM Agent Worms: Cross-Platform Propagation, Automated Discovery and Temporal Re-Entry Defense [10.105892979517622]
ファイル支援型マルチエージェントLPMエコシステムにおける永続的ワーム伝播の自動解析のための最初の体系的フレームワークを提案する。
プラットフォーム固有の適応、エージェント間特権、データ抽出を伴わない、ゼロクリックの自律伝搬、3ホップのクロスプラットフォームトランスミッションを実証する。
論文 参考訳（メタデータ） (2026-05-04T16:49:29Z) - A Trace-Based Assurance Framework for Agentic AI Orchestration: Contracts, Testing, and Governance [0.22940141855172028]
本稿では,Large Language Models (LLM) を用いたエージェントAIシステムの保証フレームワークを提案する。
実行は、明示的なステップとトレースコントラクトを備えたメッセージ・アクション・トレース(MAT)として実装される。
このフレームワークは、有界摂動に対する予算付き反例探索として定式化されたストレステストを含む。
論文 参考訳（メタデータ） (2026-03-18T10:23:48Z) - Beyond Input Guardrails: Reconstructing Cross-Agent Semantic Flows for Execution-Aware Attack Detection [32.301679396929536]
静的な入力フィルタリングから実行対応分析へ、防御パラダイムをシフトするフレームワークであるSysNameを提案する。
SysNameは断片化された操作プリミティブを連続した行動軌跡に合成し、システムアクティビティの全体像を可能にする。
実証的な評価により、SysNameは10以上の異なる複合攻撃ベクトルを効果的に検出し、それぞれノードレベルとパスレベルのエンドツーエンド攻撃検出に対して85.3%と66.7%のF1スコアを達成した。
論文 参考訳（メタデータ） (2026-03-04T01:59:16Z) - The Trojan Knowledge: Bypassing Commercial LLM Guardrails via Harmless Prompt Weaving and Adaptive Tree Search [58.8834056209347]
大規模言語モデル(LLM)は、有害な出力を誘導するために安全ガードレールをバイパスするジェイルブレイク攻撃に弱いままである。
CKA-Agent(Correlated Knowledge Attack Agent)は、ターゲットモデルの知識基盤の適応的木構造探索としてジェイルブレイクを再構成する動的フレームワークである。
論文 参考訳（メタデータ） (2025-12-01T07:05:23Z) - DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。
この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。
本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
論文 参考訳（メタデータ） (2025-06-13T05:01:09Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。