論文の概要: From Neural Intent to Cryptographic Authorization: Governing Agentic Workflows
- arxiv url: http://arxiv.org/abs/2607.15596v1
- Date: Fri, 17 Jul 2026 03:44:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-20 17:56:52.743256
- Title: From Neural Intent to Cryptographic Authorization: Governing Agentic Workflows
- Title（参考訳）: ニューラルネットワークから暗号認証へ - エージェントワークフローの監督
- Abstract要約: ニューラルシンボリックデザインに基づくアクティブなセキュリティガバナンスプレーンであるemphNeural Cryptographic Services(NCS)を紹介する。
NCSは、良質なランタイム上で許容可能なユーティリティを保持しながら、アタック成功率をほぼゼロに駆動する。
- 参考スコア（独自算出の注目度）: 18.16563505181728
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The rapid adoption of artificial intelligence (AI)-driven and agentic workflows is transforming traditional government and enterprise systems into language-based, tool-using and increasingly autonomous infrastructures. Conventional key management services authenticate who may invoke a cryptographic primitive, but remain agnostic to which workflow steps are authorized at runtime: an authenticated agent can still be hijacked by direct or indirect prompt injection into executing malicious actions that satisfy identity checks yet violate user intent. We present \emph{Neural Cryptographic Services} (NCS), an active security governance plane grounded in a neural-symbolic design and interposed between LLM agents and privileged tools. Under NCS, an untrusted neural planner compiles natural-language instructions into structured plan drafts but holds no execution authority. Execution is instead gated by a deterministic symbolic controller operating over an offline-signed, hash-chained instruction stream. NCS verifies the signature, incrementally validates the hash chain, releases exactly one instruction payload at a time, and enforces strict binding between the agent's proposed tool parameters and the verified payload. Mismatched or out-of-order tool calls are rejected fail-closed, while previously verified states are retained for post-hoc auditing. We evaluate NCS on AgentDojo and a custom argument-hijacking benchmark. NCS drives attack success rates to near zero while preserving acceptable utility on benign workflows. NCS thus reframes agent security from asking whether a model's intent complied to asking whether a proposed dispatch matches a cryptographically authorized step.
- Abstract（参考訳）: 人工知能(AI)駆動のエージェントワークフローの急速な採用により、従来の政府やエンタープライズシステムは、言語ベース、ツール使用、そしてますます自律的なインフラストラクチャへと変貌を遂げている。
従来のキー管理サービスは、誰が暗号化プリミティブを起動するかもしれないが、実行時にワークフローステップが承認されるかどうかを知らない: 認証されたエージェントは、ユーザー意図に反するIDチェックを満足する悪意のあるアクションの実行に直接または間接的に注入することによって、ハイジャックされる。
我々は,LLMエージェントと特権ツールの間に介在する,ニューラルシンボリックデザインに基づくアクティブなセキュリティガバナンスプレーンである 'emph{Neural Cryptographic Services} (NCS) を提示する。
NCSでは、信頼できないニューラルプランナーが自然言語の命令を構造化された計画草案にコンパイルするが、実行権限は持たない。
実行は、オフラインで署名されたハッシュチェーンの命令ストリームを操作する決定論的シンボリックコントローラによって強制される。
NCSは署名を検証し、ハッシュチェーンをインクリメンタルに検証し、一度に1つの命令ペイロードを正確にリリースし、エージェントの提案するツールパラメータと検証されたペイロードとの厳密な結合を強制する。
ミスマッチまたはアウト・オブ・オーダーのツールコールはフェールクローズされ、以前に確認された状態はポストホック監査のために保持される。
我々は、AgentDojo上のNCSとカスタム引数ハイジャックベンチマークを評価した。
NCSは、良質なワークフローで許容可能なユーティリティを保持しながら、アタック成功率をほぼゼロに駆動する。
NCSはエージェントのセキュリティを、提案されたディスパッチが暗号的に承認されたステップにマッチするかどうかを問うために、モデルの意図が準拠したかどうかを問うように再構成した。
関連論文リスト
- Architecting the Secure AI-SOC: A Neurosymbolic Framework for Pipeline Integrity and Threat Mitigation [4.043348052153102]
大規模言語モデル(LLM)をセキュリティオペレーションセンター(SOC)に組み込むと、脅威のインテリジェンスを合理化するが、重大な脆弱性を導入する。
管理者はこのベクトルを利用して、悪意のあるペイロードをシステムログに埋め込むことで、マルチステッププロンプトウェアのキルチェーンを実行する。
本稿では,エンドツーエンドのパイプライン整合性を保証するニューロシンボリック・ディフェンス・イン・ディースアーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-09-09T18:03:41Z) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳（メタデータ） (2026-08-27T01:22:14Z) - CAVA: Canonical Action Verification and Attestation for Runtime Governance of Agentic AI Systems [0.6526824510982799]
本稿では、異種エージェントのアクティビティを標準ランタイムオブジェクトに変換するランタイム・セマンティック・レイヤを提案する。
このコントリビューションは、デプロイ側AIガバナンスに必要な基盤として、アクションレベルの標準化とポリシー順応可能なセマンティックパターンを定式化したシステムである。
論文 参考訳（メタデータ） (2026-07-15T11:34:34Z) - Token-Flow Firewall: Semantic Runtime Auditing for Persistent AI Agents [76.4694046738862]
TokenWallは、エージェントトークンフローのセマンティックファイアウォールとして機能するランタイム防衛フレームワークである。
TokenWallは攻撃成功率を12.5%に抑えつつ、97.4%の良質なパスレートを維持している。
論文 参考訳（メタデータ） (2026-07-09T12:18:40Z) - Governed Individuation: Cryptographically Decoupling an Agent's Learning from Its Authority [7.392721604463545]
制限はエージェントの実行アーキテクチャの不変として保証できることを示す。
学習量やスキル獲得量、自己引き起こされるガバナンスの抽象化がエージェントの許可された権限を広げることはできないことを証明します。
論文 参考訳（メタデータ） (2026-07-06T02:42:06Z) - Specifying AI-SDLC Processes: A Protocol Language for Human-Agent Boundaries [0.0]
プロトコルとしてAI-SDLCプロセスを指定するためのドメイン固有言語を提案する。
言語は、ポリシー(宣言された意図)とメカニズム(構造的な執行)を区別する
実行可能な実装は実現可能性を示し、実証的な評価は将来の仕事である。
論文 参考訳（メタデータ） (2026-05-24T02:52:47Z) - Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。
LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。
emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
論文 参考訳（メタデータ） (2026-05-16T12:53:31Z) - From CRUD to Autonomous Agents: Formal Validation and Zero-Trust Security for Semantic Gateways in AI-Native Enterprise Systems [0.0]
本稿では,モデルコンテキストプロトコル(MCP)が管理するセマンティックゲートウェイの設計,形式検証,実証評価を提案する。
ゲートウェイは、エンタプライズAPIをセマンティックサーフェスとして再構成する。
このアーキテクチャでは、事前に推論されたセマンティックファイアウォール、決定論的ツールレベルRBAC、アウトオブバンドの暗号化人間対ループの承認を含む3層ゼロトラストセキュリティモデルが導入されている。
論文 参考訳（メタデータ） (2026-04-28T12:25:06Z) - CapSeal: Capability-Sealed Secret Mediation for Secure Agent Execution [1.9473631530390483]
CapSealは、ダイレクトシークレットアクセスをローカルの信頼できるブローカによる制約付き呼び出しに置き換える、機能封入のシークレット仲介アーキテクチャである。
我々は、MPP対応アダプタと統合されたRustプロトタイプについて、非開示、制約された使用、リプレイ抵抗、監査可能性のための条件付きセキュリティ目標を定式化した。
論文 参考訳（メタデータ） (2026-04-18T00:23:32Z) - OpenKedge: Governing Agentic Mutation with Execution-Bound Safety and Evidence Chains [2.124730017640531]
OpenKedgeは、突然変異を支配プロセスとして再定義するプロトコルである。
EEC(Intent-to-Execution Evidence Chain)は、意図、文脈、政策決定、実行境界、成果を統一された系統にリンクする。
マルチエージェントのコンフリクトシナリオとクラウドインフラストラクチャの変異に対してOpenKedgeを評価した。
論文 参考訳（メタデータ） (2026-04-07T22:51:08Z) - ShieldNet: Network-Level Guardrails against Emerging Supply-Chain Injections in Agentic Systems [56.613157564882925]
悪意のある行動は、一見良心的なツールに埋め込まれ、エージェントの実行を静かにハイジャックしたり、機密データをリークしたり、無許可のアクションをトリガーしたりする。
影響は拡大しているが、このような脅威を評価するための包括的なベンチマークは今のところ存在しない。
実ネットワークの相互作用を観測してサプライチェーン中毒を検出するネットワークレベルのガードレールフレームワークであるShieldNetを提案する。
論文 参考訳（メタデータ） (2026-04-06T05:15:00Z) - SkillJect: Automating Stealthy Skill-Based Prompt Injection for Coding Agents with Trace-Driven Closed-Loop Refinement [120.52289344734415]
エージェントスキルに適したステルスプロンプトインジェクションのための自動フレームワークを提案する。
フレームワークは、明示的なステルス制約の下でインジェクションスキルを合成するアタックエージェント、インジェクションされたスキルを使用してタスクを実行するコードエージェント、アクショントレースをログする評価エージェントの3つのエージェントでクローズドループを形成する。
本手法は,現実的な環境下で高い攻撃成功率を達成する。
論文 参考訳（メタデータ） (2026-02-15T16:09:48Z) - CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution [49.689452243966315]
ツールコール機能を備えたAIエージェントは、IPI(Indirect Prompt Injection)攻撃の影響を受けやすい。
本稿では,選択防衛フレームワークCausalArmorを提案する。
AgentDojoとDoomArenaの実験は、CausalArmorが攻撃的な防御のセキュリティと一致することを示した。
論文 参考訳（メタデータ） (2026-02-08T11:34:08Z) - CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。
CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。
このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
論文 参考訳（メタデータ） (2026-01-14T23:06:35Z) - Agentic AI for Autonomous Defense in Software Supply Chain Security: Beyond Provenance to Vulnerability Mitigation [0.0]
本論文は,自律型ソフトウェアサプライチェーンセキュリティに基づくエージェント人工知能(AI)の例を含む。
大規模言語モデル(LLM)ベースの推論、強化学習(RL)、マルチエージェント調整を組み合わせている。
その結果、エージェントAIは、自己防衛的で積極的なソフトウェアサプライチェーンへの移行を促進することが示されている。
論文 参考訳（メタデータ） (2025-12-29T14:06:09Z) - DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。
この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。
本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
論文 参考訳（メタデータ） (2025-06-13T05:01:09Z) - CANTXSec: A Deterministic Intrusion Detection and Prevention System for CAN Bus Monitoring ECU Activations [53.036288487863786]
物理ECUアクティベーションに基づく最初の決定論的侵入検知・防止システムであるCANTXSecを提案する。
CANバスの古典的な攻撃を検知・防止し、文献では調査されていない高度な攻撃を検知する。
物理テストベッド上での解法の有効性を実証し,攻撃の両クラスにおいて100%検出精度を達成し,100%のFIAを防止した。
論文 参考訳（メタデータ） (2025-05-14T13:37:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。