論文の概要: From Neural Intent to Cryptographic Authorization: Securing AI-Driven Enterprise Workflows
- arxiv url: http://arxiv.org/abs/2607.15596v2
- Date: Thu, 23 Jul 2026 05:16:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-24 14:12:06.726608
- Title: From Neural Intent to Cryptographic Authorization: Securing AI-Driven Enterprise Workflows
- Title（参考訳）: ニューラルネットワークから暗号化認証へ - AI駆動型エンタープライズワークフローのセキュア化
- Abstract要約: 我々はニューラルプランナーと特権ツールの間に介在するニューラルシンボリックセキュリティ執行機であるNCSを提案する。
NCSは暗号署名とハッシュチェーンを漸進的に検証し、一度に1つの命令ペイロードをリリースする。
我々は、AgentDojo上のNCSとカスタム引数ハイジャックベンチマークを評価した。
- 参考スコア（独自算出の注目度）: 18.16563505181728
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The rapid adoption of artificial intelligence (AI)-driven workflows is transforming high-consequence} government and enterprise systems into language-based, tool-using and increasingly autonomous infrastructures. While these workflows can delegate planning autonomously, security-critical execution should be strictly mediated. Conventional key management services authenticate who may invoke a cryptographic primitive, but remain agnostic to which workflow steps are authorized at runtime. An AI-driven workflow can still be hijacked by injection attacks into executing malicious actions that satisfy identity checks yet violate user intent. We propose \emph{Neural Cryptographic Services} (NCS), a neuro-symbolic security enforcement plane interposed between neural planners and privileged tools. NCS decouples cognitive planning from execution authority: an untrusted neural planner drafts structured plans, while a deterministic symbolic controller gates execution using an offline-signed, hash-chained instruction stream. Specifically, NCS validates cryptographic signatures and hash chains incrementally, releasing a single instruction payload at a time while strictly binding proposed tool parameters to the verified payload. Out-of-order or altered tool calls fail-closed, and state transitions are logged for post-hoc auditing. NCS does not attempt to prevent neural planner compromise under injection; it guarantees that a compromised planner cannot dispatch actions outside the cryptographic authorization. We evaluate NCS on AgentDojo and a custom argument-hijacking benchmark. NCS drives attack success rates to near zero while preserving acceptable utility on benign workflows. NCS thus shifts security for high-consequence AI-powered workflows from verifying model-intent compliance to verifying that a proposed dispatch matches a cryptographically authorized step.
- Abstract（参考訳）: 人工知能(AI)駆動のワークフローが急速に採用され、政府や企業システムは、言語ベース、ツール使用、そしてますます自律的なインフラへと変化しつつある。
これらのワークフローは、プランニングを自律的に委譲できるが、セキュリティクリティカルな実行は厳密に仲介されるべきである。
従来のキー管理サービスは、誰が暗号プリミティブを呼び出すのかを認証するが、実行時にどのワークフローステップが認可されるかはわからない。
AI駆動のワークフローは、IDチェックを満たす悪意のあるアクションの実行に対するインジェクション攻撃によってハイジャックされるが、ユーザの意図に反する。
ニューラルプランナーと特権ツールの間に介在するニューラルシンボリックセキュリティ執行機である 'emph{Neural Cryptographic Services} (NCS) を提案する。
信頼できないニューラルプランナーが構造化されたプランをドラフトし、決定論的シンボリックコントローラがオフラインで署名されたハッシュチェーンの命令ストリームを使用して実行をゲートする。
具体的には、NCSは暗号署名とハッシュチェーンを漸進的に検証し、単一の命令ペイロードを一度にリリースし、提案されたツールパラメータを検証されたペイロードに厳密に結合する。
注文外または変更済みのツールコールはフェールクロースされ、状態遷移はポストホック監査のためにログされる。
NCSは、インジェクション中のニューラルプランナーの妥協を防ごうとしない。
我々は、AgentDojo上のNCSとカスタム引数ハイジャックベンチマークを評価した。
NCSは、良質なワークフローで許容可能なユーティリティを保持しながら、アタック成功率をほぼゼロに駆動する。
これにより、NASは、AI駆動ワークフローのセキュリティを、モデルインテリジェンスの検証から、提案されたディスパッチが暗号的に承認されたステップと一致することの検証にシフトする。
関連論文リスト
- Architecting the Secure AI-SOC: A Neurosymbolic Framework for Pipeline Integrity and Threat Mitigation [4.043348052153102]
大規模言語モデル(LLM)をセキュリティオペレーションセンター(SOC)に組み込むと、脅威のインテリジェンスを合理化するが、重大な脆弱性を導入する。
管理者はこのベクトルを利用して、悪意のあるペイロードをシステムログに埋め込むことで、マルチステッププロンプトウェアのキルチェーンを実行する。
本稿では,エンドツーエンドのパイプライン整合性を保証するニューロシンボリック・ディフェンス・イン・ディースアーキテクチャを提案する。
論文 参考訳（メタデータ） (2026-09-09T18:03:41Z) - ROPE: Routed Origin Policy Enforcement against Indirect Prompt Injection [61.4148196085256]
本稿では,信頼という構造概念に根ざしたROPE(Routed Origin Policy Enforcement)について述べる。
提案手法では,(1)軌道の各段階において,攻撃可能コンテンツのみを起点とする値が,原点保護パラメータに到達しない,(2)注入のリワードがない,という2つの保証が認められている。
論文 参考訳（メタデータ） (2026-08-27T01:22:14Z) - CAVA: Canonical Action Verification and Attestation for Runtime Governance of Agentic AI Systems [0.6526824510982799]
本稿では、異種エージェントのアクティビティを標準ランタイムオブジェクトに変換するランタイム・セマンティック・レイヤを提案する。
このコントリビューションは、デプロイ側AIガバナンスに必要な基盤として、アクションレベルの標準化とポリシー順応可能なセマンティックパターンを定式化したシステムである。
論文 参考訳（メタデータ） (2026-07-15T11:34:34Z) - Token-Flow Firewall: Semantic Runtime Auditing for Persistent AI Agents [76.4694046738862]
TokenWallは、エージェントトークンフローのセマンティックファイアウォールとして機能するランタイム防衛フレームワークである。
TokenWallは攻撃成功率を12.5%に抑えつつ、97.4%の良質なパスレートを維持している。
論文 参考訳（メタデータ） (2026-07-09T12:18:40Z) - Governed Individuation: Cryptographically Decoupling an Agent's Learning from Its Authority [7.392721604463545]
制限はエージェントの実行アーキテクチャの不変として保証できることを示す。
学習量やスキル獲得量、自己引き起こされるガバナンスの抽象化がエージェントの許可された権限を広げることはできないことを証明します。
論文 参考訳（メタデータ） (2026-07-06T02:42:06Z) - Specifying AI-SDLC Processes: A Protocol Language for Human-Agent Boundaries [0.0]
プロトコルとしてAI-SDLCプロセスを指定するためのドメイン固有言語を提案する。
言語は、ポリシー(宣言された意図)とメカニズム(構造的な執行)を区別する
実行可能な実装は実現可能性を示し、実証的な評価は将来の仕事である。
論文 参考訳（メタデータ） (2026-05-24T02:52:47Z) - Securing LLM Agents Need Intent-to-Execution Integrity [49.490963596514185]
我々は, LLMエージェントの確保には, エージェントの実行がユーザの意図を忠実に反映した場合に規定するエンドツーエンドの正当性を定義する必要があると主張している。
LLMエージェントはコンパイラと構造的に類似しており、セキュリティ違反はユーザ意図を保存しない誤った実行に対応する。
emphTool整合性、emph命令整合性、emphJudgment整合性、emphData整合性。
論文 参考訳（メタデータ） (2026-05-16T12:53:31Z) - From CRUD to Autonomous Agents: Formal Validation and Zero-Trust Security for Semantic Gateways in AI-Native Enterprise Systems [0.0]
本稿では,モデルコンテキストプロトコル(MCP)が管理するセマンティックゲートウェイの設計,形式検証,実証評価を提案する。
ゲートウェイは、エンタプライズAPIをセマンティックサーフェスとして再構成する。
このアーキテクチャでは、事前に推論されたセマンティックファイアウォール、決定論的ツールレベルRBAC、アウトオブバンドの暗号化人間対ループの承認を含む3層ゼロトラストセキュリティモデルが導入されている。
論文 参考訳（メタデータ） (2026-04-28T12:25:06Z) - CapSeal: Capability-Sealed Secret Mediation for Secure Agent Execution [1.9473631530390483]
CapSealは、ダイレクトシークレットアクセスをローカルの信頼できるブローカによる制約付き呼び出しに置き換える、機能封入のシークレット仲介アーキテクチャである。
我々は、MPP対応アダプタと統合されたRustプロトタイプについて、非開示、制約された使用、リプレイ抵抗、監査可能性のための条件付きセキュリティ目標を定式化した。
論文 参考訳（メタデータ） (2026-04-18T00:23:32Z) - OpenKedge: Governing Agentic Mutation with Execution-Bound Safety and Evidence Chains [2.124730017640531]
OpenKedgeは、突然変異を支配プロセスとして再定義するプロトコルである。
EEC(Intent-to-Execution Evidence Chain)は、意図、文脈、政策決定、実行境界、成果を統一された系統にリンクする。
マルチエージェントのコンフリクトシナリオとクラウドインフラストラクチャの変異に対してOpenKedgeを評価した。
論文 参考訳（メタデータ） (2026-04-07T22:51:08Z) - ShieldNet: Network-Level Guardrails against Emerging Supply-Chain Injections in Agentic Systems [56.613157564882925]
悪意のある行動は、一見良心的なツールに埋め込まれ、エージェントの実行を静かにハイジャックしたり、機密データをリークしたり、無許可のアクションをトリガーしたりする。
影響は拡大しているが、このような脅威を評価するための包括的なベンチマークは今のところ存在しない。
実ネットワークの相互作用を観測してサプライチェーン中毒を検出するネットワークレベルのガードレールフレームワークであるShieldNetを提案する。
論文 参考訳（メタデータ） (2026-04-06T05:15:00Z) - SkillJect: Automating Stealthy Skill-Based Prompt Injection for Coding Agents with Trace-Driven Closed-Loop Refinement [120.52289344734415]
エージェントスキルに適したステルスプロンプトインジェクションのための自動フレームワークを提案する。
フレームワークは、明示的なステルス制約の下でインジェクションスキルを合成するアタックエージェント、インジェクションされたスキルを使用してタスクを実行するコードエージェント、アクショントレースをログする評価エージェントの3つのエージェントでクローズドループを形成する。
本手法は,現実的な環境下で高い攻撃成功率を達成する。
論文 参考訳（メタデータ） (2026-02-15T16:09:48Z) - CausalArmor: Efficient Indirect Prompt Injection Guardrails via Causal Attribution [49.689452243966315]
ツールコール機能を備えたAIエージェントは、IPI(Indirect Prompt Injection)攻撃の影響を受けやすい。
本稿では,選択防衛フレームワークCausalArmorを提案する。
AgentDojoとDoomArenaの実験は、CausalArmorが攻撃的な防御のセキュリティと一致することを示した。
論文 参考訳（メタデータ） (2026-02-08T11:34:08Z) - CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。
CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。
このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
論文 参考訳（メタデータ） (2026-01-14T23:06:35Z) - Agentic AI for Autonomous Defense in Software Supply Chain Security: Beyond Provenance to Vulnerability Mitigation [0.0]
本論文は,自律型ソフトウェアサプライチェーンセキュリティに基づくエージェント人工知能(AI)の例を含む。
大規模言語モデル(LLM)ベースの推論、強化学習(RL)、マルチエージェント調整を組み合わせている。
その結果、エージェントAIは、自己防衛的で積極的なソフトウェアサプライチェーンへの移行を促進することが示されている。
論文 参考訳（メタデータ） (2025-12-29T14:06:09Z) - DRIFT: Dynamic Rule-Based Defense with Injection Isolation for Securing LLM Agents [52.92354372596197]
大規模言語モデル(LLM)は、強力な推論と計画能力のため、エージェントシステムの中心となってきています。
この相互作用は、外部ソースからの悪意のある入力がエージェントの振る舞いを誤解させる可能性がある、インジェクション攻撃のリスクも引き起こす。
本稿では,信頼に値するエージェントシステムのための動的ルールベースの分離フレームワークを提案する。
論文 参考訳（メタデータ） (2025-06-13T05:01:09Z) - CANTXSec: A Deterministic Intrusion Detection and Prevention System for CAN Bus Monitoring ECU Activations [53.036288487863786]
物理ECUアクティベーションに基づく最初の決定論的侵入検知・防止システムであるCANTXSecを提案する。
CANバスの古典的な攻撃を検知・防止し、文献では調査されていない高度な攻撃を検知する。
物理テストベッド上での解法の有効性を実証し,攻撃の両クラスにおいて100%検出精度を達成し,100%のFIAを防止した。
論文 参考訳（メタデータ） (2025-05-14T13:37:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。