論文の概要: The Chronos Vulnerability: A Taxonomy of Temporal Persistence and Memory-Based Deception in Agentic AI

• arxiv url: http://arxiv.org/abs/2607.19433v1
• Date: Mon, 20 Jul 2026 22:50:33 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-23 18:51:37.890198
• Title: The Chronos Vulnerability: A Taxonomy of Temporal Persistence and Memory-Based Deception in Agentic AI
• Title（参考訳）: クロノス脆弱性 : エージェントAIにおける時間的永続性と記憶に基づく認知の分類学
• Authors: Om Narayan, Ramkinker Singh, Praveen Baskar,
• Abstract要約: 本研究では、永続性に基づく攻撃の脅威モデルと、ダイナミクス・ブラインドネスの脅威を定式化する。 人工知能におけるステートレス生成モデルからステートフルで自律的なエージェントへの移行は、アーキテクチャの進化を表している。 本研究では,GPUベースのTrusted Environments(TEEs)とZero-Trustメモリアーキテクチャによる,診断トラジェクトリガードレール(AgentDoG),形式的時間的検証(Agent-C),免疫学的メモリコンセンサス(A-MemGuard),ハードウェアアンコレッド信頼などの新興フレームワークを分類し,深層景観を合成する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: The transition from stateless generative models in artificial intelligence to stateful, autonomous agents represents an architectural evolution that, while providing the capabilities of long-term planning and the automation of enterprise workflows, also represents the introduction of a new form of security threat, the Chronos Vulnerability. The Chronos Vulnerability represents the threat of memory-based attacks, including the Memory Injection Attack (MINJA) and the sleeper agent, in which the internal belief system of the autonomous agent is compromised, effectively decoupling the attack vector from the final catastrophic event. This study formalizes the threat model for persistence-based attacks and the threat of Dynamics Blindness in the context of the World of Workflows benchmark, demonstrating that traditional endpoint content filters are insufficient for the current stateful architecture. Consequently, this study synthesizes a defense-in-depth landscape, categorizing emerging frameworks such as diagnostic trajectory guardrails (AgentDoG), formal temporal verification (Agent-C), immunological memory consensus (A-MemGuard), and hardware-anchored trust via GPU-based Trusted Execution Environments (TEEs) and Zero-Trust memory architectures.
• Abstract（参考訳）: 人工知能におけるステートレス生成モデルからステートフルな自律エージェントへの移行は、長期計画の能力とエンタープライズワークフローの自動化を提供する一方で、新しい形のセキュリティ脅威であるChronos Vulnerabilityも導入するアーキテクチャの進化を表している。 クロノス脆弱性(Chronos Vulnerability)は、メモリインジェクションアタック(MINJA)や、自律エージェントの内部信念システムが侵害され、最終的な破滅的な事象から攻撃ベクトルを効果的に分離するスリーパーエージェントを含む、メモリベースの攻撃の脅威を表す。 本研究では、従来のエンドポイントコンテンツフィルタが現在のステートフルアーキテクチャに不十分であることを実証し、永続性ベースの攻撃の脅威モデルとDynamics Blindnessの脅威をWorld of Workflowsベンチマークの文脈で定式化する。 そこで本研究では,GPUベースのTrusted Execution Environments (TEEs) とZero-Trustメモリアーキテクチャを用いた,診断軌道ガードレール (AgentDoG) や形式時間検証 (Agent-C) ,免疫学的メモリコンセンサス (A-MemGuard) などの新興フレームワークの分類を行った。

関連論文リスト

• Safety in Self-Evolving LLM Agent Systems: Threats, Amplification, and Case Studies [62.65225104423404]
  自己進化エージェントシステムは、敵の影響力が永久に符号化される、質的に新しい脅威の風景を導入します。 モジュール・ライフサイクル・アタック・サーフェス・マトリックスを中心に組織化されたセキュリティとプライバシの分析を行った。 その結果, 自己進化は, 既知のすべての攻撃カテゴリをセッションバウンドからラインパーシスタントに変換することがわかった。
  論文  参考訳（メタデータ） (2026-06-22T09:23:50Z)
• Provably Secure Agent Guardrail [89.79561918065122]
  既存の防衛アーキテクチャは経験的セマンティックガードレールと確率論的大モデル調整器に依存している。 本稿では,論理的推論の基本的制約に基づくエージェントのための新しいセキュリティパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-05-28T02:12:41Z)
• Enabling Adversarial Robustness in AI Models through Kubeflow MLOps [0.21290878226779877]
  本稿では,クラスタにデプロイされたAIモデルのセキュリティ対策について述べる。 提案アーキテクチャでは,KubeflowベースのMLOpsを統合して,推論フェーズ中の敵攻撃を自動的に検出する。 実験により, 展開された防御がモデルに強固に作用し, 攻撃による劣化に対する精度を著しく回復することが示された。
  論文  参考訳（メタデータ） (2026-05-14T12:45:36Z)
• Agentic AI as a Cybersecurity Attack Surface: Threats, Exploits, and Defenses in Runtime Supply Chains [7.8562769948743965]
  大規模言語モデル(LLM)上に構築されたエージェントシステムは、テキスト生成を超えて情報を自律的に取得し、ツールを呼び出す。 このランタイム実行モデルは、アタックサーフェスをビルド時のアーティファクトから推論時の依存性に変更し、信頼できないデータと確率論的能力解決を通じて操作するエージェントを公開します。 我々はこれらのリスクを統合ランタイムフレームワーク内で体系化し、脅威をデータサプライチェーン攻撃(過渡的コンテキスト注入と永続的メモリ中毒)に分類する。 また,ウイルスエージェントループは,コードレベルの欠陥を生かさずに自己増殖するワームのベクターとして機能する。
  論文  参考訳（メタデータ） (2026-02-23T06:57:57Z)
• Zombie Agents: Persistent Control of Self-Evolving LLM Agents via Self-Reinforcing Injections [57.64370755825839]
  セルフ進化エージェントはセッション間で内部状態を更新する。 我々はこのリスクを調査し、Zombie Agentと呼ばれる永続的な攻撃を形式化する。 我々は,攻撃者が制御するWebコンテンツを通じて間接的露光のみを使用するブラックボックス攻撃フレームワークを提案する。
  論文  参考訳（メタデータ） (2026-02-17T15:28:24Z)
• CaMeLs Can Use Computers Too: System-level Security for Computer Use Agents [60.98294016925157]
  AIエージェントは、悪意のあるコンテンツがエージェントの行動をハイジャックして認証情報を盗んだり、金銭的損失を引き起こすような、インジェクション攻撃に弱い。 CUAのためのシングルショットプランニングでは、信頼できるプランナーが、潜在的に悪意のあるコンテンツを観察する前に、条件付きブランチで完全な実行グラフを生成する。 このアーキテクチャ分離は命令インジェクションを効果的に防止するが、ブランチステアリング攻撃を防ぐには追加の対策が必要であることを示す。
  論文  参考訳（メタデータ） (2026-01-14T23:06:35Z)
• Towards Efficient Agents: A Co-Design of Inference Architecture and System [66.59916327634639]
  本稿では,エージェントアクセラレーションのための統合フレームワークであるAgentInferを提案する。 問題をAgentCollab、AgentSched、AgentSAM、AgentCompressの4つの相乗的コンポーネントに分解する。 BrowseComp-zhとDeepDiverベンチマークの実験では、これらの手法の相乗的コラボレーションを通じて、AgentInferは非効率なトークン消費を50%以上削減することを示した。
  論文  参考訳（メタデータ） (2025-12-20T12:06:13Z)
• Securing Agentic AI: Threat Modeling and Risk Analysis for Network Monitoring Agentic AI System [2.5145802129902664]
  MAESTROフレームワークはエージェントAIの脆弱性を公開、評価、排除するために使用された。 プロトタイプエージェントシステムはPython、LangChain、WebSocketでテレメトリを使用して構築、実装された。
  論文  参考訳（メタデータ） (2025-08-12T00:14:12Z)
• QSAF: A Novel Mitigation Framework for Cognitive Degradation in Agentic AI [2.505520948667288]
  エージェントAIシステムにおける新たな脆弱性クラスとして認知劣化を導入する。 これらの障害は、メモリの飢餓、プランナーの再帰、コンテキストの洪水、出力の抑制によって内部的に発生する。 この種の障害に対処するため、我々はQorvex Security AI Framework for Behavioral & Cognitive Resilienceを紹介します。
  論文  参考訳（メタデータ） (2025-07-21T07:41:58Z)
• Adversarial vs behavioural-based defensive AI with joint, continual and active learning: automated evaluation of robustness to deception, poisoning and concept drift [62.997667081978825]
  人工知能(AI)の最近の進歩は、サイバーセキュリティのための行動分析(UEBA)に新たな能力をもたらした。 本稿では、検出プロセスを改善し、人間の専門知識を効果的に活用することにより、この攻撃を効果的に軽減するソリューションを提案する。
  論文  参考訳（メタデータ） (2020-01-13T13:54:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。