論文の概要: LLM agents security duality: a comprehensive survey of self-security and empowered cybersecurity

• arxiv url: http://arxiv.org/abs/2606.28450v1
• Date: Fri, 26 Jun 2026 09:32:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-30 18:07:15.572031
• Title: LLM agents security duality: a comprehensive survey of self-security and empowered cybersecurity
• Title（参考訳）: LLMエージェントのセキュリティ二重性: 自己セキュリティと強化サイバーセキュリティに関する包括的な調査
• Abstract要約: 大規模言語モデル(LLM)エージェントは、現実世界のシステムに急速に統合されている。 この調査は、犯罪や防衛のサイバーセキュリティのライフサイクルを強化する上で、LLMエージェントが果たす役割に焦点を当てている。
• 参考スコア（独自算出の注目度）: 13.20232770906974
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large language model (LLM) agents are rapidly being integrated into real-world systems. Their autonomy and tool-use capabilities generate substantial value while simultaneously expanding the security attack surface. This survey provides a comprehensive overview of the opportunities and challenges of LLM agents in security, focusing on two core areas: (1) threats to LLM agents themselves and corresponding mitigation strategies (LLM agents self-security), and (2) the role of LLM agents in empowering the cybersecurity lifecycle across offense and defense (LLM agents empowered cybersecurity). We first examine the internal and external attack surfaces of agents, propose a taxonomy organized by threat sources, and analyze associated mitigations and evaluation frameworks. We then investigate how agent capabilities are applied in cybersecurity practice and present, to our knowledge, the first agent-empowerment framework aligned with the full cyber offense-defense lifecycle. By systematically surveying these two areas, we are the first to highlight a positive feedback synergy between LLM agents self-security and empowered cybersecurity, offering new insights for the advancement of both. We further identify current limitations and outline promising directions for future research. The insights provided aim to catalyze the coordinated development of LLM agents self-security and agent empowered cybersecurity, paving the way for more capable and robust agent applications.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、現実世界のシステムに急速に統合されている。 彼らの自律性とツール使用能力は、セキュリティ攻撃面を同時に拡張しながら、かなりの価値を生み出します。 本調査は、LLMエージェントのセキュリティにおける可能性と課題を概観し、(1)LLMエージェント自体への脅威とそれに対応する緩和戦略(LLMエージェントセルフセキュリティ)、(2)犯罪と防衛(LLMエージェントのサイバーセキュリティ強化)におけるLLMエージェントの役割に焦点を当てた。 まず、エージェントの内部および外部の攻撃面を調査し、脅威源によって組織された分類を提案し、関連する緩和と評価の枠組みを分析する。 そして、エージェントの能力がどのようにサイバーセキュリティの実践に適用され、私たちの知識に対して、サイバー犯罪と防衛の完全なライフサイクルに適合する最初のエージェント・エンパワーメント・フレームワークを提示するかを調査する。 これら2つの分野を体系的に調査することで、私たちは、LLMエージェントの自己セキュリティと強化されたサイバーセキュリティの間の肯定的なフィードバックシナジーを初めて強調し、両者の進歩に新たな洞察を与えます。 我々はさらに現在の限界を特定し、今後の研究に向けた有望な方向性を概説する。 提供された洞察は、LLMエージェントの自己セキュリティとエージェントの強化されたサイバーセキュリティの協調開発を触媒し、より有能で堅牢なエージェントアプリケーションへの道を開くことを目的としていた。

関連論文リスト

• Toward Secure AI-Powered Penetration Testing Agents: Security Threats, Guardrails, and Architectural Perspectives [0.0]
  LLMを動力とする自律エージェントは、動的で多段階の攻撃的セキュリティで浸透試験空間を変革している。 しかし、永続的なメモリを持ち、現実世界で行動し、長期にわたる推論を行う能力は、質的に異なるセキュリティ上の懸念を引き起こす。 既存の会話型AIのガードレール機構は、それに応じて自律型AIペンテスティングエージェントを確保するのに十分ではないかもしれない。
  論文  参考訳（メタデータ） (2026-09-15T06:19:50Z)
• LLM Scalability Risk for Agentic-AI and Model Supply Chain Security [1.1205855201611814]
  大規模言語モデル(LLM)とジェネレーティブAIはサイバーセキュリティを変革し、高度な防衛と新たな攻撃の両方を可能にしている。 本稿では,GenAIによるサイバーセキュリティに対する攻撃的・防衛的視点を統合した統合分析を行う。
  論文  参考訳（メタデータ） (2026-02-22T03:20:49Z)
• A Survey on Agentic Security: Applications, Threats and Defenses [6.83318476483428]
  受動LSMから自律LSMエージェントへの急速なシフトは、サイバーセキュリティの新しいパラダイムである。 これらのエージェントは攻撃的かつ防御的な操作のための強力なツールとして機能するが、非常にエージェント的なコンテキストは、固有のセキュリティリスクの新たなクラスを導入している。 我々は150以上の論文を包括的に分類し、エージェントの使用方法、それらが持つ脆弱性、それらを保護するために設計された対策を説明します。
  論文  参考訳（メタデータ） (2025-10-07T20:32:20Z)
• Large Language Models in Cybersecurity: Applications, Vulnerabilities, and Defense Techniques [11.217261201018815]
  大規模言語モデル(LLM)は、脅威検出、脆弱性評価、インシデント応答に対するインテリジェントで適応的で自動化されたアプローチを可能にすることで、サイバーセキュリティを変革している。 高度な言語理解とコンテキスト推論によって、LLMは、IoTやブロックチェーン、ハードウェアセキュリティといったドメイン間の課題に対処する従来の手法を超越している。
  論文  参考訳（メタデータ） (2025-07-18T03:41:18Z)
• LLM Agents Should Employ Security Principles [60.03651084139836]
  本稿では,大規模言語モデル(LLM)エージェントを大規模に展開する際には,情報セキュリティの確立した設計原則を採用するべきであることを論じる。 AgentSandboxは、エージェントのライフサイクル全体を通して保護を提供するために、これらのセキュリティ原則を組み込んだ概念的なフレームワークである。
  論文  参考訳（メタデータ） (2025-05-29T21:39:08Z)
• From Assistants to Adversaries: Exploring the Security Risks of Mobile LLM Agents [17.62574693254363]
  モバイル大言語モデル(LLM)の総合的セキュリティ解析について紹介する。 言語ベースの推論,GUIベースのインタラクション,システムレベルの実行という,3つのコア機能領域にわたるセキュリティ上の脅威を特定します。 分析の結果,11個の異なる攻撃面が明らかとなり,それぞれが移動型LDMエージェントのユニークな機能と相互作用パターンに根ざしていることがわかった。
  論文  参考訳（メタデータ） (2025-05-19T11:17:46Z)
• AgentVigil: Generic Black-Box Red-teaming for Indirect Prompt Injection against LLM Agents [54.29555239363013]
  本稿では,間接的なインジェクション脆弱性を自動的に検出し,悪用するための汎用的なブラックボックスファジリングフレームワークであるAgentVigilを提案する。 我々はAgentVigilをAgentDojoとVWA-advの2つの公開ベンチマークで評価し、o3-miniとGPT-4oに基づくエージェントに対して71%と70%の成功率を達成した。 攻撃を現実世界の環境に適用し、悪質なサイトを含む任意のURLに誘導するエージェントをうまく誘導する。
  論文  参考訳（メタデータ） (2025-05-09T07:40:17Z)
• Global Challenge for Safe and Secure LLMs Track 1 [57.08717321907755]
  LLM(Global Challenge for Safe and Secure Large Language Models)は、AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が主催する先駆的イニシアチブである。 本稿では,AI Singapore(AISG)とCyberSG R&D Programme Office(CRPO)が組織した先駆的イニシアチブであるLLM(Global Challenge for Safe and Secure Large Language Models)を紹介する。
  論文  参考訳（メタデータ） (2024-11-21T08:20:31Z)
• Large Model Based Agents: State-of-the-Art, Cooperation Paradigms, Security and Privacy, and Future Trends [64.57762280003618]
  近い将来、LM駆動の汎用AIエージェントが、生産タスクにおいて不可欠なツールとして機能することが予想される。 本稿では,将来のLMエージェントの自律的協調に関わるシナリオについて検討する。
  論文  参考訳（メタデータ） (2024-09-22T14:09:49Z)
• The Emerged Security and Privacy of LLM Agent: A Survey with Case Studies [58.94148083602662]
  大規模言語モデル(LLM)エージェントは複雑なタスクを実行するために進化してきた。 LLMエージェントの幅広い応用は、その商業的価値を示している。 しかし、セキュリティとプライバシの脆弱性も公開している。 この調査は、LLMエージェントが直面しているプライバシーとセキュリティの問題を包括的に概観することを目的としている。
  論文  参考訳（メタデータ） (2024-07-28T00:26:24Z)
• Watch Out for Your Agents! Investigating Backdoor Threats to LLM-Based Agents [47.219047422240145]
  我々は、LSMベースのエージェントに対して、典型的な安全脅威であるバックドアアタックの1つを調査する第一歩を踏み出した。 具体的には、ユーザ入力とモデル出力のみを操作できる従来のLDMに対するバックドア攻撃と比較して、エージェントバックドア攻撃はより多様で隠蔽的な形式を示す。
  論文  参考訳（メタデータ） (2024-02-17T06:48:45Z)
• TrustAgent: Towards Safe and Trustworthy LLM-based Agents [50.33549510615024]
  本稿では,エージェント・コンスティチューションをベースとしたエージェント・フレームワークであるTrustAgentについて述べる。 提案枠組みは,計画立案前のモデルに安全知識を注入する事前計画戦略,計画立案時の安全性を高める内計画戦略,計画後検査による安全性を確保する後計画戦略の3つの戦略要素を通じて,エージェント憲法の厳格な遵守を保証する。
  論文  参考訳（メタデータ） (2024-02-02T17:26:23Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。