論文の概要: Teams of LLM Agents can Exploit Zero-Day Vulnerabilities

• arxiv url: http://arxiv.org/abs/2406.01637v1
• Date: Sun, 2 Jun 2024 16:25:26 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-05 21:31:36.158893
• Title: Teams of LLM Agents can Exploit Zero-Day Vulnerabilities
• Title（参考訳）: LLMエージェントのチームはゼロデイ脆弱性を突破できる
• Authors: Richard Fang, Rohan Bindu, Akul Gupta, Qiusi Zhan, Daniel Kang,
• Abstract要約: LLMエージェントのチームが実世界のゼロデイ脆弱性を悪用できることを示します。 我々は,サブエージェントを起動可能な計画エージェントを備えたエージェントシステムHPTSAを紹介する。 我々は15の現実世界の脆弱性のベンチマークを構築し、エージェントのチームが以前の作業よりも4.5$times$で改善できることを示します。
• 参考スコア（独自算出の注目度）: 3.2855317710497625
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: LLM agents have become increasingly sophisticated, especially in the realm of cybersecurity. Researchers have shown that LLM agents can exploit real-world vulnerabilities when given a description of the vulnerability and toy capture-the-flag problems. However, these agents still perform poorly on real-world vulnerabilities that are unknown to the agent ahead of time (zero-day vulnerabilities). In this work, we show that teams of LLM agents can exploit real-world, zero-day vulnerabilities. Prior agents struggle with exploring many different vulnerabilities and long-range planning when used alone. To resolve this, we introduce HPTSA, a system of agents with a planning agent that can launch subagents. The planning agent explores the system and determines which subagents to call, resolving long-term planning issues when trying different vulnerabilities. We construct a benchmark of 15 real-world vulnerabilities and show that our team of agents improve over prior work by up to 4.5$\times$.
• Abstract（参考訳）: LLMエージェントは、特にサイバーセキュリティの領域において、ますます洗練されつつある。 研究者たちは、LLMエージェントが脆弱性とおもちゃの捕獲=フラッグ問題を説明すると、現実世界の脆弱性を悪用できることを示した。 しかしながら、これらのエージェントは、前もってエージェントに知られていなかった現実世界の脆弱性(ゼロデイ脆弱性)に対して、依然として不十分に動作します。 本研究では,LLMエージェントのチームが実世界のゼロデイ脆弱性を悪用できることを示す。 先行エージェントは、単独で使用する場合、さまざまな脆弱性や長距離計画の探索に苦労する。 そこで本研究では,サブエージェントを起動可能な計画エージェントを備えたエージェントシステムHPTSAを紹介する。 プランニングエージェントはシステムを調べ、どのサブエージェントを呼び出すかを決定し、異なる脆弱性を試す際に長期的な計画上の問題を解決します。 我々は15の現実世界の脆弱性のベンチマークを構築し、エージェントのチームが以前の作業よりも4.5$\times$で改善できることを示します。

関連論文リスト

• AgentHarm: A Benchmark for Measuring Harmfulness of LLM Agents [84.96249955105777]
  LLMエージェントは誤用された場合、より大きなリスクを引き起こすが、その堅牢性は未発見のままである。 我々は, LLMエージェント誤用の研究を容易にするために, AgentHarmと呼ばれる新しいベンチマークを提案する。 主要なLLMは、ジェイルブレイクなしで悪意のあるエージェント要求に驚くほど準拠している。
  論文  参考訳（メタデータ） (2024-10-11T17:39:22Z)
• On the Resilience of Multi-Agent Systems with Malicious Agents [58.79302663733702]
  本稿では,悪意のあるエージェント下でのマルチエージェントシステムのレジリエンスについて検討する。 我々は、任意のエージェントを悪意のあるエージェントに変換する2つの方法、AutoTransformとAutoInjectを考案した。 各エージェントが他のエージェントの出力に挑戦するためのメカニズムを導入するか、あるいはメッセージのレビューと修正を行う追加のエージェントを導入することで、システムのレジリエンスを高めることができることを示す。
  論文  参考訳（メタデータ） (2024-08-02T03:25:20Z)
• Breaking Agents: Compromising Autonomous LLM Agents Through Malfunction Amplification [35.16099878559559]
  大規模言語モデル(LLM)は大きな発展を遂げ、現実世界のアプリケーションにデプロイされている。 エージェントが繰り返しまたは無関係なアクションを実行することを誤解させることで誤動作を引き起こす新しいタイプの攻撃を導入する。 実験の結果、これらの攻撃は複数のシナリオで80%以上の障害率を誘導できることがわかった。
  論文  参考訳（メタデータ） (2024-07-30T14:35:31Z)
• GuardAgent: Safeguard LLM Agents by a Guard Agent via Knowledge-Enabled Reasoning [79.07152553060601]
  大規模言語モデル(LLM)の安全性を高める既存の手法は、LLMエージェントに直接転送することはできない。 我々は、他のLLMエージェントに対するガードレールとして、最初のLLMエージェントであるGuardAgentを提案する。 GuardAgentは、1)提供されたガードリクエストを分析してタスクプランを作成し、2)タスクプランに基づいてガードレールコードを生成し、APIを呼び出すか、または外部エンジンを使用してコードを実行する。
  論文  参考訳（メタデータ） (2024-06-13T14:49:26Z)
• LLM Agents can Autonomously Exploit One-day Vulnerabilities [2.3999111269325266]
  LLMエージェントは現実世界のシステムにおいて,1日の脆弱性を自律的に悪用できることを示す。 我々の GPT-4 エージェントは高性能に CVE 記述を必要とする。 以上の結果から,高能率LLMエージェントの広範な展開に関する疑問が浮かび上がっている。
  論文  参考訳（メタデータ） (2024-04-11T22:07:19Z)
• Watch Out for Your Agents! Investigating Backdoor Threats to LLM-Based Agents [47.219047422240145]
  我々は、LSMベースのエージェントに対して、典型的な安全脅威であるバックドアアタックの1つを調査する第一歩を踏み出した。 具体的には、ユーザ入力とモデル出力のみを操作できる従来のLDMに対するバックドア攻撃と比較して、エージェントバックドア攻撃はより多様で隠蔽的な形式を示す。
  論文  参考訳（メタデータ） (2024-02-17T06:48:45Z)
• LLM Agents can Autonomously Hack Websites [3.5248694676821484]
  大規模言語モデル(LLM)がエージェントとして自律的に機能することを示す。 本研究では,LLMエージェントがWebサイトを自律的にハックできることを示す。 また、GPT-4は、野生のウェブサイトの脆弱性を自律的に発見できることも示している。
  論文  参考訳（メタデータ） (2024-02-06T14:46:08Z)
• TrustAgent: Towards Safe and Trustworthy LLM-based Agents [50.33549510615024]
  本稿では,エージェント・コンスティチューションをベースとしたエージェント・フレームワークであるTrustAgentについて述べる。 提案枠組みは,計画立案前のモデルに安全知識を注入する事前計画戦略,計画立案時の安全性を高める内計画戦略,計画後検査による安全性を確保する後計画戦略の3つの戦略要素を通じて,エージェント憲法の厳格な遵守を保証する。
  論文  参考訳（メタデータ） (2024-02-02T17:26:23Z)
• The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
  大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。 単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
  論文  参考訳（メタデータ） (2023-09-14T17:12:03Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。