論文の概要: Hybrid Analysis for Secure MCP Tool Use in LLM Agents

• arxiv url: http://arxiv.org/abs/2607.25297v1
• Date: Tue, 28 Jul 2026 05:17:34 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-29 20:50:42.717087
• Title: Hybrid Analysis for Secure MCP Tool Use in LLM Agents
• Title（参考訳）: LLM剤用安全MPP工具のハイブリッド解析
• Abstract要約: 大規模言語モデル(LLM)エージェントにおけるMPPツールの使用を保護するためのハイブリッド分析に基づく防衛フレームワークを提案する。 MTGuardは、良質なユーザタスクのパフォーマンスを維持しながら、異なるLLMエージェント間での有害ツール使用の複数のカテゴリを効果的に緩和する。
• 参考スコア（独自算出の注目度）: 77.68135853475535
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: The rapid development of large language model (LLM) agents has enabled their broad adoption across diverse real-world tasks. To standardize interactions between LLM agents and external environments, Model Context Protocol (MCP) tools have emerged as a de facto standard and have been widely integrated into these systems. However, the use of MCP tools also introduces new safety risks, as LLM agents can be induced to perform malicious or unauthorized actions. Although prior work has proposed defenses for securing tool use in LLM agents, most methods rely on static analysis, i.e., inspecting prompts and generated outputs, which limits the defense effectiveness and robustness. To address these limitations, we propose MTGuard, a hybrid analysis-based defense framework designed to safeguard the use of MCP tools in LLM agents by leveraging lifecycle-aware static-dynamic co-analysis. Extensive evaluation demonstrates that MTGuard effectively mitigates multiple categories of harmful tool use across different LLM agents while maintaining performance on benign user tasks.
• Abstract（参考訳）: 大規模言語モデル(LLM)エージェントの急速な開発により、様々な現実世界のタスクで広く採用されている。 LLMエージェントと外部環境とのインタラクションを標準化するために、モデルコンテキストプロトコル(MCP)ツールがデファクトスタンダードとして登場し、これらのシステムに広く統合されている。 しかし、MPPツールの使用は、LSMエージェントが悪意ある、または無許可のアクションを実行するために誘導されるため、新たな安全リスクももたらされる。 以前の研究では、LLMエージェントでのツール使用を確保するための防御法が提案されていたが、ほとんどの手法は静的解析、すなわちプロンプトの検査と生成された出力に依存しており、防御の有効性と堅牢性は制限されている。 MTGuardは,LCMエージェントにおけるMPPツールの使用を,ライフサイクルを意識した静的・ダイナミック・コアナリシスを利用して保護するハイブリッド分析ベースの防衛フレームワークである。 MTGuardは多種多様なLDMエージェントにまたがる有害ツール使用の複数のカテゴリを効果的に軽減し、良質なユーザタスクのパフォーマンスを維持していることを示す。

関連論文リスト

• AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent [53.82005364479556]
  大規模言語モデル(LLM)に基づく符号化エージェントは、驚くべき自律性を示す。 既存の安全機構は主に外部ガードレールに依存している。 我々は,ランタイムの安全性検出と表現レベルの緩和を行う,ホワイトボックスの防御フレームワークであるAgentLensを提案する。
  論文  参考訳（メタデータ） (2026-06-21T21:13:55Z)
• Like a Hammer, It Can Build, It Can Break: Large Language Model Uses, Perceptions, and Adoption in Cybersecurity Operations on Reddit [3.7217825105232456]
  大規模言語モデル(LLM)はセキュリティオペレーションセンター(SOC)の拡張のための有望なツールとして登場した。 われわれは2022年12月から2025年9月にかけて、Redditでサイバーセキュリティに焦点を当てた3つのフォーラムから852の投稿を分析した。 LLMツールの採用において,低リスクで生産性を重視したタスクに対して,LLMを独立して使用することが注目されている。
  論文  参考訳（メタデータ） (2026-04-11T03:00:37Z)
• MCPShield: A Security Cognition Layer for Adaptive Trust Calibration in Model Context Protocol Agents [39.267334469481916]
  我々は,MPPベースのツールを呼び出す際に,エージェントのセキュリティを保証するプラグインセキュリティ認知層としてMPPShieldを提案する。 我々の研究は、オープンエージェントエコシステムにおけるMPPベースのツール呼び出しに対して、実用的で堅牢なセキュリティ保護を提供します。
  論文  参考訳（メタデータ） (2026-02-15T19:10:00Z)
• ToolSafe: Enhancing Tool Invocation Safety of LLM-based agents via Proactive Step-level Guardrail and Feedback [53.2744585868162]
  エージェントのデプロイには、ステップレベルのツールの実行動作をリアルタイムで監視することが不可欠だ。 LLMエージェントにおけるステップレベルツール起動安全検出のための新しいベンチマークであるTS-Benchを構築した。 次に,マルチタスク強化学習を用いたガードレールモデルTS-Guardを開発した。
  論文  参考訳（メタデータ） (2026-01-15T07:54:32Z)
• Towards Verifiably Safe Tool Use for LLM Agents [53.55621104327779]
  大規模言語モデル(LLM)ベースのAIエージェントは、データソース、API、検索エンジン、コードサンドボックス、さらにはその他のエージェントなどのツールへのアクセスを可能にすることで、機能を拡張する。 LLMは意図しないツールインタラクションを起動し、機密データを漏洩したり、クリティカルレコードを上書きしたりするリスクを発生させる。 モデルベースセーフガードのようなリスクを軽減するための現在のアプローチは、エージェントの信頼性を高めるが、システムの安全性を保証することはできない。
  論文  参考訳（メタデータ） (2026-01-12T21:31:38Z)
• MCP-ITP: An Automated Framework for Implicit Tool Poisoning in MCP [22.063867518456743]
  暗黙のツール中毒では、ツールメタデータに埋め込まれた悪意のある命令が、モデルコンテキストプロトコル(MCP)登録フェーズ中にエージェントコンテキストに注入される。 MCPエコシステム内での暗黙のツール中毒に対する最初の自動化および適応型フレームワークであるMPP-ITPを提案する。
  論文  参考訳（メタデータ） (2026-01-12T10:28:46Z)
• Multi-Agent Tool-Integrated Policy Optimization [67.12841355267678]
  大規模言語モデル(LLM)は、知識集約的かつ複雑な推論タスクに対して、多ターンツール統合計画にますます依存している。 既存の実装は通常、単一のエージェントに依存するが、コンテキスト長とノイズの多いツールレスポンスに悩まされる。 ツール統合マルチエージェントフレームワークの効果的な強化学習をサポートする方法はない。
  論文  参考訳（メタデータ） (2025-10-06T10:44:04Z)
• Automatic Red Teaming LLM-based Agents with Model Context Protocol Tools [47.32559576064343]
  我々は、悪意のあるMPPツールを生成することで、LSMベースのエージェントのための自動レッドチーム化フレームワークであるAutoMalToolを提案する。 評価の結果,AutoMalToolは主要なLCMエージェントの動作を制御できる悪意のあるMPPツールを効果的に生成できることがわかった。
  論文  参考訳（メタデータ） (2025-09-25T11:14:38Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。