論文の概要: A Survey of LLM-Driven AI Agent Communication: Protocols, Security Risks, and Defense Countermeasures

• arxiv url: http://arxiv.org/abs/2506.19676v1
• Date: Tue, 24 Jun 2025 14:44:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-06-25 19:48:23.675774
• Title: A Survey of LLM-Driven AI Agent Communication: Protocols, Security Risks, and Defense Countermeasures
• Title（参考訳）: LLM駆動型AIエージェント通信に関する調査:プロトコル,セキュリティリスク,防衛対策
• Authors: Dezhang Kong, Shi Lin, Zhenhua Xu, Zhebo Wang, Minghao Li, Yufeng Li, Yilun Zhang, Zeyang Sha, Yuyuan Li, Changting Lin, Xun Wang, Xuan Liu, Muhammad Khurram Khan, Ningyu Zhang, Chaochao Chen, Meng Han,
• Abstract要約: 大規模言語モデル駆動型AIエージェントは、前例のない知性、柔軟性、適応性を示している。 エージェントコミュニケーションは、未来のAIエコシステムの基礎的な柱と見なされている。 本稿では,エージェント通信セキュリティに関する包括的調査を行う。
• 参考スコア（独自算出の注目度）: 60.49227979486631
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In recent years, Large-Language-Model-driven AI agents have exhibited unprecedented intelligence, flexibility, and adaptability, and are rapidly changing human production and lifestyle. Nowadays, agents are undergoing a new round of evolution. They no longer act as an isolated island like LLMs. Instead, they start to communicate with diverse external entities, such as other agents and tools, to collectively perform more complex tasks. Under this trend, agent communication is regarded as a foundational pillar of the future AI ecosystem, and many organizations intensively begin to design related communication protocols (e.g., Anthropic's MCP and Google's A2A) within the recent few months. However, this new field exposes significant security hazard, which can cause severe damage to real-world scenarios. To help researchers to quickly figure out this promising topic and benefit the future agent communication development, this paper presents a comprehensive survey of agent communication security. More precisely, we first present a clear definition of agent communication and categorize the entire lifecyle of agent communication into three stages: user-agent interaction, agent-agent communication, and agent-environment communication. Next, for each communication phase, we dissect related protocols and analyze its security risks according to the communication characteristics. Then, we summarize and outlook on the possible defense countermeasures for each risk. Finally, we discuss open issues and future directions in this promising research field.
• Abstract（参考訳）: 近年、大規模言語モデル駆動型AIエージェントは、前例のない知性、柔軟性、適応性を示し、人間の生産とライフスタイルを急速に変化させている。 現在、エージェントは新たな進化のラウンドを繰り広げている。 彼らはもはやLLMのような孤立した島として振る舞わない。 代わりに、他のエージェントやツールなど、さまざまな外部エンティティと通信し、より複雑なタスクを集合的に実行する。 このトレンドの下では、エージェントコミュニケーションは未来のAIエコシステムの基礎的な柱と見なされ、多くの組織が、ここ数ヶ月で関連する通信プロトコル(例えば、AnthropicのMPPとGoogleのA2A)を設計し始めている。 しかし、この新たな分野は、現実のシナリオに深刻なダメージを与える重大なセキュリティ上の危険を露呈する。 そこで本研究では,この課題を迅速に解明し,今後のエージェントコミュニケーション開発に役立てるために,エージェントコミュニケーションのセキュリティに関する総合的な調査を行う。 より正確には,エージェント・コミュニケーションを明確に定義し,エージェント・エージェント・インタラクション,エージェント・エージェント・コミュニケーション,エージェント・環境コミュニケーションの3段階に分類する。 次に、通信の各フェーズにおいて、関連するプロトコルを識別し、通信特性に応じてセキュリティリスクを分析する。 そして、各リスクに対する防衛対策の可能性についてまとめ、概観する。 最後に、この有望な研究分野におけるオープンな課題と今後の方向性について論じる。

関連論文リスト

• A Survey of AI Agent Protocols [35.431057321412354]
  大きな言語モデル(LLM)エージェントが外部ツールやデータソースと通信する標準的な方法はありません。 この標準化されたプロトコルの欠如は、エージェントが協力したり、効果的にスケールするのを難しくする。 LLMエージェントの統一通信プロトコルは、これを変更できる。
  論文  参考訳（メタデータ） (2025-04-23T14:07:26Z)
• Red-Teaming LLM Multi-Agent Systems via Communication Attacks [10.872328358364776]
  大規模言語モデルに基づくマルチエージェントシステム(LLM-MAS)は、メッセージベースのコミュニケーションを通じて高度なエージェント協調を可能にすることで、複雑な問題解決能力に革命をもたらした。 エージェント・イン・ザ・ミドル(AiTM, Agent-in-the-Middle)は、エージェント間メッセージのインターセプトと操作によってLLM-MASの基本的な通信機構を利用する新たな攻撃法である。
  論文  参考訳（メタデータ） (2025-02-20T18:55:39Z)
• Challenges in Human-Agent Communication [55.53932430345333]
  これらのシステムがもたらす12の重要なコミュニケーション課題を特定し分析する。 これには、エージェントからユーザへの情報伝達の課題、ユーザからエージェントへの情報伝達の課題、すべての人間とエージェントのコミュニケーションで考慮すべき課題の概略が含まれる。 私たちの発見は、これらのシステムの透明性と制御を支援するために、新しいデザインパターン、原則、ガイドラインを緊急に呼び出すのに役立ちます。
  論文  参考訳（メタデータ） (2024-11-28T01:21:26Z)
• Large Model Based Agents: State-of-the-Art, Cooperation Paradigms, Security and Privacy, and Future Trends [64.57762280003618]
  近い将来、LM駆動の汎用AIエージェントが、生産タスクにおいて不可欠なツールとして機能することが予想される。 本稿では,将来のLMエージェントの自律的協調に関わるシナリオについて検討する。
  論文  参考訳（メタデータ） (2024-09-22T14:09:49Z)
• Certifiably Robust Policy Learning against Adversarial Communication in Multi-agent Systems [51.6210785955659]
  多くのマルチエージェント強化学習(MARL)では,エージェントが情報を共有し,適切な判断を下す上でコミュニケーションが重要である。 しかし、ノイズや潜在的な攻撃者が存在する現実世界のアプリケーションに訓練された通信エージェントを配置すると、通信ベースのポリシーの安全性は過小評価されている深刻な問題となる。 本研究では,攻撃者が任意の$CfracN-12$エージェントから被害者エージェントへの通信を任意に変更できる,$N$エージェントを備えた環境を検討する。
  論文  参考訳（メタデータ） (2022-06-21T07:32:18Z)
• Interpretation of Emergent Communication in Heterogeneous Collaborative Embodied Agents [83.52684405389445]
  本稿では,コラボレーティブな多目的ナビゲーションタスクCoMONを紹介する。 この課題において、オラクルエージェントは、地図の形式で詳細な環境情報を有する。 視覚的に環境を知覚するナビゲーターエージェントと通信し、目標のシーケンスを見つけるのが任務である。 創発的コミュニケーションはエージェントの観察と3次元環境の空間構造に基礎を置くことができることを示す。
  論文  参考訳（メタデータ） (2021-10-12T06:56:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。