論文の概要: Large Model Agents: State-of-the-Art, Cooperation Paradigms, Security and Privacy, and Future Trends

• arxiv url: http://arxiv.org/abs/2409.14457v1
• Date: Sun, 22 Sep 2024 14:09:49 GMT
• ステータス: 処理完了
• システム内更新日: 2024-11-06 22:41:53.151141
• Title: Large Model Agents: State-of-the-Art, Cooperation Paradigms, Security and Privacy, and Future Trends
• Title（参考訳）: 大規模モデルエージェント:現状,協力パラダイム,セキュリティとプライバシ,今後の動向
• Authors: Yuntao Wang, Yanghe Pan, Quan Zhao, Yi Deng, Zhou Su, Linkang Du, Tom H. Luan,
• Abstract要約: GPT-4やDALL-E 2のような大きな基盤モデルを利用した大規模モデル(LM)エージェントは、人工知能(AGI)の実現に向けた重要なステップである。 本稿では,アーキテクチャ,協調パラダイム,セキュリティ,プライバシ,今後の展望を中心に,LMエージェントの現状を包括的に調査する。
• 参考スコア（独自算出の注目度）: 25.029148345440902
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Large Model (LM) agents, powered by large foundation models such as GPT-4 and DALL-E 2, represent a significant step towards achieving Artificial General Intelligence (AGI). LM agents exhibit key characteristics of autonomy, embodiment, and connectivity, allowing them to operate across physical, virtual, and mixed-reality environments while interacting seamlessly with humans, other agents, and their surroundings. This paper provides a comprehensive survey of the state-of-the-art in LM agents, focusing on the architecture, cooperation paradigms, security, privacy, and future prospects. Specifically, we first explore the foundational principles of LM agents, including general architecture, key components, enabling technologies, and modern applications. Then, we discuss practical collaboration paradigms from data, computation, and knowledge perspectives towards connected intelligence of LM agents. Furthermore, we systematically analyze the security vulnerabilities and privacy breaches associated with LM agents, particularly in multi-agent settings. We also explore their underlying mechanisms and review existing and potential countermeasures. Finally, we outline future research directions for building robust and secure LM agent ecosystems.
• Abstract（参考訳）: GPT-4やDALL-E 2のような大きな基盤モデルによって駆動される大型モデル(LM)エージェントは、人工知能(AGI)の実現に向けた重要なステップである。 LMエージェントは、自律性、実施性、接続性の重要な特徴を示し、物理的、仮想的、混合現実的な環境を横断しながら、人間や他のエージェントや周囲とシームレスに相互作用することを可能にする。 本稿では,アーキテクチャ,協調パラダイム,セキュリティ,プライバシ,今後の展望を中心に,LMエージェントの現状を包括的に調査する。 具体的には, 汎用アーキテクチャ, キーコンポーネント, 実現技術, 最新のアプリケーションなど, LMエージェントの基本原理について検討する。 そこで我々は,LMエージェントのコネクテッドインテリジェンスに対するデータ,計算,知識の観点から,実践的な協調パラダイムについて議論する。 さらに,LMエージェントに関連するセキュリティ脆弱性やプライバシ侵害を,特にマルチエージェント設定で系統的に解析する。 また,その基盤となるメカニズムについて検討し,既存および潜在的な対策について検討する。 最後に、堅牢でセキュアなLMエージェントエコシステムを構築するための今後の研究方針について概説する。

関連論文リスト

• World Models: The Safety Perspective [6.520366712367809]
  世界モデル(WM)の概念は最近、AI研究コミュニティで大きな注目を集めています。 我々は、最先端のWMの詳細な分析とその影響について、研究コミュニティに対して、WMの安全性と信頼性の向上に協力するよう呼びかける。
  論文  参考訳（メタデータ） (2024-11-12T10:15:11Z)
• HAICOSYSTEM: An Ecosystem for Sandboxing Safety Risks in Human-AI Interactions [76.42274173122328]
  本稿では,多様な複雑な社会的相互作用におけるAIエージェントの安全性を調べるフレームワークであるHAICOSYSTEMを提案する。 私たちは7つの領域(医療、金融、教育など)にわたる92のシナリオに基づいて1840のシミュレーションを実行します。 我々の実験は、最先端のLSMは、プロプライエタリかつオープンソースの両方で、50%以上のケースで安全リスクを示すことを示した。
  論文  参考訳（メタデータ） (2024-09-24T19:47:21Z)
• LLM-Agent-UMF: LLM-based Agent Unified Modeling Framework for Seamless Integration of Multi Active/Passive Core-Agents [0.0]
  LLM-Agent-UMF(LLM-Agent-UMF)に基づく新しいエージェント統一モデリングフレームワークを提案する。 我々のフレームワークはLLMエージェントの異なるコンポーネントを区別し、LLMとツールを新しい要素であるコアエージェントから分離する。 我々は,13の最先端エージェントに適用し,それらの機能との整合性を実証することによって,我々の枠組みを評価する。
  論文  参考訳（メタデータ） (2024-09-17T17:54:17Z)
• The Emerged Security and Privacy of LLM Agent: A Survey with Case Studies [43.65655064122938]
  大規模言語モデル(LLM)エージェントは複雑なタスクを実行するために進化してきた。 LLMエージェントの幅広い応用は、その商業的価値を示している。 しかし、セキュリティとプライバシの脆弱性も公開している。 この調査は、LLMエージェントが直面しているプライバシーとセキュリティの問題を包括的に概観することを目的としている。
  論文  参考訳（メタデータ） (2024-07-28T00:26:24Z)
• Cooperate or Collapse: Emergence of Sustainable Cooperation in a Society of LLM Agents [101.17919953243107]
  GovSimは、大規模言語モデル(LLM)における戦略的相互作用と協調的意思決定を研究するために設計された生成シミュレーションプラットフォームである。 最強のLSMエージェントを除く全てのエージェントは、GovSimの持続的均衡を達成することができず、生存率は54%以下である。 道徳的思考の理論である「大学化」に基づく推論を活用するエージェントは、持続可能性を大幅に向上できることを示す。
  論文  参考訳（メタデータ） (2024-04-25T15:59:16Z)
• Personal LLM Agents: Insights and Survey about the Capability, Efficiency and Security [34.67477557318947]
  我々は、個人データやパーソナルデバイスと深く統合されたLLMベースのエージェントであるPersonal LLM Agentsに焦点を当てる。 我々は、パーソナライズ LLM Agents が、今後エンドユーザーにとって主要なソフトウェアパラダイムになることを期待している。
  論文  参考訳（メタデータ） (2024-01-10T09:25:45Z)
• The Rise and Potential of Large Language Model Based Agents: A Survey [91.71061158000953]
  大規模言語モデル(LLM)は、人工知能(AGI)の潜在的な火花と見なされる まず、エージェントの概念を哲学的起源からAI開発まで追跡し、LLMがエージェントに適した基盤である理由を説明します。 単一エージェントシナリオ,マルチエージェントシナリオ,ヒューマンエージェント協調の3つの側面において,LLMベースのエージェントの広範な応用について検討する。
  論文  参考訳（メタデータ） (2023-09-14T17:12:03Z)
• A Survey on Large Language Model based Autonomous Agents [105.2509166861984]
  大規模言語モデル(LLM)は、人間レベルの知性を達成する上で、顕著な可能性を示している。 本稿では,LLMに基づく自律エージェントの分野を総合的な観点から体系的に検討する。 本稿では、社会科学、自然科学、工学の分野におけるLLMベースの自律エージェントの多様な応用について概観する。
  論文  参考訳（メタデータ） (2023-08-22T13:30:37Z)
• Building Cooperative Embodied Agents Modularly with Large Language Models [104.57849816689559]
  本研究では, 分散制御, 生の知覚観察, コストのかかるコミュニケーション, 様々な実施環境下でインスタンス化された多目的タスクといった課題に対処する。 我々は,LLMの常識知識,推論能力,言語理解,テキスト生成能力を活用し,認知に触発されたモジュラーフレームワークにシームレスに組み込む。 C-WAH と TDW-MAT を用いた実験により, GPT-4 で駆動される CoELA が, 強い計画に基づく手法を超越し, 創発的な効果的なコミュニケーションを示すことを示した。
  論文  参考訳（メタデータ） (2023-07-05T17:59:27Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。