論文の概要: AIOS: LLM Agent Operating System

• arxiv url: http://arxiv.org/abs/2403.16971v3
• Date: Thu, 07 Nov 2024 19:10:11 GMT
• ステータス: 翻訳完了
• システム内更新日: 2024-11-11 14:53:02.394353
• Title: AIOS: LLM Agent Operating System
• Title（参考訳）: AIOS: LLMエージェントオペレーティングシステム
• Authors: Kai Mei, Xi Zhu, Wujiang Xu, Wenyue Hua, Mingyu Jin, Zelong Li, Shuyuan Xu, Ruosong Ye, Yingqiang Ge, Yongfeng Zhang,
• Abstract要約: 本稿では,LLMベースのエージェント管理のコンテキスト下で,AIOS(LLMベースのAIエージェントオペレーティングシステム)のアーキテクチャを提案する。 エージェントアプリケーションからリソースとLLM固有のサービスをAIOSカーネルに分離することで、LLMベースのエージェントを提供するための新しいアーキテクチャを導入する。 AIOSを使用すると、さまざまなエージェントフレームワークで構築されたエージェントを最大2.1倍高速に実行することができる。
• 参考スコア（独自算出の注目度）: 39.59087894012381
• License:
• Abstract: LLM-based intelligent agents face significant deployment challenges, particularly related to resource management. Allowing unrestricted access to LLM or tool resources can lead to inefficient or even potentially harmful resource allocation and utilization for agents. Furthermore, the absence of proper scheduling and resource management mechanisms in current agent designs hinders concurrent processing and limits overall system efficiency. As the diversity and complexity of agents continue to grow, addressing these resource management issues becomes increasingly critical to LLM-based agent systems. To address these challenges, this paper proposes the architecture of AIOS (LLM-based AI Agent Operating System) under the context of managing LLM-based agents. It introduces a novel architecture for serving LLM-based agents by isolating resources and LLM-specific services from agent applications into an AIOS kernel. This AIOS kernel provides fundamental services (e.g., scheduling, context management, memory management, storage management, access control) and efficient management of resources (e.g., LLM and external tools) for runtime agents. To enhance usability, AIOS also includes an AIOS-Agent SDK, a comprehensive suite of APIs designed for utilizing functionalities provided by the AIOS kernel. Experimental results demonstrate that using AIOS can achieve up to 2.1x faster execution for serving agents built by various agent frameworks. The source code is available at https://github.com/agiresearch/AIOS.
• Abstract（参考訳）: LLMベースのインテリジェントエージェントは、特にリソース管理に関連する重要なデプロイメント課題に直面している。 LLMやツールリソースへの制限のないアクセスが許されると、エージェントの非効率性や潜在的に有害なリソース割り当てや利用につながる可能性がある。 さらに、現在のエージェント設計における適切なスケジューリングとリソース管理機構の欠如により、並列処理が妨げられ、システム全体の効率が制限される。 エージェントの多様性と複雑さが拡大するにつれて、これらのリソース管理の問題に対処することが、LLMベースのエージェントシステムにとってますます重要になる。 これらの課題に対処するために,本研究では,LLMベースのエージェント管理のコンテキスト下で,AIOS(LLMベースのAIエージェントオペレーティングシステム)のアーキテクチャを提案する。 エージェントアプリケーションからリソースとLLM固有のサービスをAIOSカーネルに分離することで、LLMベースのエージェントを提供するための新しいアーキテクチャを導入する。 このAIOSカーネルは、基本的なサービス(スケジューリング、コンテキスト管理、メモリ管理、ストレージ管理、アクセス制御など)と、ランタイムエージェントのためのリソース(LLMや外部ツールなど)の効率的な管理を提供する。 AIOSには、AIOSカーネルが提供する機能を活用するために設計された、包括的なAPIスイートであるAIOS-Agent SDKも含まれている。 実験の結果、AIOSを使用することで、さまざまなエージェントフレームワークによって構築されたサービスエージェントの実行が最大2.1倍高速になることが示された。 ソースコードはhttps://github.com/agiresearch/AIOSで公開されている。

関連論文リスト

• Multi-LLM-Agent Systems: Techniques and Business Perspectives [23.899484049367796]
  本稿では,マルチLLMエージェントシステム(MLAS)の技術とビジネスの展望について述べる。 従来の単一LLMエージェントシステムと比較して,MLASは,タスク解決性能の高い可能性,システム変更の柔軟性,および,各エンティティに対する収益化の実現可能性を有する。
  論文  参考訳（メタデータ） (2024-11-21T11:36:29Z)
• Turn Every Application into an Agent: Towards Efficient Human-Agent-Computer Interaction with API-First LLM-Based Agents [40.86728610906313]
  AXISは、ユーザインタフェースアクションよりもアプリケーションプログラミングインターフェース(API)を通してアクションを優先順位付けする、LLMベースの新しいエージェントフレームワークである。 Office Wordでの実験では、AXISはタスク完了時間を65%-70%削減し、認知負荷を38%-53%削減し、精度は97%-98%と人間と比較した。 また、すべてのアプリケーションをエージェントに変え、エージェント中心のオペレーティングシステム(Agent OS)への道を開く可能性についても検討している。
  論文  参考訳（メタデータ） (2024-09-25T17:58:08Z)
• Large Language Models for Base Station Siting: Intelligent Deployment based on Prompt or Agent [62.16747639440893]
  大規模言語モデル(LLM)とその関連技術は、特に迅速な工学とエージェント工学の領域において進歩している。 このアプローチは、人間の経験と知識をこれらの洗練されたLLMに注入するために、巧妙なプロンプトの戦略的利用を必要とする。 この統合は、サービスとしての人工知能(AI)と、より容易なAIの将来のパラダイムを表している。
  論文  参考訳（メタデータ） (2024-08-07T08:43:32Z)
• AgentLite: A Lightweight Library for Building and Advancing Task-Oriented LLM Agent System [91.41155892086252]
  LLMエージェントの研究を簡略化する新しいAIエージェントライブラリであるAgentLiteをオープンソースとして公開する。 AgentLiteは、タスクを分解するエージェントの機能を強化するために設計されたタスク指向フレームワークである。 我々は,その利便性と柔軟性を示すために,AgentLiteで開発された実用アプリケーションを紹介した。
  論文  参考訳（メタデータ） (2024-02-23T06:25:20Z)
• AgentScope: A Flexible yet Robust Multi-Agent Platform [66.64116117163755]
  AgentScopeは、メッセージ交換をコアコミュニケーションメカニズムとする、開発者中心のマルチエージェントプラットフォームである。 豊富な構文ツール、組み込みエージェントとサービス機能、アプリケーションのデモとユーティリティモニタのためのユーザフレンドリなインターフェース、ゼロコードプログラミングワークステーション、自動プロンプトチューニング機構により、開発とデプロイメントの両方の障壁は大幅に低下した。
  論文  参考訳（メタデータ） (2024-02-21T04:11:28Z)
• Understanding the Weakness of Large Language Model Agents within a Complex Android Environment [21.278266207772756]
  大規模言語モデル(LLM)は、ブラウザやゲームのようなドメイン固有のソフトウェア内で複雑なタスクを実行するインテリジェントエージェントに権限を与えている。 LLMはオペレーティングシステムのような汎用ソフトウェアシステムに適用する際の3つの主要な課題に直面している。 これらの課題は、現代的なオペレーティングシステム上でLLMエージェントを評価するために設計された環境とベンチマークであるAndroidArenaを動機付けている。
  論文  参考訳（メタデータ） (2024-02-09T18:19:25Z)
• LLM as OS, Agents as Apps: Envisioning AIOS, Agents and the AIOS-Agent Ecosystem [48.81136793994758]
  大規模言語モデル (LLM) は(人工)知能オペレーティングシステム (IOS) またはAIOS (AIOS) として機能する。 LLMの影響はAIアプリケーションレベルに限らず、コンピュータシステム、アーキテクチャ、ソフトウェア、プログラミング言語の設計と実装に革命をもたらすものと期待している。
  論文  参考訳（メタデータ） (2023-12-06T18:50:26Z)
• AgentBench: Evaluating LLMs as Agents [88.45506148281379]
  大規模言語モデル(LLM)は、従来のNLPタスクを超えた現実的な実用的ミッションをターゲットとして、ますます賢く自律的になってきています。 我々は,現在8つの異なる環境からなるベンチマークであるAgentBenchを紹介し,LLM-as-Agentの推論と意思決定能力を評価する。
  論文  参考訳（メタデータ） (2023-08-07T16:08:11Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。