論文の概要: AI Metropolis: Scaling Large Language Model-based Multi-Agent Simulation with Out-of-order Execution
- arxiv url: http://arxiv.org/abs/2411.03519v1
- Date: Tue, 05 Nov 2024 21:54:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2024-11-07 19:24:05.491838
- Title: AI Metropolis: Scaling Large Language Model-based Multi-Agent Simulation with Out-of-order Execution
- Title(参考訳): AI Metropolis: アウトオブオーダの実行による大規模言語モデルベースのマルチエージェントシミュレーションのスケールアップ
- Authors: Zhiqiang Xie, Hao Kang, Ying Sheng, Tushar Krishna, Kayvon Fatahalian, Christos Kozyrakis,
- Abstract要約: AI Metropolisは、注文外実行スケジューリングを導入することで、LLMエージェントシミュレーションの効率を改善するシミュレーションエンジンである。
我々の評価では,グローバル同期を用いた標準並列シミュレーションにより,AI Metropolisは1.3倍から4.15倍の高速化を実現している。
- 参考スコア(独自算出の注目度): 15.596642151634319
- License:
- Abstract: With more advanced natural language understanding and reasoning capabilities, large language model (LLM)-powered agents are increasingly developed in simulated environments to perform complex tasks, interact with other agents, and exhibit emergent behaviors relevant to social science and gaming. However, current multi-agent simulations frequently suffer from inefficiencies due to the limited parallelism caused by false dependencies, resulting in performance bottlenecks. In this paper, we introduce AI Metropolis, a simulation engine that improves the efficiency of LLM agent simulations by incorporating out-of-order execution scheduling. By dynamically tracking real dependencies between agents, AI Metropolis minimizes false dependencies, enhancing parallelism and enabling efficient hardware utilization. Our evaluations demonstrate that AI Metropolis achieves speedups from 1.3x to 4.15x over standard parallel simulation with global synchronization, approaching optimal performance as the number of agents increases.
- Abstract(参考訳): より高度な自然言語理解と推論能力により、大規模言語モデル(LLM)を利用したエージェントは、複雑なタスクを実行し、他のエージェントと対話し、社会科学やゲームに関連する創発的な行動を示すために、シミュレーション環境で開発されつつある。
しかしながら、現在のマルチエージェントシミュレーションは、偽りの依存関係によって引き起こされる限られた並列性のために、しばしば非効率に悩まされ、パフォーマンスのボトルネックが発生する。
本稿では,LLMエージェントシミュレーションの効率を向上させるシミュレーションエンジンであるAI Metropolisを紹介する。
エージェント間の実際の依存関係を動的に追跡することにより、AI Metropolisは偽の依存関係を最小限に抑え、並列性を高め、効率的なハードウェア利用を可能にする。
評価の結果、AI Metropolisは、グローバル同期による標準並列シミュレーションよりも1.3倍から4.15倍の高速化を実現し、エージェント数が増加するにつれて最適な性能に近づいた。
関連論文リスト
- DeeR-VLA: Dynamic Inference of Multimodal Large Language Models for Efficient Robot Execution [114.61347672265076]
実世界のロボットのためのMLLMの開発は、ロボットプラットフォームで利用可能な計算能力とメモリ容量が典型的に限られているため、難しい。
活性化MLLMのサイズを自動的に調整するロボットビジョンランゲージ・アクション・モデル(DeeR)の動的早期実行フレームワークを提案する。
DeeR は LLM の計算コストを 5.2-6.5x に削減し、GPU のメモリを 2-6x に削減した。
論文 参考訳(メタデータ) (2024-11-04T18:26:08Z) - GenSim: A General Social Simulation Platform with Large Language Model based Agents [111.00666003559324]
我々はtextitGenSim と呼ばれる新しい大規模言語モデル (LLM) ベースのシミュレーションプラットフォームを提案する。
我々のプラットフォームは10万のエージェントをサポートし、現実世界のコンテキストで大規模人口をシミュレートする。
我々の知る限り、GenSimは汎用的で大規模で修正可能な社会シミュレーションプラットフォームに向けた最初の一歩である。
論文 参考訳(メタデータ) (2024-10-06T05:02:23Z) - BeSimulator: A Large Language Model Powered Text-based Behavior Simulator [28.112491177744783]
本研究では,BeSimulatorをテキストベースの環境下での動作シミュレーションの試みとして紹介する。
BeSimulatorはシナリオを一般化し、長距離複素シミュレーションを実現する。
論文 参考訳(メタデータ) (2024-09-24T08:37:04Z) - Autonomous Vehicle Controllers From End-to-End Differentiable Simulation [60.05963742334746]
そこで我々は,AVコントローラのトレーニングにAPG(analytic Policy gradients)アプローチを適用可能なシミュレータを提案し,その設計を行う。
提案するフレームワークは, エージェントがより根底的なポリシーを学ぶのを助けるために, 環境力学の勾配を役立てる, エンド・ツー・エンドの訓練ループに, 微分可能シミュレータを組み込む。
ダイナミクスにおけるパフォーマンスとノイズに対する堅牢性の大幅な改善と、全体としてより直感的なヒューマンライクな処理が見られます。
論文 参考訳(メタデータ) (2024-09-12T11:50:06Z) - CityFlowER: An Efficient and Realistic Traffic Simulator with Embedded
Machine Learning Models [25.567208505574072]
CityFlowERは、効率的で現実的な都市交通シミュレーションのための高度なシミュレータである。
シミュレータ内に機械学習モデルが組み込まれており、外部APIインタラクションの必要がなくなる。
これは、特に大規模なシミュレーションにおいて、非並列な柔軟性と効率を提供する。
論文 参考訳(メタデータ) (2024-02-09T01:19:41Z) - Waymax: An Accelerated, Data-Driven Simulator for Large-Scale Autonomous
Driving Research [76.93956925360638]
Waymaxは、マルチエージェントシーンにおける自動運転のための新しいデータ駆動シミュレータである。
TPU/GPUなどのハードウェアアクセラレータで完全に動作し、トレーニング用のグラフ内シミュレーションをサポートする。
我々は、一般的な模倣と強化学習アルゴリズムのスイートをベンチマークし、異なる設計決定に関するアブレーション研究を行った。
論文 参考訳(メタデータ) (2023-10-12T20:49:15Z) - ERMAS: Becoming Robust to Reward Function Sim-to-Real Gaps in
Multi-Agent Simulations [110.72725220033983]
Epsilon-Robust Multi-Agent Simulation (ERMAS)は、このようなマルチエージェントのsim-to-realギャップに対して堅牢なAIポリシーを学ぶためのフレームワークである。
ERMASは、エージェントリスク回避の変化に対して堅牢な税政策を学び、複雑な時間シミュレーションで最大15%社会福祉を改善する。
特に、ERMASは、エージェントリスク回避の変化に対して堅牢な税制政策を学び、複雑な時間シミュレーションにおいて、社会福祉を最大15%改善する。
論文 参考訳(メタデータ) (2021-06-10T04:32:20Z) - TrafficSim: Learning to Simulate Realistic Multi-Agent Behaviors [74.67698916175614]
リアル交通シミュレーションのためのマルチエージェント行動モデルであるTrafficSimを提案する。
特に、暗黙の潜在変数モデルを利用して、共同アクターポリシーをパラメータ化する。
TrafficSimは、多様なベースラインと比較して、より現実的で多様なトラフィックシナリオを生成します。
論文 参考訳(メタデータ) (2021-01-17T00:29:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。