論文の概要: Not All AI Agents Are Equal: Characterizing Resource and Performance Dynamics
- arxiv url: http://arxiv.org/abs/2609.19947v1
- Date: Thu, 17 Sep 2026 09:20:53 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-20 08:55:54.201047
- Title: Not All AI Agents Are Equal: Characterizing Resource and Performance Dynamics
- Title(参考訳): すべてのAIエージェントが同等であるとは限らない:リソースとパフォーマンスのダイナミクスを特徴づける
- Abstract要約: LLMベースのAIエージェントは、反復推論とツール実行を通じてユーザリクエストを処理する。
本稿では,AIエージェントの資源間混合を3つの代表的なタスクに対して分析する。
- 参考スコア(独自算出の注目度): 2.034138793319315
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: LLM-based AI agents process user requests through iterative reasoning and tool execution, often involving the invocation of remote LLM APIs with local tool containers. This execution model can make the optimization of agent serving difficult because latency, local resource demand, and container bottlenecks inter-mix across requests. However, the current agent ecosystem runs without much consideration of resource dynamics, which results in significant waste of the precious resources. This paper analyzes the resource inter-mix of AI agents for three representative tasks: retrieval-augmented question answering, web search, and software coding. To this end, we characterize the latency with respect to the resource dynamics of processing multiple requests and tasks concurrently. Our measurements show that agents have a wide range of behaviors depending on tasks, so that even the same tool can differ substantially in resource dynamics. We also find that running multiple requests concurrently exposes task-dependent bottlenecks in resource dynamics such as CPU, disk I/O, and memory. Furthermore, we uncover that faster LLM responses or more CPU cores do not always accelerate agents. Based on these observations, we demonstrate new optimization opportunities that exploit the resource dynamics of tasks: CPU-aware tool admission and task-aware CPU allocation. Our results show that the latency of CPU-sensitive agent tasks improves $\sim$5.4$\times$, and the average latency across multiple tasks is reduced $\sim$32% compared to native agents.
- Abstract(参考訳): LLMベースのAIエージェントは、反復推論とツール実行を通じてユーザリクエストを処理する。
この実行モデルは、レイテンシ、ローカルリソースの要求、リクエスト間の混在するコンテナボトルネックのため、エージェントの最適化が困難になる可能性がある。
しかし、現在のエージェントエコシステムは、リソースのダイナミクスをあまり考慮せずに動作しており、その結果、貴重なリソースを著しく無駄にしている。
本稿では,検索強化質問応答,Web検索,ソフトウェアコーディングの3つのタスクに対して,AIエージェントの資源間混合を解析する。
この目的のために、複数の要求とタスクを同時に処理するリソースのダイナミクスに関して、レイテンシを特徴付ける。
評価の結果,エージェントはタスクによって幅広い振る舞いをしており,同じツールでもリソースのダイナミクスに大きく違いがあることがわかった。
また、複数のリクエストを同時に実行すると、CPU、ディスクI/O、メモリなどのリソースダイナミクスにおけるタスク依存のボトルネックが同時に発生することもわかりました。
さらに,より高速なLDM応答やCPUコアがエージェントを高速化するとは限らないことも明らかにした。
これらの観測に基づいて、CPU対応ツールの受け入れとタスク対応CPUの割り当てという、タスクのリソースダイナミクスを活用する新たな最適化機会を示す。
その結果、CPU依存エージェントタスクのレイテンシが$\sim$5.4$\times$を改善し、ネイティブエージェントと比較して、複数のタスクの平均レイテンシが$\sim$32%削減されることがわかった。
関連論文リスト
- PeakBench: Benchmarking Resource-Aware Tool Invocation in LLM Agents [79.28372522980153]
PeakBenchは、実行可能なマルチツール依存アノテーションと測定リソースプロファイルのベンチマークである。
我々は,強い論理的計画が資源制約下での安全あるいは効率的な実行に確実に変換されないことを示す。
PeakBenchは、リソース認識エージェントの振る舞いの診断に有用なテストベッドである。
論文 参考訳(メタデータ) (2026-08-25T12:56:08Z) - From LLM Inference to Agentic Workloads: Characterization and Implications for Serving Systems [14.6340263288784]
エージェントアプリケーションは、独立したモデル推論からLLMがツール、環境、永続的な状態を調整する長時間実行されるワークロードにAIを移行している。
AgentSysBenchは10の代表的なエージェントアプリケーションと統一されたシステムレベルのインスツルメンテーションを備えたベンチマークスイートと測定ツールキットである。
論文 参考訳(メタデータ) (2026-08-15T09:02:16Z) - The Optimizer Is the Agent: Reasoning-Driven Search across Prompts, Programs, and ML Workflows [72.9051182568928]
推論駆動最適化のための統合フレームワークであるReASearchを提案する。
共有エージェントループとドメイン固有のツールにより、ReASearchは、プロンプト、プログラム、MLを最適化するために、まったく同じスキャフォールドをインスタンス化する。
我々は,複雑な探索行動がエージェントの推論プロセスから自然に現れることを観察する。
論文 参考訳(メタデータ) (2026-08-07T02:15:39Z) - Architectural Implications of Agentic AI Workflows [3.5622270586216858]
エージェント実行は断片化され、不均一であることを示す。
私たちの分類学は、この断片化が資源需要にどのように変わるかを説明している。
私たちは、Microsoft Azureの製品研究とオープンソースフレームワークの制御された研究で、最初のアーキテクチャ特性を提示します。
論文 参考訳(メタデータ) (2026-08-05T05:31:33Z) - Multi-Agent Computer Use [72.79887808312706]
我々はマルチエージェント・コンピュータ・ユース(MACU)システムの評価・構築に向けて進むべきであると論じる。
本稿では、マネージャモデルがコンピュータ使用タスクを有向非巡回グラフ(DAG)として分解する汎用マルチエージェント構成を提案する。
各イテレーションで、マネージャは並列CUAサブエージェントをディスパッチし、DAGの準備ができているフロンティアでノードを実行する。
論文 参考訳(メタデータ) (2026-06-01T01:29:36Z) - AgentStop: Terminating Local AI Agents Early to Save Energy in Consumer Devices [9.357681245846898]
大規模言語モデル(LLM)は、複雑で多段階的なタスクを自動化するためにますます使われる。
リモートでクラウドベースのエージェントは、プライバシの懸念を高め、ネットワーク接続に依存し、繰り返し発生するAPIコストを発生させる。
我々はAgentStopを紹介した。AgentStopは軽量な効率スーパーバイザで、未成功の軌道を予測し、プリエンプティブに終了する。
論文 参考訳(メタデータ) (2026-05-01T14:45:37Z) - AgentCgroup: Understanding and Controlling OS Resources of AI Agents [2.8139711959925244]
AIエージェントは、サンドボックスコンテナ内でさまざまなツールコールを実行するマルチテナントクラウド環境にますますデプロイされている。
サンドボックス型AI符号化エージェントにおけるOSレベルの資源動態の系統的特徴について述べる。
予備評価は, マルチテナント分離の改善と資源廃棄物の削減を実証する。
論文 参考訳(メタデータ) (2026-02-10T02:37:42Z) - AgentArk: Distilling Multi-Agent Intelligence into a Single LLM Agent [57.10083973844841]
AgentArkは、マルチエージェントダイナミクスを単一のモデルの重みに蒸留する新しいフレームワークである。
各種モデル,タスク,スケーリング,シナリオの3つの階層的蒸留戦略について検討する。
シミュレーションからトレーニングへ計算の負担をシフトさせることで、蒸留されたモデルは、複数のエージェントの強い推論と自己補正性能を示しながら、一つのエージェントの効率を保ちます。
論文 参考訳(メタデータ) (2026-02-03T19:18:28Z) - A CPU-Centric Perspective on Agentic AI [8.417523196411574]
Agentic AIフレームワークは、Web検索、Pythonインタプリタ、コンテキストデータベースなど、外部ツールに埋め込まれた意思決定オーケストレータを追加する。
本稿では,エージェントAIワークロードが導入するシステムのボトルネックをCPU中心の観点から特徴づけ,理解することを目的とする。
論文 参考訳(メタデータ) (2025-11-01T23:46:44Z) - SFR-DeepResearch: Towards Effective Reinforcement Learning for Autonomously Reasoning Single Agents [93.26456498576181]
本稿では,ディープリサーチのためのネイティブ自律単エージェントモデルの開発に焦点をあてる。
我々の最良の変種であるSFR-DR-20Bは、HumanityのLast Examベンチマークで28.7%に達する。
論文 参考訳(メタデータ) (2025-09-08T02:07:09Z) - MLAgentBench: Evaluating Language Agents on Machine Learning Experimentation [96.71370747681078]
我々は,CIFAR-10におけるモデル性能の改善から,BabyLMのような最近の研究課題まで,13のタスクからなるMLAgentBenchを紹介した。
各タスクに対して、エージェントはファイルの読み書き、コードの実行、出力の検査などのアクションを実行することができる。
我々は、Claude v1.0、Claude v2.1、Claude v3 Opus、GPT-4、GPT-4-turbo、Gemini-Pro、Mixtralに基づいてベンチマークエージェントをベンチマークし、Claude v3 Opusエージェントが成功率の点で最高であることを示す。
論文 参考訳(メタデータ) (2023-10-05T04:06:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。