論文の概要: AgentStop: Terminating Local AI Agents Early to Save Energy in Consumer Devices
- arxiv url: http://arxiv.org/abs/2605.15206v1
- Date: Fri, 01 May 2026 14:45:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-25 12:34:33.825519
- Title: AgentStop: Terminating Local AI Agents Early to Save Energy in Consumer Devices
- Title(参考訳): エージェントストップ:地元のAIエージェントが消費者端末のエネルギーを早期に節約する
- Authors: Dzung Pham, Kleomenis Katevas, Ali Shahin Shamsabadi, Hamed Haddadi,
- Abstract要約: 大規模言語モデル(LLM)は、複雑で多段階的なタスクを自動化するためにますます使われる。
リモートでクラウドベースのエージェントは、プライバシの懸念を高め、ネットワーク接続に依存し、繰り返し発生するAPIコストを発生させる。
我々はAgentStopを紹介した。AgentStopは軽量な効率スーパーバイザで、未成功の軌道を予測し、プリエンプティブに終了する。
- 参考スコア(独自算出の注目度): 9.357681245846898
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Autonomous agents powered by large language models (LLMs) are increasingly used to automate complex, multi-step tasks such as coding or web-based question answering. While remote, cloud-based agents offer scalability and ease of deployment, they raise privacy concerns, depend on network connectivity, and incur recurring API costs. Deploying agents locally on user devices mitigates these issues by preserving data privacy and eliminating usage-based fees. However, agentic workflows are far more resource-intensive than typical LLM interactions. Iterative reasoning, tool use, and failure retries substantially increase token consumption, often expending significant compute without successfully completing tasks. In this work, we investigate the time, token, and energy overhead of locally deployed LLM-based agents on consumer hardware. Our measurements show that agentic execution increases GPU power draw, temperature, and battery drain compared to single-inference workloads. To address this inefficiency, we introduce AgentStop, a lightweight efficiency supervisor that predicts and preemptively terminates trajectories unlikely to succeed. Leveraging low-cost execution signals, such as token-level log probabilities, AgentStop can reduce wasted energy by 15-20% with minimal impact on task performance (<5% utility drop) for challenging web-based question answering and coding benchmarks. These findings position predictive early termination as a practical mechanism for enabling sustainable, privacy-preserving LLM agents on user devices. Our project code and data are available at https://github.com/brave-experiments/AgentStop.
- Abstract(参考訳): 大規模言語モデル(LLM)を利用した自律エージェントは、コーディングやWebベースの質問応答といった複雑なマルチステップタスクを自動化するために、ますます使用されている。
リモートのクラウドベースのエージェントはスケーラビリティとデプロイの容易さを提供するが、プライバシの懸念を高め、ネットワーク接続に依存し、繰り返し発生するAPIコストを発生させる。
ローカルにユーザデバイスにエージェントをデプロイすることは、データのプライバシを保護し、使用料を廃止することによって、これらの問題を緩和する。
しかしながら、エージェントワークフローは典型的なLLM相互作用よりもはるかにリソース集約的である。
反復推論、ツールの使用、失敗の再試行はトークン消費を大幅に増加させ、しばしばタスクを正常に完了させることなく重要な計算を出力する。
本研究では, LLMをベースとしたローカルエージェントのハードウェア上での時間, トークン, エネルギーオーバーヘッドについて検討する。
エージェント実行は、シングル推論ワークロードと比較して、GPUのパワードロー、温度、バッテリドレインを増大させる。
この非効率性に対処するために、我々はAgentStopという軽量な効率スーパーバイザを導入しました。
トークンレベルのログ確率などの低コストな実行信号を活用することで、AgentStopは、Webベースの質問応答とコーディングベンチマークに挑戦するためのタスクパフォーマンス(5%のユーティリティドロップ)に最小限の影響を伴って、無駄なエネルギーを15~20%削減することができる。
これらの知見は,ユーザデバイス上での持続的プライバシ保護 LLM エージェントの実現のための実用的なメカニズムとして,予測早期終了を位置づけている。
プロジェクトコードとデータはhttps://github.com/brave-experiments/AgentStop.comで公開されています。
関連論文リスト
- Step-level Optimization for Efficient Computer-use Agents [51.29573359027217]
我々は、強力なコンピュータ利用エージェントは、実際は高価で遅いと論じている。
本稿では,コンピュータ利用エージェントのためのイベント駆動ステップレベルカスケードを提案する。
論文 参考訳(メタデータ) (2026-04-29T19:59:36Z) - GenericAgent: A Token-Efficient Self-Evolving LLM Agent via Contextual Information Density Maximization (V1.0) [56.81743709880371]
Long-Horizon Large Language Model (LLM) エージェントは、コンテキストによって根本的に制限される。
長い水平性能は、文脈長ではなく、有限の文脈予算内で意思決定関連情報がどれだけ維持されているかによって決定される。
我々は、情報密度とコンテキストの1つの原理に基づいて構築された汎用的自己進化型LLMエージェントシステムであるGenericAgent(GA)を提案する。
論文 参考訳(メタデータ) (2026-04-18T17:59:15Z) - Stop Wasting Your Tokens: Towards Efficient Runtime Multi-Agent Systems [11.42175340352007]
SupervisorAgentは、ランタイムと適応的な監視のための軽量でモジュール化されたフレームワークです。
SupervisorAgentは、エラーを積極的に修正し、非効率な振る舞いを誘導し、観察を浄化するために、臨界点に介入する。
挑戦的なGAIAベンチマークでは、SupervisorAgentは成功率を損なうことなく、Smolagentフレームワークのトークン消費を平均29.45%削減した。
論文 参考訳(メタデータ) (2025-10-30T15:12:59Z) - DeepAgent: A General Reasoning Agent with Scalable Toolsets [111.6384541877723]
DeepAgentは、自律的な思考、ツール発見、アクション実行を実行するエンドツーエンドのディープ推論エージェントである。
長期にわたる相互作用の課題に対処するために,過去の相互作用を構造化エピソード,動作,ツール記憶に圧縮する自律的メモリ折り畳み機構を導入する。
LLMシミュレートされたAPIを活用し、ツール呼び出しトークンにきめ細かいクレジットを割り当てるツールコールアドバンテージ属性を適用した、エンドツーエンドの強化学習戦略であるToolPOを開発した。
論文 参考訳(メタデータ) (2025-10-24T16:24:01Z) - Agent.xpu: Efficient Scheduling of Agentic LLM Workloads on Heterogeneous SoC [11.82567747365518]
本稿では,メモリ統一ヘテロジニアス SOC 上でのエージェント LLM ワークロードの効率的なサービスシステムである Agent.xpu について紹介する。
Agent.xpuは専用のオフラインプロファイリングにより、アフィニティ誘導弾性加速器マッピングのためにモデルカーネルを融合・チャンクする異種実行グラフを最初に構築した。
実行時に、そのオンラインスケジューラは、粒度の細かいカーネルレベルのプリエンプションを可能にし、リアクティブタスクの応答性を保証する。
論文 参考訳(メタデータ) (2025-06-30T16:50:48Z) - EcoAgent: An Efficient Edge-Cloud Collaborative Multi-Agent Framework for Mobile Automation [36.08217588070538]
マルチモーダル(multimodal)な大規模言語モデル((M)LLM)をベースとするクラウドベースのモバイルエージェントは、強力な推論能力を提供するが、レイテンシとコストに悩まされる。
textbfEdge-textbfCloud ctextbfOllaborative multi-agent framework for mobile automation。
EcoAgentはクラウドベースの計画エージェントとエッジベースの2つのエージェント – アクション実行のための実行エージェントと結果を検証する監視エージェント – のクローズドループコラボレーションを特徴としている。
論文 参考訳(メタデータ) (2025-05-08T17:31:20Z) - AgentDAM: Privacy Leakage Evaluation for Autonomous Web Agents [66.29263282311258]
我々は、AIウェブナビゲーションエージェントがデータ最小化のプライバシー原則に従うかどうかを測定する新しいベンチマークAgentDAMを紹介する。
我々のベンチマークは、現実的なWebインタラクションシナリオをエンドツーエンドでシミュレートし、既存のWebナビゲーションエージェントに適応する。
論文 参考訳(メタデータ) (2025-03-12T19:30:31Z) - CAAP: Context-Aware Action Planning Prompting to Solve Computer Tasks with Front-End UI Only [21.054681757006385]
本稿では,スクリーンショット画像のみを通して環境を知覚するエージェントを提案する。
大規模言語モデルの推論能力を活用することで,大規模人間の実演データの必要性を解消する。
AgentはMiniWoB++の平均成功率は94.5%、WebShopの平均タスクスコアは62.3である。
論文 参考訳(メタデータ) (2024-06-11T05:21:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。