論文の概要: How Do AI Agents Waste Your Money?
- arxiv url: http://arxiv.org/abs/2611.07238v1
- Date: Wed, 04 Nov 2026 23:43:03 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.470959
- Title: How Do AI Agents Waste Your Money?
- Title(参考訳): AIエージェントはどのようにお金を浪費するのか?
- Abstract要約: 異種エージェントシステム間でトークン廃棄物を計測するための統一的な枠組みを導入する。
LLM-as-a-Judge (LLMaJ) を用いて除去可能なスパンを識別し、識別されたテキストをトークンレベルの測定のために元のトラジェクトリにマッピングする。
本研究は, 直接介入による廃棄物の回収, エージェント実行の再開, タスクの成果とその後の行動の変化の測定により, 廃棄物の特定を検証した。
- 参考スコア(独自算出の注目度): 62.52469588517361
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: AI agents may consume massive tokens across a wide range of tasks, but how many of those tokens are really necessary? Although prior work has shown that agents can incur unexpectedly high token costs, we still lack a systematic way to identify and measure token waste. In this work, we introduce a unified framework for measuring token waste across heterogeneous agent systems. Our framework records and normalizes complete agent trajectories, identifies removable spans using an LLM-as-a-Judge (LLMaJ), and maps the identified text spans back to the original trajectory for token-level measurement. We validate the identified waste through direct interventions by removing marked spans, resuming agent execution, and measuring changes in task outcomes and subsequent actions. In online pruning experiments, we remove 41-46% of the model's reasoning while largely preserving task performance across two distinct agent benchmarks. Using this framework, we analyze agents across multiple settings. Our analysis shows that token waste has a system-level structure that aggregate token usage alone cannot reveal. First, waste varies more across tasks and agent settings than across models. Second, reasoning and visible execution can exhibit different waste patterns. Third, different harnesses can introduce distinct sources of inefficiency even under the same model and task. Overall, our framework transforms token waste into an actionable optimization signal, enabling researchers and practitioners to train more efficient models, design better reasoning strategies, and optimize agent harnesses toward reducing unnecessary computation rather than merely reducing token usage.
- Abstract(参考訳): AIエージェントは、幅広いタスクにまたがって大量のトークンを消費するかもしれないが、それらのトークンのうち、本当に何個が必要か?
以前の研究によると、エージェントは予期しないほど高いトークンコストを発生させることができるが、トークンの無駄を特定して測定する体系的な方法がまだ欠けている。
本研究では,異種エージェントシステム間でトークンの無駄を計測するための統一的なフレームワークを提案する。
LLM-as-a-Judge (LLMaJ) を用いて除去可能なスパンを識別し、識別されたテキストをトークンレベルの測定のために元のトラジェクトリにマッピングする。
本研究は, 直接介入による廃棄物の回収, エージェント実行の再開, タスクの成果とその後の行動の変化の測定により, 廃棄物の特定を検証した。
オンラインプルーニング実験では、モデルの推論の41~46%を除去し、2つの異なるエージェントベンチマークでタスク性能をほぼ維持する。
このフレームワークを使用して、エージェントを複数の設定にわたって分析する。
分析の結果,トークン廃棄物はトークンの使用のみを集約するシステムレベルの構造を持つことがわかった。
第一に、ムダはモデルよりもタスクやエージェントの設定によって様々です。
第二に、推論と可視的実行は、異なるムダパターンを示す可能性がある。
第三に、異なるハーネスは同じモデルとタスクの下でも異なる非効率源を導入することができる。
全体として、我々のフレームワークはトークン廃棄物を実行可能な最適化信号に変換し、研究者や実践者がより効率的なモデルを訓練し、より良い推論戦略を設計し、トークンの使用を減らすのではなく、不要な計算を減らすためにエージェントハーネスを最適化する。
関連論文リスト
- The Hidden Costs of Forgetting: A Study of Trajectory Deletion in Software Engineering Agents [54.55463688857532]
本報告では,42のトラジェクトリ・ドローテーション構成の実証的研究を行い,有効性,エージェントの挙動,コストに着目した。
大量のトラジェクティブコンテンツ(例:推論テキストの最大100%)を削除することは、全体的な効果を維持することができる。
エージェントはしばしば削除されたコンテンツを再フェッチすることで補償し、取られたターン数と入出力トークンの両方を増大させる。
論文 参考訳(メタデータ) (2026-10-26T14:25:17Z) - AgentTrace: Execution-Level Fingerprinting of Black-Box LLM Agents [21.451839464111785]
AgentTraceは、観測可能な実行トレースを通じてブラックボックスエージェントの背後にある基盤モデルを識別するフレームワークである。
AgentTraceは、厳密なツールインターフェースでトークン化に敏感なシリアライゼーション障害を引き起こすために、構造的にあいまいなプローブを注入する。
96.4%の帰属精度を敵のアイデンティティスプーフィングで達成する。
論文 参考訳(メタデータ) (2026-10-23T02:55:15Z) - Agents Are Systems, Not Models: Rethinking Agentic Evaluation [80.87068485535677]
エージェントの構成の5つの部分(タスク情報、推論、自己検証、時間予算、バックボーンモデル)について検討する。
結果の約54%は、変更ではなく、同じ構成を繰り返すことによるものです。
ベンチマークと18,000以上のエージェントトラジェクトリをリリースする。
論文 参考訳(メタデータ) (2026-10-01T12:55:07Z) - Total Cost of Agency: Exact Attribution of Memory Injection Cost in Multi-Agent LLM Workflows [0.8770825039504507]
マルチエージェントワークフローのコストをプロンプト、推論、メモリインジェクション、ミスペナルティ、コンテキスト蓄積コンポーネントに分解する。
ワードカウントプロキシからトークンを推定するのではなく、直接トークンを注入する。
論文 参考訳(メタデータ) (2026-09-20T18:23:47Z) - Leveraging Trajectory Graphs for Pre-Execution Error Diagnosis in Agentic LLM Systems [47.66236392009794]
LLM(Large Language Model)ベースのエージェントは、様々な複雑な対話的タスクにおいて、例外的なパフォーマンスを示す。
textitTrajectory Graph Copilot は LLM エージェントの副操縦士' として機能する新しいフレームワークで,実行前に潜在的な動作エラーを診断する。
論文 参考訳(メタデータ) (2026-07-29T20:14:43Z) - Decomposing Reasoning Efficiency in Large Language Models [2.4149105714758545]
我々はトークン効率を、固定されたトークン予算の下での完了、与えられた完了条件の正確性、冗長性といった、解釈可能な要因に分解する。
推論トレースが利用可能であれば、冗長だが拡張された推論からループを分離するために決定論的トレース品質尺度を追加します。
我々の分解は、異なる効率の介入を示唆する異なるボトルネックプロファイルを明らかにします。
論文 参考訳(メタデータ) (2026-02-10T14:09:18Z) - DoVer: Intervention-Driven Auto Debugging for LLM Multi-Agent Systems [48.971606069204825]
DoVerは、大規模言語モデル(LLM)ベースのマルチエージェントシステムのための介入駆動デバッグフレームワークである。
ターゲットの介入を通じて、アクティブな検証によって仮説生成を増強する。
DoVerは失敗試験の18~28%を成功させ、最大16%のマイルストーンを達成し、失敗仮説の30~60%を検証または否定する。
論文 参考訳(メタデータ) (2025-12-07T09:23:48Z) - Runaway is Ashamed, But Helpful: On the Early-Exit Behavior of Large Language Model-based Agents in Embodied Environments [54.67512489842682]
大規模言語モデル(LLM)は、複雑な実施環境において、強力な計画と意思決定能力を示す。
LLMをベースとしたエージェントの早期退避行動を探究する第一歩を踏み出す。
論文 参考訳(メタデータ) (2025-05-23T08:23:36Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。