論文の概要: When Agents Slow Down: Understanding LLM Agents' Test-Time Strategies via Elo-per-token Analysis
- arxiv url: http://arxiv.org/abs/2609.15309v1
- Date: Mon, 14 Sep 2026 09:57:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-16 07:15:06.257067
- Title: When Agents Slow Down: Understanding LLM Agents' Test-Time Strategies via Elo-per-token Analysis
- Title（参考訳）: エージェントのスローダウン:Elo-per-token分析によるLSMエージェントのテスト時間戦略の理解
- Abstract要約: 大規模言語モデル(LLM)エージェントは、ソリューションを修正し、ツールを使用し、代替品を探究し、いつ停止するかを決定する際に、テスト時間計算を適応的に割り当てる。
Elo-per-token分析を提案し,各トークン予算の最適解を追跡する。
我々はこれを4つのオープンエンドベンチマークで4つの汎用エージェントに適用し、最大100万トークンのセッションを行う。
- 参考スコア（独自算出の注目度）: 66.34225048563418
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large language model (LLM) agents allocate test-time compute adaptively as they revise solutions, use tools, explore alternatives, and decide when to stop. This test-time strategy makes it difficult to measure how agent performance scales. We study open-ended tasks that provide continuous scores for intermediate submissions, making progress observable throughout long trajectories. We propose Elo-per-token analysis, which tracks the best solution found at each token budget and uses a Bradley-Terry model to aggregate within-task orderings into Elo ratings across tasks with different score scales. We apply it to four general-purpose agents on four open-ended benchmarks, with sessions of up to 100M tokens, and to three feedback-driven LLM optimization harnesses in controlled single-task interventions. Independent sampling provides a theoretically characterized reference, for which Elo grows linearly with log compute. Against this reference, agents can initially convert tokens into Elo faster than independent sampling, but their marginal gains diminish and eventually fall below the reference. In contrast, the strongest historical human contestants improve superlinearly over contest time on shared AtCoder Heuristic Contest tasks, providing evidence of continual learning and substantial headroom after agents slow down. We define the scaling inflection point as the per-session budget where marginal Elo gains match the independent-sampling reference. Using this point as the per-session budget, we split 100M tokens across parallel sessions on FrontierCS Polyomino Packing, gaining +264 Elo over one long session and +355 over ten short sessions.
- Abstract（参考訳）: 大規模言語モデル(LLM)エージェントは、ソリューションを修正し、ツールを使用し、代替品を探究し、いつ停止するかを決定する際に、テスト時間計算を適応的に割り当てる。
このテストタイム戦略は、エージェントのパフォーマンスのスケールを測定するのを難しくする。
提案手法は,中間提案に対して連続的なスコアを提供するオープンエンドタスクについて検討し,長い軌跡を通して進捗を観察可能とした。
トークン予算毎の最良の解を追跡するElo-per-token分析を提案し、Bradley-Terryモデルを用いて、異なるスコアスケールのタスク間でのElo評価にタスク内注文を集約する。
我々は,最大100万トークンのセッションを持つ4つのオープンエンドベンチマークの汎用エージェントと,制御された単一タスク介入における3つのフィードバック駆動LLM最適化手法に適用する。
独立サンプリングは理論上特徴のある参照を提供し、Eloはログ計算で線形に成長する。
この基準に反して、エージェントは最初は独立サンプリングよりも早くトークンをEloに変換することができるが、その限界ゲインは減少し、最終的に基準を下回る。
対照的に、最強の歴史的人間競争者は、共有されたAtCoderヒューリスティック・コンテストのタスクにおけるコンテスト時間よりも超直線的に改善し、エージェントが減速した後、継続的な学習と実質的なヘッドルームの証拠を提供する。
我々は、スケーリングのインフレクションポイントを、Eloの利得が独立サンプリング基準と一致するセッションごとの予算として定義する。
このポイントをセッション単位の予算として、FrontierCS Polyomino Packingの並列セッションで1億トークンを分割しました。
関連論文リスト
- PACE: A Proxy for Agentic Capability Evaluation [60.3743414796937]
PACEは、既存の非エージェント評価からインスタンスを選択することで、プロキシベンチマークを構築するフレームワークである。
14のモデル、4つのエージェントベンチマーク、19の非エージェントベンチマークによる実験では、PACE-Benchがエージェントスコアを予測し、LOOCVは絶対誤差(MAE)を4%以下、スピアマン相関は0.80以上、ペアワイズモデルの精度は85%で、いずれもエージェント評価コストの1%以下である。
論文 参考訳（メタデータ） (2026-07-02T10:59:03Z) - IdleSpec: Exploiting Idle Time via Speculative Planning for LLM Agents [56.77101184011525]
大規模言語モデル(LLM)ベースのエージェントは、反復的なツールコールと環境相互作用で多段階推論を活用することで複雑なタスクを解決する。
ほとんどのエージェントシナリオではアイドル時間が流行しているが、既存の作業では避けられないオーバーヘッドとして扱っている。
IdleSpecは、アイドル時間計算を利用してエージェントのパフォーマンスを向上させる、スケーラブルで汎用的な推論手法である。
論文 参考訳（メタデータ） (2026-05-21T08:25:17Z) - AEL: Agent Evolving Learning for Open-Ended Environments [43.56685432981852]
本稿では,この障害に対処する2段階のフレームワークであるemphAgent Evolving Learning (ael)を紹介する。
ael はシャープ比 2.13$pm$0.47 を達成し、5つの自己改善法を上回ります。
これは、エージェントの自己改善におけるボトルネックが、アーキテクチャの複雑さを追加するのではなく、経験の使い方を自覚していることを示している。
論文 参考訳（メタデータ） (2026-04-23T14:29:25Z) - Agentic Aggregation for Parallel Scaling of Long-Horizon Agentic Tasks [33.36477179106684]
本研究では,エージェント探索やディープリサーチなどの長期エージェントタスクに対する並列テスト時間スケーリングについて検討する。
並列軌道を環境として扱うアグリゲーションエージェントであるAggAgentを提案する。
論文 参考訳（メタデータ） (2026-04-13T17:26:31Z) - What If We Allocate Test-Time Compute Adaptively? [2.1713977971908944]
テストタイムスケーリングは、推論計算を均一に割り当て、固定されたサンプリング戦略を使用し、再ランク付けにのみ検証を適用する。
本稿では,推論を反復的軌跡生成と選択として扱う検証器誘導適応フレームワークを提案する。
データセット全体にわたって、当社の動的PRMガイダンスアプローチは、テスト時間の直接スケーリングよりも一貫して優れています。
論文 参考訳（メタデータ） (2026-02-01T07:30:22Z) - A BERTology View of LLM Orchestrations: Token- and Layer-Selective Probes for Efficient Single-Pass Classification [2.0069888187253615]
生産LLMシステムは、安全と他の分類の重いステップのために、しばしば別々のモデルに依存している。
代わりに、私たちはLLMによって既に支払われた計算を再利用し、隠れた状態の軽量プローブを訓練し、生成に使用する同じ前方パスでラベルを予測する。
論文 参考訳（メタデータ） (2026-01-19T18:40:29Z) - AgentPRM: Process Reward Models for LLM Agents via Step-Wise Promise and Progress [71.02263260394261]
大規模言語モデル(LLM)は、マルチターン意思決定タスクにおいて依然として課題に直面している。
プロセス報酬モデル(PRM)を構築し、各意思決定を評価し、エージェントの意思決定プロセスを導く。
AgentPRMは、シーケンシャルな決定と最終的な目標への貢献の間の相互依存の両方をキャプチャする。
論文 参考訳（メタデータ） (2025-11-11T14:57:54Z) - MM-HELIX: Boosting Multimodal Long-Chain Reflective Reasoning with Holistic Platform and Adaptive Hybrid Policy Optimization [103.74675519953898]
ロングチェーンのリフレクティブ推論は、複雑な現実世界の問題を解決するための前提条件である。
我々は42の難解な合成タスクの1,260のサンプルからなるベンチマークを構築した。
トレーニング後のデータを生成し、そのようなデータを活用するための学習パラダイムを探索する。
論文 参考訳（メタデータ） (2025-10-09T17:53:58Z) - Multi-Agent Sampling: Scaling Inference Compute for Data Synthesis with Tree Search-Based Agentic Collaboration [81.45763823762682]
本研究の目的は,マルチエージェントサンプリングによるデータ合成の問題を調べることでギャップを埋めることである。
逐次サンプリングプロセス中にワークフローが反復的に進化する木探索に基づくオーケストレーションエージェント(TOA)を紹介する。
アライメント、機械翻訳、数学的推論に関する実験は、マルチエージェントサンプリングが推論計算スケールとしてシングルエージェントサンプリングを著しく上回ることを示した。
論文 参考訳（メタデータ） (2024-12-22T15:16:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。