論文の概要: When Is Smaller Greener? Right-Sizing Language Models for Agentic AI

• arxiv url: http://arxiv.org/abs/2610.19345v1
• Date: Wed, 14 Oct 2026 00:37:23 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.863788
• Title: When Is Smaller Greener? Right-Sizing Language Models for Agentic AI
• Title（参考訳）: より小さくなるのはいつか? エージェントAIのための右サイズの言語モデル
• Abstract要約: コールごとの比較はエージェントAIと誤解を招く可能性があることを示す。 タスクはすべての必要なステップが成功する場合にのみ成功するので、ステップごとの信頼性の小さな違いは、タスク全体の成功に大きな違いをもたらす。 エージェントでLLMを選択するための決定モデルを開発する。
• 参考スコア（独自算出の注目度）: 1.3965477771846408
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: AI agents use large language models (LLMs) to plan and act over multiple steps, yet models are usually compared per call rather than per completed task. This paper asks: which model should an agent use to complete tasks reliably while minimising energy, cost and time? We show that per-call comparisons can be misleading for agentic AI. Because a task succeeds only if all required steps succeed, small differences in per-step reliability can produce large differences in overall task success. Failed attempts also consume resources. We therefore evaluate models using energy, cost and time per successfully completed task, treating the completed task as the functional unit. On this basis, we develop a decision model for choosing LLMs in agentic workflows. The model applies to tasks with binary or graded outcomes and to settings with or without retries. We show that each resource has a crossover task length at which a smaller, less reliable model ceases to be the greener, cheaper or faster option. These crossovers divide tasks into three regimes: for short tasks smaller models are preferred, for long tasks larger models are preferred, and only between these extremes do preferences among objectives matter. We embed these results in a two-stage framework that separates efficiency from preference. A Pareto screen first removes models that are never competitive; a weighted decision is required only when a genuine trade-off remains. A pilot study of 15 open-weight models from five developers, ranging from 0.6B to 27B parameters, on two multi-step agent tasks with measured GPU energy supports the predicted structure. The model with the lowest energy per completed task changes with task length and task type, and observed crossover points generally match those predicted from per-step measurements. These findings provide a practical framework for right-sizing language models in agentic AI.
• Abstract（参考訳）: AIエージェントは、大規模言語モデル(LLM)を使用して、複数のステップを計画し、動作しますが、通常は完了したタスク毎に比較されます。 エネルギー、コスト、時間を最小限にしながら、エージェントがタスクを確実に完了するためにどのモデルを使うべきか? コールごとの比較はエージェントAIと誤解を招く可能性があることを示す。 タスクはすべての必要なステップが成功する場合にのみ成功するので、ステップごとの信頼性の小さな違いは、タスク全体の成功に大きな違いをもたらす。 失敗した試みも資源を消費する。 そこで我々は、完了したタスク毎にエネルギー、コスト、時間を用いてモデルを評価し、完了したタスクを機能単位として扱う。 そこで本研究では,エージェントワークフローにおいてLLMを選択するための決定モデルを構築した。 このモデルは、バイナリまたはグレードされた結果を持つタスクや、リトライの有無に関わらず設定に適用される。 各リソースがクロスオーバータスク長を持ち、より小さく信頼性の低いモデルがよりグリーンで安く、より高速な選択肢であることを示す。 これらのクロスオーバーは、タスクを3つのレギュレーションに分割する: 短いタスクではより小さなモデルが好まれ、長いタスクではより大きなモデルが好まれる。 これらの結果を2段階のフレームワークに組み込んで、効率性と好みを分離します。 Paretoの画面は、競争力のないモデルを取り除き、真のトレードオフが残っている場合にのみ、重み付けされた決定が必要になる。 5人の開発者による15のオープンウェイトモデル(0.6Bから27Bパラメータ)について、GPUエネルギを計測した2つのマルチステップエージェントタスクに関するパイロット研究が、予測された構造を支持している。 完了したタスクあたりのエネルギーが最も低いモデルはタスクの長さとタスクタイプによって変化し、観察されたクロスオーバーポイントは一般的にステップ単位の測定から予測されたものと一致する。 これらの知見はエージェントAIにおける適切な言語モデルのための実践的なフレームワークを提供する。

関連論文リスト

• Efficient LLM Collaboration via Planning [56.081879390960204]
  小規模で大規模なモデルでは、プランナーと実行担当者として交代で行動し、タスクを協調的に解決するために、多段階のカスケードでプランを交換する。 私たちはCOPEが大規模プロプライエタリモデルに匹敵するパフォーマンスを実現し,推論APIのコストを大幅に削減できることを実証した。
  論文  参考訳（メタデータ） (2025-06-13T08:35:50Z)
• MAP: Low-compute Model Merging with Amortized Pareto Fronts via Quadratic Approximation [80.47072100963017]
  Amortized Pareto Front (MAP) を用いた新しい低演算アルゴリズム Model Merging を導入する。 MAPは、複数のモデルをマージするためのスケーリング係数のセットを効率的に識別し、関連するトレードオフを反映する。 また,タスク数が比較的少ないシナリオではベイジアンMAP,タスク数の多い状況ではNested MAPを導入し,計算コストを削減した。
  論文  参考訳（メタデータ） (2024-06-11T17:55:25Z)
• UnIVAL: Unified Model for Image, Video, Audio and Language Tasks [105.77733287326308]
  UnIVALモデルは2つのモードを超えて、テキスト、画像、ビデオ、オーディオを1つのモデルに統合する。 本モデルは,タスクバランスとマルチモーダルカリキュラム学習に基づいて,多くのタスクに対して効率的に事前学習を行う。 統一モデルにより、重み一般化によるマルチモーダルモデルの融合に関する新しい研究を提案する。
  論文  参考訳（メタデータ） (2023-07-30T09:48:36Z)
• Pruning Pretrained Encoders with a Multitask Objective [12.062758391661847]
  シングルタスクモデルのベストアンサンブルに対して,マルチタスクの目的と単一モデルのプルーニングを比較した。 さらなる分析により、マルチタスクの目的をプルーニング中に使用することは、低リソースタスクのモデルサイズの削減に有効な方法であることがわかった。
  論文  参考訳（メタデータ） (2021-12-10T17:57:33Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。