論文の概要: Optimize Cheap, Deploy Strong: Cost-Aware Cross-Tier Transfer for Evolutionary Optimization

• arxiv url: http://arxiv.org/abs/2608.10694v2
• Date: Wed, 12 Aug 2026 12:45:59 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-13 14:28:20.60977
• Title: Optimize Cheap, Deploy Strong: Cost-Aware Cross-Tier Transfer for Evolutionary Optimization
• Title（参考訳）: 進化的最適化のためのコストを意識したクロスティア転送
• Abstract要約: プロンプトとエージェントプログラムの進化的最適化は、フィットネス評価に支配されている。 LLMが果たす3つの役割を分離し、最も安価な層で高ボリュームの回答ロールを実行することで、検索を再構築する。 低コスト検索がターゲット層検索にどのように代用され、どこで失敗するかを、コスト制御で評価する。
• 参考スコア（独自算出の注目度）: 2.3165808794695915
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Evolutionary optimization of LLM prompts and agentic programs (e.g., GEPA) is dominated by fitness evaluation: scoring each candidate runs an answering LLM over a validation set, so the evaluator's price tier dictates total search cost. We restructure that search by decoupling the three roles an LLM plays, running the high-volume answering role on the cheapest tier, reserving a strong model for the rare reflection/variation operator, then exploiting upward cross-tier transfer to deploy the cheaply evolved prompt on a stronger target. We contribute a cost-controlled characterization of when cheap-tier search substitutes for target-tier search, and where it fails. Across four tasks (HotpotQA, IFBench, LiveBench-Math, HoVer) and eleven models in four model families, the resulting prompt matches or exceeds same-tier optimization while placing over 96% of search tokens on the cheapest tier, at 5.6-14x lower search cost, rising to 25-54x where reasoning tiers emit long chains of thought on every fitness call.
• Abstract（参考訳）: LLMプロンプトとエージェントプログラム(例えば、GEPA)の進化的最適化は、適合度評価によって支配される。 我々は、LSMが果たす3つの役割を分離し、最も安価な層で高ボリュームの応答ロールを実行し、レアリフレクション/変量演算子のための強力なモデルを保持し、次に上層移動を利用して、安価に進化したプロンプトをより強力なターゲットに展開する。 低コスト検索がターゲット層検索にどのように代用され、どこで失敗するかを、コスト制御で評価する。 4つのタスク(HotpotQA、IFBench、LiveBench-Math、HoVer)と4つのモデルファミリーの11のモデルで、結果として、最も安い層に96%以上の検索トークンを5.6-14倍の低コストで配置し、全てのフィットネスコールにおいて推論階層が長いチェーンを発行する25-54倍に上昇する。

関連論文リスト

• ARES: Adaptive Reasoning-Effort Steering for PPA- and Cost-Aware RTL Optimization with LLM Agents [6.105769318222439]
  大規模言語モデル(LLM)エージェントは、編集、合成、PPA分析を繰り返すことで、レジスタ転送レベル(RTL)設計のパワー、パフォーマンス、領域を最適化する。 以前のエージェントは、標準化されたコストなしで到達した品質を報告し、その品質はエンジニアリングされたクロスデザインメモリに起因し、すべての呼び出しの理由付け作業を保持する。 我々は3つのイノベーションを伴ってAlesを提案する。
  論文  参考訳（メタデータ） (2026-07-30T08:53:32Z)
• Step-by-Step Optimization-like Reasoning in LLMs over Expanding Search Spaces [63.82675722580452]
  OPT*は、LLMのステップバイステップ最適化のような推論を訓練し評価するための最適化スタイルのタスクのファミリーである。 各タスクは実現可能性チェッカーと評価器を提供し、一方、複雑性パラメータは新しい人間ラベルを必要とせずに検索スペースを拡大する。 OPT*のトレーニングは、ステップバイステップの最適化のような推論を改善する。
  論文  参考訳（メタデータ） (2026-06-03T21:43:38Z)
• LEVI: Stronger Search Architectures Can Substitute for Larger LLMs in Evolutionary Search [0.0]
  LEVIは、より強力な検索アーキテクチャが、進化的検索においてより大きなLLMに代えて、あるいは、さらに優れているという賭けに基づいて構築された、ハーネスファーストな進化的フレームワークである。 LeVIは進化的検索の中核となる3つのコンポーネントを改善している: 初めから多様性を確立し、実行中を通してそれを維持するソリューションデータベース、大小のLSMの強みに反応するよりスマートな突然変異ルータ、ロールアウト重度設定のためのランク保存プロキシベンチマークである。 LeVI は ShinkaEvolve や G といった既存のフレームワークのフロンティアモデル実行よりも3.3-6.7倍小さい予算で最高スコアを獲得している。
  論文  参考訳（メタデータ） (2026-05-10T21:25:28Z)
• $\ abla$-Reasoner: LLM Reasoning via Test-Time Gradient Descent in Latent Space [71.23672814629448]
  $nabla$-Reasonerは、トークンログに対する差別化可能な最適化をデコードループに統合する反復生成フレームワークである。 $nabla$-Reasonerは、挑戦的な数学的推論ベンチマークで20%以上の精度の向上を実現している。
  論文  参考訳（メタデータ） (2026-03-05T08:42:54Z)
• Rerank Before You Reason: Analyzing Reranking Tradeoffs through Effective Token Cost in Deep Search Agents [50.212640395029744]
  深層探索パイプラインにおける推論予算の配分について検討する。 BrowseComp-Plusベンチマークを用いて、モデルスケール、推論の労力、深度の再検討、トークン総コストのトレードオフを分析する。
  論文  参考訳（メタデータ） (2026-01-20T18:38:35Z)
• A$^2$FM: An Adaptive Agent Foundation Model for Tool-Aware Hybrid Reasoning [40.6234318894435]
  大規模言語モデルは、推論中心のLLMとエージェントのLLMの2つのファミリーに分けられた。 この分割は、基本的に異なるトレーニング目標から生じ、単純なクエリに対して不一致の強度と非効率をもたらす。 本稿では,アダプティブ・エージェント・ファンデーション・モデル (A$2$FM) を提案する。
  論文  参考訳（メタデータ） (2025-10-13T17:08:25Z)
• RRO: LLM Agent Optimization Through Rising Reward Trajectories [52.579992804584464]
  大規模言語モデル (LLM) は様々なタスクにおいて異常な性能を示した。 実際には、エージェントは特定の重要なステップの結果に敏感で、タスクを失敗する可能性がある。 この問題を軽減するために,Reward Rising Optimization (RRO)を提案する。
  論文  参考訳（メタデータ） (2025-05-27T05:27:54Z)
• MixLLM: Dynamic Routing in Mixed Large Language Models [57.309520357563215]
  大規模言語モデル(LLM)は、最近、人工知能の可能性を秘めている。 問合せ-LLM代入のための動的コンテキスト帯域ベースのルーティングシステムであるMixLLMを開発した。
  論文  参考訳（メタデータ） (2025-02-09T02:26:15Z)
• Fleet of Agents: Coordinated Problem Solving with Large Language Models [10.167121757937062]
  Fleet of Agents(FoA)は、動的ツリー検索をナビゲートするエージェントとして大きな言語モデルを利用する、原則化されたフレームワークである。 FoAは多数のエージェントを発生させ、それぞれが自律的に検索空間を探索し、次に選択フェーズを行う。 FoAはすべてのベンチマーク手法の中で最高のコスト品質のトレードオフを実現し、FoA + LMA3.2-11BはLlama3.2-90Bモデルを上回る。
  論文  参考訳（メタデータ） (2024-05-07T09:36:23Z)
• Reinforcement Learning from Human Feedback with Active Queries [59.855433734053555]
  現在の強化学習アプローチは、多くの場合、大量の人間による嗜好データを必要とする。 本稿では,能動学習の成功に触発された問合せ効率の高いRLHF手法を提案する。 実験の結果,ADPOは人間の好みに対するクエリの約半分しか作成していないが,最先端のDPO法の性能と一致していることがわかった。
  論文  参考訳（メタデータ） (2024-02-14T18:58:40Z)
• Self-Evaluation Guided Beam Search for Reasoning [61.523627290397556]
  我々は,Large Language Model (LLM) の推論プロセスのガイドと校正を行うための段階的自己評価機構を導入する。 本稿では,ビームサーチによる自己評価ガイダンスを統合した復号アルゴリズムを提案する。 我々のアプローチは、GSM8K、AQuA、StrategyQAにおいて、対応するCodexバックボンドベースラインをわずかに精度6.34%、9.56%、および5.46%で上回る。
  論文  参考訳（メタデータ） (2023-05-01T02:37:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。