論文の概要: FORGE: Form-Optimal Routing of Grounded Evidence for Frozen LLM Agents

• arxiv url: http://arxiv.org/abs/2609.34358v1
• Date: Mon, 28 Sep 2026 05:33:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-03 21:32:02.670006
• Title: FORGE: Form-Optimal Routing of Grounded Evidence for Frozen LLM Agents
• Title（参考訳）: FORGE:冷凍LLM剤のグラウンドドエビデンスの形状最適ルーティング
• Abstract要約: FORGEは、ジョイントアクション空間上のクエリごとのルーティングを通じて、フリーズモデルを適応するための統一されたフレームワークである。 両方のメインホストで42-45%のトークンコストで精度を向上し、トークンコストの低いホスト間でゼロショットを転送し、利用可能な固有の思考予算で構成する。
• 参考スコア（独自算出の注目度）: 37.79514345733196
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: In agentic AI systems, frozen foundation models are increasingly deployed as closed-weight API endpoints, making downstream adaptation possible only through the inputs and inference procedures surrounding the model. As a result, for each input query, two coupled decisions largely determine both answer quality and token cost: what evidence to provide and how much reasoning budget to allocate. Fixed defaults along these axes are often suboptimal, misallocating support form or reasoning depth on roughly 80% of queries in our analysis. To address this challenge, we propose FORGE, a unified framework for adapting frozen models through per-query routing over a joint action space that spans both support form and thinking depth. Under an entropy-regularized, cost-aware utility objective, we derive a closed-form Boltzmann routing target and instantiate the policy as a lightweight 269K-parameter factorized router. The routing policy is trained around the frozen host, without any weight access, through a three-stage pipeline: offline arm enumeration, supervised Kullback-Leibler (KL) distillation from the Boltzmann target, and Group Relative Policy Optimization (GRPO) refinement with host feedback. Across 5 knowledge-intensive benchmarks and 8 frozen backbones ranging from 7B to 671B parameters, FORGE improves accuracy at 42-45% lower token cost on both main hosts, transfers zero-shot across hosts at lower token cost, and composes with intrinsic thinking budgets where available.
• Abstract（参考訳）: エージェントAIシステムでは、フリーズファンデーションモデルをクローズドウェイトなAPIエンドポイントとしてデプロイし、モデルを取り巻くインプットと推論手順を通じてのみ、下流への適応を可能にする。 結果として、各入力クエリに対して、どのエビデンスを提供するか、どのくらいの推論予算を割り当てるかという、回答の品質とトークンコストの両方を2つの結合した決定が決定します。 これらの軸に沿った固定されたデフォルトは、しばしば、我々の分析において、およそ80%のクエリに対するサポートフォームの誤配置、あるいは推論の深さである。 この課題に対処するために、我々は、サポートフォームと思考深度の両方にまたがるジョイントアクション空間上のクエリごとのルーティングを通じて、フリーズモデルを適応するための統一フレームワークFOGEを提案する。 エントロピーレギュラー化・コスト対応ユーティリティー目的の下では、閉形式のボルツマンルーティングターゲットを導出し、軽量な269Kパラメータ分解ルータとしてポリシーをインスタンス化する。 ルーティングポリシは、オフラインアーム列挙、ボルツマンターゲットからのカルバック・リーブラー(KL)蒸留の監督、ホストフィードバックによるグループ相対ポリシー最適化(GRPO)改良という、3段階のパイプラインを通じて、凍結ホストを中心にトレーニングされている。 5つの知識集約型ベンチマークと7Bから671Bパラメータの凍結バックボーンで、FOGEは両方のメインホストのトークンコストを42-45%削減し、トークンコストを下げてホスト間でゼロショットを転送し、本質的な思考予算で構成する。

関連論文リスト

• Pandora's AI Model Routing Box: Efficient Allocation with Costly Value Estimation [64.51088225051959]
  不均一なAIシステムは、最低コストで最も効果的に答えられる専門家にクエリをルーティングすることで、品質と効率を向上させることができる。 我々はこのトレードオフをPandoraのBoxの例として定式化した。 ガウス信号モデルの下では、得られたポリシーは、各専門家とインプットに対して、その価値見積の精算がそのコストに値するかどうかを決定する、クローズドフォームな情報表現を持つ。
  論文  参考訳（メタデータ） (2026-08-20T17:54:37Z)
• EntroRouter: Learning Efficient Model Routing via Entropy Regulation [45.88530258803968]
  エントロピー制御を主目的とする単一ラウンドルーティングフレームワークを提案する。 我々はEntroが最強の専門家の精度の98.3%を維持し、計算コストを48.25%削減していることを示した。
  論文  参考訳（メタデータ） (2026-06-28T14:39:06Z)
• BUDDY: BUdget-Driven DYnamic Depth Routing for Adaptive Large Language Model Inference [8.041559188948003]
  Buddyは、大規模言語モデルのための予算駆動の動的深度ルーティングフレームワークである。 厳格な予算管理、デコードタイムの再ルーティング、トレーニングされた1つのモデルで複数の予算をサポートする。
  論文  参考訳（メタデータ） (2026-06-08T14:06:35Z)
• CR^2: Cost-Aware Risk-Controlled Routing for Wireless Device-Edge LLM Inference [52.849509991178884]
  大規模言語モデル(LLM)は集中型クラウドからモバイルエッジ環境に移行する。 軽量オンデバイスモデルとより強力なエッジモデルの間のクエリレベルのルーティングは、このトレードオフをナビゲートするための柔軟なメカニズムを提供する。 既存のルータは、集中クラウド設定とトークンレベルのコストの最適化のために設計されており、無線エッジデプロイメントにおける動的レイテンシとエネルギーオーバーヘッドをキャプチャできない。
  論文  参考訳（メタデータ） (2026-05-12T11:50:15Z)
• A Communication-Theoretic Framework for LLM Agents: Cost-Aware Adaptive Reliability [0.20625936401496228]
  大規模言語モデル(LLM)に基づく大規模言語モデルの信頼性技術について検討する。 これらの信頼性手法は6つの古典的信頼性演算子の特別な場合であることを示す。 本稿では,1つのラグランジアンノブが高品質なフロンティアを横断するコストアレスト近傍ルータを提案する。
  論文  参考訳（メタデータ） (2026-05-09T19:14:33Z)
• Process Reward Agents for Steering Knowledge-Intensive Reasoning [18.184546182516225]
  本稿では,ドメインベースでオンライン,ステップワイドな報酬を凍結ポリシに提供するテストタイム手法であるProcess Reward Agents(PRA)を紹介する。 PRAは強いベースラインを一貫して上回り、Qwen3-4BでMedQAで80.8%の精度を達成した。 PRAは0.5Bから8Bまでの凍結ポリシーモデルを一般化し、ポリシーモデルを更新することなく、その精度を最大25.7%向上させる。
  論文  参考訳（メタデータ） (2026-04-10T16:45:44Z)
• ODAR: Principled Adaptive Routing for LLM Reasoning via Active Inference [60.958331943869126]
  ODAR-Expertは、原則化されたリソース割り当てによる精度と効率のトレードオフを最適化する適応的なルーティングフレームワークである。 我々は、MATHの98.2%の精度、HumanityのLast Examの54.8%を含む、強く一貫した利得を示している。
  論文  参考訳（メタデータ） (2026-02-27T05:22:01Z)
• Learning to Route LLMs from Bandit Feedback: One Policy, Many Trade-offs [69.2486294522259]
  BaRPはBandit Routing-feedback with Preferencesアプローチであり、デプロイと同じ部分フィードバック制限の下でトレーニングされる。 提案手法は,学習中のオンラインフィードバック設定をシミュレートし,新たなプロンプトに適応する。
  論文  参考訳（メタデータ） (2025-10-08T18:24:59Z)
• Self-Evaluation Guided Beam Search for Reasoning [61.523627290397556]
  我々は,Large Language Model (LLM) の推論プロセスのガイドと校正を行うための段階的自己評価機構を導入する。 本稿では,ビームサーチによる自己評価ガイダンスを統合した復号アルゴリズムを提案する。 我々のアプローチは、GSM8K、AQuA、StrategyQAにおいて、対応するCodexバックボンドベースラインをわずかに精度6.34%、9.56%、および5.46%で上回る。
  論文  参考訳（メタデータ） (2023-05-01T02:37:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。