論文の概要: Pandora's AI Model Routing Box: Efficient Allocation with Costly Value Estimation

• arxiv url: http://arxiv.org/abs/2608.20316v2
• Date: Fri, 21 Aug 2026 18:08:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-25 18:24:36.895527
• Title: Pandora's AI Model Routing Box: Efficient Allocation with Costly Value Estimation
• Title（参考訳）: PandoraのAIモデルルーティングボックス
• Abstract要約: 不均一なAIシステムは、最低コストで最も効果的に答えられる専門家にクエリをルーティングすることで、品質と効率を向上させることができる。 我々はこのトレードオフをPandoraのBoxの例として定式化した。 ガウス信号モデルの下では、得られたポリシーは、各専門家とインプットに対して、その価値見積の精算がそのコストに値するかどうかを決定する、クローズドフォームな情報表現を持つ。
• 参考スコア（独自算出の注目度）: 64.51088225051959
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Heterogeneous AI systems composed of multiple models, architectures, harnesses, or inference-time settings can improve quality and efficiency by routing queries to the specialist who can answer most effectively at the lowest cost. Routing requires estimating each specialist's expected return, but this value estimation has a cost. Cheap estimators (e.g., embedding-based predictors) are fast but noisy, while accurate estimators (e.g., fine-tuned models with access to retrieval results or partial reasoning traces) are expensive. We formalize this tradeoff as an instance of Pandora's Box, the classical problem of optimal search with costly inspection. Under a Gaussian signal model, the resulting policies have closed-form value-of-information expressions that determine, for each specialist and input, whether refining the value estimate is worth its cost. We call the centralized policy Pandora's Router. We extend this to a decentralized setting, Pandora's Bidder, where specialists independently decide whether to invest in self-assessment before accepting an offered price to claim a query. Experiments across three domains---a standard multi-LLM benchmark, retrieval-augmented specialists, and LLMs with variable inference-time reasoning---show that Pandora's Router matches the routing quality of exhaustive estimation, while querying the expensive estimator far less often. In the decentralized setting, value-of-information reasoning improves allocative efficiency when competing estimates are accurate; when competing estimates are noisy, however, it can increase the strategic specialist's utility at the expense of others.
• Abstract（参考訳）: 複数のモデル、アーキテクチャ、ハーネス、推論時間設定からなる不均一なAIシステムは、最低コストで最も効果的に答えられる専門家にクエリをルーティングすることで、品質と効率を向上させることができる。 ルーティングには各専門家の期待したリターンを見積もる必要がありますが、この価値見積にはコストがあります。 チープ推定器(例えば埋め込みベースの予測器)は高速だがノイズが多いが、正確な推定器(例えば、検索結果や部分的推論トレースにアクセス可能な微調整されたモデル)は高価である。 我々はこのトレードオフをPandoraのBoxの例として定式化した。 ガウス信号モデルの下では、得られたポリシーは、各専門家とインプットに対して、その価値見積の精算がそのコストに値するかどうかを決定する、クローズドフォームな情報表現を持つ。 我々は、Pandoraのルーターを中央集権ポリシーと呼んでいる。 PandoraのBidderでは、クエリを請求する提案価格を受け入れる前に、専門家が独立して自己評価に投資するかどうかを判断します。 標準のマルチLLMベンチマーク、検索強化されたスペシャリスト、および可変推論時間推論を備えたLLMの3つの領域にわたる実験 - Pandoraのルータは、排他的推定のルーティング品質と一致し、高価な推定器をクエリする頻度ははるかに低い。 分散環境では、情報の価値推論は競合する推定値が正確であるときに割当効率を改善するが、競合する推定値がうるさい場合には、他の見積もりを犠牲にして戦略専門家の実用性を高めることができる。

関連論文リスト

• ScaleSense: Cost-Intelligent Scaling Framework via Learned Resource Estimation in Alibaba AnalyticDB [59.708423132520515]
  クラウドネイティブなサーバレスデータウェアハウスは、計算からストレージを分離することで、きめ細かい弾力性を達成する。 しかし、高度にヘテロジニアスなアドホッククエリに対する最適なリソース割り当てを決定することは、深刻な産業上の課題である。 プロアクティブでクエリレベルのリソーススケーリングフレームワークであるScaleSenseを提案する。
  論文  参考訳（メタデータ） (2026-08-08T06:10:35Z)
• When Should Active RAG Retrieve? A Budget-Aware Evaluation of Utility, Calibration, and Cost [11.216720435946804]
  予算を意識したアクティブRAG評価は、フロンティア、実現された使用法、しきい値転送エラー、ハーモレート、コスト分解を精度とともに報告すべきである。 トリガースコアが有用な検索判断をランク付けするかどうか、過去のデータで調整されたしきい値が将来の予算を満たすかどうか、トリガーサイドがどのようにデプロイメントコストを変更するか、という3つの質問を運用します。
  論文  参考訳（メタデータ） (2026-07-27T05:17:06Z)
• Resample or Reroute? Budget-Aware Test-Time Model Selection for Large Language Models [0.10152838128195468]
  この研究は、大規模言語モデルに対する予算対応テストタイムモデル選択を定式化する。 単位コスト当たりの限界精度の推定によるオンライン再サンプリング・オー・リルート(RoR)割り当てポリシーを提案する。 11モデルのオープンウェイトプールから4つの異なる難易度ベンチマークで新たに生成した正しさテンソルの実験により、提案されたRoRポリシーは、単一ルート、一コミットルータ、予算対応のベスト・オブ・K、カスケード、ランダム・アロケーションベースラインに対して、良好なコスト品質のロバスト性を達成することが示された。
  論文  参考訳（メタデータ） (2026-07-09T16:34:15Z)
• Instance-Optimal Estimation with Multiple LLM Judges on a Budget [84.31744861038106]
  我々は、この問題を*予算付きヘテロスケダティックなマルチジャッジ推定*として定式化する。 K$のプロンプト-レスポンスペア、J$の既知のコストと未知のクエリ-ジャッジ分散が与えられた場合、目標は、$ell_p$-errorを最小化しながら、有界スコアベクトルを推定することである。 EST-IVWEは,予算の低次項までのオラクルIVWEレートと一致していることを示す。
  論文  参考訳（メタデータ） (2026-05-22T08:26:08Z)
• Reliable LLM-Based Edge-Cloud-Expert Cascades for Telecom Knowledge Systems [54.916243942641444]
  大規模言語モデル(LLM)は、通信などの分野において、自動化の鍵となる存在として浮上している。 本研究では,問合せパイプラインによる意思決定を支援する,エッジクラウドに精通したLLMベースの知識システムについて検討する。
  論文  参考訳（メタデータ） (2025-12-23T03:10:09Z)
• e1: Learning Adaptive Control of Reasoning Effort [88.51897900019485]
  AIモデルの思考予算の増大は、精度を大幅に向上させるが、すべての質問が同じ量の推論を保証しているわけではない。 ユーザは、アウトプットの品質を、レイテンシやコストに対してどのように評価するかによって、さまざまな理由付けの労力を割り当てる傾向があります。 本稿では,ユーザが指定したトークン数を用いてモデルを学習する自己適応型強化学習手法であるAdaptive Effort Controlを提案する。
  論文  参考訳（メタデータ） (2025-10-30T23:12:21Z)
• Meta-Router: Bridging Gold-standard and Preference-based Evaluations in Large Language Model Routing [15.724480880994259]
  大規模言語モデル(LLM)ルータは、クエリ毎に候補のプールから最も適切なモデルを選択する。 クラウドソーシングやLSM-as-a-judgeシステムを通じて収集された嗜好ベースのデータは、より安価でスケーラブルだが、応答の真の品質を反映することにはバイアスが伴うことが多い。 我々は、好みデータバイアスを補正し、2つのデータソース間の不均衡に対処し、ルーティングの堅牢性と効率を改善する統合因果ルータトレーニングフレームワークを開発する。
  論文  参考訳（メタデータ） (2025-09-29T21:44:00Z)
• Estimating Treatment Effects under Recommender Interference: A Structured Neural Networks Approach [32.55211271796683]
  一般に採用されている差分推定器は、推奨者干渉による推定に大きく偏りがあることが示される。 干渉経路を明示的に表現した「推薦者選択モデル」を提案する。 Weixin短ビデオプラットフォーム上での大規模フィールド実験により本手法の有効性を検証した。
  論文  参考訳（メタデータ） (2024-06-20T14:53:26Z)
• Cost-Efficient Online Hyperparameter Optimization [94.60924644778558]
  実験の単一実行でヒトのエキスパートレベルのパフォーマンスに達するオンラインHPOアルゴリズムを提案します。 提案するオンラインhpoアルゴリズムは,実験の1回で人間のエキスパートレベルのパフォーマンスに到達できるが,通常のトレーニングに比べて計算オーバーヘッドは少ない。
  論文  参考訳（メタデータ） (2021-01-17T04:55:30Z)
• Optimal Algorithms for Stochastic Multi-Armed Bandits with Heavy Tailed Rewards [24.983866845065926]
  我々は、重い尾の報酬を持つマルチアームのバンディットを考えており、そのp$-thのモーメントは、定数$nu_p$が1pleq2$である。 本稿では,従来の情報として$nu_p$を必要としない新しいロバストな推定器を提案する。 提案した推定器の誤差確率は指数関数的に高速に減衰することを示す。
  論文  参考訳（メタデータ） (2020-10-24T10:44:02Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。