論文の概要: Opti-Q: A Constraint-Based Optimization Framework for Multi-LLM Question Planning
- arxiv url: http://arxiv.org/abs/2607.22621v1
- Date: Wed, 17 Jun 2026 02:43:58 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-02 22:55:38.990213
- Title: Opti-Q: A Constraint-Based Optimization Framework for Multi-LLM Question Planning
- Title（参考訳）: Opti-Q:マルチLLM質問計画のための制約ベースの最適化フレームワーク
- Abstract要約: OPTI-QはマルチLLMオーケストレーションのための計画前実行パラダイムを実装している。
OPTI-Qは、財務コスト、レイテンシ、エネルギーをトレードオフしながら、回答品質(QoA)を最適化するプランを検索する。
ユーザが指定した予算下でのMMLU-ProとSimpleQAでは、OPTI-Qは平均QoAを58%改善し、同等のコストでベースラインを41%上回る。
- 参考スコア（独自算出の注目度）: 0.8620335948752809
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: While large language models (LLMs) enable strong question answering (QA), budgeted deployment is complicated by nondeterminism and heterogeneous resource profiles (cost, latency, and energy). We present OPTI-Q, a database-inspired, cost-based optimizer that implements a plan-before-execute paradigm for multi-LLM orchestration. OPTI-Q models LLM invocations as physical operators in an execution DAG and, for each question, searches for plans that optimize answer quality (QoA) while trading off financial cost, latency, and energy under user-specified resource constraints. Plans can include sequential operators that pass intermediate answers as context and parallel/blend operators that run models concurrently and merge their outputs. To search this space without executing each candidate plan, OPTI-Q uses PERFDB, a statistics catalog populated and refreshed from benchmarks and execution traces, to estimate the QoA and resource costs of both individual operators and composed subplans. Using these estimates, OPTI-Q performs Pareto-frontier search and selects a final plan based on user preferences. On MMLU-Pro and SimpleQA under user-specified budgets, OPTI-Q improves average QoA by ~58% and ~41% over baselines at comparable cost, demonstrating that database-style planning yields better quality-resource trade-offs for multi-LLM QA.
- Abstract（参考訳）: 大規模言語モデル(LLM)は強力な質問応答(QA)を可能にするが、非決定性や不均一なリソースプロファイル(コスト、レイテンシ、エネルギ)によって、デプロイメントの予算が複雑になる。
マルチLLMオーケストレーションのための計画前実行パラダイムを実装した,データベースにインスパイアされたコストベースのオプティマイザであるOPTI-Qを提案する。
OPTI-Qは、LCM呼び出しを実行DAGの物理演算子としてモデル化し、各質問に対して、ユーザの特定リソース制約の下での金銭的コスト、レイテンシ、エネルギをトレードオフしながら、応答品質(QoA)を最適化するプランを探索する。
計画には、中間回答をコンテキストとして渡すシーケンシャル演算子と、モデルを並行して実行し、出力をマージする並列/ブレンド演算子が含まれる。
OPTI-Qは、各候補計画を実行することなく、ベンチマークと実行トレースから集計され更新された統計カタログであるPERFDBを使用して、個々の演算子と合成サブプランの両方のQoAとリソースコストを推定する。
これらの推定値を用いて、OPTI-QはPareto-frontier検索を実行し、ユーザの好みに基づいて最終計画を選択する。
ユーザが指定した予算でMMLU-ProとSimpleQAを使用すると、OPTI-Qは平均QoAを58%、平均QoAを41%改善する。
関連論文リスト
- Multiple-Prediction-Powered Inference [57.30769275944024]
この研究は、MultiPPI推定器のミニマックス最適性、有限サンプル性能、正規性に関する理論的保証を提供する。
我々は,MultiPPIが既存のベースラインよりも低い推定誤差を実現することを示す。
論文 参考訳（メタデータ） (2026-03-28T21:24:00Z) - MagicAgent: Towards Generalized Agent Planning [73.21129030631421]
汎用エージェント計画に特化して設計された基盤モデルである textbfMagicAgent について述べる。
多様な計画タスクにまたがる高品質なトラジェクトリを生成する軽量でスケーラブルな合成データフレームワークを提案する。
MagicAgent-32B と MagicAgent-30B-A3B は様々なオープンソースベンチマークにおいて優れた性能を発揮することを示す。
論文 参考訳（メタデータ） (2026-02-22T01:39:16Z) - Budget-Aware Anytime Reasoning with LLM-Synthesized Preference Data [57.996437077411315]
計算予算に制限のある大規模言語モデル(LLM)の推論挙動について検討する。
我々は、任意の推論フレームワークとAnytime Indexを導入し、推論トークンが増加するにつれて、ソリューションの品質がいかに効果的に向上するかを定量化します。
NaturalPlan(Trip)、AIME、GPQAデータセットの実験では、Grok-3、GPT-oss、GPT-4.1/4o、LLaMAモデル間で一貫した利得を示している。
論文 参考訳（メタデータ） (2026-01-16T07:09:30Z) - MESS+: Dynamically Learned Inference-Time LLM Routing in Model Zoos with Service Level Guarantees [17.478510146434218]
オープンウェイトな大規模言語モデル(LLM)動物園は、多くの高品質なモデルへのアクセスを提供する。
ほとんどのユーザーは、モデル技術に気を使わずに、事実的正確で安全で満足な応答を欲しがっている。
コスト最適LCM要求ルーティングのための最適化アルゴリズムであるMESS+を紹介する。
論文 参考訳（メタデータ） (2025-05-26T13:11:08Z) - BQSched: A Non-intrusive Scheduler for Batch Concurrent Queries via Reinforcement Learning [7.738546538164454]
データパイプライン全体の規模を最小化する上で重要な問題は、並列クエリの効率的なスケジューリングである。
我々の知る限り、BQSchedは強化学習による最初の非侵襲的なバッチクエリスケジューラである。
大規模な実験により、BQSchedはバッチクエリスケジューリングの効率と安定性を大幅に改善できることが示された。
論文 参考訳（メタデータ） (2025-04-27T07:49:01Z) - OmniRouter: Budget and Performance Controllable Multi-LLM Routing [31.60019342381251]
大規模言語モデル(LLM)は優れた性能を提供するが、かなりの計算資源を必要とし、比較的低効率で運用する。
マルチLLMサービスのための制御可能なルーティングフレームワークであるOmniを紹介する。
実験の結果、Omniは応答精度を最大6.30%改善し、同時に計算コストを少なくとも10.15%削減した。
論文 参考訳（メタデータ） (2025-02-27T22:35:31Z) - Dynamic LLM Routing and Selection based on User Preferences: Balancing Performance, Cost, and Ethics [0.6999740786886538]
本稿では,タスクを最適大言語モデル(LLM)に動的に選択・ルーティングする,高度なモデルルーティングエンジンであるOptiRouteを紹介する。
OptiRouteは、機能的(例えば、精度、速度、コスト)と非機能的(例えば、有用性、無害性、正直性)の両方の基準を捉え、最適なモデルとタスクを効率的に一致させる。
これにより、クラウドベースのMLプラットフォーム、パーソナライズされたAIサービス、規制業界におけるリアルタイムアプリケーションに理想的になります。
論文 参考訳（メタデータ） (2025-02-23T19:23:22Z) - PlanGEN: A Multi-Agent Framework for Generating Planning and Reasoning Trajectories for Complex Problem Solving [89.60370366013142]
制約,検証,選択という3つの重要な要素を持つモデルに依存しない,スケーラブルなエージェントフレームワークであるPlanGENを提案する。
具体的には、推論時間アルゴリズムの性能を向上させるために、制約誘導反復検証を提案する。
論文 参考訳（メタデータ） (2025-02-22T06:21:56Z) - MixLLM: Dynamic Routing in Mixed Large Language Models [57.309520357563215]
大規模言語モデル(LLM)は、最近、人工知能の可能性を秘めている。
問合せ-LLM代入のための動的コンテキスト帯域ベースのルーティングシステムであるMixLLMを開発した。
論文 参考訳（メタデータ） (2025-02-09T02:26:15Z) - Efficient Multi-Agent Collaboration with Tool Use for Online Planning in Complex Table Question Answering [16.790216473975146]
複雑なテーブル質問応答(TQA)は、複数のステップや複数カテゴリの推論のような複雑な推論を必要とする質問に答えることを目的としている。
以前のアプローチでは、クローズドソースの大規模言語モデル(LLM)か、微調整のオープンウェイトLLMを利用することで、顕著な性能を示した。
クローズドソースモデルや微調整を必要としないフレームワークであるMulti-Agent Collaboration with Tool Use (MACT)を提案する。
論文 参考訳（メタデータ） (2024-12-28T13:13:33Z) - Budget-aware Query Tuning: An AutoML Perspective [14.561951257365953]
現代のデータベースシステムは、入力クエリの優れた実行計画を作成するために、コストベースのクエリに依存している。
コストユニットの値を変えることで、デフォルトのクエリプランを大幅に上回るクエリプランを得ることができることを示す。
論文 参考訳（メタデータ） (2024-03-29T20:19:36Z) - Efficient Prompt Optimization Through the Lens of Best Arm Identification [50.56113809171805]
この作業は、明示的な予算制約の下でプロンプト選択を効率的に行うための、原則化されたフレームワークであるTRIPLEを提供する。
マルチアームバンディット(MAB)における即時最適化と固定予算ベストアーム識別(BAI-FB)の間に確立された新しい接続上に構築されている。
論文 参考訳（メタデータ） (2024-02-15T05:31:13Z) - A Dynamic LLM-Powered Agent Network for Task-Oriented Agent Collaboration [55.35849138235116]
本稿では,様々なタスクやドメインに対する動的コミュニケーション構造において,候補からエージェントのチームを自動的に選択する手法を提案する。
具体的には, LLMを利用したエージェント協調のための動的LLMパワーエージェントネットワーク(textDyLAN$)というフレームワークを構築した。
我々は、コード生成、意思決定、一般的な推論、算術的推論タスクにおいて、適度な計算コストで、DyLANが強力なベースラインを上回ることを実証する。
論文 参考訳（メタデータ） (2023-10-03T16:05:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。