論文の概要: Keep, Customize, or Exit: Default Design and Token Pricing in LLM Reasoning Services
- arxiv url: http://arxiv.org/abs/2608.13315v1
- Date: Thu, 13 Aug 2026 14:39:48 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-14 18:29:38.560602
- Title: Keep, Customize, or Exit: Default Design and Token Pricing in LLM Reasoning Services
- Title(参考訳): LLM推論サービスにおけるデフォルト設計とトークン価格の維持、カスタマイズ、削除
- Abstract要約: 本稿では,大規模言語モデル (LLM) サービスについて検討する。
我々は、クローズドフォームでユーザ独自の最適化されたアロケーションを導出する。
- 参考スコア(独自算出の注目度): 3.861590545620625
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We study a large language model (LLM) service in which a provider chooses a per-token price and a default reasoning-token allocation, while a user may accept the default, customize the allocation, or exit. Larger allocations can improve accuracy but increase token cost and latency. We model this interaction as a Stackelberg game and derive the user's unique optimal customized allocation in closed form. For any price, the acceptable defaults form either an empty set or a compact interval. We characterize the provider's optimal default through a three-regime rule, reduce equilibrium computation to a one-dimensional price optimization, and prove the existence of the equilibrium. We further show that defaults affect the implemented reasoning allocation only when users value the convenience of avoiding customization; otherwise, every service-providing outcome implements the user's optimal customized allocation. Experiments with two compact open-weight reasoning models on five mathematics and science benchmarks support the accuracy-token model and show how model and task characteristics determine equilibrium prices, defaults, and reasoning allocations.
- Abstract(参考訳): 提案する大規模言語モデル(LLM)サービスでは,利用者がデフォルトを受け入れたり,アロケーションをカスタマイズしたり,あるいは終了したりすることができる。
より大きなアロケーションでは精度が向上するが、トークンのコストとレイテンシが向上する。
我々は、このインタラクションをStackelbergゲームとしてモデル化し、クローズドフォームでユーザ独自の最適化されたアロケーションを導出する。
任意の価格に対して、許容されるデフォルトは空集合かコンパクト区間のいずれかを形成する。
我々は,3項の規則によりプロバイダの最適デフォルトを特徴づけ,平衡計算を1次元の価格最適化に還元し,平衡の存在を証明した。
さらに、既定値が実装された推論アロケーションに影響を与えるのは、ユーザがカスタマイズを避けるという利便性を重んじる場合のみであり、そうでなければ、サービス提供の結果がユーザの最適なカスタマイズアロケーションを実装している場合である。
5つの数学および科学ベンチマークにおける2つのコンパクトなオープンウェイト推論モデルによる実験は、精度トーケンモデルをサポートし、モデルとタスク特性が均衡価格、デフォルト、推論割り当てをどのように決定するかを示す。
関連論文リスト
- Selective Ensemble Based on Preference-Directed Multi-Objective Bandits [90.75513823660775]
我々は、部分的に指定された線形選好の下で逐次決定問題を定式化する。
次に、嗜好指向の高信頼度境界(PrefUCB)アルゴリズムを提案する。
大規模な事前学習型モデル選択アンサンブルタスクと,機関委任下でのオンラインアセットアロケーションの実験により,本手法が検証された。
論文 参考訳(メタデータ) (2026-06-20T07:52:46Z) - Instance-Optimal Estimation with Multiple LLM Judges on a Budget [84.31744861038106]
我々は、この問題を*予算付きヘテロスケダティックなマルチジャッジ推定*として定式化する。
K$のプロンプト-レスポンスペア、J$の既知のコストと未知のクエリ-ジャッジ分散が与えられた場合、目標は、$ell_p$-errorを最小化しながら、有界スコアベクトルを推定することである。
EST-IVWEは,予算の低次項までのオラクルIVWEレートと一致していることを示す。
論文 参考訳(メタデータ) (2026-05-22T08:26:08Z) - Causal-Aware Foundation-Model for Bilevel Optimization in Discrete Choice Settings [5.508443859567532]
本稿では,二段階決定問題を解決するために,制約付き三重項価格最適化(C3PO)ネットワークを提案する。
C3POは、価格の模倣学習、収益のマルチタスク学習、価格弾力性の文脈学習を統合する。
医療、テンダー価格、航空会社の補助価格など、現実のアプリケーションに最適な価格設定のためのチューニングされたファンデーションモデルをデプロイする。
論文 参考訳(メタデータ) (2026-05-07T20:55:47Z) - P-GenRM: Personalized Generative Reward Model with Test-time User-based Scaling [66.55381105691818]
P-GenRM(Personalized Generative Reward Model)を提案する。
P-GenRMは、選好信号を適応的なペルソナとスコアリングルーリックを導出する構造化評価チェーンに変換する。
さらにユーザをユーザプロトタイプにクラスタリングし、二重粒度スケーリングメカニズムを導入している。
論文 参考訳(メタデータ) (2026-02-12T16:07:22Z) - Lightweight Inference-Time Personalization for Frozen Knowledge Graph Embeddings [0.0]
GatedBiasは知識グラフのための軽量な推論時パーソナライズフレームワークである。
プロファイル固有の機能は、グラフ由来のバイナリゲートと組み合わせて、解釈可能な、パーエンタリティバイアスを生成する。
2つのベンチマークデータセット上でGatedBiasを評価する。
論文 参考訳(メタデータ) (2025-12-26T22:30:37Z) - ZIP-RC: Optimizing Test-Time Compute via Zero-Overhead Joint Reward-Cost Prediction [57.799425838564]
ZIP-RCは、モデルに報酬とコストのゼロオーバーヘッド推論時間予測を持たせる適応推論手法である。
ZIP-RCは、同じまたはより低い平均コストで過半数投票よりも最大12%精度が向上する。
論文 参考訳(メタデータ) (2025-12-01T09:44:31Z) - e1: Learning Adaptive Control of Reasoning Effort [88.51897900019485]
AIモデルの思考予算の増大は、精度を大幅に向上させるが、すべての質問が同じ量の推論を保証しているわけではない。
ユーザは、アウトプットの品質を、レイテンシやコストに対してどのように評価するかによって、さまざまな理由付けの労力を割り当てる傾向があります。
本稿では,ユーザが指定したトークン数を用いてモデルを学習する自己適応型強化学習手法であるAdaptive Effort Controlを提案する。
論文 参考訳(メタデータ) (2025-10-30T23:12:21Z) - Stochastic Online Fisher Markets: Static Pricing Limits and Adaptive Enhancements [3.2732273647357437]
我々は、民間で知られたユーティリティーと予算パラメーターを持つユーザが順次到着する、オンライン型のフィッシャーマーケットについて研究する。
この設定では,まず静的な価格設定アルゴリズムの限界について検討し,全ユーザに対して均一な価格設定を行う。
我々は,ユーザの予算とユーティリティパラメータの分布を熟知した適応型ポストプライシングアルゴリズムを設計し,ユーザ消費の過去の観測に基づいて価格を調整した。
論文 参考訳(メタデータ) (2022-04-27T05:03:45Z) - Low-Cost Algorithmic Recourse for Users With Uncertain Cost Functions [74.00030431081751]
本稿では,ユーザ固有のコスト関数の概念を定式化し,ユーザのための行動可能なリコースを識別する新しい手法を提案する。
本手法は,強いベースライン法に比べて最大25.89パーセントのユーザを満足させる。
論文 参考訳(メタデータ) (2021-11-01T19:49:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。