論文の概要: The Differential Reasoning Router: Operationalizing Cost-Aware LLM Annotation in E-commerce
- arxiv url: http://arxiv.org/abs/2608.30224v1
- Date: Mon, 31 Aug 2026 04:11:39 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-01 18:31:31.218779
- Title: The Differential Reasoning Router: Operationalizing Cost-Aware LLM Annotation in E-commerce
- Title(参考訳): 差動推論ルータ:Eコマースにおけるコストを考慮したLCMアノテーションの運用
- Abstract要約: コールドスタート LLM アノテーションのためのコスト対応フレームワークであるdifferial Reasoning Router (DRR) を紹介する。
DRRは、推論モデルをデフォルトのフォールバックとして扱うのではなく、サンプルレベルとビジネスルールレベルの両方で、直接モデルと推論モデルの両方の成功確率を推定します。
プロダクションのeコマースワークフローでは、DRRは最強の信頼性ベースのルータと精度を同等にし、60%以上の合理的なコスト削減を実現している。
- 参考スコア(独自算出の注目度): 6.570286820640649
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Large Language Models (LLMs) are increasingly used to annotate structured product data in e-commerce, but early deployment often begins as a cold-start problem: only limited pre-launch labels are available, the value of expensive reasoning is unknown, and human review is needed before the system can be trusted at scale. This challenge is especially common in rule-based annotation workflows, where each item must satisfy multiple business rules and both model errors and ambiguous rule boundaries affect final decisions. We introduce the Differential Reasoning Router (DRR), a cost-aware framework for cold-start LLM annotation that jointly optimizes model selection and human escalation. Rather than treating a reasoning model as a default fallback, DRR estimates separate success probabilities for a direct model and a reasoning model at both the sample and business-rule levels, enabling adaptive routing: easy cases are handled directly, reasoning is reserved for cases where it is expected to improve the decision, and likely double-failure or rule-disagreement cases are escalated to human annotators. The resulting labels provide targeted ground truth for prompt engineering, supervised fine-tuning, calibration, and rule refinement, enabling a gradual shift from human-heavy cold-start annotation toward high-confidence automated routing. In a production e-commerce workflow, DRR reaches accuracy parity with the strongest confidence-based router while achieving more than 60\% reasoning-token cost savings.
- Abstract(参考訳): 大規模言語モデル(LLM)は、電子商取引において構造化された製品データに注釈をつけるために使われることが多いが、初期展開はコールドスタートの問題として始まることが多い。
それぞれの項目が複数のビジネスルールを満たす必要があり、モデルエラーと曖昧なルール境界の両方が最終決定に影響を与える。
モデル選択と人間のエスカレーションを協調的に最適化する,コールドスタートLDMアノテーションのためのコスト認識フレームワークである差分推論ルータ(DRR)を紹介する。
推論モデルをデフォルトのフォールバックとして扱うのではなく、DRRは、サンプルレベルとビジネスルールレベルの推論モデルに対して、個別の成功確率を推定し、適応的なルーティングを可能にする。
得られたラベルは、迅速なエンジニアリング、監督された微調整、キャリブレーション、ルールの洗練のためのターゲットとなる土台真理を提供し、人間の重いコールドスタートアノテーションから高信頼の自動ルーティングへの段階的なシフトを可能にする。
プロダクションのeコマースワークフローでは、DRRは最強の信頼性ベースのルータと精度を同等にし、推理コストを60%以上削減する。
関連論文リスト
- RLCascadeRouter: Quality-Estimator-Free Cascade Routing via Reinforcement Learning [6.614808404204836]
本稿では,カスケードルーティングをマルコフ決定プロセスとして定式化する品質推定自由フレームワークを提案する。
トラジェクティブリターンとアドバンテージを使用して、パフォーマンスコストの目標を直接最適化する。
論文 参考訳(メタデータ) (2026-08-16T15:47:04Z) - Before Thinking, Learn to Decide: Proactive Routing for Efficient Visual Reasoning [87.18590662029432]
本稿では,プロアクティブルーティングパラダイムであるPRPを提案する。このパラダイムは,ドラフトモデルとターゲットモデルの両方の能力を評価することで,早期意思決定を可能にする。
筆者らの試案であるレーティング学習 (DRL) は内部信頼度推定器を内蔵し, 共同レーティング学習 (JRL) は対象モデルが与えられたクエリをどの程度処理できるかを予測する。
これらの評価により、詳細なインスタンスレベルの textbfProactive Routing が可能になり、全体的なパフォーマンスを損なうことなく、推論を大幅に高速化できる。
論文 参考訳(メタデータ) (2026-06-29T12:30:24Z) - Think When Needed: Model-Aware Reasoning Routing for LLM-based Ranking [25.69863022367215]
推論プロンプトはランキングユーティリティを向上させることができるが、その利点は一貫性がなく、かなりの計算コストがかかる。
本稿では, 直接推論 (Non-Think) と推論 (Think) を用いるかを決定するために, 軽量なプラグアンドプレイルータヘッドを用いた推論ルーティングフレームワークを提案する。
論文 参考訳(メタデータ) (2026-01-26T05:09:07Z) - Arbitrage: Efficient Reasoning via Advantage-Aware Speculation [71.45710345765528]
投機的復号化は、高速だが不正確なドラフトモデルを用いて推論を加速し、自動回帰的にトークンを提案する。
しかし、意味論的に等価なステップにおけるトークンミスマッチによる不要な拒絶のため、従来のトークンレベルの投機的デコーディングは、タスクの推論に苦労する。
提案するArbitrageは,ドラフトモデルとターゲットモデルとの相対的優位性に基づいて動的に生成をルーティングする,新しいステップレベルの投機生成フレームワークである。
論文 参考訳(メタデータ) (2025-12-04T17:50:53Z) - Reasoning with Confidence: Efficient Verification of LLM Reasoning Steps via Uncertainty Heads [104.9566359759396]
データ駆動の不確実性スコアに基づくステップレベルの推論検証の軽量な代替案を提案する。
本研究は, LLMの内部状態が不確実性を符号化し, 信頼性の高い検証信号として機能することが示唆された。
論文 参考訳(メタデータ) (2025-11-09T03:38:29Z) - Confidence-Guided Stepwise Model Routing for Cost-Efficient Reasoning [20.41220110321494]
コスト効率の良い推論のための信頼誘導ステップワイドモデルルーティングを提案する。
STEERはドメインに依存しないフレームワークで、小さくて大きな言語モデル間のきめ細かいステップレベルのルーティングを実行する。
その結果,モデルルーティングのための堅牢でドメインに依存しない信号として,モデル内部信頼が確立された。
論文 参考訳(メタデータ) (2025-11-09T02:33:08Z) - e1: Learning Adaptive Control of Reasoning Effort [88.51897900019485]
AIモデルの思考予算の増大は、精度を大幅に向上させるが、すべての質問が同じ量の推論を保証しているわけではない。
ユーザは、アウトプットの品質を、レイテンシやコストに対してどのように評価するかによって、さまざまな理由付けの労力を割り当てる傾向があります。
本稿では,ユーザが指定したトークン数を用いてモデルを学習する自己適応型強化学習手法であるAdaptive Effort Controlを提案する。
論文 参考訳(メタデータ) (2025-10-30T23:12:21Z) - ResAD: Normalized Residual Trajectory Modeling for End-to-End Autonomous Driving [64.42138266293202]
ResADは正規化された残留軌道モデリングフレームワークである。
学習タスクを再編成し、慣性参照からの残留偏差を予測する。
NAVSIMベンチマークでは、ResADはバニラ拡散ポリシーを用いて最先端のPDMS 88.6を達成している。
論文 参考訳(メタデータ) (2025-10-09T17:59:36Z) - Learning to Route LLMs from Bandit Feedback: One Policy, Many Trade-offs [69.2486294522259]
BaRPはBandit Routing-feedback with Preferencesアプローチであり、デプロイと同じ部分フィードバック制限の下でトレーニングされる。
提案手法は,学習中のオンラインフィードバック設定をシミュレートし,新たなプロンプトに適応する。
論文 参考訳(メタデータ) (2025-10-08T18:24:59Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。