論文の概要: Pre-Inference Routing for Cost-Efficient Document Field Extraction
- arxiv url: http://arxiv.org/abs/2608.06607v1
- Date: Thu, 06 Aug 2026 21:34:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-10 16:21:25.296549
- Title: Pre-Inference Routing for Cost-Efficient Document Field Extraction
- Title（参考訳）: コスト効率の良い文書フィールド抽出のための事前推論ルーティング
- Abstract要約: 安価な文書ベースの信号を用いて抽出する前に,文書の難易度を予測できるかどうかを検討する。
ルーティングは2つの条件が満たされた場合にのみ役立ちます。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Most document-extraction systems use a single model for all documents. This is simple but can be costly for easy cases and less effective for difficult ones. We examine whether we can predict a document's difficulty before extraction using inexpensive, document-based signals, and use this to choose between a cheaper and a stronger extractor. We find that routing only helps if two conditions hold: the cheaper model fails often enough to make routing worthwhile, and those failures can be predicted from visible features such as image quality and layout. We turn these into a practical test and apply it to five genres. When both conditions are met, the calibrated router reduces cost by 31-33% on receipts and 77% on degraded ad-buy forms while keeping quality within 0.02 F1 of always choosing the large model. Routing does not help if either condition is missing, as with clean digital invoices or nutrition labels that are already easy to read. A small labeled pilot can predict whether routing will work, and in the two cases where we ran it first, the prediction was correct. A simple bag-of-words router works about as well as engineered features, showing that the main limit is the genre, not the router design; we use interpretable features to help explain which genres can be routed. The router must be retrained for each dataset and does not transfer across datasets, even within the same genre. These results hold for two model pairs with cost differences of 5x and 3x.
- Abstract（参考訳）: ほとんどの文書抽出システムは、すべての文書に対して単一のモデルを使用する。
これは単純だが、簡単なケースではコストがかかり、難しいケースでは効果が低い。
我々は,安価な文書ベースの信号を用いて抽出する前に,文書の難易度を予測できるかどうかを検証し,これを用いて,より安価かつ強力な抽出器を選択する。
私たちは、ルーティングが2つの条件を満たす場合にのみ役に立つことに気付きました: より安価なモデルは、ルーティングに価値をもたらすのに十分なほどに失敗し、これらの失敗は、画像の品質やレイアウトのような目に見える特徴から予測できるのです。
これを実践的なテストに変換し、それを5つのジャンルに適用します。
両方の条件が満たされると、キャリブレーションされたルータはレシートの31～33%、劣化したアドバイフォームの77%のコストを削減し、常に大きなモデルを選択する0.02 F1以内の品質を維持する。
清潔なデジタル請求書や、すでに読みやすい栄養ラベルのように、どちらの条件も欠落している場合、ルーティングは役に立たない。
小さなラベル付きパイロットがルーティングが機能するかどうかを予測でき、最初に実行した2つのケースでは、その予測が正しかった。
単純なバング・オブ・ワードのルータは、ルータの設計ではなくジャンルに制限があることを示し、どのジャンルをルーティングできるかを説明するのに、解釈可能な機能を使う。
ルータはデータセット毎に再トレーニングされなければならず、同じジャンル内であってもデータセット間で転送されることはない。
これらの結果は、コスト差が5倍と3倍の2つのモデルペアである。
関連論文リスト
- How Often Should a Recommender Call an LLM? Value-Weighted Routing, Monitoring, and Seasonal Robustness [0.15229257192293197]
本稿では,推定困難度と推定値のみを用いて商品をルートする小売マーチャンディジングパイプラインの完全合成シミュレーションについて述べる。
まず、値重み付きしきい値ルータを、合成カタログ上の難易度のみとランダムなベースラインと比較する。
第2に、決定ロガーとモニタは、集計結果がほぼ完全にカテゴリ間の違いによって駆動されることを示す集約メトリクスによって隠された障害モードを公開する。
論文 参考訳（メタデータ） (2026-07-27T20:52:15Z) - VDAR-Router: Adaptive LLMs Routing via Verbalized Query Difficulty Analysis Retrieval [16.067071673823417]
難解検索に基づくルーティングフレームワークであるVDAR-theを提案する。
入力クエリ毎に、VDAR-theは明示的な難易度解析を生成する。
その後、同様の難易度プロファイルで過去の例を検索する。
論文 参考訳（メタデータ） (2026-07-20T16:00:45Z) - Cluster, Route, Escalate: Cascaded Framework for Cost-Aware LLM Serving [69.5155152169752]
大規模言語モデル(LLM)のための2段階カスケードソリューションを提案する。
ステージ1は、受信するクエリをクラスタ化し、各クラスタを最もコスト効率の良いモデルに割り当てる。
ステージ2は品質推定(QE)カスケードを追加し、ステージ1からの出力が低品質であると判断されると、クエリはより強力なモデルにエスカレーションされる。
テストデータセットでは、カスケードシステムは最強モデルの精度の97-99%を保持し、TPOT(Time Per Output Token)を削減している。
タスクの正確性ラベルのみを必要とし、手動で再構成することなくモデルプールの変更に適応する。
論文 参考訳（メタデータ） (2026-06-25T18:29:24Z) - When Are Experts Misrouted? Counterfactual Routing Analysis in Mixture-of-Experts Language Models [27.942734943134983]
Mixture-of-Experts (MoE)言語モデルは、各トークンを専門家の小さなサブセットにルーティングする。
検証された推論軌道において,各標準経路を同一のトークンに対してサンプル化された等価な代替手段と比較し,実効トークンに割り当てる次の確率でスコアする。
標準ルータは信頼性の高いトークンではルートユーティリティと整合性があるが、ハード推論を駆動する脆弱なトークンでは非形式的である。
論文 参考訳（メタデータ） (2026-05-08T05:26:09Z) - MTRouter: Cost-Aware Multi-Turn LLM Routing with History-Model Joint Embeddings [47.963523156965174]
大規模言語モデルに対する費用対効果を考慮したマルチターンルーティングについて検討する。
本稿では,対話履歴と候補モデルを結合履歴モデルにエンコードするMTを提案する。
実験によると、MTはパフォーマンスコストのトレードオフを改善する。
論文 参考訳（メタデータ） (2026-04-26T04:42:21Z) - RouteLMT: Learned Sample Routing for Hybrid LLM Translation Deployment [57.588738943463646]
大規模言語モデル(LLM)は機械翻訳(MT)において顕著な性能を発揮した
大規模に展開するのは 違法に高価です
モデル内ルータである textbfRouteLMT を提案する。
論文 参考訳（メタデータ） (2026-04-24T13:02:45Z) - When Routing Collapses: On the Degenerate Convergence of LLM Routers [46.01380774114097]
ユーザのコスト予算が増加するにつれて、ルータは体系的に最も有能で最も高価なモデルにデフォルトとなる。
モデルランキングを直接学習する決定対応ルータであるEquiを提案する。
RouterBenchでは、最強の先行ルータと比較して、GPT-4レベルのパフォーマンスでコストを約17%削減する。
論文 参考訳（メタデータ） (2026-02-03T12:51:55Z) - Models Under SCOPE: Scalable and Controllable Routing via Pre-hoc Reasoning [28.165465162107253]
コストと性能を予測してモデル選択を超えるルーティングフレームワークであるSCOPEを提案する。
SCOPEは、モデル名の固定に依存するのではなく、モデルがどのように同様の問題に対処するかを検索することで、推論に基づく予測を行う。
性能が優先される場合の精度を最大25.7%向上させるか、効率が重要な場合のコストを最大95.1%削減することができる。
論文 参考訳（メタデータ） (2026-01-29T21:09:36Z) - Routing with Generated Data: Annotation-Free LLM Skill Estimation and Expert Selection [70.73201284835498]
RGDは、ルータが生成されたクエリと回答のみに基づいてトレーニングされる、困難な設定である。
クエリ・アンサー・ルータ(クエリとラベルの両方を用いて)とクエリのみのルータを4つのベンチマークと12のモデルで評価する。
コンセンサス投票によってモデルの正しさを推定し,階層クラスタリングによるモデル固有のスキルニッチを識別する新しいクエリ専用ルータであるCASCALを提案する。
論文 参考訳（メタデータ） (2026-01-14T18:43:32Z) - Learning to Route LLMs from Bandit Feedback: One Policy, Many Trade-offs [69.2486294522259]
BaRPはBandit Routing-feedback with Preferencesアプローチであり、デプロイと同じ部分フィードバック制限の下でトレーニングされる。
提案手法は,学習中のオンラインフィードバック設定をシミュレートし,新たなプロンプトに適応する。
論文 参考訳（メタデータ） (2025-10-08T18:24:59Z) - Cross-Modal Adapter for Vision-Language Retrieval [60.59577149733934]
パラメータ効率の伝達学習のためのクロスモーダル適応器を提案する。
アダプタベースの手法にインスパイアされ、いくつかのパラメータ化レイヤで事前訓練されたモデルを調整します。
提案手法には,(1)微調整パラメータの大部分の削減,(2)トレーニング時間の短縮,(3)事前学習パラメータの修正,という3つの特長がある。
論文 参考訳（メタデータ） (2022-11-17T16:15:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。