論文の概要: Generative Retrieval under Real-Time Supply Constraints in Local Commerce
- arxiv url: http://arxiv.org/abs/2611.06323v2
- Date: Thu, 05 Nov 2026 06:16:49 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-06 21:50:50.4051
- Title: Generative Retrieval under Real-Time Supply Constraints in Local Commerce
- Title(参考訳): 地域商取引におけるリアルタイム供給制約下における生成的検索
- Abstract要約: 地元の小売店やフードデリバリーでは、候補者は特定の時間に特定のユーザーに対してサービスを提供しなければならない。
我々は,要求時供給スナップショットを明示的に具体化して検索する。
我々は、スナップショット関連識別子の妥当性を定式化し、エンティティレベルの適性や鮮度と区別する。
- 参考スコア(独自算出の注目度): 5.403758288231686
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Generative retrieval predicts semantic identifiers for candidate entities. In local retail and food delivery, candidates must also be serviceable for a particular user at a particular time. Location, weather, and traffic reshape merchant and product supply, so a catalog-valid identifier may be infeasible for the current request. Post-generation filtering removes such candidates only after beam capacity and inference computation have been spent. We study retrieval over an explicitly materialized, request-time supply snapshot, where short output sequences leave little opportunity to amortize online constraint preparation. Our RTP-LLM pipeline compiles eligible residual-quantization identifiers into a compressed sparse row prefix index, overlaps CPU compilation with model prefill, and shares the uploaded index across beams. Legal expansions retain original-model log probabilities, and constraint states follow selected beam parents. We formalize snapshot-relative identifier validity and distinguish it from entity-level eligibility and freshness. The implementation generates three-token merchant identifiers. Historical evidence covers T+1 daily-refresh catalog constraints and subsequent request-scoped serving evaluations. In one matched-beam daily-constraint case, filtered merchants decrease from 170 of 299 candidates to 29 of 299; residual distance filtering motivates request-specific constraints. A different-host comparison with 30,000 supplied entries reports a 0.6 ms service-side latency increment, while client measurements expose additional request costs. Captured requests from three geographic settings characterize behavior across supply sizes and output widths. These observations span development stages and measurement boundaries. They establish a practical implementation and identify bottlenecks, but do not establish compute savings at matched retrieval quality.
- Abstract(参考訳): 生成検索は、候補エンティティのセマンティック識別子を予測する。
地元の小売店やフードデリバリーでは、候補者は特定の時間帯に特定のユーザーに対してサービスを提供しなければならない。
場所、天候、交通量によって商店や商品の供給が変わるため、カタログ価の識別子は、現在の要求に対して無効である可能性がある。
ポストジェネレーションフィルタリングは、ビームキャパシティと推論計算に費やされた後にのみ、そのような候補を除去する。
提案手法は,オンライン制約作成を記憶する機会がほとんどない要求時供給スナップショットを明示的に具体化して検索するものである。
我々のRTP-LLMパイプラインは、許容残量子化識別子を圧縮されたスパース行プレフィックスにコンパイルし、CPUコンパイルとモデルプリフィルをオーバーラップし、ビーム間でアップロードされたインデックスを共有する。
法的な拡張はオリジナルのモデルのログ確率を保持し、制約状態は選択されたビーム親に従う。
我々は、スナップショット関連識別子の妥当性を定式化し、エンティティレベルの適性や鮮度と区別する。
実装は3つのトークンの商号を生成する。
歴史的証拠としては、T+1の日次更新カタログの制約とその後の要求スコープによるサービス評価がある。
マッチした日替わりのケースでは、フィルタリングされた商人は299人の候補者のうち170人から299人の29人へと減少し、残留距離フィルタリングはリクエスト固有の制約を動機付けている。
30,000のエントリと異なるホスト比較では、サービス側のレイテンシの増加が0.6msと報告されている。
3つの地理的設定から取得した要求は、サプライサイズと出力幅にわたる振る舞いを特徴付ける。
これらの観測は、発達段階と測定境界にまたがる。
現実的な実装を確立し、ボトルネックを識別するが、一致する検索品質で計算貯蓄を確立することはできない。
関連論文リスト
- Before Agents Act: Assurance-Aware Semantic Scheduling for Evidence Acquisition in Distributed Systems [2.124730017640531]
Assurance-Aware Semantic Scheduling (AAS)は整数プログラムの選択、ディスパッチ・アウェアの時間スケジューリング、境界診断拡張、レシート・アウェアの修復を組み合わせたものである。
AAS は 1,075/1,200 の有効候補を生成するが、647/1,200 は制約を意識した前方スケジューリングを行う。
修正されたタイムアウト介入は、静的計画において、修復または完全再合成を伴う18/20の入場が0/20に対して見出され、レシートの再利用時にコミットコストが低下する。
論文 参考訳(メタデータ) (2026-09-28T05:50:19Z) - ResiSpec: Enhancing Multi-Candidate Speculative Sampling via Residual Distribution Shaping [79.1905186547363]
ResiSpecは、検証中に提案の配布を戦略的に改革するフレームワークである。
候補の偏光を防止し、最先端のマルチ候補法よりも最大1.92$times$スピードアップを達成する。
論文 参考訳(メタデータ) (2026-08-25T11:25:55Z) - Candidate-Fate Accounting for Transparent Sensor Diagnostic Pipeline Search [6.854888007373378]
本稿では,検索トレースを診断するための候補レベル監査フレームワークである候補候補会計を提案する。
実験の結果、このフレームワークは不正な候補を検出し、30-41の候補が適合した裁判のみの報告によって省略されることが判明した。
論文 参考訳(メタデータ) (2026-08-19T08:15:00Z) - ComplianceGate: Classifier-Gated Multi-Tier LLM Routing for Inference in Regulated Industries [0.609170287691728]
ユーザクエリのPIIは、システムがそのデータが管轄区域を離れるべきかどうかを決定する前に、モデルエンドポイントに到達することができる。
本稿では,設計によるコンプライアンスを強制する分類器ゲート型ルーティングアーキテクチャを提案する。
単純なクエリは、ほんの少しのコストで、小さくて高速なモデルに到達します。
論文 参考訳(メタデータ) (2026-06-30T05:49:50Z) - Closing the Indexing-Decoding Gap in Multimodal Generative Retrieval via Prefix Retention Optimization [68.48718919047127]
マルチモーダル生成検索式は、複数のモーダル検索を離散識別子生成として定義し、外部埋め込みよりも明示的な類似性探索を不要とする。
既存の手法では、残差量子化によって識別子を構築し、トリエ制約ビームサーチでデコードする。
この組み合わせは、インデックス化とデコーディングのギャップを導入している: 識別子学習の目的は、再構成や対照的な損失を含むが、デコーディング中にプレフィックスの識別性を明示的に強制しない。
1)プレフィックスの格付け蒸留は、リストワイドロスを用いた事前量子化埋め込みによって誘導されるプレフィックスと整合する; (ii)語彙スケジューリングは、コードブックを増大させる。
論文 参考訳(メタデータ) (2026-06-08T09:15:47Z) - Causal Identification from Counterfactual Data: Completeness and Bounding Results [54.147490305295456]
本研究では,任意のレイヤ3分布の集合から対実的なクエリを識別するアルゴリズムを開発した。
我々は、物理的に実現可能な分布から反事実を特定できる理論的限界を確立する。
我々は、そのような量の新たな解析的境界を、実現可能な対実データを用いて導出する。
論文 参考訳(メタデータ) (2026-02-26T22:48:12Z) - Semi-Clairvoyant Scheduling of Speculative Decoding Requests to Minimize LLM Inference Latency [4.372762934308627]
本稿では,LAPS-SD(Least-Attained/Perceived-Service for Speculative Decoding)と呼ばれる半クレアボイト要求スケジューリングアルゴリズムを提案する。
LAPS-SDは、デコーディング中に、要求を特徴に応じて適応的にスケジューリングすることで、平均推論遅延を効果的に最小化することができる。
LAPS-SDは、最先端のスケジューリング手法と比較して、推論遅延を約39%削減する。
論文 参考訳(メタデータ) (2025-05-20T04:12:37Z) - Session-Aware Query Auto-completion using Extreme Multi-label Ranking [61.753713147852125]
本稿では,セッション対応クエリ自動補完の新たな手法を,XMR(Multi Multi-Xtreme Ranking)問題として取り上げる。
アルゴリズムのキーステップにいくつかの修正を提案することにより、この目的のために一般的なXMRアルゴリズムを適応させる。
当社のアプローチは、セッション情報を活用しながら、自動補完システムの厳しいレイテンシ要件を満たします。
論文 参考訳(メタデータ) (2020-12-09T17:56:22Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。