論文の概要: GRaSP: Latency-Aware Optimization for Geo-Distributed Retrieval-Augmented Generation
- arxiv url: http://arxiv.org/abs/2610.26938v1
- Date: Sat, 17 Oct 2026 23:20:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-21 21:58:47.402571
- Title: GRaSP: Latency-Aware Optimization for Geo-Distributed Retrieval-Augmented Generation
- Title(参考訳): GRaSP: 地理的分散検索拡張ジェネレーションのためのレイテンシアウェア最適化
- Abstract要約: 我々はGeo-RAG選択問題(GRaSP)を定式化する
GRaSPは、遅延による関連性を損なう、ドロップインのリスコリング層である。
コンテキストフェッチのレイテンシを43%削減すると同時に、関連のみの検索の0.062絶対EM以内に留まる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Retrieval-Augmented Generation (RAG) is increasingly served across geo-distributed cloud and edge infrastructures, where wide-area latency, cross-region egress cost, and data-residency rules compete with retrieval quality. Conventional pipelines rank by semantic similarity alone and ignore where content lives, inflating tail latency and cost. We formalize the Geo-RAG Selection Problem (GRaSP), a drop-in re-scoring layer that decays relevance by latency and adds an optional cost penalty under a cardinality budget and per-region caps, with no retraining. We first settle its complexity: the base formulation is a linear objective over a partition matroid, solved optimally by an O(N log N) greedy algorithm, rather than NP-hard as a knapsack framing suggests, with hardness entering only under an additive egress budget. On a five-node CloudLab testbed emulating a four-region WAN over the Natural Questions corpus (2.68M passages), GRaSP's benefit is placement-dependent: under uniform placement it cuts fetch latency at negligible quality cost; under topical (residency-like) placement it traces a recall-latency Pareto frontier that dominates relevance-only, nearest-k, and a latency-budgeted baseline. At a moderate latency setting, GRaSP lowers P90 fetch latency by 41% while retaining 78% of relevance-only's recall, with sub-millisecond selection overhead, stable to 200 queries/s. Findings generalize across four public BEIR benchmarks. In end-to-end question answering, GRaSP reduces context-fetch latency by 43% while remaining within 0.062 absolute EM of relevance-only retrieval.
- Abstract(参考訳): Retrieval-Augmented Generation (RAG)は、地理的に分散したクラウドとエッジインフラストラクチャにまたがって提供され、広いリージョンのレイテンシ、クロスリージョンのエクスグレスコスト、データレジデンシールールは、検索品質と競合する。
従来のパイプラインは、セマンティックな類似性だけでランク付けし、コンテンツがどこにあるかを無視し、テールレイテンシとコストを膨らませる。
我々は,Geo-RAG選択問題 (GRaSP) を定式化した。これは遅延による信頼性の低下を招き,基準予算と地域単位の上限の下でオプションのコストペナルティを付加する。
基本定式化は分割マトロイド上の線形対象であり、クナップサックフレーミングによって提案されるNPハードではなく、O(N log N)グリーディアルゴリズムによって最適に解かれる。
5ノードのCloudLabテストベッドで、Natural Questions Corpus(2.68Mパス)上で4リージョンWANをエミュレートする。GRaSPのメリットは配置に依存している。均一な配置では、フェッチレイテンシを無視可能な品質コストで削減する。
適度なレイテンシ設定では、GRaSPはP90フェッチのレイテンシを41%削減し、レバレンスのみのリコールの78%を維持し、ミリ秒以下の選択オーバーヘッドが200クエリ/秒に安定している。
発見は4つのパブリックBEIRベンチマークで一般化される。
エンドツーエンドの質問応答では、GRaSPはコンテキストフェッチのレイテンシを43%削減し、関連する検索の0.062絶対EM内に留まる。
関連論文リスト
- GroundAnything: Reconciling Parallel Decoding with Precise Visual Grounding at Flash Speed [71.05944634852158]
GroundAnythingはブロックワイズによる正確なローカライゼーションで高速並列デコーディングを再構成する。
30のグラウンドベンチマークで、私たちの自己回帰型であるGroundAnything-VLMは、この技術の新たな全体的な状態を確立します。
エントロピー誘導復号法により、GroundAnythingは、この規模の芸術の先行状態を超越している。
論文 参考訳(メタデータ) (2026-09-30T12:20:51Z) - CRISP: Cliff-awaRe Input-adaptive Sparse Prefilling with Structural-Mass-Motivated Routing [90.63350360476294]
本稿ではCRISP(Cliff-awaRe Input-adaptive Sparse Prefilling)を提案する。
ルーティング決定は、プロキシアテンションマップの構造から直接読み取ることができることを示す。
ソフトマックス後の質量崖を定式化し、厳密な累積被覆閾値が長い文脈でO(n)バックグラウンドノイズを蓄積することを理論的に示す。
論文 参考訳(メタデータ) (2026-09-01T22:49:46Z) - RecGPT-Mobile-V2 Technical Report [22.10290138930905]
RecGPT-Mobile-V2は、意図的品質と実行効率をステージド設計の目的として扱うエンドツーエンドフレームワークである。
このフレームワークは異種間相互作用をエビデンス保存軌道に変換し、ドメイン適応と教師付きアライメントを通じてレコメンデーションネイティブ基盤を確立する。
オンライン検索分析では、クエリリコールチャネルは、確立されたリコールチャネルによってサーフェスされたインベントリに補完されるインベントリを検索することを示している。
論文 参考訳(メタデータ) (2026-08-25T09:23:17Z) - HetRoute Heterogeneous and Cost-aware Collaborative Routing Framework for Distributed Edge MoE Inference [47.0879800334801]
HetRouteは、分散エッジMoE推論のための異種コスト対応協調ルーティングフレームワークである。
HetRouteは平均推論遅延を59.0%、P99レイテンシを58.0%まで削減する。
論文 参考訳(メタデータ) (2026-08-01T10:30:01Z) - RAVEN: A Regime-Aware Variable-context Expert Network for Financial Time Series Forecasting [83.06074370551887]
固定コンテキストウィンドウは、非定常価格プロセスの時間変化最適振り返りと一致しない。
本稿では,各サンプルの時間的文脈を適応的に決定するMixture-of-Expertsフレームワークを提案する。
累積ログリターン予測(HS300、S&P500)およびファンド販売予測の実験では、RAVENはSOTAのパフォーマンスを達成し、HS300ではピアソン相関を9.2%改善し、S&P500では20.2%改善し、MSEを18.2%削減している。
論文 参考訳(メタデータ) (2026-06-23T02:11:04Z) - EverydayGPT: Confidence-Gated Routing for Efficient and Safe Hybrid GPT-RAG Conversational QA [0.0]
EverydayGPTは、信頼性保証ルーティング機構を中心に構築された軽量な会話型QAシステムである。
CGRは、高速なRAG抽出によって解決することで、クエリの85%に対してコストのかかるGPT経路の呼び出しを回避している。
システムは F1 = 0.226 +/- 0.004 を GPT のみの 0.171 と無条件の RAG の 0.210 と比較すると達成する。
論文 参考訳(メタデータ) (2026-04-24T12:44:26Z) - Quantum Inspired Vehicular Network Optimization for Intelligent Decision Making in Smart Cities [2.449235776276883]
本稿では、車間通信(V2V)と車間通信(V2I)を協調的に最適化する量子インスパイアされたフレームワークQIVNOMを提案する。
その結果、QIVNOMは平均エンドツーエンドのレイテンシを57.3msに減らし、最高のベースラインよりも約20%低くした。
論文 参考訳(メタデータ) (2026-03-26T03:04:50Z) - GRATING: Low-Latency and Memory-Efficient Semantic Selection on Device [1.7847219315073477]
クロスエンコーダリランカによるトップK選択は、検索強化生成、エージェントメモリ、パーソナライズされたレコメンデーションなど、デバイス上のAIサービスを支えるものだ。
トップK選択の目的を再考し、相対ランクのみが重要であり、正確な候補毎のスコアではないことを明らかにした。
我々はモノリシックフォワードを提案し、トレーニング不要な推論システムGRatingを開発した。
論文 参考訳(メタデータ) (2025-10-17T13:06:09Z) - Client Orchestration and Cost-Efficient Joint Optimization for
NOMA-Enabled Hierarchical Federated Learning [55.49099125128281]
半同期クラウドモデルアグリゲーションの下で非直交多重アクセス(NOMA)を実現するHFLシステムを提案する。
提案手法は,HFLの性能改善と総コスト削減に関するベンチマークよりも優れていることを示す。
論文 参考訳(メタデータ) (2023-11-03T13:34:44Z) - Learning Spatio-Temporal Aggregations for Large-Scale Capacity Expansion
Problems [0.0]
キャパシティ拡張問題(CEP)は、ネットワークサイズが大きく、不均一なノード特性があり、多くの運用期間があるため、解決する費用がかかる。
本稿では、異種ノードを持つ汎用CEPの時間的アグリゲーションを識別するための新しいグラフ畳み込みオートエンコーダ手法を提案する。
提案手法は, ベンチマーク空間(時空間)集約手法よりも33%(resp. 10%)低い上限を与える。
論文 参考訳(メタデータ) (2023-03-16T00:00:52Z) - Selective Network Linearization for Efficient Private Inference [49.937470642033155]
本稿では,予測精度を維持しつつReLUを選択的に線形化する勾配に基づくアルゴリズムを提案する。
その結果、現在の技術よりも4.25%$の精度(so-ReLUは50K)、または2.2times$のレイテンシ(so-accuracyは70%)が低いことがわかった。
論文 参考訳(メタデータ) (2022-02-04T19:00:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。