論文の概要: Budget-Constrained Online Retrieval-Augmented Generation: The Chunk-as-a-Service Model
- arxiv url: http://arxiv.org/abs/2604.26981v1
- Date: Tue, 28 Apr 2026 14:42:51 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-01 16:31:53.694081
- Title: Budget-Constrained Online Retrieval-Augmented Generation: The Chunk-as-a-Service Model
- Title（参考訳）: Budget-Constrained Online Retrieval-Augmented Generation: The Chunk-as-a-Service Model
- Abstract要約: Chunk-as-a-Service (C) は RAG-as-a-Service (R) に代わる透明で費用効果の高い代替品である
C には Open-Budget C (OB-C) と Limited-Budget C (LB-C) の2種類がある。
- 参考スコア（独自算出の注目度）: 4.573553791705522
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Large Language Models (LLMs) have revolutionized the field of natural language processing. However, they exhibit some limitations, including a lack of reliability and transparency: they may hallucinate and fail to provide sources that support the generated output. Retrieval-Augmented Generation (RAG) was introduced to address such limitations in LLMs. One popular implementation, RAG-as-a-Service (RaaS), has shortcomings that hinder its adoption and accessibility. For instance, RaaS pricing is based on the number of submitted prompts, without considering whether the prompts are enriched by relevant chunks, i.e., text segments retrieved from a vector database, or the quality of the utilized chunks (i.e., their degree of relevance). This results in an opaque and less cost-effective payment model. We propose Chunk-as-a-Service (CaaS) as a transparent and cost-effective alternative. CaaS includes two variants: Open-Budget CaaS (OB-CaaS) and Limited-Budget CaaS (LB-CaaS), which is enabled by our ``Utility-Cost Online Selection Algorithm (UCOSA)''. UCOSA further extends the cost-effectiveness and the accessibility of the OB-CaaS variant by enriching, in an online manner, a subset of the submitted prompts based on budget constraints and utility-cost tradeoff. Our experiments demonstrate the efficacy of the proposed UCOSA compared to both offline and relevance-greedy selection baselines. In terms of the performance metric-the number of enriched prompts (NEP) multiplied by the Average Relevance (AR)-UCOSA outperforms random selection by approximately 52% and achieves around 75% of the performance of offline selection methods. Additionally, in terms of budget utilization, LB-CaaS and OB-CaaS achieve higher performance-to-budget ratios of 140% and 86%, respectively, compared to RaaS, indicating their superior efficiency.
- Abstract（参考訳）: 大規模言語モデル(LLM)は自然言語処理の分野に革命をもたらした。
しかし、信頼性の欠如や透明性の欠如など、いくつかの制限がある。
LLMのそのような制限に対処するために、検索拡張生成(RAG)が導入された。
RaaS(RAG-as-a-Service)は、採用とアクセシビリティを妨げる欠点がある。
例えば、RaaSの価格設定は、送信されたプロンプトの数に基づいており、プロンプトが関連するチャンク、すなわちベクトルデータベースから取得されたテキストセグメント、あるいは使用済みチャンクの品質(すなわち、それらの関連性度)によって濃縮されているかどうかを考慮しない。
その結果、不透明で費用対効果の低い支払いモデルが生まれる。
透明で費用対効果の高い代替手段として、Chunk-as-a-Service(CaaS)を提案する。
CaaSには2つのバリエーションがある: Open-Budget CaaS (OB-CaaS) と Limited-Budget CaaS (LB-CaaS) 。
UCOSAはさらに、予算の制約とユーティリティコストのトレードオフに基づいて提出されたプロンプトのサブセットをオンライン的に強化することで、OB-CaaSのコスト効率とアクセシビリティをさらに拡張する。
本実験は, オフライン選択ベースラインと関連する選択ベースラインの両方と比較して, UCOSAの有効性を実証した。
Average Relevance (AR)-UCOSA が乗じるエンリッチドプロンプト(NEP)の数は、性能指標の観点で見ると、ランダム選択を約52%上回り、オフライン選択法の性能の約75%を達成している。
さらに, 予算利用の面では, LB-CaaS と OB-CaaS は, RaaS と比較して, それぞれ 140% と 86% の高パフォーマンス・予算比を達成し, その効率性を示している。
関連論文リスト
- Agentic Search for Counterfactual Recourse under Fixed LLM Budgets [0.033842793760651545]
Comp-MCTSは,独特なオラクル価の反事実の収量を最大化するエージェント木探索フレームワークである。
Comp-MCTSは、単一候補のLATSスタイルのベースラインよりも、独特なオラクル価の反事実の収率でかなり優れることを示す。
論文 参考訳（メタデータ） (2026-06-07T15:53:10Z) - Reasoning Is Not Free: Robust Adaptive Cost-Efficient Routing for LLM-as-a-Judge [4.511996087821266]
Reasoning-capable large language model (LLM) は、最近自動判断器として採用されている。
本研究では,明示的推論により,構造化された検証を必要とするタスクの判断精度が大幅に向上することを示す。
本稿では、推論と非推論の判断を選択可能なロバスト適応コスト効率ルーティング(RACER)を提案する。
論文 参考訳（メタデータ） (2026-05-11T16:30:20Z) - ODAR: Principled Adaptive Routing for LLM Reasoning via Active Inference [60.958331943869126]
ODAR-Expertは、原則化されたリソース割り当てによる精度と効率のトレードオフを最適化する適応的なルーティングフレームワークである。
我々は、MATHの98.2%の精度、HumanityのLast Examの54.8%を含む、強く一貫した利得を示している。
論文 参考訳（メタデータ） (2026-02-27T05:22:01Z) - Distilling a Small Utility-Based Passage Selector to Enhance Retrieval-Augmented Generation [110.610512800947]
Retrieval-augmented Generation (RAG)は、取得した情報を組み込むことで、大規模言語モデル(LLM)を強化する。
RAGでは、重要度は実用性に移行し、正確な回答を生成するためのパスの有用性を考慮している。
提案手法は、ランク付けよりもユーティリティベースの選択に重点を置いており、固定しきい値を必要とせずに、特定のクエリに合わせた動的通過選択を可能にする。
本実験は, 実用性に基づく選択により, RAGの柔軟性とコスト効率が向上し, 計算コストが大幅に低減され, 応答品質が向上することを示した。
論文 参考訳（メタデータ） (2025-07-25T09:32:29Z) - Supervised Optimism Correction: Be Confident When LLMs Are Sure [91.7459076316849]
教師付き微調整とオフライン強化学習の間には,新たな理論的関係が確立されている。
広く使われているビームサーチ法は、許容できない過度な最適化に悩まされていることを示す。
本稿では,トークンレベル$Q$-value推定のための簡易かつ効果的な補助的損失を導入したSupervised Optimism Correctionを提案する。
論文 参考訳（メタデータ） (2025-04-10T07:50:03Z) - Provenance: A Light-weight Fact-checker for Retrieval Augmented LLM Generation Output [49.893971654861424]
検索強化生成(RAG)から非実効出力を検出する軽量な手法を提案する。
私たちは、二項決定を下すためにしきい値にできる事実性スコアを計算します。
実験の結果, ROC曲線 (AUC) の下では, 関連するオープンソースデータセットの広範囲にわたって高い面積を示すことができた。
論文 参考訳（メタデータ） (2024-11-01T20:44:59Z) - A Thorough Performance Benchmarking on Lightweight Embedding-based Recommender Systems [67.52782366565658]
State-of-the-art recommender system (RS) は、埋め込みベクトルによって符号化される分類的特徴に依存し、結果として非常に大きな埋め込みテーブルとなる。
軽量埋め込み型RSの繁栄にもかかわらず、評価プロトコルには幅広い多様性が見られる。
本研究では, LERSの性能, 効率, クロスタスク転送性について, 徹底的なベンチマークによる検討を行った。
論文 参考訳（メタデータ） (2024-06-25T07:45:00Z) - OptLLM: Optimal Assignment of Queries to Large Language Models [12.07164196530872]
大規模言語モデル(LLM)における費用効率の高いクエリ割り当て問題に対処するフレームワークを提案する。
当社のフレームワークであるOpsLLMは、ユーザに対して、予算の制約やパフォーマンスの優先事項に合わせて、選択可能なさまざまな最適なソリューションを提供します。
OptLLMの有効性を評価するため,テキスト分類,質問応答,感情分析,推論,ログ解析など,さまざまなタスクについて広範な実験を行った。
論文 参考訳（メタデータ） (2024-05-24T01:05:37Z) - Efficient Prompt Optimization Through the Lens of Best Arm Identification [50.56113809171805]
この作業は、明示的な予算制約の下でプロンプト選択を効率的に行うための、原則化されたフレームワークであるTRIPLEを提供する。
マルチアームバンディット(MAB)における即時最適化と固定予算ベストアーム識別(BAI-FB)の間に確立された新しい接続上に構築されている。
論文 参考訳（メタデータ） (2024-02-15T05:31:13Z) - LBCF: A Large-Scale Budget-Constrained Causal Forest Algorithm [11.82503645248441]
予算制約の下で各ユーザに対して適切なインセンティブ(すなわち治療)を選択する方法が重要な研究課題である。
本稿では,大規模予算制約付き因果樹林 (LBCF) アルゴリズムと呼ばれる,予算制約下での新規な木に基づく治療選択手法を提案する。
当社のアプローチは,ユーザのキャンペーンエンゲージメント期間を増やすために,大規模なビデオプラットフォーム上で現実のシナリオに展開する。
論文 参考訳（メタデータ） (2022-01-29T13:21:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。