Fugu-MT 論文翻訳(概要): BQSched: A Non-intrusive Scheduler for Batch Concurrent Queries via Reinforcement Learning

論文の概要: BQSched: A Non-intrusive Scheduler for Batch Concurrent Queries via Reinforcement Learning

arxiv url: http://arxiv.org/abs/2504.19142v1
Date: Sun, 27 Apr 2025 07:49:01 GMT
ステータス: 翻訳完了
システム内更新日: 2025-05-02 19:15:54.149414
Title: BQSched: A Non-intrusive Scheduler for Batch Concurrent Queries via Reinforcement Learning
Title（参考訳）: BQSched:強化学習によるバッチ並行クエリの非侵入型スケジューリング
Authors: Chenhao Xu, Chunyu Chen, Jinglin Peng, Jiannan Wang, Jun Gao,
Abstract要約: データパイプライン全体の規模を最小化する上で重要な問題は、並列クエリの効率的なスケジューリングである。我々の知る限り、BQSchedは強化学習による最初の非侵襲的なバッチクエリスケジューラである。大規模な実験により、BQSchedはバッチクエリスケジューリングの効率と安定性を大幅に改善できることが示された。
参考スコア（独自算出の注目度）: 7.738546538164454
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: Most large enterprises build predefined data pipelines and execute them periodically to process operational data using SQL queries for various tasks. A key issue in minimizing the overall makespan of these pipelines is the efficient scheduling of concurrent queries within the pipelines. Existing tools mainly rely on simple heuristic rules due to the difficulty of expressing the complex features and mutual influences of queries. The latest reinforcement learning (RL) based methods have the potential to capture these patterns from feedback, but it is non-trivial to apply them directly due to the large scheduling space, high sampling cost, and poor sample utilization. Motivated by these challenges, we propose BQSched, a non-intrusive Scheduler for Batch concurrent Queries via reinforcement learning. Specifically, BQSched designs an attention-based state representation to capture the complex query patterns, and proposes IQ-PPO, an auxiliary task-enhanced proximal policy optimization (PPO) algorithm, to fully exploit the rich signals of Individual Query completion in logs. Based on the RL framework above, BQSched further introduces three optimization strategies, including adaptive masking to prune the action space, scheduling gain-based query clustering to deal with large query sets, and an incremental simulator to reduce sampling cost. To our knowledge, BQSched is the first non-intrusive batch query scheduler via RL. Extensive experiments show that BQSched can significantly improve the efficiency and stability of batch query scheduling, while also achieving remarkable scalability and adaptability in both data and queries. For example, across all DBMSs and scales tested, BQSched reduces the overall makespan of batch queries on TPC-DS benchmark by an average of 34% and 13%, compared with the commonly used heuristic strategy and the adapted RL-based scheduler, respectively.
Abstract（参考訳）: ほとんどの大企業は、事前に定義されたデータパイプラインを構築し、さまざまなタスクでSQLクエリを使用して定期的にそれを実行し、運用データを処理する。これらのパイプライン全体の規模を最小化する上で重要な問題は、パイプライン内での並行クエリの効率的なスケジューリングである。既存のツールは主に、複雑な特徴やクエリの相互影響を表現するのが難しいため、単純なヒューリスティックなルールに依存している。最新の強化学習(RL)に基づく手法は、フィードバックからこれらのパターンを捕捉する可能性があるが、大規模なスケジューリングスペース、サンプリングコスト、サンプル利用の低さにより、直接適用することは簡単ではない。これらの課題に触発されたBQSchedは、強化学習によるバッチ並列クエリのための非侵入型スケジューリングである。具体的には、BQSchedは、複雑なクエリパターンをキャプチャするためのアテンションベースの状態表現を設計し、ログにおける個々のクエリ補完のリッチな信号を完全に活用するために、補助的なタスク強化近ポリシー最適化(PPO)アルゴリズムであるIQ-PPOを提案する。上記のRLフレームワークに基づいて、BQSchedはさらに3つの最適化戦略を導入している。アクション空間を創出するための適応マスキング、大きなクエリセットを扱うためのゲインベースのクエリクラスタリングのスケジューリング、サンプリングコストを削減するインクリメンタルシミュレータである。私たちの知る限り、BQSchedはRLを使った最初の非侵襲的なバッチクエリスケジューラです。大規模な実験により、BQSchedはバッチクエリスケジューリングの効率と安定性を大幅に改善すると同時に、データとクエリの両方において、優れたスケーラビリティと適応性を実現している。例えば、すべてのDBMSとテストされたスケールで、BQSchedは、TPC-DSベンチマークにおけるバッチクエリの総規模を、一般的なヒューリスティック戦略とRLベースのスケジューラと比較して平均34%と13%削減する。

関連論文リスト

PlanGEN: A Multi-Agent Framework for Generating Planning and Reasoning Trajectories for Complex Problem Solving [89.60370366013142]
制約,検証,選択という3つの重要な要素を持つモデルに依存しない,スケーラブルなエージェントフレームワークであるPlanGENを提案する。具体的には、推論時間アルゴリズムの性能を向上させるために、制約誘導反復検証を提案する。
論文参考訳（メタデータ） (2025-02-22T06:21:56Z)
Improving DBMS Scheduling Decisions with Fine-grained Performance Prediction on Concurrent Queries -- Extended [15.354441937462271]
IconqSchedは、クエリの実行順序とタイミングを最適化する、新しい、原則化された非侵入スケジューラである。 IconqSchedは、システムランタイムをブラックボックスとして扱う、新しいきめ細かい予測器であるIconqを備えている。我々はIconqSchedを実際のワークロードトレースを使用したエンドツーエンドランタイムの観点から他のスケジューラと比較する。
論文参考訳（メタデータ） (2025-01-27T17:55:39Z)
Multi-Bin Batching for Increasing LLM Inference Throughput [19.652542432683234]
大規模言語モデル(LL)は、システムの効率性を向上させるために人気が高まっている。リクエストはサーバ上のジョブをスケジューリングする重要なステップです。リクエストは、しばしば異なる生成長を持ち、リソースの未利用を引き起こす。我々は、この問題をキューイング理論の観点から形式化し、スループット制御ポリシーを設計することを目的とする。
論文参考訳（メタデータ） (2024-12-03T03:16:12Z)
Adaptive-RAG: Learning to Adapt Retrieval-Augmented Large Language Models through Question Complexity [59.57065228857247]
Retrieval-augmented Large Language Models (LLMs) は、質問回答(QA)のようなタスクにおける応答精度を高めるための有望なアプローチとして登場した。本稿では,クエリの複雑さに基づいて,LLMの最適戦略を動的に選択できる適応型QAフレームワークを提案する。オープンドメインのQAデータセットを用いて、複数のクエリの複雑さを網羅し、QAシステムの全体的な効率性と精度を高めることを示す。
論文参考訳（メタデータ） (2024-03-21T13:52:30Z)
Tree-Planner: Efficient Close-loop Task Planning with Large Language Models [63.06270302774049]
Tree-Plannerは、大きな言語モデルでタスクプランニングを3つの異なるフェーズに再構成する。 Tree-Plannerは高い効率を維持しながら最先端のパフォーマンスを実現する。
論文参考訳（メタデータ） (2023-10-12T17:59:50Z)
MinPrompt: Graph-based Minimal Prompt Data Augmentation for Few-shot Question Answering [64.6741991162092]
オープンドメイン質問応答のための最小限のデータ拡張フレームワークMinPromptを提案する。我々は、生テキストをグラフ構造に変換し、異なる事実文間の接続を構築する。次に、グラフアルゴリズムを適用して、原文のほとんどの情報をカバーするのに必要な最小限の文の集合を識別する。同定された文サブセットに基づいてQAペアを生成し、選択した文に基づいてモデルをトレーニングし、最終モデルを得る。
論文参考訳（メタデータ） (2023-10-08T04:44:36Z)
JoinGym: An Efficient Query Optimization Environment for Reinforcement Learning [58.71541261221863]
結合順序選択(JOS)は、クエリの実行コストを最小化するために結合操作を順序付けする問題である。木質強化学習(RL)のためのクエリ最適化環境JoinGymを提案する。 JoinGymは内部で、事前計算されたデータセットから中間結果の濃度を調べることで、クエリプランのコストをシミュレートする。
論文参考訳（メタデータ） (2023-07-21T17:00:06Z)
Scheduling in Parallel Finite Buffer Systems: Optimal Decisions under Delayed Feedback [29.177402567437206]
本稿では,遅延認識の限られた情報の下で並列キューシステムにおけるスケジューリング決定をキャプチャする部分観測可能(PO)モデルを提案する。得られたポリシーが他の限られた情報スケジューリング戦略より優れていることを数値的に示す。本稿では,Kaggleが提供するネットワークデータを用いてリアルタイム並列処理を最適化する方法を示す。
論文参考訳（メタデータ） (2021-09-17T13:45:02Z)
Better than the Best: Gradient-based Improper Reinforcement Learning for Network Scheduling [60.48359567964899]
パケット遅延を最小限に抑えるため,制約付き待ち行列ネットワークにおけるスケジューリングの問題を考える。我々は、利用可能な原子ポリシーよりも優れたスケジューラを生成するポリシー勾配に基づく強化学習アルゴリズムを使用する。
論文参考訳（メタデータ） (2021-05-01T10:18:34Z)
Balanced Order Batching with Task-Oriented Graph Clustering [28.05598654297136]
本稿では,BTOGCN(Ba balanced Task- Clustering Network)というエンドツーエンドの学習・最適化フレームワークを提案する。 BOBPは、中国最大のロジスティクスプラットフォームであるCainiaoの買収プロセスに端を発する。
論文参考訳（メタデータ） (2020-08-19T08:42:50Z)
Buffer Pool Aware Query Scheduling via Deep Reinforcement Learning [12.388301931687893]
入ってくるクエリ間で重複するデータ読み込みを活用する学習スケジューラであるSmartQueueを紹介する。 SmartQueueは、ワークロード固有のスケジューリング戦略を生成するために、深い強化学習に依存している。本稿では,学習したスケジューラが大幅な性能向上を提供できることを示す,概念実証プロトタイプの結果を紹介する。
論文参考訳（メタデータ） (2020-07-21T02:28:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。