論文の概要: QCATS: Query Context-Aware Transformer Slicing for Efficient Predictive Query Processing
- arxiv url: http://arxiv.org/abs/2610.09894v1
- Date: Wed, 07 Oct 2026 11:52:57 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-08 21:58:22.892372
- Title: QCATS: Query Context-Aware Transformer Slicing for Efficient Predictive Query Processing
- Title(参考訳): QCATS: 効率的な予測クエリ処理のためのクエリコンテキスト対応トランスフォーマースライシング
- Abstract要約: QCATSは、データベースシステム内で効率的な推論を可能にするクエリ対応トランスフォーマースライシングフレームワークである。
QCATSはクエリ構築時に実行される:個々のリレーショナルトークンやメタデータをルーティングする代わりに、クエリ述語と統計を使用して、コンテキスト整列FFNスライスを事前に選択する。
実験によると、QCATSは高密度ワークロードに匹敵する予測精度を維持しながら、最大4.42倍のレイテンシ低減を実現している。
- 参考スコア(独自算出の注目度): 19.85465935184997
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In-database predictive query processing increasingly applies Transformer-based models within relational pipelines. However, existing in-database inference typically exposes only tuple-level model inputs to the inference runtime, leaving relational predicates and metadata statistics invisible to neural execution planning. In this paper, we propose QCATS, a query context-aware transformer slicing framework that enables efficient sparse inference inside database systems. QCATS executes at query granularity: instead of routing individual tokens or tuples during inference, it uses query predicates and metadata statistics to pre-select context-aligned FFN slices before model execution. The framework comprises offline expert construction and lightweight query-level routing that dynamically selects experts during execution. QCATS further introduces system optimizations, including asynchronous CPU-GPU pipelines and routing-aware batching. Experiments on four predictive-query workloads with BERT-base and Qwen-0.6B show that QCATS achieves up to 4.42x latency reduction while preserving prediction accuracy comparable to dense baselines.
- Abstract(参考訳): データベース内の予測クエリ処理は、リレーショナルパイプライン内にTransformerベースのモデルを適用するようになってきている。
しかし、既存のデータベース内推論は通常、推論ランタイムにタプルレベルのモデル入力のみを公開し、リレーショナル述語とメタデータ統計はニューラルな実行計画には見えないままである。
本稿では,データベースシステム内における効率的なスパース推論を可能にするクエリコンテキスト対応トランスフォーマースライシングフレームワークであるQCATSを提案する。
QCATSはクエリの粒度で実行する: 推論中に個々のトークンやタプルをルーティングする代わりに、クエリ述語とメタデータ統計を使用して、モデル実行前にコンテキスト整列FFNスライスを事前に選択する。
このフレームワークはオフラインのエキスパート構築と、実行中に専門家を動的に選択する軽量なクエリレベルのルーティングで構成されている。
QCATSはさらに、非同期CPU-GPUパイプラインやルーティング対応バッチなど、システムの最適化も導入している。
BERT-baseとQwen-0.6Bによる4つの予測クエリのワークロードの実験では、QCATSは高密度ベースラインに匹敵する予測精度を維持しながら、最大4.42倍のレイテンシ低減を実現している。
関連論文リスト
- Agentic DAG-Orchestrated Planner Framework for Multi-Modal, Multi-Hop Question Answering in Hybrid Data Lakes [5.276278723196607]
Agentic DAG-Orchestrated Transformer (A.DOT) Plannerはマルチモーダル・マルチホップ質問応答のためのフレームワークである。
A.DOTは、ユーザNLクエリを構造化および非構造化の両方にまたがる有向非巡回グラフ(DAG)実行計画にコンパイルする。
System Decomposes query into parallelizable sub-queries, includess schema-aware reasoning, and applied both structure and semantic validation。
論文 参考訳(メタデータ) (2026-03-15T05:34:16Z) - NGDB-Zoo: Towards Efficient and Scalable Neural Graph Databases Training [55.35217340229661]
NGDB-Zooは,演算子レベルのトレーニングをセマンティック拡張と相乗化することでボトルネックを解消する統合フレームワークである。
NGDB-Zooは多種多様な論理パターンにまたがって高いGPU利用率を維持し, ハイブリッド型ニューロシンボリック推論における摩擦を著しく軽減することを示した。
論文 参考訳(メタデータ) (2026-02-25T05:46:42Z) - CONCERTO: Complex Query Execution Mechanism-Aware Learned Cost Estimation [8.024724736461328]
本稿では,ConCERTOを提案する。ConCERTOは,複雑なクエリ実行子であるmeChanism-awaE leaRned cosT estimatiOn法である。
ConCERTOはまず、各物理演算子に対して独立したリソースコストモデルを確立する。
次に、データフローツリーのバックボーンとコンカレント演算子間のリソース競合関係からなるDAG(Directed Acyclic Graph)を構築する。
論文 参考訳(メタデータ) (2024-12-01T09:58:54Z) - Effective Instruction Parsing Plugin for Complex Logical Query Answering on Knowledge Graphs [51.33342412699939]
知識グラフクエリ埋め込み(KGQE)は、不完全なKGに対する複雑な推論のために、低次元KG空間に一階論理(FOL)クエリを埋め込むことを目的としている。
近年の研究では、FOLクエリの論理的セマンティクスをよりよく捉えるために、さまざまな外部情報(エンティティタイプや関係コンテキストなど)を統合している。
コードのようなクエリ命令から遅延クエリパターンをキャプチャする効果的なクエリ命令解析(QIPP)を提案する。
論文 参考訳(メタデータ) (2024-10-27T03:18:52Z) - User Intent Recognition and Semantic Cache Optimization-Based Query Processing Framework using CFLIS and MGR-LAU [0.0]
この研究は、拡張QPのためのクエリにおける情報、ナビゲーション、およびトランザクションベースのインテントを分析した。
効率的なQPのために、データはEpanechnikov Kernel-Ordering Pointsを用いて構造化され、クラスタリング構造(EK-OPTICS)を同定する。
抽出された特徴、検出された意図、構造化データは、MGR-LAU(Multi-head Gated Recurrent Learnable Attention Unit)に入力される。
論文 参考訳(メタデータ) (2024-06-06T20:28:05Z) - Hydro: Adaptive Query Processing of ML Queries [7.317548344184541]
機械学習(ML)クエリを効率的に処理するための適応クエリ処理(AQP)であるHydroを提案する。
ベースラインシステム上で最大11.52倍のスピードアップを実現し,Hydroの有効性を実証する。
論文 参考訳(メタデータ) (2024-03-22T01:17:07Z) - Improving Text-to-SQL Semantic Parsing with Fine-grained Query
Understanding [84.04706075621013]
トークンレベルのきめ細かいクエリ理解に基づく汎用的モジュール型ニューラルネットワーク解析フレームワークを提案する。
我々のフレームワークは、名前付きエンティティ認識(NER)、ニューラルエンティティリンカ(NEL)、ニューラルエンティティリンカ(NSP)の3つのモジュールから構成されている。
論文 参考訳(メタデータ) (2022-09-28T21:00:30Z) - Proton: Probing Schema Linking Information from Pre-trained Language
Models for Text-to-SQL Parsing [66.55478402233399]
本稿では,ポアンカー距離測定に基づく探索手法を用いて,関係構造を抽出する枠組みを提案する。
スキーマリンクの一般的なルールベース手法と比較して,探索関係は意味的対応をしっかりと捉えることができることがわかった。
我々のフレームワークは3つのベンチマークで最先端のパフォーマンスを新たに設定する。
論文 参考訳(メタデータ) (2022-06-28T14:05:25Z) - Electra: Conditional Generative Model based Predicate-Aware Query
Approximation [10.056919500568013]
ELECTRAは述語対応のAQPシステムで、多くの述語で分析スタイルのクエリに答えることができ、近似誤差ははるかに小さい。
実世界の3つのデータセットに対する4つの異なるベースラインによる評価の結果,ELECTRAはベースラインと比較して多数の述語に対して低いAQP誤差を提供することがわかった。
論文 参考訳(メタデータ) (2022-01-28T21:13:26Z) - Conversational Question Reformulation via Sequence-to-Sequence
Architectures and Pretrained Language Models [56.268862325167575]
本稿では、列列列構造と事前学習言語モデル(PLM)を用いた会話型質問修正(CQR)の実証的研究について述べる。
我々はPLMを利用して、CQRタスクの目的である最大推定におけるトークン・トークン・トークン・トークンの独立性の強い仮定に対処する。
我々は、最近導入されたCANARDデータセットの微調整PLMをドメイン内タスクとして評価し、TREC 2019 CAsT Trackのデータからドメイン外タスクとしてモデルを検証する。
論文 参考訳(メタデータ) (2020-04-04T11:07:54Z) - Multi-layer Optimizations for End-to-End Data Analytics [71.05611866288196]
代替アプローチを実現するフレームワークであるIFAQ(Iterative Functional Aggregate Queries)を紹介する。
IFAQは、特徴抽出クエリと学習タスクを、IFAQのドメイン固有言語で与えられた1つのプログラムとして扱う。
IFAQ の Scala 実装が mlpack,Scikit,特殊化を数桁で上回り,線形回帰木モデルや回帰木モデルを複数の関係データセット上で処理可能であることを示す。
論文 参考訳(メタデータ) (2020-01-10T16:14:44Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。