論文の概要: Knowledge Distillation for Low-Resource Open-source Text-to-SQL Model

• arxiv url: http://arxiv.org/abs/2605.22843v1
• Date: Wed, 13 May 2026 07:54:13 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-01 02:55:42.940845
• Title: Knowledge Distillation for Low-Resource Open-source Text-to-SQL Model
• Title（参考訳）: 低リソースオープンソーステキスト-SQLモデルのための知識蒸留
• Authors: Tianhao Qiu, Xiaojun Chen,
• Abstract要約: タスク固有の知識ベースを構築し,それをトレーニングと推論の両方に注入する,知識を意識したテキスト・ツー・チャットフレームワークを提案する。 このフレームワークは、文脈的に基底化された合成学習データを生成し、対象とする知識検索を通じて推論を強化する。
• 参考スコア（独自算出の注目度）: 4.098313540411055
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Text-to-SQL converts natural language questions into executable SQL queries, enabling non-technical users to access relational databases for analytics and intelligent data services. In real-world scenarios, performance is often constrained by low-resource settings, where high-quality annotated \texttt{<question, SQL>} pairs are scarce, particularly for domain-specific databases. Additional challenges include opaque schema definitions, abbreviations, and implicit business logic that are not explicitly encoded in the schema. Existing data synthesis and prompting techniques improve coverage but often fail to produce task-specific, semantically grounded examples aligned with database constraints. To address these challenges, we propose a knowledge-aware Text-to-SQL framework that constructs task-specific knowledge base including schema semantics, abbreviations, business logic, and query patterns, and injects them into both training and inference. This framework generates diverse, contextually grounded synthetic training data and enhances inference through targeted knowledge retrieval. Experiments on seven benchmarks, covering both general and domain-specific datasets, demonstrate that our approach substantially improves the performance of open-source and closed-source large language models in Text-to-SQL tasks, especially in low-resource domain-specific settings, enhancing generalization, robustness, and adaptability.
• Abstract（参考訳）: Text-to-SQLは自然言語の質問を実行可能なSQLクエリに変換し、非技術者のユーザが分析やインテリジェントなデータサービスのためのリレーショナルデータベースにアクセスできるようにする。 実世界のシナリオでは、パフォーマンスは低リソース設定によって制約されることが多く、特にドメイン固有のデータベースでは、高品質なアノテーション付き \texttt{<question, SQL>} ペアが不足している。 その他の課題としては、不透明なスキーマ定義、略語、スキーマに明示的にエンコードされていない暗黙のビジネスロジックなどがある。 既存のデータ合成とプロンプト技術はカバレッジを改善するが、多くの場合、データベースの制約に合わせたタスク固有のセマンティックな例を生成できない。 これらの課題に対処するために、スキーマ意味論、略語、ビジネスロジック、クエリパターンを含むタスク固有の知識ベースを構築し、それらをトレーニングと推論の両方に注入する、知識対応のText-to-SQLフレームワークを提案する。 このフレームワークは、多様で文脈的に基礎付けられた合成訓練データを生成し、対象とする知識検索を通じて推論を強化する。 一般的なデータセットとドメイン固有のデータセットの両方をカバーする7つのベンチマーク実験により、テキストからSQLタスク、特に低リソースのドメイン固有設定におけるオープンソースおよびクローズドソースの大規模言語モデルの性能を大幅に改善し、一般化、堅牢性、適応性を向上させることが実証された。

関連論文リスト

• Skeletons Matter: Dynamic Data Augmentation for Text-to-Query [66.52311036179294]
  テキスト・ツー・クエリー・タスク・パラダイムを正式に定義し、様々なクエリー言語にまたがるセマンティック・パース・タスクを統一する。 問合せスケルトンをText-to-Queryタスクの共有最適化ターゲットとして同定し、一般的な動的データ拡張フレームワークを提案する。 4つのText-to-Queryベンチマーク実験により,本手法が最先端の性能を実現することを示す。
  論文  参考訳（メタデータ） (2025-11-24T09:39:03Z)
• Who Gets Cited Most? Benchmarking Long-Context Language Models on Scientific Articles [81.89404347890662]
  SciTrekは、科学論文を用いた大規模言語モデル(LLM)の長文推論能力を評価するために設計された、新しい質問応答ベンチマークである。 本分析により,モデルの基本的数値演算を行ない,特定の情報を長い文脈で正確に特定する能力において,系統的な欠点が明らかとなった。
  論文  参考訳（メタデータ） (2025-09-25T11:36:09Z)
• Data Dependency-Aware Code Generation from Enhanced UML Sequence Diagrams [54.528185120850274]
  本稿では,API2Depという新しいステップバイステップコード生成フレームワークを提案する。 まず、サービス指向アーキテクチャに適した拡張Unified Modeling Language (UML) APIダイアグラムを紹介します。 次に、データフローの重要な役割を認識し、専用のデータ依存推論タスクを導入する。
  論文  参考訳（メタデータ） (2025-08-05T12:28:23Z)
• RASL: Retrieval Augmented Schema Linking for Massive Database Text-to-SQL [1.3654846342364308]
  本稿では,データベーススキーマとメタデータを個別のセマンティック単位に分解するコンポーネントベースの検索アーキテクチャを提案する。 我々のソリューションは、高度な微調整をせずに、多様なエンタープライズ環境にまたがる実用的なテキスト・インタフェースを実現する。
  論文  参考訳（メタデータ） (2025-07-30T21:09:47Z)
• Knowledge Base Construction for Knowledge-Augmented Text-to-SQL [37.87911346522774]
  本稿では,与えられたクエリに必要な知識を生成する基礎となる知識源であるテキスト・ツー・ワンの知識基盤を構築することを提案する。 私たちの知識ベースは包括的であり、利用可能なすべての質問と関連するデータベーススキーマの組み合わせに基づいて構築されます。 重なり合うデータベースシナリオと非重なり合うデータベースシナリオの両方を考慮して、複数のテキストから1つのデータセットに対するアプローチを検証する。
  論文  参考訳（メタデータ） (2025-05-28T08:17:58Z)
• Text2Schema: Filling the Gap in Designing Database Table Structures based on Natural Language [22.15408079332362]
  データベースのバックグラウンドを持たない人は、通常、ファイルシステムやExcelデータ管理のようなツールに依存します。 データベースシステムは強力な管理能力を持っているが、ユーザーからの高度な専門知識を必要とする。
  論文  参考訳（メタデータ） (2025-03-31T09:39:19Z)
• Bridging the Gap: Enabling Natural Language Queries for NoSQL Databases through Text-to-NoSQL Translation [25.638927795540454]
  自然言語クエリをアクセス可能なクエリに変換することを目的としたText-to-Noタスクを導入する。 この分野での研究を促進するために、我々はTEND(Text-to-Noデータセットのショートインターフェース)という、このタスクのための大規模かつオープンソースのデータセットをリリースした。 また,SLM(Small Language Model)支援とRAG(Retrieval-augmented Generation)支援の多段階フレームワークSMARTを設計した。
  論文  参考訳（メタデータ） (2025-02-16T17:01:48Z)
• AMBROSIA: A Benchmark for Parsing Ambiguous Questions into Database Queries [56.82807063333088]
  我々は,新たなベンチマークであるAMBROSIAを導入し,テキスト・ツー・オープン・プログラムの開発を促進することを期待する。 私たちのデータセットには、3種類のあいまいさ(スコープのあいまいさ、アタッチメントのあいまいさ、あいまいさ)を示す質問が含まれている。 いずれの場合も、データベースのコンテキストが提供されてもあいまいさは持続する。 これは、スクラッチからデータベースを制御して生成する、新しいアプローチによって実現される。
  論文  参考訳（メタデータ） (2024-06-27T10:43:04Z)
• DIVKNOWQA: Assessing the Reasoning Ability of LLMs via Open-Domain Question Answering over Knowledge Base and Text [73.68051228972024]
  大きな言語モデル(LLM)は印象的な生成能力を示すが、内部知識に依存すると幻覚に悩まされる。 検索拡張LDMは、外部知識においてLLMを基盤とする潜在的な解決策として出現している。
  論文  参考訳（メタデータ） (2023-10-31T04:37:57Z)
• SQL-PaLM: Improved Large Language Model Adaptation for Text-to-SQL (extended) [53.95151604061761]
  本稿では,大規模言語モデル(LLM)を用いたテキスト・ツー・フィルタリングのフレームワークを提案する。 数発のプロンプトで、実行ベースのエラー解析による一貫性復号化の有効性について検討する。 命令の微調整により、チューニングされたLLMの性能に影響を及ぼす重要なパラダイムの理解を深める。
  論文  参考訳（メタデータ） (2023-05-26T21:39:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。