論文の概要: COAL-SQL: Coverage-Guided Augmentation and Failure-Driven Learning for Text-to-SQL Post-Training
- arxiv url: http://arxiv.org/abs/2609.20842v1
- Date: Tue, 04 Aug 2026 06:29:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-28 05:09:55.683448
- Title: COAL-SQL: Coverage-Guided Augmentation and Failure-Driven Learning for Text-to-SQL Post-Training
- Title(参考訳): COAL-SQL: テキストからSQLへのポストトレーニングのためのカバレッジガイドによる拡張と障害駆動学習
- Abstract要約: CGA(Coverage-Guided Augmentation)とFDL(Failure-Driven Learning)を組み合わせた統合フレームワークを提案する。
トレーニング後のデータセットはわずか12,600で、COAL-Guided AugmentationはBIRD開発セット上で64.9%の実行精度を達成した。
- 参考スコア(独自算出の注目度): 24.07109464178579
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Text-to-SQL translates natural-language questions into executable SQL queries, but open-source large language models still require task-specific post-training for complex, real-world SQL generation. Effective post-training requires both training data that cover the capabilities demanded by the target task and a learning strategy that enables the model to acquire them. Existing datasets provide valuable supervision but incompletely cover SQL structures, while augmentation methods typically expand data without identifying structural gaps. Moreover, supervised fine-tuning (SFT) or reinforcement learning (RL) alone cannot dynamically address weaknesses exposed during training. We propose COAL-SQL, a unified framework combining Coverage-Guided Augmentation (CGA) and Failure-Driven Learning (FDL). CGA uses greedy selection to identify SQL structures missing from the original dataset and constructs complementary examples, improving structural coverage. FDL retains GRPO as the main optimization objective while supplying targeted supervision for unsolved examples. At the step level, it applies SFT to verified reasoning traces generated by a strong LLM for accumulated failures. At the epoch level, it retrieves structurally related examples based on accumulated failures to create targeted practice, helping the model acquire the corresponding SQL capabilities. With only 12,600 distinct post-training examples, COAL-SQL achieves 64.9% execution accuracy on the BIRD development set and outperforms baselines trained at comparable scale. The code is available at https://github.com/TechNomad-ds/COAL-SQL.
- Abstract(参考訳): Text-to-SQLは自然言語の質問を実行可能なSQLクエリに変換するが、オープンソースの大規模言語モデルは、複雑な実世界のSQL生成のためにタスク固有のポストトレーニングを必要とする。
効果的なポストトレーニングには、ターゲットタスクが要求する能力をカバーするトレーニングデータと、モデルがそれらを取得するための学習戦略の両方が必要である。
既存のデータセットは、貴重な監視を提供するが、完全にSQL構造をカバーしていない。
さらに、教師付き微調整(SFT)や強化学習(RL)だけでは、トレーニング中に露出する弱点に動的に対処できない。
CGA(Coverage-Guided Augmentation)とFDL(Failure-Driven Learning)を組み合わせた統合フレームワークであるCOAL-SQLを提案する。
CGAはgreedyセレクションを使用して、元のデータセットから欠落したSQL構造を特定し、補完的な例を構築し、構造的カバレッジを改善している。
FDLはGRPOを主要な最適化目標として保持し、未解決事例に対する目標監督を提供する。
ステップレベルでは、SFTは、蓄積された障害に対して強いLLMによって生成された推論トレースを検証します。
エポックレベルでは、蓄積された障害に基づいて構造的に関連する例を検索し、ターゲットとするプラクティスを作成し、モデルが対応するSQL機能を取得するのに役立つ。
トレーニング後の例はわずか12,600で、COAL-SQLはBIRD開発セットで64.9%の実行精度を達成し、同等の規模でトレーニングされたベースラインを上回っている。
コードはhttps://github.com/TechNomad-ds/COAL-SQLで入手できる。
関連論文リスト
- FINER-SQL: Boosting Small Language Models for Text-to-SQL [40.19592881059662]
大規模言語モデルは、高い計算コスト、長いレイテンシ、データプライバシの懸念に悩まされる。
自然な代替手段は、効率的でプライベートなオンプレミスデプロイメントを可能にする、小さな言語モデルを使用することだ。
スケーラブルで再利用可能な強化学習フレームワークであるFINER-sqlを提案する。
論文 参考訳(メタデータ) (2026-05-05T07:51:29Z) - Text-to-SQL as Dual-State Reasoning: Integrating Adaptive Context and Progressive Generation [54.53145282349042]
DSR-sourced, textbfDual-textbfS textbfReasoning frameworkを導入する。
ポストトレーニングやインコンテキストの例がなければ、DSR-sourcedは競合性能を達成し、スパイダー2.0-Snowで35.28%、BIRD開発で68.32%に達する。
論文 参考訳(メタデータ) (2025-11-26T13:52:50Z) - CogniSQL-R1-Zero: Lightweight Reinforced Reasoning for Efficient SQL Generation [1.169202600932732]
本稿では,強化学習(RL)フレームワークとモデルであるCogni-R1-Zeroを紹介する。
我々は、実行の正しさとフォーマットタグのコンプライアンスに基づく軽量な報酬信号を使用する。
提案手法は,Text2ベンチマーク上での最先端実行精度を実現する。
効率的かつ解釈可能なテキスト・ツー・コード・モデリングのさらなる研究を支援するために、2つのキュレートされたデータセットをリリースする。
論文 参考訳(メタデータ) (2025-07-08T14:17:07Z) - RetrySQL: text-to-SQL training with retry data for self-correcting query generation [1.6707278580444538]
テキスト・ツー・ジェネレーションモデルをトレーニングするための新しいアプローチであるRetryを紹介します。
再試行のステップは、総合的および挑戦的な実行精度の指標において最大4ポイントの改善をもたらすことを実証する。
論文 参考訳(メタデータ) (2025-07-03T11:00:49Z) - Sparks of Tabular Reasoning via Text2SQL Reinforcement Learning [0.12289361708127876]
この研究は、Text-to-the-taskを、大規模言語モデル(LLM)にデータの推論と操作を教えるための経路として再構成した。
本稿では,テーブルフィールドをトラバースし,フィルタし,集約する方法をモデルに教える2段階フレームワークを提案する。
提案手法は,BIRD や CRT-QA などの推論集約型データセットに対して,理論的に有意な向上を実現している。
論文 参考訳(メタデータ) (2025-04-23T19:02:04Z) - RSL-SQL: Robust Schema Linking in Text-to-SQL Generation [51.00761167842468]
本稿では、双方向スキーマリンク、コンテキスト情報拡張、バイナリ選択戦略、マルチターン自己補正を組み合わせたRSLと呼ばれる新しいフレームワークを提案する。
ベンチマークの結果,オープンソースのソリューション間でのSOTA実行精度は67.2%,BIRDは87.9%,GPT-4オクルージョンは87.9%であった。
提案手法は,DeepSeekを同一のプロンプトで適用した場合,GPT-4ベースのテキスト・ツー・シークシステムよりも優れている。
論文 参考訳(メタデータ) (2024-10-31T16:22:26Z) - Learning from Imperfect Data: Towards Efficient Knowledge Distillation of Autoregressive Language Models for Text-to-SQL [83.99974309930072]
知識蒸留(KD)は、より大規模な教師モデルをより小さな学生モデルに蒸留することを目的とした一般的な手法である。
我々は,不完全なデータ,すなわちKIDを用いてKDを改善することを提案する。
KIDは、すべてのモデルタイプとサイズで一貫した、重要なパフォーマンス向上を達成するだけでなく、トレーニング効率を効果的に向上する。
論文 参考訳(メタデータ) (2024-10-15T07:51:00Z) - PTD-SQL: Partitioning and Targeted Drilling with LLMs in Text-to-SQL [54.304872649870575]
大規模言語モデル(LLM)は、テキスト・トゥ・センス・タスクの強力なツールとして登場した。
本研究では,クエリグループパーティショニングを用いることで,単一問題に特有の思考プロセスの学習に集中できることを示す。
論文 参考訳(メタデータ) (2024-09-21T09:33:14Z) - Relational Database Augmented Large Language Model [59.38841050766026]
大規模言語モデル(LLM)は多くの自然言語処理(NLP)タスクに優れる。
彼らは、トレーニングや教師付き微調整プロセスを通じてのみ、新しい知識を取り入れることができる。
この正確で最新のプライベート情報は、通常リレーショナルデータベースに格納される。
論文 参考訳(メタデータ) (2024-07-21T06:19:10Z) - SQL-PaLM: Improved Large Language Model Adaptation for Text-to-SQL (extended) [53.95151604061761]
本稿では,大規模言語モデル(LLM)を用いたテキスト・ツー・フィルタリングのフレームワークを提案する。
数発のプロンプトで、実行ベースのエラー解析による一貫性復号化の有効性について検討する。
命令の微調整により、チューニングされたLLMの性能に影響を及ぼす重要なパラダイムの理解を深める。
論文 参考訳(メタデータ) (2023-05-26T21:39:05Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。