論文の概要: Learning When to Reason for Text-to-SQL via SFT and DPO

• arxiv url: http://arxiv.org/abs/2607.22622v1
• Date: Wed, 17 Jun 2026 06:31:28 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-02 22:55:38.990937
• Title: Learning When to Reason for Text-to-SQL via SFT and DPO
• Title（参考訳）: SFTとDPOによるテキストからSQLへの推論の学習
• Abstract要約: 最近のText-to-Thought法は、Chain-of-Thought(CoT)のような推論中心のパラダイムに大きく依存している。 テキスト・トゥ・サート上でのスーパービジョンファイン・チューニング(SFT)とダイレクト・プライス・オプティマイズ(DPO)の両方に自動思考機構を統合するフレームワークであるAutoThinkを提案する。 提案手法は,複雑なクエリに対して深いCoTを呼び出しながら,単純なクエリに対する推論を動的に回避することを可能にする。
• 参考スコア（独自算出の注目度）: 38.109957873399246
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent Text-to-SQL methods rely heavily on reasoning-centric paradigms such as Chain-of-Thought (CoT), achieving substantial gains on complex benchmarks at the cost of high inference-time overhead. However, a large fraction of real-world queries are simple lookups or aggregations that can be resolved without multi-step deduction, making forced reasoning wasteful. Thus, we propose AutoThinkSQL, a framework that integrates an auto-thinking mechanism into both Supervised Fine-Tuning (SFT) and Direct Preference Optimization (DPO) on Text-to-SQL. Our approach enables the model to dynamically bypass reasoning for simple queries while invoking deep CoT for complex queries. On Qwen3-Coder-30B-A3B, our method achieves consistent gains compared to the best counterpart baseline on both Spider and BIRD benchmarks while simultaneously reducing average output tokens by 24.6% and 18.3%, and average latency by 17.1% and 11.5% compared to CoT-only generation. Further analysis indicates that the model learns to align its reasoning decisions with query difficulty.
• Abstract（参考訳）: 最近のText-to-SQLメソッドは、Chain-of-Thought (CoT)のような推論中心のパラダイムに大きく依存しており、高い推論時間オーバーヘッドを犠牲にして複雑なベンチマークで大幅に向上している。 しかし、現実世界のクエリの大部分は単純なルックアップや集約であり、多段階の推論なしで解決できるため、強制的な推論は無駄である。 そこで我々は,AutoThinkSQLを提案する。AutoThinkSQLは,自動思考機構をテキストからSQLへのスーパービジョンファインチューニング(SFT)とダイレクトパラメータ最適化(DPO)の両方に統合するフレームワークである。 提案手法は,複雑なクエリに対して深いCoTを呼び出しながら,単純なクエリに対する推論を動的に回避することを可能にする。 Qwen3-Coder-30B-A3Bでは,平均出力トークンを24.6%,18.3%,平均遅延を17.1%,11.5%削減した。 さらなる分析は、モデルが推論決定をクエリの難易度に合わせることを学習していることを示している。

関連論文リスト

• ReToolSQL: Agentic Reinforcement Learning for Robust Text-to-SQL [3.318897003817309]
  ReToolはテキスト・ツー・Teacherのための2段階のトレーニングフレームワークである。 ツール利用トラジェクトリ上で適切に設計されたSFT$to$RFTパイプラインは、堅牢なエンタープライズグレードのテキスト・トゥ・ティーチンガーへの実践的な道であることを示す。
  論文  参考訳（メタデータ） (2026-08-28T00:23:31Z)
• AdaptR1: Reinforcement Learning Based Adaptive Interleaved Thinking in Multi-hop Question Answering [76.52199013231484]
  マルチホップ質問回答(QA)における適応的インターリーブド思考のための強化学習(RL)に基づくフレームワークAdaptR1を紹介する。 Graph-R1設定では、AdaptR1は平均的なシンクトークンを69.71%削減し、HotpotQAは90.35%削減された。 分析の結果,マルチホップ推論における過度な思考は,一様分布ではなく,初期計画段階で主に発生することが明らかとなった。
  論文  参考訳（メタデータ） (2026-05-29T09:34:45Z)
• IESR:Efficient MCTS-Based Modular Reasoning for Text-to-SQL with Large Language Models [10.758655501692793]
  軽量な大規模言語モデルのためのフレームワークIESR(Information Enhanced Structured Reasoning)を提案する。 複雑な推論ベンチマーク LogicCat と Archer データセット上で,IESR が最先端のパフォーマンスを達成することを示す。 解析の結果,現在のコーダモデルは,物理知識,数理計算,常識推論において顕著なバイアスと欠陥を呈していることがわかった。
  論文  参考訳（メタデータ） (2026-02-05T07:10:45Z)
• SQL-Trail: Multi-Turn Reinforcement Learning with Interleaved Feedback for Text-to-SQL [20.49395306069103]
  テキスト・ツー・ワン・ジェネレーションのためのマルチターン強化学習(RL)エージェント・フレームワークを提案する。 1ショットでクエリを生成するのではなく、SQL-Trailはデータベース環境と対話し、実行フィードバックを使用して予測を反復的に洗練する。 提案手法は, エージェントの相互作用深度を問合せ難易度に合わせるための適応的なターン予算配分機構と, sqlの正しさと効率的な探索を両立させる複合報酬パネルの2つを主眼とする。
  論文  参考訳（メタデータ） (2026-01-25T05:16:52Z)
• Text-to-SQL as Dual-State Reasoning: Integrating Adaptive Context and Progressive Generation [54.53145282349042]
  DSR-sourced, textbfDual-textbfS textbfReasoning frameworkを導入する。 ポストトレーニングやインコンテキストの例がなければ、DSR-sourcedは競合性能を達成し、スパイダー2.0-Snowで35.28%、BIRD開発で68.32%に達する。
  論文  参考訳（メタデータ） (2025-11-26T13:52:50Z)
• HES-SQL: Hybrid Reasoning for Efficient Text-to-SQL with Structural Skeleton Guidance [6.653834890554154]
  HES-は、思考モード融合型教師あり微調整の統合により、テキストからレイテンシ生成を進化させる新しいハイブリッドトレーニングフレームワークである。 このフレームワークは、クエリの精度と実行効率を改善しながら、推論モードと非推論モードの切り替えを可能にする。
  論文  参考訳（メタデータ） (2025-10-10T01:15:57Z)
• LLM-Symbolic Integration for Robust Temporal Tabular Reasoning [69.27153114778748]
  本研究では,システムおよび制御された評価のための合成データセットであるTempTabQA-Cを紹介する。 この構造化アプローチにより、LLM(Large Language Models)はsqlクエリの生成と実行を可能にし、一般化とバイアス軽減の強化を行う。
  論文  参考訳（メタデータ） (2025-06-06T05:14:04Z)
• Query and Conquer: Execution-Guided SQL Generation [2.07180164747172]
  本稿では,テキスト・ツー・タスクの精度を大幅に向上させる複雑な出力を生成する新しい手法を提案する。 提案手法は,複数の候補から最もセマンティックに一貫性のあるクエリを選択するために,実行結果を活用する。
  論文  参考訳（メタデータ） (2025-03-31T17:43:36Z)
• ExCoT: Optimizing Reasoning for Text-to-SQL with Execution Feedback [49.21833666405111]
  大規模言語モデル(LLM)は、多くの推論タスクにおいて優れているが、Chain-of-Thought(CoT)推論を活用する能力はいまだに未定である。 我々は,オープンソース LLM を反復的に最適化する新しいフレームワークである ExCoT を提案する。
  論文  参考訳（メタデータ） (2025-03-25T18:17:36Z)
• STaR-SQL: Self-Taught Reasoner for Text-to-SQL [20.719165038519744]
  チェーンオブ思考」の理論的根拠は、複雑な推論タスクにおける大規模言語モデルの性能向上に有効であることが証明されている。 テキスト駆動のような構造化されたタスクにそのようなテクニックを適用することは、ほとんど探索されていない。 本稿では、クエリ生成を推論プロセスとして再編成する新しいアプローチである、テキスト駆動型セルフトレーサ(STaR-)を提案する。 挑戦的なスパイダーベンチマークの実験結果によると、STaR-はテキストからパフォーマンスを大幅に改善し、86.6%の精度を実現している。 これらの知見は、推論強化トレーニングの可能性を強調している。
  論文  参考訳（メタデータ） (2025-02-19T08:58:44Z)
• SUN: Exploring Intrinsic Uncertainties in Text-to-SQL Parsers [61.48159785138462]
  本稿では,ニューラルネットワークに基づくアプローチ(SUN)における本質的な不確かさを探索することにより,テキストから依存への変換性能を向上させることを目的とする。 5つのベンチマークデータセットの大規模な実験により、我々の手法は競合より大幅に優れ、新しい最先端の結果が得られた。
  論文  参考訳（メタデータ） (2022-09-14T06:27:51Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。