論文の概要: Robust Active Learning for Few-Shot Example Selection in Text-to-SQL
- arxiv url: http://arxiv.org/abs/2606.10125v1
- Date: Mon, 08 Jun 2026 19:56:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-06-10 15:40:58.17142
- Title: Robust Active Learning for Few-Shot Example Selection in Text-to-SQL
- Title(参考訳): テキストからSQLへのサンプル選択のためのロバスト能動学習
- Authors: Arash Pourhabib,
- Abstract要約: サンプル検索は大規模言語モデルの基盤となる主要なパラダイムである。
我々はこれらの例のアクティブな選択を制約付き実験設計問題として定式化する。
標準的なアクティブな学習フレームワークとは異なり、私たちの設定には3つの重要な課題があります。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Few-shot example retrieval is the dominant paradigm for grounding large language models (LLMs) in domain-specific text-to-SQL systems. However, the quality of the annotated example bank directly governs system accuracy, and expert annotation is prohibitively expensive. We formalize the active selection of these examples as a constrained experimental design problem over the intrinsic, low-dimensional manifold of semantic query embeddings. Unlike standard active learning frameworks, our setting introduces three critical challenges: varying, query-dependent annotation reliability (heteroscedasticity), strict requirements for spatial diversity across semantic topics (partition matroid constraints), and the inherent reality that the true covariance structure of the embedding space is unknown (misspecification). To address these, we propose a stratified greedy algorithm that maximizes a heteroscedastic mutual information objective. We prove that this objective remains submodular and approximately monotonic on the intrinsic manifold, yielding a theoretical constant-factor approximation guarantee. We establish a spectral bound demonstrating that this approximation guarantee degrades gracefully, rather than catastrophically, when the assumed surrogate kernel diverges from the true underlying data-generating process. Empirical results demonstrate that the proposed strategy significantly reduces labeling effort while maintaining high text-to-SQL retrieval accuracy.
- Abstract(参考訳): ドメイン固有のテキスト・トゥ・SQLシステムにおいて,大規模な言語モデル(LLM)を基盤として,サンプル検索が主流となっている。
しかし、アノテートされた例バンクの品質はシステム精度を直接管理しており、エキスパートアノテーションは違法に高価である。
我々はこれらの例のアクティブな選択を、本質的で低次元のセマンティッククエリ埋め込みの多様体に対する制約付き実験的設計問題として定式化する。
従来のアクティブな学習フレームワークとは異なり、我々の設定では、クエリに依存したアノテーションの信頼性(ヘテロセダスティック性)、セマンティックトピック間の空間的多様性の厳密な要件(パーティション・マトロイド制約)、埋め込み空間の真の共分散構造が未知である固有の現実(ミスセグメンテーション)の3つの重要な課題が紹介されている。
これらの問題に対処するために,異義的相互情報目的を最大化する階層化欲求アルゴリズムを提案する。
我々は、この目的が内在多様体上では部分モジュラーであり、ほぼ単調であり、理論定数係数近似を保証することを証明した。
我々は、仮定されたサロゲートカーネルが真の基盤となるデータ生成プロセスから分岐した場合に、この近似保証が破滅的ではなく優雅に劣化することを示すスペクトル境界を確立する。
実験の結果,提案手法は高いテキスト-SQL検索精度を維持しながらラベル付け作業を大幅に削減することが示された。
関連論文リスト
- AnchorMoE: Interpretable Time Series Classification via Anchor-Routed MoE [51.994752158953084]
AnchorMoEは、解釈可能な構成別分類フレームワークである。
ローカルパッチのマルチビュー表現をエンコードし、専門の専門家にルーティングする。
実世界のベンチマークと合成ベンチマークの実験は、AnchorMoEが非常に競争力のある分類性能を達成することを示した。
論文 参考訳(メタデータ) (2026-06-02T13:30:54Z) - Learning Invariant Modality Representation for Robust Multimodal Learning from a Causal Inference Perspective [6.3310165899037045]
頑健なマルチモーダル学習のための因果的モダリティ不変表現(CmIR)学習フレームワークを提案する。
CmIRは学習した不変表現が、異なる環境におけるラベルとの安定した予測関係を維持することを保証している。
CmIRはアウト・オブ・ディストリビューションデータとノイズデータに優れ、その堅牢性と一般化性を確認する。
論文 参考訳(メタデータ) (2026-04-20T16:16:36Z) - Spatial-Temporal-Spectral Unified Modeling for Remote Sensing Dense Prediction [20.1863553357121]
リモートセンシングのための現在のディープラーニングアーキテクチャは、基本的に堅固である。
本稿では,統合モデリングのための空間時間スペクトル統一ネットワーク(STSUN)について紹介する。
STSUNは任意の空間サイズ、時間長、スペクトル帯域で入力および出力データに適応することができる。
様々な密集した予測タスクと多様な意味クラス予測を統一する。
論文 参考訳(メタデータ) (2025-05-18T07:39:17Z) - Tackling Ambiguity from Perspective of Uncertainty Inference and Affinity Diversification for Weakly Supervised Semantic Segmentation [12.308473939796945]
画像レベルのラベルを持つ弱教師付きセマンティックセマンティックセグメンテーション(WSSS)は、退屈なアノテーションを使わずに高密度なタスクを実現することを目的としている。
WSSSの性能、特にクラス活性化マップ(CAM)の生成と擬似マスクの精製の段階では、あいまいさに悩まされている。
統一された単一ステージWSSSフレームワークであるUniAを提案し、不確実性推論と親和性多様化の観点からこの問題に対処する。
論文 参考訳(メタデータ) (2024-04-12T01:54:59Z) - SUN: Exploring Intrinsic Uncertainties in Text-to-SQL Parsers [61.48159785138462]
本稿では,ニューラルネットワークに基づくアプローチ(SUN)における本質的な不確かさを探索することにより,テキストから依存への変換性能を向上させることを目的とする。
5つのベンチマークデータセットの大規模な実験により、我々の手法は競合より大幅に優れ、新しい最先端の結果が得られた。
論文 参考訳(メタデータ) (2022-09-14T06:27:51Z) - Toward Certified Robustness Against Real-World Distribution Shifts [65.66374339500025]
我々は、データから摂動を学ぶために生成モデルを訓練し、学習したモデルの出力に関して仕様を定義する。
この設定から生じるユニークな挑戦は、既存の検証者がシグモイドの活性化を厳密に近似できないことである。
本稿では,古典的な反例誘導的抽象的洗練の概念を活用するシグモイドアクティベーションを扱うための一般的なメタアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-06-08T04:09:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。