論文の概要: Data Turnstile: A Scalable Open Framework for Function-Calling Data Generation
- arxiv url: http://arxiv.org/abs/2607.29250v1
- Date: Fri, 31 Jul 2026 10:21:36 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-08-03 14:29:40.692822
- Title: Data Turnstile: A Scalable Open Framework for Function-Calling Data Generation
- Title(参考訳): Data Turnstile: 関数変換データ生成のためのスケーラブルなオープンフレームワーク
- Abstract要約: 本稿では,関数呼び出しのための高品質な合成トレーニングデータを生成する,オープンソースのフレームワークであるData Turnstileを紹介する。
Turnstileは、マルチターンツール使用のインタラクションを、バリデーションとエラーフィードバックループを備えた制約付き、ステップワイズ生成に分解する。
本論文では,Turnstileデータを用いた2つの関数呼び出しベンチマークにおけるドメイン適応の有効性を示す。
- 参考スコア(独自算出の注目度): 4.212647848163336
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Small language models (SLMs) are attractive for agentic deployment due to low latency, reduced cost, and on-device privacy, yet they struggle with tool-use tasks where training data is scarce and noisy. Unlike larger models, SLMs cannot compensate for low-quality supervision through sheer capacity, making data quality the critical bottleneck. We present Data Turnstile, an open-source framework that takes user-defined API specifications and generates high-quality synthetic training data for function calling. Turnstile decomposes multi-turn tool-use interactions into constrained, stepwise generation with validation and error-feedback loops, providing fine-grained control over API diversity, conversation complexity, and output correctness. We demonstrate effectiveness of domain adaptation with Turnstile data on two challenging function calling benchmarks. On the BFCL single-turn benchmark, a Qwen3-0.6B fine-tuned on Turnstile data without chain-of-thought achieves 75.9% overall accuracy (versus 67.4% for the base model with thinking enabled), closing the gap with thinking-enabled Qwen3-1.7B (78.4%) and Qwen3-4B (79.9%) despite being 3$\times$ and 7$\times$ smaller respectively. On $τ^2$-bench, a multi-turn agentic benchmark, Turnstile-trained Qwen3-1.7B achieves 31.1% pass^1 on the Telecom domain, improving 4.7$\times$ over its 6.6% base and surpassing Qwen2.5-32B-Instruct (27.4%), a model 19$\times$ larger. Turnstile-trained Qwen3-0.6B achieves 24.6%, improving 7$\times$ over its 3.5% base and approaching the 32B model (53$\times$ larger). We release Data Turnstile along with a dataset spanning 1,000+ APIs and 100K+ multi-turn interactions.
- Abstract(参考訳): スモール言語モデル(SLM)は、レイテンシの低さ、コストの低減、デバイス上のプライバシといった理由から、エージェント的なデプロイメントに魅力的なものだが、トレーニングデータが少なくノイズの多いツール使用タスクには苦労している。
大きなモデルとは異なり、SLMは高いキャパシティを通して低品質の監視を補うことができず、データ品質を重要なボトルネックにする。
我々は,ユーザ定義のAPI仕様を取り入れ,関数呼び出しのための高品質な合成トレーニングデータを生成する,オープンソースのフレームワークであるData Turnstileを紹介する。
Turnstileは、マルチターンツール使用のインタラクションを、バリデーションとエラーフィードバックループで段階的に生成することで、APIの多様性、会話の複雑さ、出力の正確さを詳細に制御する。
本論文では,Turnstileデータを用いた2つの関数呼び出しベンチマークにおけるドメイン適応の有効性を示す。
BFCLのシングルターンベンチマークでは、Turnstileデータをチェーン・オブ・シントなしで微調整したQwen3-0.6Bが75.9%の精度(思考を有効にしたベースモデルでは67.4%)を達成し、3$\times$と7$\times$より小さいQwen3-1.7B (78.4%)とQwen3-4B (79.9%)とのギャップを埋める。
マルチターンエージェントベンチマークであるτ^2$-benchでは、TelecomドメインでTurnstile-trained Qwen3-1.7Bが31.1%パス^1を達成した。
ターンスタイルのQwen3-0.6Bは24.6%を獲得し、7$\times$を3.5%ベースで改善し、32Bモデルに接近した(53$\times$ larger)。
Data Turnstileと1000以上のAPIと100K以上のマルチターンインタラクションからなるデータセットをリリースしています。
関連論文リスト
- On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。
トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
論文 参考訳(メタデータ) (2026-08-31T06:35:07Z) - Inference Economics of Enterprise Coding Agents: A Case Study of Cloud vs. On-Premise LLMs [0.5352699766206807]
単発モノレポの連続28日間における単発非ランダム化縦断ケーススタディについて検討した。
即時キャッシュ(99.3%のヒット率)がAPIのコストを88.6%削減し、有効な0.57%のトークンが得られた。
論文 参考訳(メタデータ) (2026-07-13T07:04:49Z) - How Small Can You Go? LoRA Fine-Tuning 270M-8B Models for Merchant Information Extraction in Financial Transactions [1.7133809948345597]
4つのモデルファミリーにまたがる24種類のモデル変異について、デプロイに焦点を当てた研究を行う。
製造適性を評価するため,精度,スループット,トレーニングコスト,ハードウェア動作を評価する。
正確性とレイテンシの要件を越えたデプロイメントレコメンデーションを提供します。
論文 参考訳(メタデータ) (2026-06-06T08:32:38Z) - Domain-Adapted Small Language Models with Hybrid Post-Processing: Achieving Cost-Efficient, Low-Latency Multi-Label Structured Prediction via LoRA Fine-Tuning on Scarce Data [6.3745740668603075]
ドメイン固有の構造化評価タスクのための大規模言語モデル(LLM)は、遅延、コスト、データプライバシオーバーヘッドを禁止します。
本稿では,219個のキュレートされた例に対して,小さな言語モデルを微調整し,決定論的ルールベースの後処理層と結合するハイブリッドフレームワークを提案する。
本システムでは,53件の未確認原稿のブラインド評価において,100%の構造的妥当性,83.0%の人間検証精度,および最重要分類分野における100%の精度を実現している。
論文 参考訳(メタデータ) (2026-06-04T07:09:37Z) - Automated Proving of Shannon-Type Entropy Inequalities via Fine-Tuned Language Models and Guided Tree Search [50.16356451328644]
シャノン型エントロピーの不等式を証明することは情報理論の基本的な課題である。
我々は,原子実証のステップを微調整した小規模大規模言語モデルがこのプロセスを自動化することができるか検討する。
GPT-5.5は0ショットプロンプトで1.7%のサンプルを解き、Psitipは33.3%のサンプルを解いた。
論文 参考訳(メタデータ) (2026-06-04T05:43:12Z) - ChainzRule: Sample-Efficient, Robust Deep Learning Across Tabular, NLP, and Vision Tasks [0.0]
エンタープライズドメイン全体にわたるディープラーニングシステムは、学術ベンチマークが不明瞭な制約の下で運用される。
本稿では、典型的なアクティベーションを微分正規化(DREG)によって制御される学習可能な層に置き換えるニューラルネットワークChainzRule(CR)を提案する。
CRは、ピマ糖尿病で85.71% pm 2.01%$、凍結エンコーダでSST-5の感情分類で46.20% pm 0.37%$、パラメータが3.2Mの完全順序回帰で70.17%$を達成している。
論文 参考訳(メタデータ) (2026-05-23T01:52:50Z) - Models Can Model, But Can't Bind: Structured Grounding in Text-to-Optimization [54.749573452394664]
定式化自体が単純である場合でも、インスタンスデータが大きくなるにつれて精度が低下する。
我々は, 数値データを構造化ファイルに外部化する単純な推論時アプローチであるBINDを用いて, モデルがプロンプトプロンプトからではなく, データをバインドする。
我々は,モデルのみをバインディングのみに微調整することで仮説を検証し,3つの構造的に異なる最適化カテゴリにおいて,エンドツーエンドのSFTおよびRLよりも優れていることを示す。
論文 参考訳(メタデータ) (2026-05-20T21:25:41Z) - Compact SO(3) Equivariant Atomistic Foundation Models via Structural Pruning [4.793059213046564]
本稿では,SO(3)同変原子基盤モデルの構造解析法を提案する。
プルーニングはチャネルと順序次元に沿って適用され、各既約表現は完全なブロックとして保持または削除される。
プルーニングされたMACE-MPモデルは、マトベンチディスカバリーのリーダーボード上の9つの指標のうち7つで、公式のオフスクラッチトレーニングされた小さなモデルよりも優れています。
論文 参考訳(メタデータ) (2026-05-09T11:07:03Z) - Step 3.5 Flash: Open Frontier-Level Intelligence with 11B Active Parameters [169.7981969517903]
Step 3.5 Flashは、フロンティアレベルのエージェントインテリジェンスと計算効率を橋渡しする。
エージェントを構築する上で最も重要なもの、すなわち、シャープな推論と高速で信頼性の高い実行に重点を置いています。
論文 参考訳(メタデータ) (2026-02-11T07:53:51Z) - Hard Negatives, Hard Lessons: Revisiting Training Data Quality for Robust Information Retrieval with LLMs [53.78110936809744]
堅牢で再帰的なモデルのトレーニングは通常、大規模なデータセットに依存します。
トレーニングデータセットにおいて、偽陰性を識別し、許容する。
トレーニングデータセットとコードは公開されています。
論文 参考訳(メタデータ) (2025-05-22T17:47:57Z) - SoTA with Less: MCTS-Guided Sample Selection for Data-Efficient Visual Reasoning Self-Improvement [100.85923086072204]
我々はThinkLite-VLを紹介した。これは最先端(SoTA)パフォーマンスを実現する視覚推論モデルのファミリーで、トレーニングサンプルの桁数を桁違いに減らしている。
我々はMonte Carlo Tree Search (MCTS) を用いて、各インスタンスの解決に必要な視覚言語モデル(VLM)の推論反復数を用いてサンプルの難易度を測定する。
ThinkLite-VL-7BとThinkLite-VL-72Bは、8つの視覚的推論ベンチマークにおいて、それぞれのベースモデルよりも大幅に優れていた。
論文 参考訳(メタデータ) (2025-04-10T17:49:05Z) - Step-DPO: Step-wise Preference Optimization for Long-chain Reasoning of LLMs [54.05511925104712]
本稿では,Step-DPOと呼ばれるシンプルで効果的でデータ効率のよい手法を提案する。
Step-DPOは、個々の推論ステップを、論理的に回答を評価するのではなく、優先最適化の単位として扱う。
以上の結果から,70B パラメータ以上のモデルでは,10K の選好データペアと500 Step-DPO トレーニングステップ以下では,MATH の精度が約3%向上する可能性が示唆された。
論文 参考訳(メタデータ) (2024-06-26T17:43:06Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。