論文の概要: Turnslide: Scalable Multi-Turn Data Synthesis by Walking a Finite-State Machine

• arxiv url: http://arxiv.org/abs/2610.07070v1
• Date: Mon, 05 Oct 2026 08:48:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-08 02:58:29.540257
• Title: Turnslide: Scalable Multi-Turn Data Synthesis by Walking a Finite-State Machine
• Title（参考訳）: Turnslide: 有限状態マシンのウォーキングによるスケーラブルなマルチTurnデータ合成
• Abstract要約: 小型の言語モデルは安価でプライベートインフラストラクチャ上で動作可能ですが、ベースモデルはマルチターンツール呼び出しでは不十分です。 我々は、各APIを有限状態マシンとしてモデル化する、完全に自動化された軽量な合成フレームワークを紹介します。 多様性を最適化する代わりに、ターン数、ツールシーケンス、タスクの複雑さに対してターゲット分布を設定しました。
• 参考スコア（独自算出の注目度）: 8.704907160190881
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Small language models are inexpensive to serve and can run on private infrastructure, but base models are often not good enough at multi-turn tool calling, and fine-tuning them needs per-API data that rarely exists. Existing synthesis methods are too expensive for high-scale fine-tuning, as they often require mock operational environments for different domains and multiple LLM calls per generated conversation turn. We introduce a fully automated, lightweight synthesis framework that models each API as a finite-state machine, representing the system as abstract states that determine when each tool may be called, producing state-valid sequences of tools; sequences are translated into complete examples with a single LLM call. Rather than optimize diversity, we set a target distribution over the number of turns, the tool sequence and task complexity. We measure data quality by fine-tuning SLMs on generated trajectories, showing that our FSM-based generation significantly improves downstream accuracy over an unmutated baseline and, against existing works, reaches 70.7% full accuracy over 63.4% and 53.7% with 3.6-6.6$\times$ fewer tokens.
• Abstract（参考訳）: 小規模な言語モデルは安価に提供でき、プライベートインフラストラクチャ上で実行できるが、ベースモデルはマルチターンツール呼び出しに適さないことが多く、細調整にはAPI単位のデータが必要で、ほとんど存在しない。 既存の合成手法は、異なるドメインに対するモックな運用環境や、生成された会話のターンごとに複数のLLMコールを必要とするため、大規模な微調整には高すぎる。 我々は、各APIを有限状態マシンとしてモデル化し、各ツールがいつ呼び出されるかを決定する抽象状態としてシステムを表現する、完全に自動化された軽量な合成フレームワークを導入する。 多様性を最適化する代わりに、ターン数、ツールシーケンス、タスクの複雑さに対してターゲット分布を設定しました。 生成した軌道上でSLMを微調整することでデータ品質を測定し、FSMベースの生成が未変更ベースラインでのダウンストリーム精度を大幅に向上し、既存の処理に対して63.4%、53.7%、3.6-6.6$\times$より少ないトークンで70.7%に達することを示した。

関連論文リスト

• ToolWeave: Structured Synthesis of Complex Multi-Turn Tool-Calling Dialogues [17.032111974825185]
  LLMが自律エージェントとして機能するためには、マルチターンツールコールが不可欠である。 既存の合成データ生成パイプラインは非現実的な対話を生成する。 リアルなマルチターンツールコールを合成するための構造化フレームワークであるToolWeaveを紹介する。
  論文  参考訳（メタデータ） (2026-04-03T17:02:20Z)
• Close the Loop: Synthesizing Infinite Tool-Use Data via Multi-Agent Role-Playing [16.839489120513505]
  InfToolは3つの協調エージェントを編成し、単一のターン呼び出しから複雑なマルチステップのゲートコールにまたがる多様な検証されたトラジェクトリを生成する。 InfToolは、ベース32Bモデルを19.8%から70.9%の精度(+258%)に変換し、Claude-Opusより10倍大きく、競合するClaude-Opusを上回ります。
  論文  参考訳（メタデータ） (2025-12-29T17:12:39Z)
• ToolForge: A Data Synthesis Pipeline for Multi-Hop Search without Real-World APIs [40.70833390513187]
  本稿では,強力な実世界のツールコール性能を実現する自動合成フレームワークであるToolForgeを紹介する。 ToolForgeは、マルチホップ検索シナリオ用に設計された大規模ツール学習データを合成する。 実験結果から,合成データを用いてトレーニングした場合,8Bパラメータのみのモデルが複数のベンチマークでGPT-4oを上回っていることがわかった。
  論文  参考訳（メタデータ） (2025-12-18T04:06:26Z)
• TinyLLM: Evaluation and Optimization of Small Language Models for Agentic Tasks on Edge Devices [0.0]
  本稿では,エージェントタスク(機能/ツール/API呼び出し)における小言語モデル(SLM)の有効性について検討する。 本稿では、教師付き微調整(SFT)、パラメータ効率の高い微調整(PEFT)、強化学習(RL)、ハイブリッド手法を含むパラメータ駆動最適化戦略について述べる。 その結果,中規模モデル(1-3Bパラメータ)がウルトラコンパクトモデル(1Bパラメータ)を大幅に上回るモデルスケール間での精度差が明らかとなった。 この研究は、エッジデバイス上で、小さな言語モデルが正確で効率的で安定したエージェントAIを提供できるようにするためのハイブリッド最適化戦略の重要性を強調した。
  論文  参考訳（メタデータ） (2025-11-27T06:09:54Z)
• Towards Reliable Benchmarking: A Contamination Free, Controllable Evaluation Framework for Multi-step LLM Function Calling [16.396204092947496]
  ツール拡張言語モデル(TaLM)を合成多段階タスクによって評価する,汚染のないフレームワークであるFuncBenchGenを提案する。 推論最適化モデルはGPT-5で汎用モデルより一貫して優れており、他のモデルよりも大幅に優れていることを示す。 強いモデルはしばしば構文的に有効な関数呼び出しを行うが、ステップ間で誤ったあるいは古い引数値を伝搬し、マルチターンツールの使用においてLLMによる不安定な状態追跡を明らかにする。
  論文  参考訳（メタデータ） (2025-09-30T17:21:17Z)
• ToolACE: Winning the Points of LLM Function Calling [139.07157814653638]
  ToolACEは、正確で複雑で多様なツール学習データを生成するように設計された自動エージェントパイプラインである。 我々は、合成データに基づいてトレーニングされたモデルが、8Bパラメータだけで、バークレー・ファンクション・カリング・リーダーボード上で最先端のパフォーマンスを達成することを実証した。
  論文  参考訳（メタデータ） (2024-09-02T03:19:56Z)
• Federated Full-Parameter Tuning of Billion-Sized Language Models with Communication Cost under 18 Kilobytes [53.4856038354195]
  事前訓練された大規模言語モデル(LLM)は、自然言語命令に対する応答性を改善するために微調整が必要である。 FedKSeedは、ランダムシードの有限セットによるゼロ階最適化を採用している。 サーバとクライアント間の通信要求を大幅に減らし、ランダムなシードをわずかに減らします。
  論文  参考訳（メタデータ） (2023-12-11T13:03:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。