論文の概要: Trajectory Supervision for Continual Tool-Use Learning in LLMs

• arxiv url: http://arxiv.org/abs/2605.09734v1
• Date: Sun, 10 May 2026 20:09:41 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-12 23:28:50.396265
• Title: Trajectory Supervision for Continual Tool-Use Learning in LLMs
• Title（参考訳）: LLMにおける連続的ツール利用学習のための軌道監督
• Authors: Vishnu Vardhan Reddy, Sagnik Chatterjee, Soumik Bhatta,
• Abstract要約: 4つのシーケンシャルドメインブロックを使用してAPI-Bank上でQLoRAでLlama 3.1 8Bを微調整する。 条件Aはプロンプトから前のAPIリクエスト/レスポンス行を取り除き、次のAPI呼び出しを予測するためにモデルをトレーニングする。 条件Bは56.9%、条件Aは39.2%である。
• 参考スコア（独自算出の注目度）: 0.3823356975862005
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Most language-model training data shows final artifacts, not the process that produced them. We study a tractable version of this question in tool use: when a model learns a stream of new API domains, does keeping tool-use trajectories help compared with stripping the intermediate API trace? We fine-tune Llama 3.1 8B Instruct with QLoRA on API-Bank using four sequential domain blocks. Condition A strips previous API request/response lines from the prompt and trains the model to predict the next API call. Condition B keeps the trajectory context. In a single-seed pilot, full held-out generation evaluation shows that Condition B reaches 56.9\% final exact full-call accuracy compared with 39.2\% for Condition A. B also improves final API-name accuracy by 7.7 points. However, B uses 25.1\% more training tokens, the run uses one seed, and the task is next-call prediction rather than full dialogue success.
• Abstract（参考訳）: ほとんどの言語モデルトレーニングデータは、最終的な成果物であり、それらを生成するプロセスではない。 モデルが新しいAPIドメインのストリームを学習するとき、ツール使用のトラジェクトリを維持することは、中間APIトレースを削除することと比較して役立ちますか? 4つのシーケンシャルドメインブロックを使用してAPI-Bank上でQLoRAでLlama 3.1 8Bを微調整する。 条件Aはプロンプトから前のAPIリクエスト/レスポンス行を取り除き、次のAPI呼び出しを予測するためにモデルをトレーニングする。 条件 B は軌道コンテキストを保持する。 単座パイロットでは、フルホールドアウト生成評価により、条件Bが56.9\%、条件Aが39.2\%、条件Bが最終API名精度が7.7ポイント向上している。 しかし、Bは25.1\%のトレーニングトークンを使用し、ランは1つのシードを使用し、タスクは完全な対話の成功ではなく、次のコール予測である。

関連論文リスト

• APITestGenie: Generating Web API Tests from Requirements and API Specifications with LLMs [0.6445087473595952]
  APITestGenieは、ビジネス要件とOpenAPI仕様から直接API統合テストを生成する新しいツールである。 このツールは、少なくとも3回の試行を経て、テスト中のビジネス要件の89%に対して、構文的に、セマンティックに有効なテストスクリプトを生成することができた。 生成されたテストによっては、エンドポイント間の統合の問題など、これまで未知のAPIの欠陥が明らかになった。
  論文  参考訳（メタデータ） (2026-04-02T13:43:56Z)
• Semantic Soft Bootstrapping: Long Context Reasoning in LLMs without Reinforcement Learning [46.765013720309064]
  大規模言語モデル(LLM)における長期文脈推論は、チェーン・オブ・ソート(CoT)推論による認知能力の向上を実証している。 このようなモデルのトレーニングは通常、数学やプログラミングのような推論に基づく問題において、検証可能な報酬(RLVR)を用いた強化学習によって行われる。 我々は,教師と学生の両方の役割を同一のベース言語モデルで担う自己蒸留技術であるtextbfSemantic Soft Bootstrapping (SSB) を提案する。
  論文  参考訳（メタデータ） (2025-12-04T18:59:18Z)
• A Systematic Evaluation of Large Code Models in API Suggestion: When, Which, and How [53.65636914757381]
  API提案は、現代のソフトウェア開発において重要なタスクである。 大規模コードモデル(LCM)の最近の進歩は、API提案タスクにおいて有望であることを示している。
  論文  参考訳（メタデータ） (2024-09-20T03:12:35Z)
• ToolACE: Winning the Points of LLM Function Calling [139.07157814653638]
  ToolACEは、正確で複雑で多様なツール学習データを生成するように設計された自動エージェントパイプラインである。 我々は、合成データに基づいてトレーニングされたモデルが、8Bパラメータだけで、バークレー・ファンクション・カリング・リーダーボード上で最先端のパフォーマンスを達成することを実証した。
  論文  参考訳（メタデータ） (2024-09-02T03:19:56Z)
• Zephyr: Direct Distillation of LM Alignment [59.03530095974505]
  ユーザ意図に合わせた,より小さな言語モデルの実現を目指しています。 従来の研究では、より大規模なモデルに教師付き微調整(dSFT)を適用することにより、タスクの精度が大幅に向上することが示されている。 蒸留直接選好最適化(dDPO)を用いて,意図のアライメントを大幅に改善したチャットモデルを学習する。
  論文  参考訳（メタデータ） (2023-10-25T19:25:16Z)
• APICom: Automatic API Completion via Prompt Learning and Adversarial Training-based Data Augmentation [6.029137544885093]
  APIレコメンデーションは、開発者が多数の候補APIの中で必要なAPIを見つけるのを支援するプロセスである。 これまでの研究では、主にAPIレコメンデーションをレコメンデーションタスクとしてモデル化していた。 ニューラルネットワーク翻訳研究領域に動機づけられたこの問題を生成タスクとしてモデル化することができる。 提案手法は,プロンプト学習に基づく新しいアプローチAPIComを提案し,そのプロンプトに応じてクエリに関連するAPIを生成する。
  論文  参考訳（メタデータ） (2023-09-13T15:31:50Z)
• Evaluating Embedding APIs for Information Retrieval [51.24236853841468]
  ドメインの一般化と多言語検索における既存のセマンティック埋め込みAPIの機能を評価する。 BM25の結果をAPIを使って再ランク付けすることは、予算に優しいアプローチであり、英語でもっとも効果的である。 非英語検索では、再ランク付けは結果を改善するが、BM25のハイブリッドモデルは高いコストで機能する。
  論文  参考訳（メタデータ） (2023-05-10T16:40:52Z)
• On the Effectiveness of Pretrained Models for API Learning [8.788509467038743]
  開発者は、Excelファイルのパース、行ごとのテキストファイルの読み書きなど、特定の機能を実装するためにAPIを使うことが多い。 開発者は、より高速でクリーンな方法でアプリケーションを構築するために、自然言語クエリに基づいた自動API使用シーケンス生成の恩恵を受けることができる。 既存のアプローチでは、クエリが与えられたAPIシーケンスの検索や、RNNベースのエンコーダデコーダを使用してAPIシーケンスを生成するために、情報検索モデルを使用している。
  論文  参考訳（メタデータ） (2022-04-05T20:33:24Z)
• TicketTalk: Toward human-level performance with end-to-end, transaction-based dialog systems [10.659519248703273]
  トランザクションベースの対話システムに対するデータ駆動型エンドツーエンドアプローチを提案する。 本システムは,音声応答品質と実感的グラウンドリング精度の観点から,ほぼ人間レベルで動作することを示す。 我々は23,789の注釈付き会話を含む映画チケットダイアログデータセットであるTicketTalkを紹介した。
  論文  参考訳（メタデータ） (2020-12-23T02:43:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。