論文の概要: Magnet: Multi-turn Tool-use Data Synthesis and Distillation via Graph Translation

• arxiv url: http://arxiv.org/abs/2503.07826v1
• Date: Mon, 10 Mar 2025 20:13:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-12 15:44:32.070495
• Title: Magnet: Multi-turn Tool-use Data Synthesis and Distillation via Graph Translation
• Title（参考訳）: マグネット:多目的ツールデータ合成とグラフ変換による蒸留
• Authors: Fan Yin, Zifeng Wang, I-Hung Hsu, Jun Yan, Ke Jiang, Yanfei Chen, Jindong Gu, Long T. Le, Kai-Wei Chang, Chen-Yu Lee, Hamid Palangi, Tomas Pfister,
• Abstract要約: 本稿では,大規模言語モデルエージェントのための高品質なトレーニングトラジェクトリを合成するための原則的フレームワークを提案する。 このフレームワークは、関数シグネチャパスからクエリのシーケンスと実行可能な関数呼び出しへの自動的で反復的な変換に基づいている。 実験の結果,14BモデルであるMagnetic-14B-mDPOでは,BFCL-v3では68.01,ToolQueryでは73.30が得られた。
• 参考スコア（独自算出の注目度）: 85.68881632498909
• License:
• Abstract: Large language models (LLMs) have exhibited the ability to effectively utilize external tools to address user queries. However, their performance may be limited in complex, multi-turn interactions involving users and multiple tools. To address this, we propose Magnet, a principled framework for synthesizing high-quality training trajectories to enhance the function calling capability of large language model agents in multi-turn conversations with humans. The framework is based on automatic and iterative translations from a function signature path to a sequence of queries and executable function calls. We model the complicated function interactions in multi-turn cases with graph and design novel node operations to build reliable signature paths. Motivated by context distillation, when guiding the generation of positive and negative trajectories using a teacher model, we provide reference function call sequences as positive hints in context and contrastive, incorrect function calls as negative hints. Experiments show that training with the positive trajectories with supervised fine-tuning and preference optimization against negative trajectories, our 14B model, Magnet-14B-mDPO, obtains 68.01 on BFCL-v3 and 73.30 on ToolQuery, surpassing the performance of the teacher model Gemini-1.5-pro-002 by a large margin in function calling.
• Abstract（参考訳）: 大規模言語モデル(LLM)は、ユーザクエリに対処するための外部ツールを効果的に活用する能力を示した。 しかしながら、それらのパフォーマンスは、ユーザと複数のツールを含む複雑なマルチターンインタラクションに制限される可能性がある。 そこで我々は,人間とのマルチターン会話において,大規模言語モデルエージェントの関数呼び出し能力を高めるために,高品質な学習軌道を合成するための基本フレームワークであるマグネットを提案する。 このフレームワークは、関数シグネチャパスからクエリのシーケンスと実行可能な関数呼び出しへの自動的で反復的な変換に基づいている。 グラフを用いたマルチターンケースにおける複雑な関数相互作用をモデル化し、信頼性の高いシグネチャパスを構築するための新しいノード操作を設計する。 文脈蒸留により動機づけられた教師モデルを用いて正および負の軌跡の生成を導く際には、文脈における正のヒントとして参照関数呼び出しシーケンスを提供し、負のヒントとして逆の関数呼び出しを提供する。 実験により, 教師モデルであるGemini-1.5-pro-002よりも高い関数呼び出し率で, 教師モデルであるGemini-1.5-pro-002を上回り, 14BモデルであるMagne-14B-mDPOが68.01, ToolQueryでは73.30を得ることができた。

関連論文リスト

• Reasoning with Reinforced Functional Token Tuning [70.96651128307985]
  本稿では,大規模言語モデル(LLM)に自己学習能力を持たせるためにRFTT(Reinforced Functional Token Tuning)を提案する。 RFTTは、学習可能な関数トークンの豊富なセットをモデル語彙に直接埋め込んで、多様な人間のような推論行動によるチェーン・オブ・思想の構築を可能にする。
  論文  参考訳（メタデータ） (2025-02-19T02:59:42Z)
• HammerBench: Fine-Grained Function-Calling Evaluation in Real Mobile Device Scenarios [31.43638572775755]
  HammerBenchは、実世界のマルチターン対話におけるモバイルアシスタント機能呼び出し機能を評価するための新しいフレームワークである。 実験の結果、異なるタイプのパラメータ名エラーが、異なる相互作用シナリオにおける重大な障害の原因であることを明らかにした。
  論文  参考訳（メタデータ） (2024-12-21T07:33:55Z)
• Hammer: Robust Function-Calling for On-Device Language Models via Function Masking [26.495781685810044]
  Hammerはデバイス上での関数呼び出し用に特別に設計されたファンデーションモデルの新しいファミリーである。 我々の経験的評価は、ハマーがより大きなモデルを上回るだけでなく、様々なベンチマークで堅牢な一般化を示すことを示している。
  論文  参考訳（メタデータ） (2024-10-06T18:57:46Z)
• Building Math Agents with Multi-Turn Iterative Preference Learning [56.71330214021884]
  本稿では,モデル性能をさらに向上させるために,補完的な直接選好学習手法について検討する。 既存の直接選好学習アルゴリズムは、もともとシングルターンチャットタスク用に設計されている。 この文脈に合わせたマルチターン直接選好学習フレームワークを提案する。
  論文  参考訳（メタデータ） (2024-09-04T02:41:04Z)
• ToolACE: Winning the Points of LLM Function Calling [139.07157814653638]
  ToolACEは、正確で複雑で多様なツール学習データを生成するように設計された自動エージェントパイプラインである。 我々は、合成データに基づいてトレーニングされたモデルが、8Bパラメータだけで、バークレー・ファンクション・カリング・リーダーボード上で最先端のパフォーマンスを達成することを実証した。
  論文  参考訳（メタデータ） (2024-09-02T03:19:56Z)
• Granite-Function Calling Model: Introducing Function Calling Abilities via Multi-task Learning of Granular Tasks [35.97890508648945]
  我々はApache 2.0ライセンスの下で-20B-FUNCTIONCALLINGモデルを紹介します。 モデルは7つの基本的なタスクに対してマルチタスクトレーニングアプローチを使用してトレーニングされる。 20B-FUNCTIONCALLINGは、7つの異なる評価データセットにおいて、複数のタスクに対してより一般化可能であることを示す。
  論文  参考訳（メタデータ） (2024-06-27T17:47:26Z)
• Unsupervised Generative Feature Transformation via Graph Contrastive Pre-training and Multi-objective Fine-tuning [28.673952870674146]
  教師なし特徴変換学習のための測定-事前訓練-ファネチューンパラダイムを開発した。 教師なし特徴集合の実用性測定のために,特徴値の整合性維持の観点から提案する。 生成的変換ファインタニングでは,特徴集合を特徴クロスシーケンス,特徴変換を逐次生成とみなす。
  論文  参考訳（メタデータ） (2024-05-27T06:50:00Z)
• Mixture of Latent Experts Using Tensor Products [44.816454454687]
  マルチタスク学習では、従来の手法では複数のタスクでモデルを同時にトレーニングする。 モジュール型言語モデルが肯定的伝達と体系的一般化を促進できるかどうかを検討する。 具体的には、パラメータ効率とニュアンス付きルーティング手法のバランスをとる新しいモジュラー言語モデル(textttTensorPoly)を提案する。
  論文  参考訳（メタデータ） (2024-05-26T19:25:08Z)
• Instruction Position Matters in Sequence Generation with Large Language Models [67.87516654892343]
  大規模言語モデル(LLM)は、翻訳や要約といった条件付きシーケンス生成タスクを実行することができる。 入力文の後にタスク命令の位置をシフトさせることにより,LLMの指示追従能力を向上させることを提案する。
  論文  参考訳（メタデータ） (2023-08-23T12:36:57Z)
• Task-Feature Collaborative Learning with Application to Personalized Attribute Prediction [166.87111665908333]
  本稿では,TFCL(Task-Feature Collaborative Learning)と呼ばれる新しいマルチタスク学習手法を提案する。 具体的には、まず、特徴とタスクの協調的なグループ化を活用するために、不均一なブロック対角構造正規化器を用いたベースモデルを提案する。 実際の拡張として,重なり合う機能と難易度を区別することで,基本モデルを拡張します。
  論文  参考訳（メタデータ） (2020-04-29T02:32:04Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。