論文の概要: Can One Adapted Model Do It All? Fine-Tuning Strategy Selection for Customer Support LLMs

• arxiv url: http://arxiv.org/abs/2609.27262v1
• Date: Wed, 23 Sep 2026 02:46:50 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-25 00:05:17.846924
• Title: Can One Adapted Model Do It All? Fine-Tuning Strategy Selection for Customer Support LLMs
• Title（参考訳）: 1つのモデルですべてできるのか? 顧客支援LCMのための微調整戦略選択
• Abstract要約: マルチタスクフルチューニングは、テストするすべてのモデルサイズにおいて、最も強力な運用上のデフォルトになります。 スペシャリストモデルはターゲットのタスクに強いが、しばしばタスクのオフタスクが急激に低下し、信頼性の高いルーティングが重要になる。 実世界の環境での微調整戦略を選択するための実践的ガイドラインで締めくくった。
• 参考スコア（独自算出の注目度）: 9.694856873255011
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Production customer-support systems often require LLMs to support multiple skills, such as intent classification, question answering, summarization, or tool-use decisions. A central deployment question is whether these skills should be handled by separate task-specialist models or by a single model trained through multi-task training, sequential updates, or model merging. We study this question using thirteen models spanning five families (Qwen3, Qwen3.5, Gemma-3, Llama-3.1, and Mistral) from 0.6B to 32B parameters across eight customer-support datasets, spanning four public and four proprietary datasets with approximately 74.5k training and 8.7k evaluation samples. Under a fixed training protocol, we train more than 200 checkpoints. Our experiments reveal that multi-task full fine-tuning is the strongest operational default at every model size we test. Specialist models are strong on their target tasks but often degrade sharply off-task, making reliable routing important. Sequential Low-Rank Adaptation (LoRA) preserves earlier skills better than sequential full fine-tuning, while merging a specialist with its base model improves off-task robustness with limited same-task loss for larger models. We conclude with practical guidelines for selecting fine-tuning strategies in real-world settings.
• Abstract（参考訳）: 生産顧客サポートシステムは、意図分類、質問応答、要約、ツール使用決定など、複数のスキルをサポートするためにLLMを必要とすることが多い。 中心的なデプロイメントの問題は、これらのスキルを個別のタスクスペシャリストモデルで扱うべきか、マルチタスクトレーニング、シーケンシャルアップデート、モデルマージによってトレーニングされた単一のモデルで扱うべきかである。 本研究では,5つのファミリー(Qwen3, Qwen3.5, Gemma-3, Llama-3.1, Mistral)にまたがる13のモデルを用いて,8つの顧客支援データセットから0.6Bから32Bパラメータを抽出し,約74.5kのトレーニングと8.7kの評価サンプルを備えた4つのプロプライエタリデータセットと4つのプロプライエタリデータセットを対象とする。 固定されたトレーニングプロトコルの下では、200以上のチェックポイントをトレーニングします。 実験の結果、マルチタスクのフルチューニングが、テスト対象のモデルサイズ毎に最強のオペレーティングデフォルトであることが判明した。 スペシャリストモデルはターゲットのタスクに強いが、しばしばタスクのオフタスクが急激に低下し、信頼性の高いルーティングが重要になる。 シーケンシャル・ローランド適応(英語版) (LoRA) は、シーケンシャル・フル微調整よりも先進的なスキルを保ち、一方で、そのベースモデルとスペシャリストを融合することで、より大きなモデルにおいて同じタスクの損失を限定して、オフタスクロバスト性を改善する。 実世界の環境での微調整戦略を選択するための実践的ガイドラインで締めくくった。

関連論文リスト

• Embodied-R1.5: Evolving Physical Intelligence via Embodied Foundation Models [63.96252564303143]
  Embodied-R1.5は統合されたEmbodied Foundation Model(EFM)であり、包括的エンボディド推論機能を統合する。 我々は15B以上のトークンからなる大規模データシステムを構築し、マルチタスクバランスのRLレシピを設計する。 8Bパラメータしか持たず、Embodied-R1.5 SOTAは24のVLMベンチマークのうち16で、Gemini-Robotics-ER-1.5やGPT-5.4といった主要なモデルを上回った。
  論文  参考訳（メタデータ） (2026-06-09T18:07:50Z)
• Three Roles, One Model: Role Orchestration at Inference Time to Close the Performance Gap Between Small and Large Agents [0.4666493857924357]
  複雑なマルチステップ環境において,推論時足場のみに追加のトレーニング計算を使わずに,小さなモデルの性能を向上させることができるかどうかを検討した。 我々は,AppWorldベンチマークのQwen3-8Bを,完全精度と4ビット量子化構成の両方で評価した。 本格的な推測では、私たちの足場付き8Bモデルは、オリジナルのAppWorld評価からDeepSeek-Coder 33Bインストラクション(7.1%)を上回っています。
  論文  参考訳（メタデータ） (2026-04-13T13:40:33Z)
• One Model to Critique Them All: Rewarding Agentic Tool-Use via Efficient Reasoning [54.580646706013965]
  リワードモデル(RM)は、大きな言語モデルと人間の嗜好の整合において重要な役割を果たす。 一般的なツール使用シナリオに適した軽量な生成型RMのファミリーであるToolRMを紹介する。 これらのモデルを構築するために,ルールベースのスコアリングと多次元サンプリングを用いたペアワイズ選好データを構築するパイプラインを提案する。
  論文  参考訳（メタデータ） (2025-10-30T06:08:27Z)
• Don't Throw Away Your Pretrained Model [68.63558351111303]
  私たちは、モデルコラボレーションを通じて両方の世界を最大限に活用することを目指しています。 そこで我々は,事前訓練されたモデルバージョンが,応答シーケンスで「話し方」を交互に行うスイッチ生成を提案する。
  論文  参考訳（メタデータ） (2025-10-10T23:12:20Z)
• On Giant's Shoulders: Effortless Weak to Strong by Dynamic Logits Fusion [23.63688816017186]
  既存の弱強法では、静的な知識伝達比と、複雑な知識を伝達するための単一の小さなモデルを用いることが多い。 本稿では,複数のタスク固有小モデルに対して,それぞれ異なるタスクに特化して動作する動的ロジット融合手法を提案する。 本手法では,シングルタスクシナリオでは96.4%,マルチタスクシナリオでは86.3%のパフォーマンスギャップを埋める。
  論文  参考訳（メタデータ） (2024-06-17T03:07:41Z)
• OFASys: A Multi-Modal Multi-Task Learning System for Building Generalist Models [72.8156832931841]
  ジェネリストモデルは、単一のモデル内でタスクに依存しない方法で多様なマルチモーダルタスクを実行することができる。 マルチモーダル命令と呼ばれる宣言型タスクインタフェース上に構築された汎用モデル学習システムOFASysをリリースする。
  論文  参考訳（メタデータ） (2022-12-08T17:07:09Z)
• Data-Efficient Finetuning Using Cross-Task Nearest Neighbors [75.07773863013001]
  我々は、ラベル付きターゲットタスクの例を用いて、プロンプトを付加したマルチタスクデータのプールから、最も類似したラベル付きサンプルを検索する。 マルチタスク近傍におけるファインタニングモデルのアプローチは,データ効率が著しく向上する。
  論文  参考訳（メタデータ） (2022-12-01T00:53:04Z)
• Task Adaptive Parameter Sharing for Multi-Task Learning [114.80350786535952]
  Adaptive Task Adapting Sharing(TAPS)は、階層の小さなタスク固有のサブセットを適応的に修正することで、ベースモデルを新しいタスクにチューニングする手法である。 他の手法と比較して、TAPSはダウンストリームタスクに対して高い精度を維持し、タスク固有のパラメータは少ない。 我々は,タスクやアーキテクチャ(ResNet,DenseNet,ViT)を微調整して評価し,実装が簡単でありながら最先端の性能を実現することを示す。
  論文  参考訳（メタデータ） (2022-03-30T23:16:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。