Fugu-MT 論文翻訳(概要): When Synthetic Data Hurts: On Catastrophic Forgetting in Skill Retrieval for LLM Agents

論文の概要: When Synthetic Data Hurts: On Catastrophic Forgetting in Skill Retrieval for LLM Agents

arxiv url: http://arxiv.org/abs/2609.10750v1
Date: Wed, 09 Sep 2026 18:48:36 GMT
ステータス: 翻訳完了
システム内更新日: 2026-09-11 23:53:35.115095
Title: When Synthetic Data Hurts: On Catastrophic Forgetting in Skill Retrieval for LLM Agents
Title（参考訳）: 合成データ: LLM エージェントのスキル検索における破滅的予測について
Abstract要約: LLMエージェントは、実行時に取得した外部スキルにますます依存している。本稿では,34,396件以上のスキル・ルータと,限られた実監督データと合成データを用いたスキル・検索の大規模研究について述べる。
参考スコア（独自算出の注目度）: 5.710715072816753
License: http://creativecommons.org/licenses/by/4.0/
Abstract: LLM agents increasingly rely on external skills retrieved at runtime, making skill selection from large repositories a critical challenge. We present a production skill router over 34,396 skills and a large-scale study of skill retrieval using limited real supervision and synthetic data. We found that the synthetic-data fine-tuning improves in-distribution retrieval but it causes catastrophic forgetting on real and out-of-distribution (OOD) data. We evaluate several forgetting mitigation fine-tuning approaches inspired by continual learning, including embedding-anchor regularization, Learning without Forgetting (LwF), Elastic Weight Consolidation (EWC), and L2-initialization. The results show that these approaches not only retain the performance on OOD skills retrieval but also improve the retrieval on synthetic in-distribution skills by 13.98\% for 0.6B Qwen retriever and reranker. Our results provide a practical benchmark and a robust fine-tuning recipe for scarce, multi-positive supervision.
Abstract（参考訳）: LLMエージェントは、実行時に取得した外部スキルにますます依存しており、大規模なリポジトリからのスキル選択が重要な課題となっている。本稿では,34,396件以上のスキル・ルータと,限られた実監督データと合成データを用いたスキル・検索の大規模研究について述べる。その結果, 合成データの微調整により配信内検索が向上することがわかったが, リアル・アウト・オブ・ディストリビューション(OOD)データに対する破滅的な忘れ込みが生じることがわかった。本研究では,埋め込み・アンカー正規化,フォーッティングなし学習(LwF),弾性重み強化(EWC),L2-初期化など,連続的な学習に触発された微調整を忘れないアプローチの評価を行った。その結果、これらの手法はOODスキル検索の性能を維持するだけでなく、0.6BのQwenレトリバーとリランカに対して、合成イン流通スキルの13.98\%向上することがわかった。本結果は,少ない多能性監視のための実用的ベンチマークと堅牢な微調整レシピを提供する。

関連論文リスト

Rethinking Self-Evolution: A Constrained Exploration-Exploitation Process for Mitigating Skill Overfitting [20.811638832981178]
大規模言語モデル(LLM)エージェントは、過去のインタラクションからの経験を蓄積し再利用する必要がある。データ駆動のスキル最適化は、実際の環境から収集された限られた軌道に過度に適合する傾向がある。リスクを緩和する3段階フレームワークであるSkillBoostを提案する。
論文参考訳（メタデータ） (2026-07-29T09:05:40Z)
Learning from Synthetic Data without Model Collapse in Iterative Instruction Tuning [38.36757975609017]
そこで本研究では,合成データの自己改善による指導チューニングの問題点について検討する。本研究では,障害誘導型データ生成と境界認識不確実性キュレーションを組み合わせた2段階のフレームワークであるKITEを提案する。
論文参考訳（メタデータ） (2026-07-19T03:20:01Z)
Unified Data Selection for LLM Reasoning [66.0118347918729]
複雑で長いCoT推論のための大規模言語モデル(LLM)のトレーニングは、しばしば大量の高品質な推論データの必要性によってボトルネックとなる。本研究では,各推論サンプルの上位(例えば0.5%)のエントロピートークンのみを和らげることで,推論品質を定量化する学習自由度指標であるHigh-Entropy Sum(HES)を提案する。
論文参考訳（メタデータ） (2026-05-21T12:21:41Z)
Towards Sample-Efficient and Stable Reinforcement Learning for LLM-based Recommendation [56.92367609590823]
Long Chain-of-Thought (Long CoT)推論は、Large Language Models (LLMs)において有望であることを示している。我々はLong CoTが本質的にシーケンシャルなレコメンデーションドメインに不適合であると主張している。提案するRISER(Reinforced Item Space Exploration framework for Recommendation)を提案する。
論文参考訳（メタデータ） (2026-01-31T10:02:43Z)
CVeDRL: An Efficient Code Verifier via Difficulty-aware Reinforcement Learning [57.24524263804788]
コード検証は、LLMベースのコード生成の検証後において重要な役割を果たす。既存の教師付き微調整手法は、データの不足、高い失敗率、推論効率の低下に悩まされている。機能的な報酬しか持たない単純RLは、難しいブランチやサンプルに対して効果的な単体テストを生成することができないことを示す。
論文参考訳（メタデータ） (2026-01-30T10:33:29Z)
Escaping Collapse: The Strength of Weak Data for Large Language Model Training [15.77316232527746]
LLMの性能を継続的に向上させるために、どの程度のキュレーションが必要なのかを理論的に検討する枠組みを開発する。非合成トレーニングデータのほとんどすべてが品質が悪い場合でも、最適なLCMに収束する訓練手順を述べる。
論文参考訳（メタデータ） (2025-02-13T03:20:37Z)
Mitigating Forgetting in LLM Fine-Tuning via Low-Perplexity Token Learning [65.23593936798662]
LLM生成データによる微調整により,目標タスクの性能が向上し,非目標タスクの劣化が低減されることを示す。微調整後のLSMにおける破滅的忘れを緩和するために、トークンの難易度低減に基づく経験的説明を提供する最初の研究である。
論文参考訳（メタデータ） (2025-01-24T08:18:56Z)
Towards Robust and Parameter-Efficient Knowledge Unlearning for LLMs [25.91643745340183]
大規模言語モデル(LLM)は、大量のテキストコーパスの事前学習を通じて、強い推論と記憶能力を示す。これはプライバシーと著作権侵害のリスクを生じさせ、効率的な機械学習手法の必要性を強調している。 LLMの堅牢かつ効率的なアンラーニングを可能にする新しいフレームワークであるLoKUを提案する。
論文参考訳（メタデータ） (2024-08-13T04:18:32Z)
Entropy Law: The Story Behind Data Compression and LLM Performance [115.70395740286422]
モデル性能はトレーニングデータの圧縮比と負の相関関係にあり,トレーニング損失が小さくなるのが普通である。エントロピー法則の知見に基づいて, 極めて効率的で普遍的なデータ選択法を提案する。また,モデルトレーニング開始時の潜在的な性能リスクを検出するエントロピー法則の興味深い応用を提案する。
論文参考訳（メタデータ） (2024-07-09T08:14:29Z)
Unveiling the Flaws: Exploring Imperfections in Synthetic Data and Mitigation Strategies for Large Language Models [89.88010750772413]
大規模言語モデル(LLM)の学習における高品質なデータ不足問題に対する解決法として,合成データを提案する。我々の研究は、Q-A(Q-A)ペア、一般的な合成データに関連するこれらの特定の欠陥を掘り下げ、これらの欠陥を軽減するための未学習技術に基づく方法を提案する。我々の研究は、より堅牢で効率的なLLMトレーニングを促進することを目的として、合成データの効果的な利用に関する重要な洞察を得た。
論文参考訳（メタデータ） (2024-06-18T08:38:59Z)
Noisy Self-Training with Synthetic Queries for Dense Retrieval [49.49928764695172]
合成クエリと組み合わせた,ノイズの多い自己学習フレームワークを提案する。実験結果から,本手法は既存手法よりも一貫した改善が得られた。我々の手法はデータ効率が良く、競争のベースラインより優れています。
論文参考訳（メタデータ） (2023-11-27T06:19:50Z)
From Quantity to Quality: Boosting LLM Performance with Self-Guided Data Selection for Instruction Tuning [52.257422715393574]
本稿では,Large Language Models (LLMs) の自己誘導手法を導入し,オープンソースデータセットからサクラサンプルを自動識別し,選択する。我々の重要な革新である命令追従困難度(IFD)メトリックは、モデルが期待する応答と本質的な生成能力の相違を識別するための重要な指標として現れます。
論文参考訳（メタデータ） (2023-08-23T09:45:29Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。